Nacido en Arkabutla, Mississippi (Estados Unidos) el 17 de enero de 1931, de niño sufre un leve tartamudeo. Para solucionar este problema, un médico le recomienda apuntarse a un curso de interpretación en el teatro. Pronto la terapia se convierte en una afición para Jones, y en los años ’60 y ’70 se convierte en una estrella imprescindible en Broadway. Gana un premio Tony por su interpretación de un boxeador en ‘The Great White Hope’. Debuta en el cine en 1964, con un pequeño papel en la película de Stanley Kubrick, ‘Volamos hacia Moscú’.