En 1947, Jones participe à la première tournée du Jazz At The Philarmonic et 10 ans plus tard, rencontre le pianiste Ray Bryant et son frère contrebassiste Tommy Bryant avec qui ils formeront The Jo Jones Trio. Il enregistre avec de nombreuses vedettes de l’époque, de Lester Young à Coleman Hawkins en passant par Illinois Jacquet ou Billie Holiday.
J’ai enterré Lester, j’ai fermé le cercueil de Billie.
"J’habitais à côté de Billie Holiday. Elle avait un grand pichet d’eau, un petit chien, du gin, de la nourriture, et elle écrivait son livre… Aujourd’hui, tout le monde parle de Billie et dit qu’elle était droguée. Ce n’est pourtant pas de ça qu’elle est morte. De même, tout le monde me parle de Charlie Parker. Il ne prenait rien, pas même de l’aspirine. En fait il avait des ulcères." (Jazz Magazine N°168 de 1969).
Le jet de cymbale
Connu pour son solide caractère, l'Histoire raconte que Jo Jones aurait envoyé une cymbale aux pieds du jeune Charlie Parker lors d'une session d'improvisation. Ce dernier ayant fait une multitude d'erreurs durant la Jam session qui énerva Jo Jones. Charlie Parker s'enfuit sous les rires du public et l'humiliation. Cette anecdote est d'ailleurs reprise dans le film "Bird" de Clint Eastwood sorti en 1988.