Il joue avec le chanteur Herb Jeffries puis avec Cootie Williams (1947-1949) avant de diriger son propre groupe, enregistrant sous son nom dès 1950.
Il accompagne aussi la chanteuse Ruth Brown, dont il est le mari, ainsi que le chanteur Little Willie John. Puis, il signe chez Prestige et débute en 1959 une longue série d'enregistrements avec une petite formation comprenant un organiste. Jack McDuff, Freddie Roach, Butch Cornell, Jackie Ivory, et Carl Wilson ont fait partie de son groupe, de même que les guitaristes Bill Jennings, Pat Martino et Boogaloo Joe Jones. En 1973, après avoir songé à arrêter la musique, il signe chez Muse pour une nouvelle série d'excellents enregistrements, côtoyant notamment Charles Earland, Von Freeman, Sonny Phillips, Mickey Tucker et Groove Holmes avec lequel il fait une tournée en France en 1980.
Willis Jackson s'était inspiré à ses débuts d'Illinois Jacquet. Il excelle dans le blues et les ballades, grâce à un son moelleux incomparable.
Jackson décède à New York une semaine après une opération cardiaque, en , à l'âge de 55 ans[1].