Fue uno de los grandes pianistas de la historia del swing y del stride piano.
En 1922, grabó sus primeros solos de piano. En 1923 formó y dirigió el grupo Fats Waller and his Buddies , desde ese momento fue célebre en el reducido mundo del jazz de la época y fue llamado por el entonces famoso Fletcher Henderson para tocar el órgano y el piano en dos sesiones de registros de su big band.
Autrey a la trompeta, Ben Whitet al clarinete, Al Casey a la guitarra, Billy Taylor al contrabajo y Harry Dial a la batería. esta formación, conocida como Fats Waller and His Rhythm, será reforzada por Benny Carter, Bill Coleman, Gene Sedric, Rudy Powell y John Smith. grabaron algunas de las obras maestras que marcaron la historia del jazz, como «Lulu’s back in town», «Honeysuckle rose», «Sweetie pie», «Baby brown», «Dinah», «Christopher Columbus» o «I ain’t got nobody».