Su interés en la era del ragtime fue alimentado por su tía abuela Zula Cothron. Ella había tocado ragtime con una orquesta de chicas en la Exposición de la Compra de Luisiana de 1904 en St. Louis y más tarde tocó en vodevil. Johnny tomó lecciones de ella inicialmente, pero también estudió con varios profesores locales, entre ellos Lela Donoho, que había tocado para películas mudas en Gallatin. Estudió música clásica durante 19 años con Prudence Simpson Dresser y Patricia Neal, quien una vez estudió con Franz Liszt. Johnny dio su primer concierto público cuando tenía solo 5 años y comenzó su carrera profesional en 1939 tocando con una banda de baile local, los Rhythmasters, liderada por O’Donnel Templeton.Alrededor de 1946, Johnny Maddox comenzó a trabajar con su amigo Randy Wood en Randy’s Record Shop en Gallatin cuando Randy lanzó Dot Records. Su primer sencillo, “St. Louis Tickle” con “Crazy Bone Rag” en el reverso (grabado el 19 de mayo de 1950), vendió más de 22.000 copias en unas pocas semanas. Maddox se convirtió en el primer artista exitoso en grabar para Dot Records, y su primer éxito instantáneo ayudó a convertir a Dot en uno de los sellos más populares de la década de 1950. El primer disco de Maddox que vendió más de un millón de copias fue probablemente “San Antonio Rose” de Bob Wills, alrededor de 1951. Otro de sus primeros discos más populares fue “In the Mood”, y cantó la canción en The Pee Wee King Show en febrero de 1953.
En enero de 1955, Johnny Maddox grabó “The Crazy Otto Medley”, que estaba compuesto por varias canciones populares alemanas, grabadas originalmente por el intérprete Fritz Schulz-Reichel bajo el personaje de Otto der Schräge. Pasó 14 semanas en el número 1 y se convirtió en el primer disco de piano que vendió un millón de copias, llegando a vender más de dos millones de copias. De hecho, la referencia a Crazy Otto en la canción de Grateful Dead “Ramble on Rose” es una referencia a Maddox.
Posteriormente, Johnny Maddox actuó en numerosos programas de televisión populares en los años 50. Interpretó varios solos de piano de ragtime en The Jack Paar Show en marzo de 1955, y en este episodio también participó Edie Adams. En el verano de 1955, interpretó “The Crazy Otto Medley” en The Milton Berle Show. Maddox tocó “Tea for Two” con otros dos pianistas, Hazel Scott y Joe Loco, en el programa de Patti Page The Big Record en noviembre de 1956. Una de sus últimas apariciones fue en The Soupy Sales Show. Maddox continuó grabando para Dot Records hasta 1967, momento en el que había obtenido 9 sencillos de oro y sus ventas totales superaban los 11 millones. Además, su foto colgaba en el salón de baile principal del Hollywood Brown Derby Restaurant, en compañía de Paul Whiteman, Rudy Vallee, Hank Williams y Bill Haley.
Uno de los momentos más destacados de la carrera de Johnny fue tocar dos veces en el famoso Stork Club de Nueva York, donde apareció en televisión con Teresa Brewer. Lo más interesante es que tocó con Thrillcade de Swenson durante unos cuatro años. El piano fue levantado de la parte trasera de una camioneta con un elevador hidráulico que alcanzaba una altura de hasta 4,5 metros. Johnny trabajó junto a muchos grandes músicos e intérpretes y se hizo amigo de ellos durante sus viajes. Entre ellos se encontraban WC Handy, Sophie Tucker, Eddy Arnold, Lawrence Welk, Patsy Cline, Ted Lewis, Glenn Rowell, Joe Jordan y Candy Candido, por nombrar solo algunos.
Johnny Maddox todavía aparece anualmente en el Diamond Belle Saloon del histórico Hotel Strater en Durango, Colorado.