Durante más de 40 años, The Jordanaires siguieron siendo uno de los principales grupos vocales de apoyo de la música country, trabajando con grandes figuras como Jim Reeves, Patsy Cline, George Jones y, por supuesto, Elvis Presley. El cuarteto comenzó en Springfield, Missouri, a finales de los años 40, con los miembros originales Bob Hubbard, Bill Matthews, Monty Matthews y Culley Holt, y cantaba canciones de barbería y espirituales. Debutaron en The Grand Ole Opry en 1949. El grupo cambió de miembros a principios de los años 50, con Gordon Stoker y Hoyt Hawkins reemplazando a Hubbard (que fue reclutado) y a Bill Matthews (que enfermó gravemente). En 1953, Monty Matthews dejó el grupo por razones personales y fue reemplazado por Neal Matthews.
En 1954, The Jordanaires ya cantaban con artistas como Elton Britt, Red Foley y Jimmy Wakely. Ese año aparecieron en el programa de televisión de Eddy Arnold, pero no tuvieron su gran oportunidad hasta que Elvis Presley, un fanático de toda la vida, invitó al grupo a acompañarlo después de recibir un importante contrato discográfico de RCA Victor. Cuando Elvis se convirtió en una estrella, cumplió su promesa de mantenerlos como sus coristas y trabajaron con él hasta 1970, apareciendo en muchas de sus películas y en sus grabaciones de gospel. En 1954, Culley Holt enfermó y fue reemplazado por Hugh Jarrett; se fue en 1958 y fue reemplazado por Ray Walker.
Cuando no acompañaban a Elvis, los Jordanaires estaban ocupados dejando su propia huella en la música country. Neal Matthews era un talentoso arreglista y fue responsable del gran éxito de Jim Reeves “Four Walls” (1957). En 1959, los Jordanaires comenzaron a trabajar con Patsy Cline y también idearon el sistema de numeración de acordes de Nashville que todavía se usa ampliamente en estudios de grabación y actuaciones. También grabaron sus propios álbumes de gospel y country. Fueron los Jordanaires quienes proporcionaron el principal impulso para la formación de la Federación Estadounidense de Artistas de Televisión y Radio/Screen Actors’ Guild en Nashville. También establecieron el mercado de jingles comerciales de Nashville, que ayudó a cantantes como Janie Fricke y Judy Rodman a dar sus primeros pasos.