Jerry Gray nació con el nombre de Generoso Graziano en Boston, Massachusetts. Su padre, Albert Graziano, era profesor de música y comenzó a enseñarle a tocar el violín a los siete años. De adolescente, estudió con Emanuel Ondricek y fue solista de la Boston Junior Symphony. A los dieciocho años ya había formado su propia banda de jazz y actuaba en clubes de la zona de Boston.
En 1936, Jerry Gray se unió a Artie Shaw, que se hacía llamar Art Shaw, y a su orquesta “New Music” como violinista principal. Estudió arreglos musicales con Shaw y se convirtió en arreglista de plantilla un año después. Durante los dos años siguientes, escribió algunos de los arreglos más populares de la banda, entre ellos “Carioca”, “Softly, As in a Morning Sunrise”, “Any Old Time” y el clásico “Begin the Beguine”. Muchos de sus arreglos de ritmo rápido muestran evidencia temprana del estilo que eventualmente se convertiría en su marca registrada: una melodía dividida en frases de dos a cuatro compases, generalmente interpretada por una sección de metales, repetida con intensidad creciente hasta el clímax.
En noviembre de 1939, Shaw de repente disolvió su banda y se mudó a México. Al día siguiente, Glenn Miller llamó a Jerry Gray y le ofreció un trabajo como arreglista para su banda. Al principio fue un cambio difícil porque Shaw generalmente les había permitido a sus arreglistas una gran libertad musical, mientras que la orientación comercial de Miller a menudo lo llevó a cuestionar a su personal. Poco a poco, Gray se fue sintiendo más en sintonía con la personalidad menos voluble de Miller y se le permitió más libertad, que él apreciaba. Como Gray le dijo más tarde al autor George T. Simon: “Para mí, la banda de Glenn no tenía el mismo ritmo que la de Artie… Pero después de que me decidí a aceptar las cosas como eran, las cosas empezaron a funcionar… Él era un hombre de negocios que apreciaba la música… Puede que yo haya sido más feliz musicalmente con Artie, pero era más feliz personalmente con Glenn”.
Jerry Gray se quedó nuevamente sin trabajo cuando Miller disolvió su banda en septiembre de 1942 para ingresar a las Fuerzas Aéreas del Ejército. El ahora capitán Miller utilizó sus conexiones para que Gray fuera destinado a su unidad; y a principios de 1943, Gray se reincorporó a su antiguo jefe. La arraigada burocracia militar detuvo los planes iniciales de Miller de establecer un grupo de bandas de servicio con Gray como coordinador del personal de arreglos. En cambio, Gray se convirtió en el arreglista jefe de la “Banda del Comando de Entrenamiento” de Miller, más conocida hoy como la Orquesta de las Fuerzas Aéreas del Ejército Glenn Miller. La formación de Gray como violinista y arreglista de swing le fue muy útil en la enorme orquesta de la AAF compuesta por una banda de baile ampliada y una sección de cuerdas de 21 miembros.
Creó nuevos arreglos de varios de los éxitos de Miller para bandas civiles, añadió cuerdas a la versión de “Begin the Beguine” que había escrito para Artie Shaw y escribió piezas de jazz algo más sueltas como “Enlisted Men’s Mess”. También coescribió la famosa versión de marcha de “St. Louis Blues” junto con Perry Burgett y Ray McKinley. Dos arreglos en particular muestran la amplitud de estilos que fue capaz de aportar: un tratamiento exuberante y cargado de cuerdas de “Blue is the Night” de Fred Fisher le dio a esa melodía relativamente oscura un tono semiclásico, mientras que su arreglo contundente de metales de “Everybody Loves My Baby” fue quizás la culminación del estilo repetitivo de fraseo corto que desarrolló con la banda de Shaw.
Jerry Gray también fue el director asistente de la orquesta completa, mientras que Ray McKinley y George Ockner sirvieron como segundos al mando de la banda de baile y la sección de cuerdas, respectivamente. Le correspondió a Gray dirigir el primer concierto de la orquesta en París después de que el avión de Miller desapareciera sobre el Canal de la Mancha. Cuando los hombres regresaron a los EE. UU. en 1945 y McKinley se fue después de su licenciamiento, Gray asumió el liderazgo total de la Orquesta de la AAF hasta su última actuación el 17 de noviembre de ese año.
Jerry Gray fue descartado para el trabajo de dirigir la “fantasma” orquesta de posguerra de Glenn Miller, al parecer porque el patrimonio de Miller consideró que no tenía las cualidades de estrella del pop que querían en un nuevo líder. En su lugar, se acercaron a Ray McKinley, que no estaba interesado, y finalmente contrataron a Tex Beneke, cuyo talento como vocalista y saxofonista tenor principal en la banda civil de Miller proporcionó un frente mucho más colorido para la banda. En 1945, Grey fue arreglista de la orquesta Tex Beneke-Glenn Miller cuando Henry Mancini era el pianista. En 1947, Grey fue el padrino de boda de Mancini.
Durante un tiempo, Jerry Gray trabajó en la radio y en los estudios de grabación en el área de Los Ángeles, incluso dirigió la banda en un programa de radio llamado Club 15 en el que aparecía Dick Haymes. Expresó su frustración con los músicos que estaban sacando provecho del nombre de Miller a pesar de que sus conexiones eran tenues (Ray Anthony) o inexistentes (Ralph Flanagan), por lo que en 1949 aceptó una solicitud de Decca Records para dirigir su propia orquesta al estilo de Miller. El resultado fue lo que llamó “Jerry Gray y la banda de hoy”, una orquesta que presentaba sus viejos éxitos de Miller junto con nuevas composiciones.
Durante varios años coexistieron las bandas de Gray y Beneke, cada una de ellas integrada por muchos ex músicos de Miller y otros intérpretes conocidos. La banda de Gray incluía a Al Klink, Trigger Alpert, Zeke Zarchy, Jimmy Priddy, Ernie Caceres, Bernie Privin y John Best de las bandas de baile de Miller, además de George Ockner, David Sackson y Harry Katzman de la sección de cuerdas de la AAF. Lo más importante fue que Jerry Gray contrató al clarinetista Wilbur Schwartz, cuyo tono amplio inusual había sido crucial para la mezcla de lengüetas de la banda civil. Entre los éxitos se encontraban las recreaciones obligatorias de los clásicos de Miller, nuevas composiciones en el estilo de Miller como “Restringing the Pearls” y otras melodías distintivas como “Sound Off”.
Escuchar las orquestas de Gray y Beneke ofrece un contraste interesante. Gray se podría decir que estaba más cerca en espíritu del legado de Miller, pero nunca alcanzó el mismo nivel de popularidad porque no era tan bueno como para hacer espectáculo y Decca no estaba a la altura de la maquinaria de marketing de la RCA. Beneke se benefició de un mayor reconocimiento de su nombre y presencia en el escenario, pero se vio obstaculizado por las restricciones que le impuso el patrimonio de Miller tanto antes como después de su separación de la RCA.
Jerry Gray continuó de gira con su banda en diversas formas a lo largo de la década de 1950. En 1953, él y Henry Mancini trabajaron juntos en la película biográfica The Glenn Miller Story, protagonizada por James Stewart y June Allyson. Además de liderar su banda de baile, escribió y arregló canciones para cantantes como Vic Damone y lanzó un LP que no estaba orientado en absoluto a Miller y que incluía un coro completo y muchas de sus propias composiciones.
En la década de 1960 se había establecido en Dallas, donde dirigió la banda de la casa en el Hotel Fairmont. Esta última banda generalmente presentaba composiciones más modernas de Gray y otros contemporáneos como Sammy Nestico y Billy Byers. En 1968 regresó brevemente al sonido de Miller con arreglos swing de canciones contemporáneas para la orquesta de Billy Vaughan, incluyendo “Spanish Eyes”, “A Walk in the Black Forest” y una versión al estilo de AAF de “One of Those Songs”.
Continuó liderando la banda del Fairmont Hotel hasta la década de 1970 antes de morir de un ataque cardíaco a la edad de 61 años.