Johnny Mandel heeft gestudeerd aan de militaire school in New York en aan de Manhattan School of Music/Juilliard. Hij begon als trompettist en trombonespeler in verschillende bands en orkesten, inbegrepen die van Jimmy Dorsey, Buddy Rich en Count Basie. Eind de jaren ’40 groeide hij uit tot een briljant arrangeur van jazzmuziek voor onder andere Artie Shaw en begon hij ook meer en meer voor tv te werken. Eind de jaren ’50 begon hij dan muziek te componeren voor films. Andere belangrijkste en gekende namen waar Johnny Mandel mee heeft samengewerkt zijn Hal Ashby, Norman Jewison en Sidney Lumet.