Johnny Green studeerde economie aan de Universiteit van Harvard.  Op 20-jarige leeftijd ging hij als pianist aan de slag bij Paramount.  Het jaar daarop verzorgde hij arrangementen voor films én ging hij filmmuziek schrijven.  Tegelijk was hij ook bandleider en trad op in nachtclubs, op de radio en in concertzalen.  Hij schreef ook liedjes waarvan sommige echte hits werden : I Cover het Waterfront en Body and Soul waren de belangrijkste.

In 1933 kwam hij aan in Hollywood. In 1942 werd hij gehuurd door MGM om er te fungeren als orkestleider en componist. Hij werd hierna vrij snel aangesteld als musical director. Die studio bracht een reeks kortfilms uit onder de noemer Concert Hall waarvan Green supervisor én dirigent was.  Eén van de prijzen die hij won (Academy Award/Oscar) was die als producent van The Merry Wives of Windsor Overture in de categorie kortfilms met 1 haspel.  In die periode was hij ook componist voor televisie én dirigent bij vertoningen in concertzalen.

Green was ook als producent verantwoordelijk voor de eerste twee televisie-uitzendingen van de Oscars (1953 en 1954) en nauw betrokken bij nog 10 andere.

Maar hij was ook een liberaal activist en voerde zelfs actief campagne voor de Hollywood Independent Citizens Committee of the Arts, Sciences and Professions (HICCASP).  Het leek er even op dat hij hiervoor op de fameuze zwarte lijst van 1952 zou komen te staan.  Maar een vurige verklaring waarin hij sterk de nadruk legde op zijn vaderlandslievendheid voorkwam dit en zorgde er voor dat zijn carrière niet werd geblokkeerd of gehypothekeerd.

Hij is drie keer getrouwd geweest, Betty Furness was zijn tweede echtgenote.  In 1943 huwde hij de gewezen MGM-filmster Bonnie Waters.