Op vijfjarige leeftijd scheidden Mervyn Leroys Joodse ouders, toen hij zes was zorgde een zware aardbeving ervoor dat het warenhuis van zijn vader volledig werd vernield.  Om rond te komen moest Mervyn op 10-jarige leeftijd noodgedwongen kranten verkopen maar het gaf hem wel de mogelijkheid om in een amateurtoneelstuk de rol van zingende krantenjongen te vertolken.  Het smaakte voor Mervyn naar meer want na een deelname aan een aantal talentenjachten hield hij het op 12-jarige leeftijd al voor bekeken op school en besloot om acteur te worden. 

Hij kondigde zichzelf aan als de Singing Newsboy en The Boy Tenor of the Generation en deed mee aan talentenjachten.  Met succes : in 1915 won hij een wedstrijd waarin hij het beste van allemaal Charlie Chaplin imiteerde.

Hierna was hij dagelijks te zien in de San Francisco Exposition en verscheen regelmatig in het  variété-gezelschap waar hij zich had bij aangesloten.  In 1919 arriveerde hij dan in Hollywood met een aanbevelingsbrief van zijn neef, producer Jesse L. Lasky op zak.  Zijn eerste werkgever werd niet verwonderlijk Famous Players-Lasky waar hij garderobe-assistent was.  Het was een werkje wat hem de mogelijkheid gaf om te zien wie wat doet in een filmproductie en al snel maakte hij zijn keuze : zijn voorkeur ging uit naar acteren en het camerawerk.

In 1927 werd hij regisseur.  In de jaren ’30 ging hij aan de slag bij First National Pictures, een dochteronderneming van Warner Brothers.  Hij regisseerde er in het begin pauze-filmpjes, het was voor Mervyn LeRoy alvast een begin, iets wat hij ook graag deed.  Langspeelfilms was de volgende logische stap en het was uitgerekend LeRoy die ervoor zorgde dat Warner Bros in die tijd dé studio werd op vlak van gangsterfilms.  Edward G. Robinson werd er als acteur beter van, LeRoy als regisseur wanneer hij I Am a Fugitive From a Chain Gang maakte met Paul Muni als extra aantrekkingspool in de rol van een onschuldig veroordeelde die moet vluchten.  Maar ook They Won’t Forget (1937), een sterk drama over justitie en politiek met een bijzonder sterke acteerprestatie van Claude Rains, was een schot in de roos.

In 1933 bracht Warner dan Gold Diggers of 1933 uit waarbij het noodzakelijke show-element niets nieuws was voor LeRoy, gelet op zijn variété-ervaring uit het verleden.  De komedie Thugboat Annie dateert ook van rond die tijd.

Omdat Warner niet altijd in staat was om budgetmatig te volgen stapte Leroy in 1938 over naar MGM met een film als The Wizard of Oz als absoluut hoogtepunt.

Na de tweede wereldoorlog leek LeRoy op een zijspoor te raken toen hij voor MGM enkel nog wat middelmatige langspeelfilms maakte.  Daar kwam een eind aan toen hij midden de jaren ’50 naar Warner Bros terugkeerde.

Mervyn Leroy kreeg een Ere-Oscar voor The House I Live In (1945), een korte documentaire die hij zelf had geregisseerd en mee geproduceerd en als onderwerp intolerantie had.  In 1975 volgde nog een speciale Prijs, de Irving Thalberg Memorial Award.  Die kreeg hij om wat hij gerealiseerd had in zijn carrière, nog eens onder de aandacht te brengen.

Zijn tweede echtgenote (van drie) was Doris Warner, dochter van Harry M. Warner, één van de studiobonzen.  Hun zoon Warner LeRoy werd een gekende, New Yorks restauranthouder.

halfweg de jaren ’60 hield Mervyn LeRoy het voor bekeken en ging in alle rust zijn autobiografie schrijven : Mervyn LeRoy : Take One.

Hij overleed in 1987.