Zijn vader was een in Rusland geboren concertpianist, zijn moeder een huisvrouw van Schotse afkomst. Al tijdens zijn tijd op de middelbare school raakte hij geïnteresseerd in acteren. Op zeventienjarige leeftijd vatte hij zijn dienstplicht aan als ziekenverzorger om na de Eerste Wereldoorlog, in 1919, zijn toneeldebuut te maken in Chicago.

Hij was ook te zien in het Broadway-stuk A Free Soul als gangster. Er volgden nog meer successen op Broadway waaronder Tonight or Never. Gloria Swanson vroeg hem prompt om haar tegenspeler te worden in de filmversie van het stuk.
Het bracht de carrière van Douglas in een heuse stroomversnelling want naast Swanson volgden films met de bekendste actrices uit die tijd : Marlene Dietrich (Angel), Joan Crawford (A Woman’s Face) en Greta Garbo (die hij aan het lachen bracht in Ninotchka maar ze waren ook samen te zien in As You Desire Me), Irene Dunne (Theodora Goes Wild) in meestal luchtige en romantische films.

De manier waarop de carrière van Melvyn Douglas evolueerde zinde hem niet echt waardoor hij in 1934 terugkeerde naar Broadway, als acteur maar ook als regisseur. Lang duurde die overstap niet want hij keerde al snel terug naar Hollywood bij Columbia, later ging hij werken voor MGM.

In 1942 trok hij naar Washington als directeur van de Arts Council van de Office of Civilian Defense maar zette het jaar daarna zijn dienstplicht verder als gewone soldaat.

Nadat hij zijn militaire dienst had beëindigd tijdens de Tweede Wereldoorlog was hij voornamelijk te zien in karakterrollen, veelal als een oude(re) man. Met weinig voldoening waardoor hij begin de jaren ’50 terug naar Broadway trok. Hij won er een Tony Award voor zijn rol als kandidaat-President in het stuk The Best Man.

Begin de jaren ’60 stapte Douglas nog maar eens over naar film. Met succes bij de Academy (cf. infra). Hij deed ook wat tv-werk en won een Emmy voor Do Not Go Gentle Into That Good Night.

In 1931 huwde Melvyn Douglas voor een tweede keer en gaf zijn ja-woord aan Helen Gahagan, de knappe actrice uit She (1935). Actrice, schrijfster en regisseur Illeana Douglas was hun kleindochter.