Zijn vader was een welstellende handelaar in wol. James Mason studeerde architectuur aan het Peterhouse College in Cambridge in 1931 én aan het Marlborough College. Hij begon in 1935 te acteren in toneelstukken omdat hij zich realiseerde dat hij op die manier meer geld kon verdienen dan met het ontwerpen van gebouwen. Hij speelde onder andere aan het Old Vic en de Gate Company in Dublin, aanvankelijk in figurantenrollen.

Zijn geplande debuut in de filmwereld was er één in mineur: hij werd weggehaald uit The Private Life of Don Juan (1934) van Alexander Korda waardoor de film dus niet zijn echte debuut was. Het jaar daarna kreeg hij zijn eerste filmrol in Late Extra, een haastig opgenomen film.

In de jaren ’40 ging hij werken voor de Gainsborough studio’s en groeide uit tot de meest succesvolle acteur in Engeland, iemand die garant stond voor hoge opbrengsten aan de box office. In het kostuumdrama The Man in Grey was hij te zien als een sadistische aristocraat die zijn echtgenote zoveel als mogelijk vernederde.

James Mason was altijd op zoek naar goeie rollen in sterke films maar die waren nauwelijks of niet voorhanden in Engeland. Dat zorgde er mee voor dat hij bijzonder kritisch was voor de Engelse filmindustrie en finaal in 1947 naar Amerika trok. Hij werd verweten hierdoor een rebel te zijn maar het zorgde er wel voor dat hij zich in de States verder kon ontplooien als acteur. In 1949 maakte hij zijn Amerikaans filmdebuut in Caught van Max Ophüls.
Hij had ook een rol in North by Northwest van Alfred Hitchcock en speelde samen met Judy Garland in A Star Is Born in een rol die Cary Grant had afgewezen. Andere films die het vermelden waard zijn: Lolita en de thriller Evil Under the Sun van Agatha Christie. In de thriller Odd Man Out speelde hij één van zijn beste rollen uit zijn carrière.

Afhankelijk van de aanbiedingen die hij kreeg keerde hij op regelmatige basis wel eens terug naar Europa. Het was iets wat hij ook deels uit noodzaak deed want de regeling die hij had getroffen met zijn eerste echtgenote Pamela Kellino bij hun echtscheiding kostte hem veel geld. De twee waren getrouwd in 1939 en gescheiden op 31 augustus 1964. Ze kregen twee kinderen: Portland en Morgan. op 13 augustus 1971, zeven jaar na de breuk, trouwde hij met actrice Charissa Kaye alhoewel er heel wat geruchten de ronde deden dat de acteur homoseksueel was.

The Shooting Party en de televisiefilm Dr. Fischer of Geneva waren enkele van zijn laatste films.

James Mason overleed op 75-jarige leeftijd door een sterke vernauwing van de kansslagaders. Hij had al een tijd hartproblemen waarvoor men een pacemaker had geplaatst. Hij werd begraven in Vevey.

In 1982 werd zijn autobiografie uitgebracht onder de titel Before I Forget: An Autobiography & Drawings. Zeven jaar later verscheen er nog een autobiografie, geschreven door Sheridan Morley, getiteld Odd Man Out.

Verwar (deze) James Mason niet met zijn naamgenoot die vanaf 1914 in heel wat stille- maar ook geluidsfilms in Hollywood te zien was, voornamelijk westerns en actiefilms.