Rex Harrison was pas zestien jaar toen hij werd aangenomen bij de Liverpool Repertory Company waar hij ook zijn debuut maakte en drie jaar aan verbonden bleef. Zo ging hij in 1927 met het stuk Charley's Aunt op tournee met het repertoiregezelschap.

Hij studeerde onder andere aan het Liverpool College en maakte in 1924 kennis met de toneelwereld, in 1930 maakte hij zijn debuut in het Engelse Everyman Theatre en was vanaf dan ook te zien in Britse langspeelfilms. Hij maakte zijn filmdebuut in 1930 in School For Scandal. In 1936 was hij voor het eerst te zien op Broadway in het stuk Sweet Aloes. Zijn rol in het Londense stuk Heroes Don’t Care was zo succesvol dat hij een contract kreeg bij London Films/Alexander Korda die hem een rol in Storm in a Teacup bezorgde. Zijn rol in Night Train to Munich (1940) van Carol Reed had veel weg van een Hitchcock-thriller en was zijn eerste film die op grote schaal in de Amerikaanse bioscopen was te zien.

De Tweede Wereldoorlog zorgde ook bij Harrison voor een onderbreking van zijn filmcarrière. Hij vervulde zijn dienstplicht als luitenant bij de reserve-afdeling van de RAF/luchtmacht. Zijn rol in Blithe Spirit bleef ook al niet onopgemerkt bij Noel Coward. Die zei ooit over Harrison : “Na mij ben je de beste komediespeler ter wereld”. Daarna trok Harrison naar Hollywood waar hij onder andere in Anna and the King of Siam een rol had. Toen ook A Yank in London en The Rake's Progress/Notorious Gentleman succesvol waren zorgde dit er voor dat de lokroep van Hollywood enkel maar luider werd: Darryl F. Zanuck prees Harrison regelrecht de (film)hemel in.
Zijn rol in de door Preston Sturges geschreven en geregisseerde komedie Unfaithfully Yours was één van de beste vertolkingen uit zijn carrière. In de film speelde hij de rol van een jaloerse symfonie-dirigent die erover denkt om zijn echtgenote die hij verdenkt van ontrouw te vermoorden.

Harrison kwam niet altijd even goed tot zijn recht in films. Dat wist hij zelf ook maar al te goed en omschreef hij ooit als volgt : “In Hollywood speelde ik rollen die niet geschikt waren voor mij… Ik heb erg mijn best gedaan, maar vaak was ik niet gelukkig met het resultaat.” Hij bleef echter rollen vertolken in zowel toneelstukken als films. Zijn opmerkelijke carrière leidde halfweg de jaren ’50 tot het winnen van een Tony Award. Die kreeg hij voor zijn rol van Professor Henry Higgins in het Broadway-stuk My Fair Lady die hij de eerste keer speelde in 1956. Jaren later zou hij voor dezelfde rol trouwens ook aan Oscar krijgen voor de filmversie van het stuk.

Er werd regelmatig over hem geschreven in roddelrubrieken in zowel kranten als tijdschriften. De charmante, elegante acteur was ook populair bij de vrouwen. Harrison was maar liefst zes keer getrouwd (!), in vier gevallen was zijn echtgenote een actrice. Zijn eerste huwelijk was dat met model Marjorie Thomas (+1991), hun zoon Noel Harrison werd zelf ook acteur maar was ook een popster en een Olympisch skiër. Het paar scheidde in 1942. Op 25 januari 1943 trouwde hij voor een tweede keer, ditmaal in het gemeentehuis van Caxton, een dorp in Engeland. Lilli Palmer was de gelukkige. Op 19 februari 1944 zag hun zoon Carey het levenslicht.
En toen leerde hij Kay Kendall kennen, meer nog hij begon er een verhouding mee maar realiseerde zich dan dat ze leed aan leukemie en niet zo lang meer te leven had. In februari 1957 scheidde hij van Lilli Palmer maar beloofde meteen om met haar te hertrouwen na het overlijden van Kendall (!). Op 23 juni 1957 gaven de twee elkaar het ja-woord in de Universalist Church of the Divine Paternity in New York. Kendall overleed op 33-jarige leeftijd in aanwezigheid van haar man Rex Harrison op 6 september 1959.

Harrison en Palmer hertrouwden niet, Rex deed zijn vierde huwelijksceremonie dan maar met actrice Rachel Roberts, we schrijven 21 maart 1962, locatie: het stadhuis van Genoa. Op 20 februari 1971 werd het huwelijk alweer ontbonden.
Lang duurde het niet tot huwelijk nummer 5. Op 26 augustus van datzelfde jaar trouwde hij voor een vijfde keer, met Elizabeth Harris, de ex-vrouw van acteur Richard Harris. Op 16 december 1975 werden de scheidingspapieren weeral eens ondertekend, op 17 december 1978 moet de acteur ongetwijfeld een déjà-vu gehad hebben toen hij met Mercia Tinker in het huwelijk trad.

De naam van Rex Harrison werd ooit genoemd in verband met de zelfmoord van Hollywood-actrice Carole Landis waar hij op dat moment een verhouding mee had ondanks dat hij getrouwd was met Lilli Palmer. De roddelpers gaf hem meerdere keren wat plagerig de bijnaam Sexy Rexy. De aantijgingen zorgden ervoor dat hij vluchtte naar Engeland waar hij te zien was in Escape (1948) en vaststelde dat zijn populariteit ondanks de vermelde aantijgingen niet was aangetast. Een gevolg van zijn eventuele betrokkenheid bij Landis' dood was wel dat het contract Met Fox, aanvankelijk getekend voor een duur van zeven jaar, in onderling overleg werd ontbonden.

Na enkele jaren toneelwerk keerde hij met The Long Dark Hall (1951) niet alleen terug naar de filmwereld maar ook naar de Verenigde Staten. Hierna combineerde hij toneelrollen met Britse films en Hollywood-films.
My Fair Lady werd een belangrijke film voor Harrison (die voor zijn rol een Oscar kreeg). Nog het vermelden waard: zijn rol in Doctor Dolittle (1967), één van zijn charmantste ooit, maar zeker ook Staircase (1969) waar hij geheel onverwacht de rol speelde van de minnaar van Richard Burton. Daarna verdween hij tien jaar van het grote scherm en na enkele films begin de jaren '80 zei hij de filmwereld vaarwel in 1983.
Hij was nog in één televisiefilm (Anastasia: The Mystery of Anna) (1986) te zien en keerde daarna voorgoed terug naar het toneel. In Londen, op Broadway en op tournee met een heuse revival van My Fair Lady.

In 1974 werd zijn autobiografie uitgebracht onder de titel Rex. In 1979 bracht hij zelf nog If Love Be Love uit, een bloemlezing van romantische gedichten.

In de zomer van 1989 werd Harrison tot ridder geslagen. Echt blij over de ceremonie was hij niet, zo bleek uit zijn reactie: "The Queen wasn't properly briefed. She didn't seem to know who I was. Mind you, you'd have to be a complete cunt not to get it right."

Hij bleef acteren, bijna tot aan zijn dood. Zo was hij tot een maand voor hij stierf nog te zien in het Broadway-stuk The Circle die het stuk van Somerset Maughan weer van onder het stof haalde en waarin ook Glynis Johns en Stewart Granger te zien waren.

Rex Harrison stierf aan pancreas-kanker. En dat hij nooit om een straffe uitspraak verlegen zat bewees hij zelfs op zijn sterfbed. Zo zei hij aan zijn jongste zoon Carey "drop dead" maar richtte zich ook tot zijn oudere zoon Noel met de woorden: "There was something I always wanted to tell you. I could never stand the sound of your fucking guitar."

In 1990 werd postuum nog een boek uitgebracht over de kunst van komedie, getiteld A Damned Serious Business.