Oskar Werner speelde al figurantenrolletjes toen hij nog op de middelbare school zat. Hij volgde toen ook al acteerlessen maar zijn echte carrière begon op de Wenense toneelplanken, vanaf de leeftijd van 18 was hij lid van het vernieuwde Wenense Burgtheater, maar het duurde lange tijd eer hij zijn filmdebuut zou maken. Hij moest zijn dienstplicht tijdens de Tweede Wereldoorlog onderbreken omdat hij gekwetst raakte tijdens een bombardement. Op die manier kon hij vroegtijdig terugkeren naar het toneel waar hij in een breed gamma van toneelstukken te zien was, onder andere in Hamlet en Becket. Vooral zijn titelrol in het eerste stuk werd bijzonder goed onthaald in Frankfurt.

Zijn eerste vermelding op de aftiteling van een film was die voor Der Engel mit der Posaune 1948), terwijl zijn zijn sterke rol in Decision Before Dawn (1951) dan weer zijn Amerikaans filmdebuut was. Die opende de deur naar Hollywood waar hij een contract tekende met 20th Century Fox alhoewel dat nooit echt tot bijzondere realisaties in films heeft geleid. Hij keerde dan maar terug naar Europa waar hij een bijrol kreeg in Lola Montes (1955) van Max Ophüls, datzelfde jaar was hij ook te zien in Mozart. In 1959 richtte hij zijn eigen bedrijf op, Theater Ensemble Oskar Werner.

Zijn rol van Jules in Jules et Jim (1962) van François Truffaut zorgde voor een échte, internationale doorbraak. In The Spy Who Came in From the Cold was (1965) hij te zien als een kille, Oost-Duitse ondervrager. Voor zijn rol in Ship of Fools werd hij genomineerd voor een Oscar. In die film was hij te zien als een dokter die een korte romance heeft met Simone Signoret, op een groot schip dat in 1933 onderweg is naar Duitsland.

Oskar Werner werd lange tijd gezien als de belangrijkste acteur van die tijd met Oostenrijkse roots.

Zijn laatste filmrol, die in Voyage of the Damned, sloot in zekere zin aan bij die van Dokter Schumann in Ship of Fools. Daarin was hij te zien als een Joodse dokter die Nazi-Duitsland ontvlucht.

Werner Oskar overleed in 1984 aan de gevolgen van een hartaanval.