Karl Malden onderscheidde zich vooral door zijn bijzondere look. Zijn neus was uniek, zijn ogen waren kleiner dan gebruikelijk of verwacht, twee kenmerken waarmee hij zich onderscheidde van de doorsnee acteur en meteen ook heel herkenbaar was.

Zijn ouders waren van Joegoslavische afkomst. Hij groeide op in Gary Indiana, gekend voor zijn vele staalfabrieken. Hij ging een korte periode naar het Arkansas State Teachers College en trok daarna naar de Goodman Theatre Dramatic School in Chicago waar hij drie jaar studeerde.

Nadat hij was verhuisd naar New York maakte er hij in 1937 zijn Broadway-debuut. Zo was hij te zien in de stukken Golden Boy, Key Largo, All My Sons en natuurlijk A Streetcar Named Desire.

Hij maakte zijn filmdebuut in 1940 met een klein rolletje in They Knew What They Wanted maar zijn carrière schoot maar echt uit de startblokken nadat hij van 1943 tot 1945 zijn legerdienst bij de Army Air Force had volbracht en terugkeerde van de oorlog. Hij kreeg een bijrol in de thriller Boomerang ! van Elia Kazan waar hij al regelmatig mee had samengewerkt voor toneelstukken.

In A Streetcar Named Desire was hij te zien als Mitch, de verlegen minnaar van Blanche DuBois.

Hij regisseerde ooit Time Limit (1957), een drama waarin een krijgsraad centraal staat. En hij viel ook even in om stukken van The Hanging Tree te regisseren tijdens de afwezigheid van regisseur Delmer Daves.

En natuurlijk is Karl Malden ook bijzonder goed gekend voor zijn rol in de televisieserie The Streets of San Francisco waarin hij van 1972 tot 1977 te zien was als rechercheur Mike Stone. Minder gekend was de serie Skag (1980) waarin hij ook een rol had.

Naast zijn Oscar voor A Streetcar Named Desire won Malden een Emmy voor de televisiefilm Fatal Vision (1984).

Hij was ook jarenlang te zien in de reclamefilmpjes van American Express, gekend onder de titel Don’t Leave Home Without It.

In 1938 trouwde hij met actrice Mona Graham.

Van 1989 tot 1993 was hij Voorzitter van de Academy of Motion Picture Arts and Sciences.