Arthur O’Connell die aanvankelijk priester wou worden begon zijn carrière in het variété-theater en het Vaudeville-circuit wat een prima springplank was naar Broadway waar hij jarenlang een vaste waarde was.

O’Connells gekendste filmrol was ongetwijfeld die van de tegenspartelende aanbidder van Rosalind Russell in Picnic. In Citizen Kane was hij te zien samen met Alan Ladd maar zijn naam werd om één of andere reden niet opgenomen in de credits. In Anatomy of a Murder speelde hij een advocaat die zijn praktijk runt in een klein dorpje. In Bus Stop speelde hij dan weer de rol van een voogd die probeert om een rem te zetten op de gevoelens die de dolverliefde jongen heeft voor een bescheiden zangeresje (vertolkt door Marilyn Monroe).

Arthur O’Connell was als karakteracteur te zien in heel wat langspeelfilms maar ook op televisie.

In 1962 trouwde hij met Anne Hall.