George Segal was pas acht toen hij als amateur zijn eigen toneelact opzette. Toen hij nog op school zat had hij als dirigent en zanger de leiding over de Bruno Lynch and His Imperial Jazz Band.

Nadat George Segal zijn studies aan de universiteit van Columbia had afgewerkt speelde hij niet alleen jazz, hij ging ook acteren en had verschillende baantjes. Daar kwam een eind aan toen hij werd opgeroepen voor zijn militaire dienst. In 1957 maakte hij zijn off Broadway toneeldebuut in New York en volgde er wat werk in een New Yorkse nachtclub. Daarna was hij met de originele rolbezetting te zien in de bijzonder geslaagde revue The Premise. Zijn Hollywood-carrière nam een start met een filmrol in The Young Doctors (1961). Hij was in deze periode ook regelmatig te zien op televisie.
Het lijkt wat kort door de bocht maar hierna was George Segal vooral te zien in wat we maar zullen omschrijven als huwelijkskomedies. Maar de beste filmrollen waren toch wel die als een sluwe geïnterneerde in een gevangenenkamp in King Rat maar hij maakte natuurlijk ook indruk met zijn rol van jonge biologieprofessor in Who’s Afraid of Virginia Woolf? En laat ons zeker ook niet die als de onbesuisde staffunctionaris in het buitenland die verliefd wordt op een Engelse (Glenda Jackson) in de komedie A Touch of Glass (1973) niet vergeten.

In 1981 bewees George Segal dat hij op vlak van muziek ook nog wel een rol te spelen had toen hij met zijn Beverly Hills Unlisted Jazz Band een optreden in Carnegie Hall ten beste gaf.