Zijn ouders waren geëmigreerde Russen met acht kinderen, zijn vader was kapper, zelf groeide Jules Dassin op in Harlem. Hij volgde de middelbare school in de Bronx en maakte na een opleiding toneel in Europa zijn acteerdebuut bij de Yiddish Theatre Company.

In 1940 trok hij naar Hollywood waar hij na een korte periode als assistent-regisseur bij RKO in 1941 kortfilms ging regisseren voor MGM, inbegrepen een 2 haspels kortfilm versie van The Tell-Tale-Heart. Die zorgde ervoor dat hij gepromoveerd werd tot volwaardig regisseur van langspeelfilms. Zijn eerste films waren inconsequent en situeerden zich in het suspense- en komedie-genre. Eind de jaren ’40 leek hij dan uiteindelijk zijn draai gevonden te hebben en maakte drie drama’s die op locatie werden opgenomen : Brute Force, The Naked City en Thieves’ Highway. Op het moment dat hij hiervoor de waardering kreeg die hij verdiende als filmmaker die iets bracht van betekenis en vooral de manier waarop hij dit deed, brak de McCarthy heksenjacht los. Het onderzoek van de fameuze Un-American Activities leidde tot een aantal zittingen in een onwaarschijnlijke rechtszaak en wanneer Dassin door Edward Dmytryk tijdens één ervan bestempeld werd als communist zat er voor de filmmaker niets anders op dan te vluchten naar Europa.

Engeland was zijn eerste bestemming waar hij in zijn gekende semi-documentaire stijl Night and the City regisseerde. Een tijd later dook hij op in Frankrijk waar hij Du Rififi chez les hommes maakte, een film waar hij de Grote Prijs mee won op het Filmfestival van Cannes. In die periode maakte hij ook de Frans-Italiaanse productie Where the Hot Wind Blows maar die werd niet echt positief onthaald in het westen.

In de jaren ’60, zo’n beetje zijn Griekse periode, slaagde Dassin er niet meer in om films te maken die konden tippen aan de misdaadfilms die hij in de jaren ’40 had gemaakt en gedraaid werden op locatie zoals The Naked City bijvoorbeeld. Hij trouwde met de Griekse Melina Mercouri die daarmee zijn tweede echtgenote werd. Zij speelde ook mee in Pote tin Kyriaki (Amerikaanse/internationale titel Never on Sunday) waar hij twee Oscarnominaties voor kreeg. De film liet de Amerikanen kennismaken met het gebied rond de Middellandse Zee maar in Europa werd de film eerder afgedaan als een naïef beeld van een wereld die Dassin enkel oppervlakkig kende. Ook Topkapi, een leuke film over een juwelenroof, werd een commercieel succes.