Zijn muziekstudies volgde hij aan de Juilliard School en de Universiteit van New York. Hij was pas dertien toen hij zijn eerste Prijs kreeg voor muziek die hij zelf had geschreven. Op 20-jarige leeftijd richtte hij in New York het New Chamber Orchestra op, werd hij orkestleider en in 1934 ging hij als radio-dirigent aan de slag bij CBS maar fungeerde ook als gastdirigent bij het New York Philharmonic Orchestra en kreeg ook zo'n opdracht bij de BBC.

Herrmann schreef muziek voor verschillende opera's waaronder Wuthering Heights maar ook voor ballet én een cantata, Moby Dick.

Het best gekend is Herrmann's werk voor de films van Orson Welles uit zijn beginperiode alhoewel hij ook had meegewerkt aan de muziek van een aantal radioshows van Welles, zijn debuut op vlak van filmmuziek was eigenlijk die voor Citizen Kane (!).  Maar Bernard Herrmann schreef ook muziek voor films van Alfred Hitchcock. De samenwerking met Hitchcock kwam echter onverwacht tot een einde wanneer de regisseur voor Torn Curtain een iets moderner geluid wenste. Het belette Hermann niet om wél nog samen te werken met grootheden als François Truffaut en Brian De Palma die hun voorliefde voor het werk van Hitchcock destijds niet onder stoelen of banken staken.

Hermann geloofde in de symfonische aanpak van filmmuziek en was er van overtuigd dat muziek er voor moest zorgen dat de film één geheel was en bleef en eigenlijk meer was dan enkel een ondersteuning van de actie in de film. "De muziek mag zich eigenlijk nooit opdringen", aldus nog Bernard Hermann.

Voor All That Money Can Buy kreeg Herrmann een Academy Award/Oscar.  Hij sloot zijn carrière af met de muziek voor een ook al bijzondere  film: Taxi Driver. Hij stierf in zijn slaap nadat hij de opnames voor de film volledig had afgewerkt.  Martin Scorsese droeg zijn film op ter nagedachtenis aan de componist. Diezelfde Scorsese hergebruikte de muziek van Herrmann bij de remake van Cape Fear in 1991.

In 1992 werd de documentaire Music For the Movies: Bernard Herrmann uitgebracht.