Harry Warren begon zijn muzikale carrière ooit als drummer in een karnavalgroep. Hierna ging hij aan de slag bij de Vitagraph studios waar hij een aantal functies combineerde: de ene keer stak hij een handje toe bij het opbouwen van de decors of het beheer van de rekwisieten, andere keren was hij assistent-regisseur of figurant. Maar al die tijd bleef hij muziek en liedjes schrijven. Begin de jaren ’20 had hij zijn eerste hit te pakken. Hij werkte regelmatig samen met Al Dubin. De twee werkten voornamelijk aan musicals voor Warner begin de jaren ’30 maar waren ook samen te zien in 42nd Street.

Warren heeft heel wat hits geschreven voor Hollywood-films, niet alleen voor Warner maar daarna ook voor Fox, MGM en Paramount. Hij schreef ook muziek voor enkele Broadway-musicals.