Elmer Bernstein rođen je u New Yorku 4. travnja 1922. Studirao je glasovir, bio je na audiciji kod Aarona Coplanda kada je imao trinaest godina i stekao priliku da studira s jednim od Coplandovih učenika. Bernstein je pohađao školu Julliard, gdje se nastavio usavršavati klavir, uz studij kompozicije.
Regrutiran na dužnost u Drugom svjetskom ratu, Elmer Bernstein dobio je zadatak da aranžira pjesme za sastav Zračnih snaga Sjedinjenih Država, a zatim da napiše glazbu za radio program Armed Forces. Nakon rata dobio je narudžbu za skladanje za radijski program Ujedinjenih naroda, što je čuo voditelj mreže, što je dovelo do toga da mu je ponuđena prilika da sklada za mrežni program.
Zauzvrat, njegov televizijski rad doveo je do otvaranja u Hollywoodu, a njegov prvi proboj dogodio se s filmom Čovjek sa zlatnom rukom 1955., koji mu je donio prvu nominaciju za Oscara i postao njegov prvi filmski soundtrack koji je komercijalno objavljen.
Širok raspon njegovih sposobnosti može se vidjeti u ogromnoj generičkoj raznolikosti njegovih napora. Njegova tema za The Magnificent Seven postala je poznata kao glazbena tema za cigarete Marlboro, utjelovljujući zapadnjačkog heroja, ali je također napisao Animal House, To Kill a Mockingbird i Cape Fear.
Elmer Bernstein bio je nominiran i dobio brojne počasti i nagrade. Dobio je jedanaest nominacija za Oscara, a osvojio je za najbolju originalnu glazbu za Thoroughly Modern Millie 1968. Nominiran za sedam Zlatnih globusa, osvojio je dva, za najbolju originalnu muziku za Havaje 1967. i za najbolju muziku za film 1963. za To Kill ptica rugalica.
Elmer Bernstein ima zvijezdu na Stazi slavnih i dvaput je bio nominiran za Grammyje — 1994. za The Age of Innocence i 1985. za Ghost Busters. S druge strane, osvojio je Razzie 1985. za najgoru glazbenu partituru 1984., dodijeljenu za Bolero, a podijelio je s Peterom Bernsteinom, njegovim sinom.
Elmer Bernstein je također stvorio vlastitu izdavačku kuću kako bi proizvodio snimke zvučnih zapisa koji nisu bili dostupni. Nastavio je raditi i kao skladatelj i kao dirigent do svoje smrti 18. kolovoza 2004.