Rođen kao William Martin Joel u Bronxu 1949. godine, Billy Joel je kao dijete studirao klavir i postao priznati pijanist i tekstopisac. Iako se pridružio bendu pod nazivom Echoes, njegovo rano iskustvo snimanja proizašlo je iz sviranja studijskog klavira na snimanjima, a u toj je ulozi nastupio u “The Leader of the Pack” Shangri-Lasa.
Billy Joel nastavio je svirati s Echoesima kako su postali Emeralds, a zatim Lost Souls, dok je nastavio svirati sessione. Potom je svirao s rock and roll bendom pod nazivom Hassles, a potom u duu Attila, izdavši tri albuma i dva singla, od kojih nijedan nije bio uspješan.
Godine 1971. Billy Joel je započeo solo karijeru s debitantskim albumom pod nazivom Cold Spring Harbor. Pogreška u masteriranju uzrokovala je prebrze brzine na nekoliko pjesama, a greška je ispravljena tek 1984. Ipak, Billy Joel je otišao na turneju uživo, miješajući pjesme sa stand-up komedijom, i dobio je pozitivne kritike.
“Piano Man”, prvi hit singl Billyja Joela s Top 40, također je bio izvor naslova njegovog prvog albuma za Columbia Records. Njegov sljedeći album, Streetlife Serenade, dosegao je 35. mjesto. Sljedeći album, Turnstiles, nije prošao tako dobro, ali The Stranger, koji je uslijedio, dostigao je drugo mjesto i postao platinasti. Bio je to izvor singl hita “Just the Way You Are” koji se nalazi na Top 40, a između pjesme i albuma, Billy Joel je osvojio i Grammyja za pjesmu godine i za ploču godine 1978.
Billy Joel imao je niz drugih top 40 hitova, ali veći trijumfi tek dolaze. Godine 1987. postao je jedan od prvih američkih rock izvođača koji je svirao u SSSR-u od izgradnje Berlinskog zida. Godine 1991. Billy Joel je dobio nagradu Grammy Living Legend Award. Godine 2002. Twyla Tharp režirala je i koreografirala brodvejski mjuzikl Joelove glazbe pod nazivom Movin’ Out. Godine 2006. postavio je rekord s 12 rasprodanih koncerata u njujorškom Madison Square Gardenu. 4. veljače 2007. Billy Joel postao je prvi izvođač koji je otpjevao nacionalnu himnu na dva Super Bowla.