Kaupunki on nimetty alun perin foinikialaisten Baal-jumalan mukaan. Se mainitaan ensi kertaa vuonna 804 eaa.
Kaupunki on tunnettu monumentaalisista temppeliraunioista, jotka ovat peräisin Rooman valtakunnan ajoilta. Siihen aikaan Baalbekin nimi oli Heliopolis, auringon kaupunki. Toinen Heliopolis sijaitsi Egyptissä. Baalbekissa on erityisen hyvin säilyneet Juppiterin ja Bacchukseninin temppelit. Temppelien ympärysmuurissa on eteläpuolella osa, jota sanotaan trilithoniksi, kolmikiveksi. Siinä on kolme 750 tonnin painoista kivilohkaretta, joiden kunkin koko on 16,6 × 4,2 × 3,3 metriä. Se on roomalaisten rakentama. Osin louhoksessa kiinni on suuri, valmiiksi veistetty lohkare, jonka mitat ovat 21,36 × 4,33 × 4,6 metriä ja paino 1500 tonnia. Se on maailman suurin tunnettu veistetty kivi. Sitä kutsutaan nimellä Hajar al-Hubla.
1800-luvun arkeologit halusivat kytkeä Baalbekin Vanhan testamentin Joosuan kirjassa mainittuun Baalgadiin. Nykyisin tämä teoria ei ole suosiossa.
Baalbek on UNESCOn maailmanperintölistalla. Rauniot vahingoittuivat lievästi 30. heinäkuuta 2006 Israelin pommituksessa ja 2. elokuuta Israelin erikoisjoukot tunkeutuivat lentokoneiden tukemana Hikmehin sairaalaan etsimään Hizbollah-johtajia, jolloin sairaala tuhoutui täysin taisteluissa.
Aiheesta muualla