Boldtin vanhemmat olivat kenraalimajuri Jean Boldt ja Kuopion piispan, tohtori Robert Frosteruksen tytär Nanny Frosterus. Boldt pääsi ylioppilaaksi 1878 ja suoritti filosofian kandidaatin tutkinnon Helsingin yliopistossa 1881. Boldt opiskeli tämän jälkeen pari vuotta kasvitiedettä Tukholmassa. Boldt kävi ensimmäisen kerran Lohjalla 1886 kasvitieteellisten tutkimustensa yhteydessä ja 1887 Boldtin leskeksi jäänyt äiti Nanny Frosterus vuokrasi kesähuvilan Lohjan Humppilanniemestä Hormajärven rannalta. Boldt tutustui läheisen Paloniemen kartanon omistajan, insinööri Albert Granstedtin tyttäreen Signe Maria Granstedtiin (1865–1929) ja meni hänen kanssaan naimisiin 1891.
Boldt toimi Helsingissä luonnonhistorian ja maantieteen opettajana ja kesät hän vietti vaimoineen Lohjan seudulla. Boldtin aloitteesta Lohjalla perustettiin 24. maaliskuuta 1894 Suomen ensimmäinen kotiseutuyhdistys, Lohjan Kotiseutututkimuksen ystävät. Boldt oli erityisen kiinnostunut suullisen kansanperinteen keräämisestä ja hän julkaisi uuden yhdistyksen nimissä useita tutkimuksia. Vuosina 1896–1897 yhdistys julkaisi kaksi Lohjanjärven syvyyskarttaa joista Boldt ol laatinut järven itäpuolen käsittävän osuuden tehtyään noin 1400 syvyysluotausta.
Siirryttyään opettajaksi Poriin 1899 Boldt perusti sinne 1901 Länsi-Satakunnan kotiseutuyhdistyksen. Palattuaan myöhemmin Helsinkiin hän oli perustamassa Uudenmaan Kotiseutututkimuksen ystävät-nimistä yhdistystä ja vaikutti myös uusien kotiseutuyhdistysten perustamiseen lähinnä ruotsinkieliselle Uudellemaalle.
Boldt kuoli 1923 vähän ennen Lohjan Kotiseutututkimuksen ystävien järjestämiä Lohjan 600-vuotisjuhlia. Hänet haudattiin lähelle Lohjan Pyhän Laurin kirkkoa. Boldtin haudalla on Lohjan Kotiseutututkimuksen ystävien pystyttämä muistokivi ja Boldtin aloitteesta 1911 perustetun Lohjan museon alueella sijaitsee Boldtin syntymän 100-vuotispäivän muistoksi 1961 paljastettu Boldtin rintakuva.
