Grundström studerade i Stockholm vid Kungliga Tekniska högskolan 1864-66 och vid Konstakademien 1868-74 samt vistades på studieresor i Tyskland, Frankrike och Italien 1875-81. Han var arkitekt i Överintendentsämbetet 1875-84 och var 1883-1912 professor vid Konstakademien. Han blev ledamot av Konstakademien 1883.
Grundström väckte först uppmärksamhet då han framkom med ett motförslag till Helgo Zettervalls projekt av 1875 till restaurering av Uppsala domkyrka. Grundström utgick från synpunkten att det historiskt givna, som utan skada för byggnadens totalverkan kunde bibehållas, också borde bibehållas, men hans åsikt blev ej den segrande. Han ritade flera landskyrkor, uppgjorde förslag till restaurering av kyrkor i Vadstena och Sigtuna samt biskopshuset i Strängnäs.
Grundström ritade vidare bland annat fasaden till nybyggnaden på Strömsborg i Stockholm (planen ritades av byggherren, byggmästare J. Andersson). Han verkade dock högre grad som lärare än som utövande arkitekt. Han var även akvarellist.
På ön Vårholma i Stockholms mellanskärgård lät professor Grundström på 1890-talet uppföra en ännu bevarad 'Rhenborg' i miniatyr, dekorerad med skulpturer och andra byggnadsdetaljer hämtade från rivningshus i Stockholm.
