Sylvesterin ura alkoi hänen muutettuaan Los Angelesista San Franciscoon ja liityttyään The Cockettes -musikaaliryhmään. Ryhmästä tuli nopeasti erittäin suosittu, etenkin paikallisissa homopiireissä. Sylvester jätti ryhmän vuonna 1973 saatuaan levytyssopimuksen laulajana The Hot Band:ssä. Yhtye levytti kolme albumia: 'Lights Out In San Francisco', 'Scratch My Flower' ja 'Bazaar'.
Sooloartistiksi Sylvester siirtyi 1978 tavattuaan tuottaja/säveltäjän Harvey Fuqua. Ensimmäinen albumi 'Sylvester' oli pienoinen menestys molemmin puolin Atlanttia, mutta vasta seuraava levy 'Step II' toi hänelle supertähden statuksen. Todellinen hitti oli 'You Make Me Feel (Mighty Real)', joka oli alun perin sävelletty gospeliksi. Tässä vaiheessa Sylvesterin taustalaulajiksi oli palkattu Izora Rhodes ja Martha Wash, jotka esiintyivät nimellä Two Tons of Fun ja tunnetaan nykyään paremmin alkuperäisenä The Weather Girls -duona. Hitit seurasivat toisiaan, kukapa discossa kävijä olisi välttynyt tanssimasta 'Dance (Disco Heat)'-, 'Can't Stop Dancing'- tai 'Stars' -hittien tahtiin.
Taiteellisten erimielisyyksien vuoksi Sylvester lähti Fuquan tallista ja liittyi säveltäjä/tuottaja Patrick Cowleyn levymerkille ja levytti ehkä suurimman kansainvälisen hittinsä 'Do Ya Wanna Funk'. Yhteistyö ei kuitenkaan kestänyt kovin kauan Cowleyn kuoleman johdosta.
Seuraavat albumit Sylvester teki yhteistyössä parivaljakon Ken Kessie & Morey Goldstein kanssa, mutta syntyneet albumit ('M-1015', 'Call Me') eivät saavuttaneet huippusuosiota, vaikkakin tanssilattialla soivat hitit 'Sex', 'Take Me To Heaven' ja 'Band of Gold'. Sylvesterin viimeiseksi albumiksi jäi Warner Bros yhtiölle 1986 tehty 'Mutual Attraction'. Kesken jäänyt, kolme uutta kappaletta sisältänyt 'Immortal', julkaistiin Sylvesterin kuoleman jälkeen.
Lopetettuaan esiintymiset Sylvester jatkoi kuolemaansa saakka työtä AIDS-tiedottamisen parissa.