Keskuspuolustaja Parker aloitti uransa Fulhamissa, josta siirtyi Queens Park Rangersiin. Intensiivisenä puolustajana tunnettu Parker vakuutti Englannin maajoukkueen valmentajan Bobby Robsonin taidoistaan ja debytoi Englannin paidassa vuonna 1989 ottelussa Albaniaa vastaan.
Parker valittiin Englannin joukkueeseen vuoden 1990 MM-kisoihin. Englanti sijoittui lopulta neljänneksi.
Elokuussa 1991 Manchester United osti Parkerin kahdella miljoonalla punnalla. Debyyttinsä hän teki jo samassa kuussa ottelussa Notts Countya vastaan. Yli sata ottelua ManUssa pelannut Parker edusti seuraa viisi kautta, jonka aikana hän oli mukana voittamassa mm. kolmea liigamestaruutta ja kahta liigacupia. Parin viimeisen United-kauden aikana Gary Neville korvasi Parkerin sekä seurajoukkueessa että maajoukkueessa.
Parker oli sivussa maajoukkue tehtävistä 18 kuukautta, kunnes lokakuussa 1993 hänet kutsuttiin vuoden 1994 MM-kisojen karsintaotteluihin. Englanti hävisi karsintaottelun Alankomaille 2-0 ja Parker sai hyvästellä toivonsa toisesta edustuspaikasta MM-kisoissa, Englannin jäätyä kisojen ulkopuolelle.
1996 vapaalla siirrolla Manchester Unitedista lähtenyt westhamilainen edusti uransa aikana vielä Derby Countyaiaia, Sheffield United, Fulhamia, Chelseaa ja Farnborough Townia, jossa lopetti uransa vuonna 2000.