Holden aloitti uransa 1930-luvun lopussa, ja Barbara Stanwyckin kanssa tehty elokuva nimeltä Kultapoika (1939) teki hänestä tähden. Hän ehti näytellä useissa elokuvissa ennen liittymistään Yhdysvaltain armeijaan ja toiseen maailmansotaan. Sodan jälkeen hänen uransa ei kuitenkaan ottanut tuulta ja hänet oltiin jo unohtamassa, kun hän teki comebackin elokuvassa Auringonlaskun katu (1950). Hän sai ensimmäisen Oscar-ehdokkuutensa tästä elokuvasta. Elokuvan jälkeen hän teki 50-luvulla lukuisia klassikkoja kuten Eilen syntynyt (1950) ja Vankileiri 17 (1953), josta hän sai parhaan miespääosan Oscarin.
Menestyksestään huolimatta Holden alkoi kuitenkin vakavasti alkoholisoitua. Hän teki vielä paljon suosittuja elokuvia myös uransa loppupuolella. Näitä olivat muun muassa Poreilua Pariisissa (1964), Casino Royale (1967), Hurja joukko (1969) ja Kasvot kuvaruudussa (1976), josta hän sai viimeisen Oscar-ehdokkuutensa.
Marraskuun 12. päivänä vuonna 1981 Holden oli vahvasti humalassa kun hän liukastui ryijyyn, löi päänsä pöytään ja vuoti kuiviin. Hänen ruumiinsa löytyi neljä päivää myöhemmin. Hän oli kuollessaan 63-vuotias. Hänet tuhkattiin ja siroteltiin Tyyneen valtamereen.