Arrau syntyi Chillánissa silmälääkäri Carlos Arraun ja Lucrecia Leónin pojaksi. Hän antoi ensimmäisen konserttinsa 5-vuotiaana. 7-vuotiaana hän pääsi saamiensa apurahojen turvin opiskelemaan Saksanan Martin Krause johdolla. 12-vuotiaana Arrau soitti Franz Lisztin Transkendentaaliset etydit, joita pidetään monesti yhtenä teknisesti hankalimmista pianolle sävelletyistä sarjoista. Vuonna 1937 hän meni naimisiin mezzosopraano Ruth Schneiderin kanssa. Pari sai kolme lasta. Helmikuussa 1979 Arrausta tuli Yhdysvaltain kansalainen. Hän kuoli Mürzzuschlagissa, Itävallassa vuonna 1991.
Arrau levytti Robert Schumannin koko pianomusiikkituotannon. Sen lisäksi hänet tunnetaan muun muassa Beethovenin, Mozartin, Brahmsin, Lisztin ja Debussyn teosten tulkinnoistaan.
