Albers vokste opp i Hamburg. Etter første verdenskrig flyttet han til Berlin der han avanserte som skuespiller ved forskjellige scener og ved Komische Oper. Samtidig medvirket han i rundt hundre stumfilmer. Fra 1929 var han med i mange tyske lydfilmer, blant annet i klassikeren Der blaue Engel (1930) med Marlene Dietrich og Emil Janningss. I 1934 spilte Albers tittelrollen i Fritz Wendhausen filmatisering av Ibsens skuespill Peer Gynt. Hans Albers hadde også hovedrollen i fargefilmen ' Baron von Münchhausen ' fra 1943 .