Han ble født Otto Eduard Leopold von Bismarck i Schönhausen, og studerte jus i Göttingen og Berlin. I 1847 giftet han seg med Johanna von Puttkamer, og sammen fikk de tre barn.
Lettet over at den tyske revolusjonen mislyktes i 1848, ble han valgt inn i det preussiske parlamentet i 1849. Han ble utnevnt til å representere Preussen i Frankfurt, og ble snart overbevist om at et preussisk-ledet forent Tyskland var en viktig målsetning. Han ble utnevnt til ambassadør i St. Petersburg og Paris, og i 1862 ble han av den preussiske kong Wilhelm I utnevnt til statsminister og utenriksminister i Preussen, som et ledd i konflikten mellom kongen og det stadig mer liberale preussiske parlamentet.
Etter dette lyktes Bismarck i å forene Tyskland, ved å starte flere kriger. Først erobret han Schleswig og Holstein fra Danmark, i samarbeid med Østerrike - fredsavtalen ble undertegnet i Wien 30. oktober 1864. Selv om Østerrike allerede i 1865 ble presset til å la Preussen overta disse nordlige områdene, angrep han Østerrike, og vant raskt slaget ved Königgrätz 3. juli, der han annekterte Hannover, Hessen-Kassel, Nassau og Frankfurt. Dermed var Det nord-tyske forbund dannet. Konføderasjonen var opprettet i forståelse med både Frankrike og Østerrike. I desember 1866 ble det utarbeidet et utkast til konstitusjon for det nord-tyske forbund. 16. april 1867 ble konstitusjonen vedtatt med 230 mot 53 stemmer. Etter at Bismarck provoserte Frankrike, som var styrt av Napoleon III, brøt det ut krig mellom Frankrike og Preussen i 1870. I løpet av atten dager ble 1.830.000 soldater mobilisert i Tyskland, og 462.000 soldater ble transportert til vestfronten. Dette var nesten dobbelt så mange soldater som Frankrike hadde mobilisert. De sør-tyske statene sluttet seg til Det nord-tyske forbund. Frankrike led et ydmykende tap, og den preussiske kongen Wilhelm I ble kronet til keiser over et samlet Tyskland i slottet Versailles utenfor Paris, hvor den preussiske armé hadde sitt hovedkvarter. Frankrike hadde gått til krig mot regionalmakten Preussen, men blitt beseiret av stormakten Tyskland. Forvandlingen skjedde på slagmarken.
Det nye tyske imperiet som oppstod etter den tysk-franske krigen i 1870-71 var en union av 25 tyske stater av ulik størrelse og med ulike regjeringsformer, og et administrativt territorium, det såkalte Reichsland som bestod av Elsass (Alsace) og Lothringen (Lorraine) og ble styrt av en generalguvernør. Den føderale regjeringen bestod av en utøvende myndighet under ledelse av keiseren og hans kansler og deres staber, et føderalt råd (Bundesrat) sammensatt av utsendinger fra de forskjellige statene, og et nasjonalt parlament, Riksdagen, som var valgt av alle menn med alminnelig stemmerett og hemmelige valg.

Proklamasjonen av det Det tyske rike i Versailles. Bismarck (i hvitt) ble etter dette feiret som nasjonalhelt
Innenrikspolitisk var han mest opptatt av opprettelsen av de to nye politiske partiene, det katolske senterpartiet og det sosialdemokratiske partiet (SPD). Bismarck var imot at religion skulle styre politikken, og startet en kampanje, kjent som kulturkampen, mot det katolske partiet. Politikken skulle ikke tjene religiøse, men nasjonale og maktpolitiske formål. Våren 1871 kom det et brev fra pavestolen som uttrykte dens solidaritet med det katolske senterpartiet. Da bestemte Bismarck seg for å angripe den katolske kirken. Bismarck erklærte åpent krig mot senterpartiet og den katolske kirken sommeren 1871. Han brukte særlig to midler mot sosialdemokratene; han forbød partiet og deres organisasjoner, og han innførte en rekke sosiale reformer for å komme arbeiderklassen i møte, med blant annet ulykkes- og helseforsikringer, samt alderspensjoner, i den hensikt å svekke oppslutningen om det sosialdemokratiske partiet.
Bismarck var velorientert om europeisk utenrikspolitikk, og sto blant annet for det såkalte Kissinger-diktatet fra 1877 som skapte ro på Balkan i mange år framover. Også der passet karakteristikken «stålhånd i silkehanske».
I valget 20. februar 1890 gjorde både det katolske senterpartiet og SPD et godt valg. Valget ga en riksdag som Bismarck i det hele tatt ikke kunne kontrollere. Bismarck innså at noe måtte gjøres, og var sikker på at dersom han skapte en stor konstitusjonell krise ville keiseren vende seg til ham, for bare Bismarck var brutal og handlekraftig og fantasifull nok til å skjære gjennom. Keiseren fikk nyss i disse planene.
Keiseren ville avholde en internasjonal arbeiderkonferanse. Bismarck prøvde å torpedere dette, og prøvde å overtale den franske regjeringen til ikke å delta. Bismarck forbød ministrene å ha kontakt med keiseren uten Bismarcks tillatelse, i tråd med en glemt kabinettsordre fra 1852, siden han var redd for at de kunne prøve å komme frem til andre løsninger enn dem Bismarck ønsket. Keiseren klandret Bismarck for å sette opp barrierer mellom keiseren og ministrene, og for å diskutere arrangementer i Riksdagen med senterpartiet uten keiserens viten. Han klandret også Bismarck for å ha latt være å informere ham om det vanskelige forholdet mellom Russland og Tyskland.
Dagen etter fikk Bismarck beskjed gjennom general von Hahnke, leder for det militære kabinettet, om at keiseren ventet at Bismarck umiddelbart gjorde det klart at ministrene kunne ha direkte kontakt med keiseren uten Bismarcks godkjennelse. Både lederen for generalstaben og det militære kabinettet ba keiseren om å avskjedige Bismarck. Bismarck ventet i fire dager før han søkte om avskjed.
Bismarck brukte sine siste leveår på å skrive sine memoarer, Gedanken und Erinnerungen (tanker og erindringer). Han døde i 1898 i Friedrichsruh, og er begravet i Bismarck-mausoleet der.
Krigsskipet Bismarck og byene Bismarck i Nord-Dakota og Bismarck i Arkansas, USA, foruten tallrike gater i Tyskland, blant andre Bismarckstraße (Berlin-Charlottenburg), er oppkalt etter ham. Det samme er Bismarckøyene utenfor den forhenværende tyske kolonien Ny Guinea i Stillehavet.
