1815年4月1日，俾斯麦出生于普鲁士兴奥森一家容克大贵族家庭，他的童年是在他父亲的庄园里度过的。大学期间，他曾与同学做过二十七次决斗。1835年，俾斯麦于柏林大学毕业后，回到老家管理自己的两处领地。强壮的体格、粗野的个性、对待农民的残忍、追求目标的毅力和不择手段，构成俾斯麦鲜明的性格特点。
1848年，德国柏林爆发革命，俾斯麦在自己的领地上组织起军队，准备武力镇压革命。1851年—1858年，他担任普鲁士邦驻德意志联邦代表会的代表，1859年任驻俄大使，1861年改任驻法大使，1862年出任普鲁士首相兼外交大臣。
1862年9月，在普鲁士议会的首次演说中，他大声宣称：“德国所注意的不是普鲁士的自由主义，而是权力……当代的重大问题不是通过演说与多数人的决议所能解决的，而是要用铁和血。”俾斯麦的“铁和血”，是他统一德国的纲领和信条，他的“铁血宰相”的别称也由此而得名。俾斯麦正是凭靠这种暴力，大胆而又狡猾地利用国际纠纷和有利时机，决定性地使德国通过“自上而下”的道路统一起来。
俾斯麦统一德国后，执行为大资产阶级和贵族地主阶级利益服务的政策，推动了德国经济的发展。但他的“铁和血”没有因此而停止。1871年，他参与镇压了巴黎公社武装起义。在国内，他加紧镇压德国工人运动，对外，他组织军事集团，极力巩固德国在欧洲大陆的霸权地位。同时，在非洲、亚洲和太平洋地区掠夺殖民地，同英国争夺世界霸权。
1888年，威廉二世继位，在很多问题与俾斯麦上出现分歧。在接下来的残酷权力斗争中，俾斯麦渐渐感到心灰意冷。1890年，七十五岁高龄的俾斯麦向威廉二世提出辞呈，正式下野。
1898年，八十三岁的奥托·冯·俾斯麦在故乡的庄园中逝世。