在美国政府部门工作之后，他于1974年加入高盛芝加哥分部，在芝加哥分部担任银行业务助理。从那时开始，他就为了高盛而奋斗，并且把他“斗牛犬”的作风带进了高盛，他自身在那里得到了很好的发展。1982 年他升为高盛的合伙人，成为合伙人则意味着他个人的财富和高盛的财富是紧紧联系在一起的；1988年他获委任，成为高盛芝加哥分部的主管合伙人；1993年升任为公司在美国中西部投资银行地区主管合伙人；1996年被任命为总裁兼首席运营官；1999年5月，他正式出任高盛集团董事长兼首席执行官，坐到了高盛的头把椅子上。
他不仅是一头斗牛犬，而且是一只具有魔法的斗牛犬。在他的领导下，高盛集团成为华尔街最赚钱的投行。高盛的员工数目虽然仅及业界老大美林证券和第3位的摩根士丹利的一半，但它的盈利却名列榜首。从2000年起，高盛就一直保持着全球并购业务第一的地位。他带领高盛不仅连夺证券承销大单，还引领高盛进入商品市场，成为商品期货的最大炒家之一，它的商品期货交易收入已经超出了投资银行业务。
高盛取得了巨大的成功，也使得保尔森成为华尔街最赚钱的银行家，他的年收入一度达到3 830万美元，比美林证券的奥尼尔、雷曼兄弟的富尔德、贝尔斯登的凯恩及摩根士丹利的麦克这些大投行掌门人都高出一截。人们都说他对员工很慷慨，2005年他的22 425名职员共获发117亿美元薪酬，平均每人获得52.1万美元，在华尔街独树一帜，要知道这是建立在保尔森雄厚的资金基础上的。那一年，有着100多年历史的高盛的盈利达到了创记录的56亿美元。
路在何方
2006年5月，保尔森被布什正式提名任美国财政部部长，成为布什总统内阁一员。他放弃了华尔街3 830万美元的年薪，来到华盛顿上任，接受只有20万美元的年薪，这样大的差距，使人们相信他不是为了金钱才出任财长一职，他“应该有一番作为”。
和美国其他的财长不同，保尔森具有很深的中国情结，他十年间访问中国的次数不少于70次，他一手带领高盛在中国开创数个“第一”，而这也许是布什请他出山华盛顿的一个重要原因。在布什任总统期间，美国的政府预算赤字和对外贸易逆差不断被刷新，由于伊拉克战争推动军费和有关各类政府支出激增，再加上布什政府几度大规模减税，使得美国政府的年度预算赤字已经超过4 000亿美元。在这样的情况下，中国是棵可以“好乘凉的大树”。