乘天下大乱，北部的乌桓破幽州，掠其汉民十余万户。乌桓是个以游牧射猎为生的少数民族。各地方的军事集团首领为了维护自己的割据，曾经依靠过乌桓的骑兵，袁绍就曾如此。乌桓诸单于中，尤以辽西单于蹋顿为最强，而且蹋顿与袁绍交往较厚，待袁绍病死后，蹋顿多次派兵袭扰汉郡，想让袁绍之子袁尚重整旗鼓，光复旧土。
曹操为了统一北方，于207年决定发兵攻打乌桓。诸将皆劝说：“袁尚已穷途末路，乌桓见其大势已去，怎能再被袁尚利用？现在我们远征，刘备必劝刘表袭击许都。万一如此，岂不悔之晚矣！”
谋士郭嘉说：“将军虽然威震天下，但乌桓自恃其远离许都，必然毫无防范，如果我们出其不意发兵袭击，战则必胜。再说，刘表自知他不如刘备，重用刘备担心不能制之，轻任刘备又担心嫌其薄待而离去。鉴于此，将军虽远征，不必忧虑刘表后袭之患。”
曹操决心早定，率兵北进。
五月，兵至无终。正值夏季雨多水大，沿海的道路无法通行，乌桓又派兵马扼守了其他的路径，军队难以前进。曹操忧虑重重，田畴献计说：“此路，夏秋常有水患，浅不能通车马，深不能载舟船。我们莫如先撤离无终，乌桓以为我军是受阻而退，必然放松戒备。我们再东出庐龙口，越过白檀之险，入敌兵空虚之地，路近而便利，趁其不备而袭击，蹋顿必败无疑。”
曹操依计行事，并让人沿途在树木上刻字：“如今大暑，道路不通，待到秋冬，我军复来。”乌桓的骑兵见此，对曹军退去深信无疑。
曹操令田畴的乡众为向导，率军上徐无山，劈山填谷五百余里；经白檀，过平冈，穿鲜卑庭，直逼柳城。未行二百里，乌桓就发现了。蹋顿和袁尚兄弟，以及辽西单于楼班，右北平单于乌延等，率领数万骑兵猛扑上来。
曹操登上了白狼山。曹军与乌桓兵马奋力拼杀。乌桓兵马来势迅猛，士气很盛。曹操的辎重在后，所率兵士多是轻装前进，而且与敌军在数量上不成比例，伴随曹操的臣将不免有些畏惧。曹操虽知形势危急，但镇定自若。他登高远眺，见敌阵不整，料知缺乏统一指挥，各部之间难于协调作战，不禁心中大喜。遂果断下令张辽为前锋，率众兵猛击敌军。敌军各部果然自顾不及，皆溃不成军，大败而逃。乌桓单于蹋顿被斩。乌桓及汉卒降者二十余万众。
辽东单于速仆丸和袁尚兄弟投奔辽东太守公孙康，所率骑兵尚有数千。曹操的部将都主张立即发兵攻击，定能擒住袁氏兄弟。曹操说：“何需动用兵马？我要让公孙康将袁氏兄弟的首级送来。”曹操不但没有进军，反倒退还柳城。不久，又率兵返回。果然，公孙康送来了袁氏兄弟的首级。
众将一见，都感到疑惑不解，便向曹操问其原委。曹操说：“公孙摩向来畏惧袁氏兄弟，我如果当时急于动兵，他们就会合力抵抗；我如果按兵不动，他们就会彼此相图；势在必然啊！”
至此，曹操平定了多年引发局部战争的北部乌桓，且又消灭了袁绍的部分残余势力，基本上统一了北方。