汉朝自建立以来，西北边境一直不安定，作为游牧民族的匈奴人不时南下骚扰；他们骑着马，从北边广阔的大草原奔袭而来，行动迅速，来去飘忽，让汉朝统治者很伤脑筋。
文帝和景帝时期，为了发展生产、壮大国力，需要一个安定的社会环境，因此对西北边境的少数民族采取忍让政策。武帝时期，社会生产力得到恢复，具有雄才大略的年轻皇帝，岂能容忍西北边关屡遭侵袭！
那些骑马的匈奴人，气势汹汹而来，掠夺财富和人口，耀武扬威而去。汉武帝觉得这是奇耻大辱，决心扭转局面。
司马迁还在江南一带游历的时候，即公元前125年，匈奴骑兵再次袭击代郡、定襄、上郡，杀死当地几千民众，抢走他们的财产；汉武帝为此十分愤怒。经过一番准备，第二年，派卫青率领十万大军赴朔方、高阙，攻打匈奴。汉军有备而来，匈奴抵挡不住，被打得败退逃窜，卫青的将士奋力追击，杀死和俘虏了一万五千名匈奴人。
汉武帝对这一仗感到非常满意，信心大增。过了一年，他再次命令卫青统率十万将士组成浩浩大军，从定襄北上攻打匈奴，大军一直追到大漠深处，打败了匈奴人。
这场战争中，有两个将军的表现令人失望，一名叫赵信的将军被匈奴人击败，向匈奴投降了；另一名叫苏建的将军，他的军队被匈奴人打散了，只身逃了回来。武帝非常生气，把他贬为普通老百姓。
总结两次与匈奴人较量的经验，武帝觉得鼓舞士气是至关重要的事。因此，他采取了一项强有力的措施：出身平民的军人在战场上奋勇杀敌，凭立下的战功可以封爵。这可是一项具有重大社会影响的改革措施，有人感到高兴，有人表示不满。
那些深感不满的人，都是些有爵位的上流社会人物。当时的社会，等级制度森严，爵位是世代相袭的。他们觉得那些粗鲁的军人立了战功，也能升官封爵，与自己平起平坐，真是一大耻辱。他们敢怒不敢言，因为武帝是个强权铁腕的人物，对他的改革说三道四，会招来大麻烦。
另一方面，军队里的将士对武帝的措施十分欢迎。他们觉得凭借战功可以封爵，打起仗来更有劲头了，因此士气高昂。武帝用这一措施，达到了笼络将士、鼓舞士气的目的。
西北的匈奴人不甘心前两次的失败，仍然在西北边境纵马横刀，跃跃欲试。汉朝与匈奴更大规模的决战，还在后头呢！
武帝这时把注意力全部集中在对付北方的匈奴上，每天想的都是怎样增加国家的收入，用来铸造兵器盔甲，训练强大的军队。
司马迁25岁那年（公元前121年），发生了著名的河西会战。青年将军霍去病（卫青的外甥）在春、夏两次出塞，深入大漠两千里，在祁连山大破匈奴。汉军斩杀、俘虏匈奴共计四万多人。
这次大捷，迫使匈奴单于（chan yu）带着四万多匈奴人投降汉朝。武帝别提多高兴了，令他们迁移到天水、北地、上郡、西河、安定五郡，分别成立五个属国。而在匈奴原来居住的河西地，开辟了武威、张掖、酒泉、敦煌四郡。
第二次大捷，是在司马迁27岁时（公元前119年）的漠北总决战。由卫青、霍去病各率领五万骑兵，编组成五个兵团，展开一次有史以来规模最庞大、战线最绵长的大远征。卫青从定襄出塞，在西战场大败伊稚邪单于，还一直追赶到阗（tian）颜山（今外蒙古境内），斩杀匈奴一万九千多人。霍去病则兵分两路，分别从代郡和右北平郡出塞两千里，贯穿大漠，在东战场和匈奴大军激战，杀死匈奴七万多人，一直到了狼居胥山才大胜而返。
这两次辉煌的大胜利，使武帝踌躇满志。
司马迁十分关注这些战争的进展。他认为，虽然汉军把匈奴赶得远远的，但是双方损失却不相上下。汉军以十四万匹马出征，回来只剩下三万匹，损失惨重；当时与匈奴作战，没有马匹就无法获胜。汉朝在短期内，丧失了发动大战争的能力。战争时期，兵马需要大量粮食，都要长途运送，所有财力、物力、人力等不必要的浪费，都要向百姓身上榨取，加重了老百姓的负担。
这场战争中，不少关东军将士得到封赏，关西军的将士得不到应有的待遇，秦国子民被朝廷歧视的事实，充分暴露出来。这对司马迁的心灵造成很大打击。他想起父亲以前和他提过这个问题，面对现实，他不得不承认父亲是对的。