定居茂陵显武里之后不久，有一天，司马谈下朝回到家里，高兴地说：“迁儿，我想让你拜孔安国先生为师，你看如何？”
“孔先生是谁呀？”
“他是孔子的第十二世孙，现在任朝中的谏议大夫，是当今最有名望的古文经学大师。”
“我听说过这个人，说是他把《古文尚书》的经典翻译出来。从而成了古文典籍的权威人物。”
“是呀，正是他。高皇帝时，原秦博士伏生传出《尚书》二十八篇，是由隶书写成的。就在前些年。鲁恭王刘余拆毁孔子的旧宅，从墙壁里意外地发现了许多竹简。那竹简上的文字很古怪，不知写的是什么，他也就没有在意。后来，孔安国先生见到这些文字，认为那是以前曾使用过的蝌蚪文字，细读其内容，有许多篇章竟与《尚书》相符。于是，他第一个将那些蝌蚪文字用当今文字译出，被人们称为《古文尚书》，而伏生传出的用隶书写成的那一部，被称为《今文尚书》。《古文尚书》比《今文尚书》多出二十八篇。研究《古文尚书》，已经成了一门独立的学问，而孔安国先生是这门学问的宗师。《古文尚书》的原本，如今还珍藏在孔府。如果你能跟随孔先生学习，必将受用无穷。”
“他会收我做他的学生吗？”
“如果你愿意拜他为师，我就去安排，请孔先生接受你当他的学生。”
经过父亲的努力，司马迁成了孔安国先生的学生，开始在孔府学习。司马迁聪明好学，深得孔安国先生的赞赏。这位经学大师认真地讲解了他的著作——《古文尚书》、《论语》等篇章中的疑点。司马迁对文章的内容深加领会，老师给予的启发点拨，他能做到一点就通，还能举一反三。孔安国先生对这个学生很满意。
孔先生教学严谨，要求很严。他让学生熟读能背，加深理解，还规定要练习写古文字体。司马迁以前练习写的是隶书字，也就是今文。古文却有好几种，如金文、大篆、小篆等。
司马迁一边照竹简上的古文进行写字练习，一边连字成句，用心默读、记忆、理解。这种方法真是一举两得，字练几遍之后，文段也记下来了。后来，他在《太史公自序》里写道：“年十岁则诵古文。”讲的就是跟随孔安国先生学习《古文尚书》的这段生活。
那时，司马迁是孔安国最得意的门生，高耸的额头，斜飞两道粗黑浓密的眉毛，线条分明的单眼皮，把一双炯炯有神的眼睛，衬托得又大又明亮，高挺的鼻梁下。紧闭着棱角分明的嘴唇，使他有一种即使在大人脸上也很少能见到的坚毅不拔的气质。
“子长，今天学的内容，你都懂了吗？”孔先生打量了一下司马迁，充满威严但又不失慈爱地问道。
子长是司马迁的字，孔先生这么叫他，而不是直接喊他的名字，有一种器重的意味。
“都明白了。”司马迁恭敬地回答。
“很好，”孔先生点点头，赞许地说：“子长。你天资聪明，不要辜负了你父亲的厚望，只要你好好读书，将来一定会出人头地的。”
“出人头地……”
司马迁脑海中浮现出一幅美丽的图景：北边是绵延不绝的崇山峻岭，南边是一望无际的深绿沃野。那是他6岁就离开了的故乡芝川镇。蓝蓝的天空，牛羊在一望无际的田野中哞哞低叫……还有那“鲤鱼跃龙门”的神话。
想到这里，司马迁更加坚定了自己的理想：一定要好好学习，出人头地！
司马谈一心要把儿子培养成一个知识广博、思想卓越的人。他经常检查儿子的课业。看到儿子在孔先生的指点下不断进步，心里自然非常欣慰。同时，他还在选择优秀的老师，希望儿子不拘泥于一门一派的学问，而要广泛学习各种学问的精华，开阔眼界，增长见识，成为有大作为的人。
儒家大学者董仲舒成为司马谈为儿子选师的对象。董仲舒在中国历史上可是个举足轻重的人物，他的思想影响了几千年的中国文化。他少年时学习非常刻苦，钻研古籍，到了一连几年都不向园子看一看的地步——人们常说的“三年不窥园”，就是由此得来。他后来名气越来越大，被举荐做了博士。博士是古代的一种官职名称，在当时没有什么权力。董仲舒大量的散闲时间仍旧用来钻研儒学、讲授儒家经典。
此时的西汉，已经是国泰民安，一派强国景象，公元前140年，汉武帝登基。汉武帝是推崇儒家学说的，但他的祖母窦太后却好黄老之术。窦太后在世时，汉武帝不敢违背太后的意愿，他公开推行儒家思想是在（公元前135年）窦太后去世以后，此时司马迁正好离开家乡，随父亲来到长安。汉武帝推行儒家思想的最后障碍消除了，他开始毫无顾忌地实行他的计划。
公元前134年，汉武帝采取贤良对策的方式，召集人才。贤良即为有学识的人，对策就是在皇帝面前发表自己的见解，接受皇帝的提问。董仲舒在这次策试中脱颖而出，受到汉武帝的器重。之后，董仲舒担任江都易王的国相，后来由于小人拨弄是非，被降为中大夫。中大夫是郎中令的一个属官，权力不大，只能在宫廷中提提建议。
遭到降职后的董仲舒在长安以讲授《春秋》来宣扬他的学说，减缓心中的忧闷之情。司马谈就是在这段时期打算让他做自己儿子的老师的。
司马谈尽管推崇道家，但对各家学说都有研究，深知董仲舒学问高深，文章出众，确实是一位首选的良师。
董仲舒听说司马谈要儿子拜自己为师，感到有些为难。司马谈是当代有名的学者，写的文章气势恢宏、结构严谨、论理清晰、分析透彻，但他始终不赞成自己“独尊儒术”的主张。
如今，他要儿子拜自己为师，恐怕这师生之间会产生思想上的冲突。不过，董仲舒见司马谈态度恳切，又听说他的儿子司马迁聪明好学，终于答应下来，说：“那好吧，就让他来吧！”
董仲舒作为当时有名的儒家学者，学问精深博大，以讲授《公羊春秋》而见长。司马迁去董府听第一堂课，董先生给学生讲“天人感应”的道理。他说：“根据《春秋》的记载，天象的变化和人间的事情是相互响应的！”
“真的吗？”司马迁感到很新鲜。
未及多想，又听董先生说：“为什么这么说呢？你们看，人世间每有社会动乱发生，上天就会先用灾害或怪异现象来进行警告。只要这时人间世道不是太离天道，上天还是愿意扶持的，但人们自己也要积极勉励才行。”
司马迁若有所思，想到在老家放牛时听到大人们讲的一些因果报应现象，似乎有些领悟。
董仲舒讲解：“什么是道？道就是国家走向大治的途径。仁义礼乐，是推行道的工具。古代的圣王已经辞世，而他的子孙后代能够长久安宁几百年，这都是礼乐教化的功效。”
听董先生讲道，时间渐长，司马迁心中豁然开朗，感到一些看似简单的问题其实并不简单，受到一些新的启发。
原来，孔子写的《春秋》，并不是一部简单的历史文献，孔子也并不想单纯记录历史，而是通过《春秋》中记述的历史事件，来揭示终极的道德标准——“道”。
司马迁认识到，董先生所讲的“道”，是鉴别一切是非的唯一标准。它比至高无上的皇权还要高，皇权只有遵循“王道”时，才是绝对权威；如果背离“王道”，就将被天下人共弃。这样来看，《春秋》中记载了三十六起政变、五十二个政权的灭亡，就好理解了。
《春秋》如同一部法典，提出了天下人应该共同遵循的行为规范：帝王有帝王的行为规范，官员有官员的行为规范，平民有平民的行为规范。符合行为规范，也就是合于“礼”，“礼”得到了贯彻，就没有社会犯罪现象了，社会就稳定了。
思考和探究《春秋》的真实含义，使司马迁受到了极大震动，获得了很多感悟。他逐渐感觉到，历史就像一面有魔力的镜子，谁到了它的面前都会原形毕露，是善是恶、是好是坏，都会显现本来面目。哪怕贵为帝王，也将受到历史的审查……
从此，司马迁在两位名师的指导下发愤学习，进步很快。