以董仲舒为代表汉代儒家，他们虽打着孔子儒家的招牌，却在先秦儒家“仁义”学说之外，吸取了阴阳家神化封建君权的学说，也吸取了法家尊君抑臣的思想，力图用刑法来加强专制统治。汉武帝“外施仁义”，又条定刑法，重用酷吏；汉宣帝更宣称汉家制度是“霸王道杂之”，并且“所用多文法吏，以刑名绳下”（《史记·元帝纪》）。可见汉代儒术实质上就是熔铸先秦各家统治术于一炉的专门为汉代统治者加强思想专制的统治术，儒家的思想禁锢是其表，法家严刑酷法是其里，外儒内法，或者叫儒学加酷吏，是汉武帝，尤其是汉武帝后期政治的最本质特征。这种政治与汉武帝的对外发动战争，对内残酷掠夺相辅相成，恶性循环，愈演愈烈，直到民生凋敝，危机四伏，把整个国家推到了崩溃的边缘。关于这一点，汉武帝是供认不讳的，他曾对卫青说：“汉家庶事草创，加四夷侵陵中国，朕不变更制度，后世无法，不出师征伐，天下不安。为此者不得不劳民。若后世又如朕所为，是袭亡秦之迹也。”他采取了补救措施，拒绝在轮台（今新疆轮台）屯田远戍，并下诏自责，“深陈既往之悔”，申明“当今务在禁苛暴，止擅赋，力本农，修马夏令（养马者得免摇役）以补缺，毋乏武备而已”。由此可见，司马迁生活的时代，是一个繁荣昌盛的时代，也是一个充满社会矛盾的时代，是西汉王朝从鼎盛走向衰落的时代。在学术上，是处在一个宽松到严厉，由自由开放到封闭禁锢的时期。司马迁个人的理想与残酷的现实自然发生了许多矛盾，从思想上给他打上了充满矛盾的时代烙印。
司马氏祖先源远流长，简括地说，有着两大光荣的祖德传统。司马迁把传说中的颛顼时代掌管天地的重、黎氏引为自己的祖先，并以自己出生在这样一个具有悠久传统的世代史官家庭中而自豪。关于重和黎的传说，史料不多，他们都是着名的神巫，掌管天文、祭祀等事。从唐虞到夏商，重、黎的后代便世世代代承袭这一职守。本来在上古时代，巫史由一人兼任，代表天神讲话，指导国家的政治、文化事业。随着社会的发展，巫与史才分离，各有职掌。降自周代，普遍建置史官，有大史、小史、左史、右史等职。周宣王时，重、黎的后人程伯休甫失掉了世代相传的职位，而做了“司马”的官，从此就称司马氏。司马迁认为他的始祖就是重和黎，中经唐虞夏商，迄至周朝，世世为史官。所以司马谈、司马迁父子也都非常乐意在新的历史条件下继续担任史官这一职务，生怕这一传统在他们手里中断。这种世代为史官的家世，对司马迁的影响是颇为巨大的。武将家世周宣王时的程伯休甫是一位着名的将军，《诗经·大雅·常武》称颂他：“王谓尹氏，命程伯休甫。左右阵行，戒我师旅。率彼淮浦，省此徐土。”《国语·楚语下》也记载了他的事迹。程伯休甫的后裔改称了司马氏。春秋战国时期，由于时代动乱，司马氏史职中绝，一族人分散到了各诸侯国，历任各种官职。司马迁出身的这一支，由周去晋，又迁到少梁，汉代也称夏阳（今陕西韩城县），秦惠王时出了个司马错，他是司马迁的有系谱可稽的八世祖。
秦国着名的将领司马错，历事秦惠王、武王、昭王三朝，前后36年。司马错曾经和纵横家张仪在秦惠王面前辩论过伐蜀与伐韩的利害。张仪从政治考虑，主张伐韩，理由是伐韩的实质是威胁作为天下共主的周，而周又弱小，“自知不能救，九鼎宝器必出，据九鼎，案图籍，挟天子以令于天下，天下莫敢不听，此王业也”。对伐蜀不感兴趣，理由是蜀为“西僻之国而戎翟之伦也，敝兵劳众不足以成名，得其地不足以为利”。司马错则与张仪相反，认为伐韩“未必有利”，而又有“不义之名”，容易引起其他大国的警惕。他从经济上考虑，认为要振国威，必先要有物质基础，他说：“欲富国者，务广其地，欲疆兵者，务富其民。”伐蜀比伐韩的利大，“得其地足以广国，取其财足以兴民缮兵”，而且又有禁暴止乱之名，“拔一国而天下不以为暴，利尽西海而天下不以为贪”（《史记·张仪列传》）。司马错的确看得比张仪远，其谋划也颇为精到，因而秦惠王便采纳了司马错的建议，命司马错率兵伐蜀。司马错因伐蜀有功便做了蜀郡守。秦昭王十八年（公元前289年），司马错还与秦国另一位名将白起共同攻打魏国，取垣、轵等大小61城。据《秦本纪》、《六国年表》等篇记载，司马错7次出征，除为秦西取巴蜀外，还南夺楚黔中地，东伐魏，拓境过安邑，使秦国土地扩大了两倍。
司马迁的六世祖司马错孙名司马靳，司马靳曾经是白起的部下，在长平之战中为秦军副将。秦、赵长平之战是战国后期的一次大战，赵国被杀的士卒有45万之多，赵国从此一蹶不振。长平战后，秦军分三路攻赵。白起自率一军定上党，王乞率一军取赵皮牢。司马靳率一军北定太原。公元前257年，白起因为与范雎有矛盾，很不满意，不肯为将攻邯郸，被秦昭王赐死，司马斯也因连坐而死。
司马迁的祖司马昌和三世祖司马无泽。司马昌曾经在秦始皇时代当过主铁官，这是治粟内史以下的管矿的官司马迁的四世祖。在汉代做过管理长安集市的市长（汉初长安有九市，汉市是其一）。司马迁的祖父司马喜，曾得“五大夫”（二十级军功爵中的第九级）的爵位，意义是“大夫之尊”。
父亲司马谈司马迁的父亲司马谈大致生活在由文、景到武帝的过渡时期，因此他所承受的主要是文、景时代的思想。即黄老思想。司马谈于武帝建元年间（公元前140年~前135年）为太史令。司马谈是一位善于学习并且学问非常渊博的人。
司马谈不仅对先秦诸子素有研究，有他自己明确的政治见解和深刻的哲学思想。他写过一篇不朽的论文——《论六家要旨》。在这篇我国古代思想史上占有重要地位的学术论文中，他创造性地把战国以来的学术思想归纳为阴阳、儒、墨、名、法、道德六家，并以概括手法和简略的文字，入木三分地分析了六家的优劣长短，充分显示出他那兼容并包的博大胸怀和文采横溢的才华。
司马迁《自序》说：“太史公仕于建元元封间。”从建元元年（公元前140年）到元封末年（公元前105年）共35年，司马谈大约做了30年左右的太史令。司马迁撰写《史记》，包容百科知识，“厥协六经异传，整齐百家杂语”，得益于司马谈治学兼容并包的方略是不言而喻的。更为明显的是，《史记》中的许多评论常常流露出对黄老思想的推崇，就是受了司马谈影响的结果。为了继《春秋》以后编纂一部新的历史，司马谈做了大量的准备工作，他搜集材料，拟定体例，还草成了一些篇章。司马迁在对上大夫壶遂的一次谈话中，就明确表示过，他的事业应该有大部分归功于他的父亲。家学与父教，成了司马迁得天独厚的客观条件，使他成为一个博学多才的历史学家。
司马迁，字子长，生于何年。主要是两种意见分歧，一种认为他生于景帝中元五年（公元前145年），另一种则认为他生于武帝建元六年（公元前135年）。两种意见产生于司马贞和张守节对《自序》一段话的不同注释。
卒三岁而迁为太史令，史记石室金匮之书。五年而当太初元年，十一月甲子朔旦冬至，天历始改，建于明堂，诸神受纪。
司马贞《索隐》于“迁为太史令”下引《博物志》云：“太史令茂陵显武里大夫司马迁，年二十八，三年六月乙卯除。六百石。”据司马贞的意见，司马谈死3年，司马迁28岁。那么司马谈死于元封元年（公元前110年）。“卒三岁”是元封三年（公元前108年），上推28年，司马迁当生于武帝建元六年（公元前135年）。张守节《正义》于“五年而当太初元年”下说：“案：迁年四十二岁。”据张守节的意见，太初元年（公元前104年），司马迁42岁，那么从此上推42年，司马迁当生于景帝中元五年（公元前145年）。两种意见相差10年。王国维《太史公行年考》和《梁启超要籍解题及其读法》都主中元五年说。王国维认为《索隐》之“年二十八”的“二”当是“三”之讹。此后人们都沿袭他的这个说法。李长之先生提出异议，认为司马迁应当生于建元六年（见《司马迁的人格与风格·司马迁生年为建元六年辨》）。实际上，日本学者桑原骘藏早在1928年就提出了司马迁生于“建元六年”说。由此可见，“建元六年”说法可以为证。
司马迁的生地龙门，汉时属夏阳县。据《尚书·禹贡》载：“异河积石，至于龙门。”《孔传》：“龙门山在河东之西界。”即今山西河津县和陕西韩城县之间，跨黄河两岸。《金履祥尚书注》：“河南至河中府龙门县之西，山开岸阔，自高而下，奔放倾泻，声如万雷，是为龙门。”传说大禹治水，开凿此山以疏导黄河。山上有“相工坪”，是禹监工的地方。司马迁就出生在龙门山南70里韩城县芝川镇。他的六世祖司马靳所葬之华池，四世祖司马昌、曾祖司马无泽、祖父司马喜所葬之高门，都在芝川镇。他自己的墓和祠也在这里。是司马迁六世祖以来，世世代代生长、居住的地方。
司马迁少年时代，主要从事耕牧与学习两项活动。通过耕作和放牧的劳动锻炼，据司马迁自己说：“年十岁，则诵古文。”司马迁10岁时所“诵古文”，除了跟孔安国学古文《尚书》以外，同时也跟人学过《左传》、《国语》、《系本》等书。
司马迁少年时代所打下的深厚的古文基础，对后来写《史记》的影响很大。这不仅见于《汉书·儒林传》中所说：“迁书载《尧典》、《禹贡》、《洪范》、《微子》、《金滕》诸篇，多古文说。”《史记》其他篇章也保存有古文影响的痕迹：司马迁跟孔安国学习古文《尚书》，还从儒学大师董仲舒学习过《公羊春秋》，即今文《春秋》学说。
在司马迁10岁以后，不知什么原因，其家庭迁到了茂陵显武里。茂陵是汉武帝为自己所修的陵园，地处武帝之母的原籍槐里县茂乡。所以这里又成了司马迁的又一籍贯。据《汉书·董仲舒传》说，董仲舒晚年也移家茂陵，正好与司马谈的家庭同居一地。这时的司马迁大约十六七岁，正是受学的理想年龄。董仲舒的《春秋》学说，对司马迁的影响更深，以至于成为他写作《史记》的思想动力。他在《自序》中说：
司马迁在20岁时，为了“网罗天下放失旧闻”，更好地熟悉历史和研究历史，在父亲的支持下，开始了他的壮游。从京师长安出发，出武关（今陕西商县东），经南阳（今河南南阳县），过南郡（今湖北江陵县）渡江辗转到汨罗江畔，凭吊屈原，“想见其为人”，不禁为之凄然泪下，对屈原的不幸，予以深切的同情。他从内心悼念这位志洁行廉、刚正不阿的伟大诗人。
司马迁然后逆湘江而上，到达零陵郡营道县（今湖南宁远县）。九嶷山就在这里，传颂南巡时死于此地，他考察了舜的葬地和事迹。又从湘南去湘西，循沉江而下，这就是所谓的“门规九嶷，浮于沅、湘”。然后，他又东浮大江，登上江西的庐山，了解大禹疏导九江的传说。他顺江而东，登上会稽山（今浙江绍兴县东南）。传说大禹曾在此大会诸侯计功，故名会稽。山上有“禹穴”，据说大禹曾进去过，因而得名。司马迁对“禹穴”也作了实地考察，此即“上会稽，探禹穴”。从越至吴，登姑苏山，远眺五湖。他见到湖水汪洋浩瀚，相连成片，因而注意到水利：“甚哉，水之为利害也！”（《河渠书》）
司马迁游历了江南之后，便渡江北上，来到淮阴（今江苏淮阴县东南），这里是韩信的故乡及封地。他走访了淮阴父老，了解到韩信等人的传闻。据说韩信自幼便有远大志向，他母亲死了，连埋的钱都没有，却选了个既高又宽的茔地，旁边可以住一万多户人家。司马迁便亲自到韩信母亲的墓地上去看了看，果然一点儿也不错！司马迁又渡淮水，沿泗水向北，到了鲁国都城（今山东曲阜）。这里是儒家的根据地，也是司马迁此次大旅行盘桓的时候最长的地方。他怀着崇敬的心情参观了孔子墓，看到孔庙中所收藏的孔子的衣、冠、琴、车、书等物件。对孔子的身世、学术等方面进行了认真的调查，对孔子的崇高人格无限景仰和向往，以至于留恋徘徊而不忍离去，他说：“余读孔氏书，想见其为人。适鲁，观仲尼庙堂车服礼器，诸生以时习礼其家。余祗回留之不能去云。”在深深体味了鲁地儒风之余，又到齐国的都城（今山东淄博市）游览了一番。在邹县，他去了秦始皇刻石颂德的邹峄山，并在此处向当地人学习饮酒、射箭的礼节，即《自序》中所谓“乡射邹、峄”。
司马迁经过齐鲁之游以后，也像当年孔子厄于陈蔡一样，困厄于鄱、薛、彭城。这都是山东南部和江苏北部之地。薛在滕县西南，是孟尝君田文的封地，后来司马迁在《孟尝君列传》中说：“吾尝过薛，其俗闾里率多暴桀子弟，与邹鲁殊；问其故，曰：‘孟尝君招致天下任侠奸人入薛中，盖六万余家矣！’世之传孟尝君好客自喜，名不虚矣。”彭城就是现在的徐州，丰（今江苏丰县）、沛（今江苏沛县）在其北，邳（今江苏邳县西南）在其中。这里是秦末农民起义的中心，汉初的重要人物多半生长于此。如汉高祖刘邦是沛郡丰县中阳里人，萧何是沛郡丰县人，曹参、周勃、樊哙、夏侯婴、周昌、周緤等都是沛郡人，卢绾与刘邦同里。张良虽不是这一带的人，但早年是在下邳亡匿，而遇见圯上老人的。项羽的籍贯是下相（今江苏宿迁县西）离沛、丰也很近。秦二世元年（公元前209年），陈胜、吴广在沛郡蕲县（今安徽宿县）揭竿起义，各地人民纷纷响应。刘邦在沛被萧何、曹参等人拥戴为当地起义军领袖“沛公”。楚汉战争时，刘邦的56万大军为项羽的3万精兵所败，赶得汉兵有10万余人挤到雎水里，雎水为之不流。这有名的古战场即在彭城及其东南一带。司马迁来到这一具有丰富历史遗迹的地区，虽然个人生活非常艰苦，但毫不影响他考察历史的兴趣。关于秦、汉之际许多重要人物微贱时的行迹，大都是此时采访所得。他说：“吾适丰沛，问其遗老，观故萧、曹、樊哙、滕公之家，及其素，异哉所闻！方其鼓刀屠狗卖缯之时，岂自知附冀之尾，垂名汉廷，德流子孙哉？”（《樊郦滕灌列传》）他所说的这些人，原来都出身于社会下层，在风云际会中成为王侯将相。萧何、曹参原为狱吏，后来官至相国；周勃原为给人治丧时的吹鼓手，也官至相国；樊哙本来是屠狗的，被封为舞阳侯；灌婴是卖缯的，被封为颖阴侯；夏侯婴是个车夫，也是刘邦少年时代的耍伴，封为滕公；周昌是个小吏，官为御史大夫；卢绾与刘邦既是同里，又是同日生，从小就十分友好”长大后，卢绾随刘邦起义，后来被封为燕王。至于刘邦当年为泗水亭长时，对廷中吏无所不狎侮，好酒及色，经常喝得烂醉，又喜欢说大话。如果不实地访求，是很难得到的。这些历史的实际情况。