就在司马迁勤于写作的同时，武帝迷上了求神问仙以求长生不老的法术。
有个山东来的道士叫做少翁，说他有办法让武帝在晚上看到死去的妃子李夫人；武帝不问真假，就封他为将军。这个道貌岸然的道士装神弄鬼，自己在绢布上画了一些奇形怪状的文字，让牛吞到肚子里，在作法的时候，就装模作样地说这头牛的肚子里有“奇书”。
武帝立刻下令把牛杀了，果然找到了“奇书”；但是被人识破，这部“奇书”的笔迹正和这位山东道士的一样。
骗局被拆穿，武帝大怒，就把这道士杀掉了。
司马迁以为，武帝这下子该醒悟了吧！可是他杀了山东道士，不久又怀疑自己是不是杀错了，深深地惋惜山东道士没有完成他的求仙计划。
武帝简直就像吃了迷魂药一样，时而觉悟，时而迷糊。一些献媚的大臣，为了逢迎武帝贪生怕死、求长生不老的心理，又推荐了许多能言善辩的道士给他。武帝总是执迷不悟，所以尽管发现道士骗了自己而把道士处死，又总认为道士可能是法力不够，神仙的长生不老术一定是有的。
朝中的一些别有用心的大臣，掌握了武帝的这种心理，暗地里勾结求神问仙的道士，迎合武帝的心思。
朝廷中不论大小祭典，原来是由司马谈等专门掌管天文、祭祀的史官来筹划，现在武帝却对他们不理不睬，只听信那班道士的胡诌。
这时候，又冒出一个狡猾的道士，名叫公孙卿。他到处宣扬说他拥有仙人的预言天书。那预言天书上写着：“我们汉朝的圣明贤君就是武帝。而圣明贤君应该‘封泰山’，到泰山去向天帝报告他治理国家的功绩，然后再到泰山旁的小山去向地神报告他已有办法永远治理天下。只要圣明贤君能举行这个‘封禅（shan）’的祭礼，就能成为神仙，登上天庭了！”武帝听到这种论调，心里真是飘飘欲仙；便立刻召见公孙卿，问怎样才能成仙。
公孙卿就提出了三个务件：皇帝必须经常到名山去巡游；巡游只是能有更多的机会和神仙相遇，要成仙还要修炼到能和神仙沟通才行；黄帝修炼了一百多年才能和神仙沟通，所以要有耐心，而且禁止老百姓议论反对。
这三个条件，任何一个明眼人都看得出来，那是一条走不完、也看不到结果的路。公孙卿用这种花言巧语来骗武帝，武帝偏偏看不出来，还信以为真。
就这样，武帝心服口服地开始照着公孙卿的说法，到各大名山和黄帝曾去过的地方巡游。司马迁有机会以郎中的身份随侍武帝，到了许多以前没游历的地方。
司马迁在34岁（公元前112年）那一年，跟随武帝巡游到了崆峒山（今甘肃省平凉县西）。武帝怀着求仙的心情而来，司马迁却把握这个机会，采访当地父老，了解有关黄帝的一些传闻。