因为在长安任职，又逢“汉之得人，于兹为盛”的汉武盛世，司马迁得以结识汇聚于长安的天下贤能之士。包括贾谊之孙贾嘉，公孙季功（或为公孙弘），樊哙之孙樊他广，平原君朱建之子，冯唐之子冯遂，田叔少子田仁，梁人壶遂，杜陵苏建等。然而，对司马迁影响最大的莫过于董仲舒与孔安国。

司马迁与上大夫壶遂讨论文学之时曾说过：“我听董生说：‘周朝王道衰败废弛，孔子担任鲁国司寇，诸侯害他，卿大夫阻挠他。孔子知道自己的意见不被采纳，政治主张无法实行，便褒贬评定二百四十二年间的是非，作为天下评判是非的标准，贬抑无道的天子，斥责为非的诸侯，声讨乱政的大夫，为使国家政事通达而已’”。而纵观《史记》可知董仲舒之公羊学对司马迁的影响主要为：其一，公羊家颂扬汤武革命尊王攘夷大一统《史记》贯串全书的主要观念；其三，公羊家崇让、尚耻之义是《史记》褒贬历史人物的道德标准。

因孔安国为孔子后人，家中有当世失逸的《古文尚书》十余篇，并兼通今古文学。故而司马迁亦尝就《古文尚书》问故于孔安国，学习古文经学的故训，以及别择古文资料的古文学，掌握考信历史的方法。而《古文尚书》作为整个古文学的核心，司马迁写上古三代史亦从中作了大量的引用。

司马迁曾在《史记·孔子世家》给给予孔子“高山仰止，景行行止。”的高度赞扬。其亦吸收孔子学说和六艺经传的精华，效法孔子精神，继《春秋》作《史记》，完成一代大典。

汉武帝太初元年（前104年），汉朝自建立以来已经102年了。汉室建立之初，诸事草创，大部分都沿袭了秦朝的制作。历法则采用了较为贴近的《颛顼历》。尽管如此，《颛顼历》对朔、晦的计算亦与实际情况相异。于是时任太史令的司马迁和大中大夫公孙卿以及壶遂等人向汉武帝进言说：“《颛顼历》已经不适合现在的情况了，因该重新定制历法。”而御史大夫儿宽恰好懂得经学，汉武帝便命令儿宽去与众博士商议修改历法等事情。同年，武帝命令公孙卿、壶遂、司马迁、侍郎尊、大典星射姓等人讨论定制《汉历》。

汉武帝天汉二年（前99年），武帝想让李陵为出酒泉击匈奴右贤王的贰师将军李广利护送辎重。李陵谢绝，并自请步兵五千涉单于庭以寡击众，武帝赞赏李陵的勇气并答应了他。然而，李陵行至浚稽山时，却遭遇匈奴单于之兵，路博德援兵不到，匈奴之兵却越聚越多，粮尽矢绝之后，李陵最终降敌。武帝愤怒，群臣皆声讨李陵的罪过，唯有司马迁说：“李陵侍奉亲人孝敬，与士人有信，一向怀着报国之心。他只领了五千步兵，吸引了匈奴全部的力量，杀敌一万多，虽然战败降敌，其功可以抵过，我看李陵并非真心降敌，他是活下来想找机会回报汉朝的。”然而，不久后去迎接李陵的公孙敖无功而还，谎报李陵为匈奴练兵以期反击汉朝，武帝便杀了李陵全家，而司马迁也以“欲沮贰师，为陵游说”被定为诬罔罪名。诬罔之罪为大不敬之罪，按律当斩。

面对大辟之刑，慕义而死，虽名节可保，然书未成，名未立，这一死如九牛亡一毛，与蝼蚁之死无异。想到文王拘于囚室而推演《周易》，仲尼困厄之时著作《春秋》，屈原放逐才赋有《离骚》，左丘失明乃有《国语》，孙膑遭膑脚之刑后修兵法，吕不韦被贬蜀地才有《吕氏春秋》传世，韩非被囚秦国，作《说难》和《孤愤》，《诗》三百篇，大概都是贤士圣人发泄愤懑而作。终于，在那个“臧获婢妾犹能引决”的时代，司马迁毅然选择了以腐刑赎身死。至此，司马迁背负着父亲穷尽一生也未能完成的理想，面对极刑而无怯色。在坚忍与屈辱中，完成那个属于太史公的使命。

司马迁有一个女儿嫁给杨敞。杨敞在汉昭帝刘弗陵时曾官至宰相，与司马迁之女生二子：大儿子杨忠，小儿子杨恽。杨恽自幼聪颖好学，他的母亲把自己珍藏着的并且深爱着的《史记》，拿出来给他阅读。杨恽初读此书，便被书中的内容吸引住了，爱不释手，一字字、一篇篇，非常用心地把它读完。杨恽成年之后，还把它读了好几遍，每读一遍总是热泪盈眶，扼腕叹息。在汉宣帝的时候，杨恽被封为平通侯，这时候他看到当时朝政清明，想到他的外祖父司马迁这部巨著正是重见天日的时候，就上书汉宣帝，把《史记》献了出来，从此天下人得以共读这部伟大的史著。

公元前91年（征和二年），《史记》全书完成。全书130篇，五十二万六千五百余字，包括十二本纪、三十世家、七十列传、十表、八书，对后世的影响极为巨大，被称为“实录、信史”，被鲁迅先生誉为“史家之绝唱，无韵之离骚”，列为“前四史”之首，与《资治通鉴》并称为“史学双璧”。

司马迁借老子之口说出了被他改造过和发展了的至治理想。保留了道法自然的内核，有意识地剔除了反映原始社会“小国寡人”和奴隶社会“使民”如何的思想，体现了深得道家精髓的“与时迁移”思想。其核心是天道自然，要旨是人民的足欲。

在两汉时期的星象家中，首先要提出司马迁。大家都知道司马迁是一个伟大的史学家，而不知他也是一位对天文星象精到造诣的专家。其实只要仔细读其《史记》的《天官书》《律书》《历书》，就可明白称他为天文星家专家决非虚誉。

司马迁继承父亲遗志遗业，完成“推古天变”之任务，并明确表述为“通古今之变，究天人之际”，其结论表述在《天官书》中，即据春秋242年之间日食三十六、彗星三见等星象，联系点天子衰微、诸候力政、五伯代兴及到战国及秦汉之际的社会变乱动荡，而总结出天运三十年一小变，一百年一中变，五百年一大变，三大变为一纪，三纪而大备的“大数”，最后才认为“天人之际续备”。这是司马迁天文学之应用的最重要之范例，在整个星学历史上占有最高地位。

此外，司马迁又总结了战国以来的天文学的基本原则，表述如下：“我仔细检查史书的记裁，考察历史上的事变，发现在一百年之中，五星皆有逆行现象。五星在逆行时，往往变得特别明亮。日月的蚀食及其向南向北的运行，都有一定的速度和周期，这是星象学所要依据的最基本的数据。而星空中的紫宫星垣和东西南北四宫星宿及其所属的众多星辰，都是位置不变的，它们的大小程度和相互向的距离也是一定不变的，它们的分布排列象征着天上五官的位置。这是星象学中作为‘经’亦即不变的依据。而水、火、金、木、土星则是上天的五位辅住，它们的出现隐伏也有一定的时间和周期，但其运行速度快慢不均。这是天文学中的‘纬’亦即经紫变动的部分。把这些固定的和变动的两种星象结合起来，就可以预测人事的变化了。”

关于司马迁的生年，众说纷纭，学界主要有两种观点：其一是张守节、王国维等主张的生于汉景帝中元五年（前145年）；其二是司马贞、桑原骘藏、郭沫若等主张的生于汉武帝建元六年（前135年）。

司马迁在其著作《史记》中对本朝（汉朝）多有负面描述，即所谓“述汉非”的问题，因此许多人认为司马迁被汉武帝处以宫刑，故在《史记》中诽谤汉朝来泄愤，故有“谤书”的争议。如东汉末年王允言：“昔武帝不杀司马迁，使作谤书，流于后世”，此外王肃、李贤、刘知几、李几、王夫之等均有类似批评。有学者认为《史记》“贬天子”并没有背离《春秋》之义，而是明显存在着思想上的内在继承与演进，并非私人泄愤所作的“谤书”。司马迁通过“直书”的变式——“曲笔”的方式，以秦为鉴，暗针时弊，从而承《春秋》“讥天王”之义而至于“贬天子”之法，以规正汉武帝之失，进而达到 “反王道之本”为后世立训的目的。

陕西省韩城市以南，在俯视黄河的梁山北端有一座祭祀司马迁的建筑。建于此处的司马迁祠始于西晋永嘉四年（310），郡太守建石室、立碑、植柏树。西晋怀帝司马炽祭祀过同姓的司马迁。北宋宣和七年（1125）曾修缮墓垣，建寝宫、献殿、山门。其后，元明清时期又不断修缮改筑，成为今天的祠堂。此司马迁祠的寝宫背后，有司马迁的墓。实际上这不是埋葬墓，只是后人建造、西晋时修缮的。现存圆形坟丘，高2.15米，周边13.19米，墙面铺装以八卦、花纹砖饰。坟丘之上是一株五叉分枝的大古柏。