于是按次序论述和编写其书。写作的第十年，遭受李陵之祸，被关进了监狱。在狱中长叹道：“这是我的罪过啊！身体残废没有用了。”事后仔细思量道：“《诗》、《书》的文义之所以含蓄隐约，是作者藉以更好地表现自己的深沉思想。”他终于着手记述从黄帝开始，直到武帝获麟为止的历史。其篇目为： 《五帝本纪》第一， 《夏本纪》第二， 《殷本纪》第三， 《周本纪》第四，《秦本纪》第五，《始皇本纪》第六，《项羽本纪》第七， 《高祖本纪》第八， 《吕后本纪》第九，《孝文本纪》第十，《孝景本纪》第十一，《今上本纪》第十二。《三代世表》第一，《十二诸侯年表》第二，《六国年表》第三，《秦楚之际月表》第四，《汉诸侯年表》第五，《高祖功臣年表》第六，《惠景间功臣年表》第七，《建元以来侯者年表》第八，《王子侯者年表》第九，《汉兴以来将相名臣年表》第十。 《礼书》第一， 《乐书》第二，《律书》第三，《历书》第四，《天官书》第五，《封惮书》第六，《河渠书》第七，《平准书》第八。《吴太伯世家》第一， 《齐太公世家》第二，《鲁周公世家》第三，《燕召公世家》第四，《管蔡世家》第五，《陈杞世家》第六，《卫康叔世家》第七，《宋微子世家》第八，《晋世家》第九，《楚世家》第十，《越世家》第十一，《郑世家》第十二，《赵世家》第十三，《魏世家》第十四， 《韩世家》第十五， 《田完世家》第十六，《孔子世家》第十七，《陈涉世家》第十八，《外戚世家》第十九，《楚元王世家》第二十，《荆燕王世家》第二十一，《齐悼惠王世家》第二十二，《萧相国世家》第二十三，《曹相国世家》第二十四，《留侯世家》第二十五，《陈丞相世家》第二十六，《绛侯世家》第二十七，《梁孝王世家》第二十八，《五宗世家》第二十九，《三王世家》第三十。 《伯夷列传》第一， 《管晏列传》第二，《老子韩非列传》第三， 《司马穣苴列传》第四，《孙子吴起列传》第五， 《伍子胥列传》第六，《仲尼弟子列传》第七，《商君列传》第八，《苏秦列传》第九，《张仪列传》第十，《樗里甘茂列传》第十一，《穣侯列传》第十二，《白起王翦列传》第十三，《孟子荀卿列传》第十四，《平原虞卿列传》第十五，《孟尝君列传》第十六，《魏公子列传》第十七，《春申君列传》第十八，《范睢蔡泽列传》第十九，《乐毅列传》第二十，《廉颇蔺相如列传》第二十一，《田单列传》第二十二，《鲁仲连列传》第二十三，《屈原买生列传》第二十四，《吕不韦列传》第二十五，《刺客列传》第二十六，《李斯列传》第二十七，《蒙恬列传》第二十八，《张耳陈余列传》第二十九，《魏豹彭越
列传》第三十，《黥布列传》第三十一，《淮阴侯韩信列传》第三十二，《韩王信卢绾列传》第三十三，《田儋列传》第三十四，《樊郦滕灌列传》第三十五，《张丞相仓列传》第三十六，《郦生陆买列传》第三十七，《傅靳挪成侯列传》第三十八，《刘敬叔孙通列传》第三十九，《季布乐布列传》第四十，《袁盎晁错列传》第四十一，《张释之冯唐列传》第四十二，《万石张叔列传》第四十三，《田叔列传》第四十四，《扁鹊仓公列传》第四十五，《吴王濞列传》第四十六，《魏其武安列传》第四十七，《韩长孺列传》第四十八，《李将军列传》第四十九，《卫将军骠骑列传》第五十，《平津主父列传》第五十一，《匈奴列传》第五十二，《南越列传》第五十三，《闽越列传》第五十四，《朝鲜列传》第五十五，《西南夷列传》第五十六，《司马相如列传》第五十七，《淮南衡山列传》第五十八，《循吏列传》第五十九，《汲郑列传》第六十，《儒林列传》第六十一，《酷吏列传》第六十二，《大宛列传》第六十三，《游侠列传》第六十四，《佞幸列传》第六十五，《滑稽列传》第六十六，《曰者列传》第六十七，《龟策列传》第六十八，《货殖列传》第六十九。
汉朝继承了五帝遣业，接续被中断了的三代事业。周朝王道衰微，秦朝毁弃了古代文化典籍，焚毁了《诗》、《书》，所以造成明堂、石室金柜中的玉版图籍散乱了。汉朝建立，萧何颁布了律令，韩信整顿了军法，张苍制定了章程，叔孙通制订了礼仪。于是品学兼优的文入学者逐渐被启用，《诗》、《书》之类的典籍，在各地不断被发现。自从曹参荐用盖公，提倡黄老学说，贾谊、晁错通晓申不害、韩非的法家学说，公孙弘因儒学而显达，一百年来，天下的遣文旧事无不汇集于太史公处。太史公父子相继担任这一职务，太史公说：“啊！我的祖先曾担任这一官职，扬名于唐尧虞舜之际，到了周朝再次主管这一工作。所以司马氏世世代代主管文史星历，直到我啊，这一传统我一定恭敬不忘啊！”于是搜集天下散失的历史故事和传说，对帝王兴起的业绩，追本溯源，探究始终，观察朝代盛衰的原因，依据事实进行论述考订。略述三代，详绿秦汉，从黄帝写起，直到当朝皇帝，着十二篇本纪，已经列出大纲了。同一时代或不同时代的纷繁历史事件，年代交叉难以明辨，因此作了十表。礼乐增减，律历改革，兵法权谋、山川形势、鬼神问题，天人之间的关系，经济的变通，作了八书。像二十八宿围绕着北斗、三十根辐条共聚一毂而运行无穷一样，辅佐得力的大臣和帝王相配合，忠诚行道，奉卫皇上，因此为他们作了三十世家。扶持正义，慷慨超群之士，他们不使自己失去时机，而立功名于天下，为他们作了七十列传。全书总共一百三十篇，五十二万六千五百字，这就是《太史公书》。本篇《自序》概括地阐明述作宗旨，就是拾取遣佚的史事以补充六艺之缺，成为一家之言。它协调了有关<六经》的各种不同解释，整齐了百家杂说。把正本藏在名山，副本留在京师，以等待后世的圣人君子观览。列传的第七十篇，是司马迁的自叙。然而在一百三十篇中缺少了十篇，有目录而无内容。
司马迁受刑以后，做了中书令，职高位尊。他的旧友益州刺史任安写信给他，用古贤臣的标准要求他。司马迁回信说：少卿足下：早些时候承蒙您写信给我，教我谨慎地接人待物，并担负起向皇帝举荐人才的应尽义务。信中情真意切，好像责备我没遵从您的意见行事，而听从了世俗流言，我是不敢这样的。我虽然才能平庸，但也聆听过德高望重的长者的遣教。衹是自己认为身体已经残废，而又处于低贱的地位，稍有举动就会受到责难，主观上想有所作为，客观上反而会招致损害，因此情绪苦闷而又找不到知心的朋友去诉说。俗话说：“为了谁而这样做，又有谁来听我说呢？”所以，钟子期一死，伯牙终生不再鼓琴。为什么呢？因为士为知己者而效力；女子为喜爱自己的人而打扮。像我这样身体残废的人，即使怀有随侯珠、和氏璧那样的可贵之材，有如许由、伯夷那样的高尚品德，终究也不能引以为荣，相反恰好遭人耻笑而使自己更加污秽。早该给你回信了，刚好随从皇帝束巡归来，又忙着烦琐的事务，彼此相见的日子越来越少了，而我又匆匆忙忙没有一点儿空闲得以详尽说明我的心意。现在你身遭大难，再过一个月就接近行刑日期了，我又将随从皇帝去雍地，恐怕转眼之间你就会遭到不幸。这样，我将最终不可能向你抒发内心的愤懑，而你在九泉之下的魂灵也会抱恨无穷。请允许我说说自己的固陋见解吧。好久没给你回信，请原谅。