司马氏世代为太史，整理和论述历史。《隋书·经籍志》说：“谈乃据《左氏春秋》、《国语》、《世本》、《战国策》完整的史籍记载。司马迁是绍继《春秋》，并以汉武帝元狩元年“获麟”，撰写《史记》。司马迁的外孙杨恽经过努力，才开始流传，但到东汉时已经有了残缺。
今本《史记》一百三十卷，篇数跟司马迁自序所说的相符。但《汉书·司马迁传》说其中“十篇缺，有录无书”。三国魏张晏注：“迁没之后，亡景纪、武纪、礼书、乐书、兵书（按：即律书）、汉兴以来将相年表、日者传、三王余篇”，班固在《汉书·艺文志》中著录冯商所续《史记》七篇；刘知几认为续补《史记》的不只是褚、冯两家，而有十五家之多。
《史记》有两部，一部在司马迁的工作场所（宫廷）；副本在家中。在汉宣帝时期，司马迁的外孙杨恽开始把该书内容向社会传播，但是篇幅流传不多，很快就因为杨恽遇害中止。
《史记》成书后，由于它“是非颇谬于圣人，论大道则先黄老而后六经，序游侠则退处士而进奸雄，述货殖则崇势利而羞贱贫，此其所蔽也。”（《汉书·司马迁传》），被指责为对抗汉代正宗思想的异端代表。因此，在两汉时，《史记》一直被视为离经叛道的“谤书”，不但得不到应有的公正评价，而且当时学者也不敢为之作注释。
在西汉即使诸侯都没有全版的《太史公书》，东平王向朝廷要求赏赐宫廷中的《太史公书》也遭到拒绝。因为《史记》中有大量宫廷秘事，西汉严禁泄露宫廷语，因此只有宫廷人员才能接触到该书。汉宣帝时褚少孙在宫廷中阅读该书，其中已经有些篇幅不对宫廷官员开放，到班固父子时，宣称缺少了十篇，班固家被皇室赐予《太史公书》副本，其中也少了十篇。
司马迁创作的《史记》比较广泛地传播流行，大约是在东汉中期以后。成为司马迁著作的专称，也开始于这个时候。据现知材料考证，最早称司马迁这部史著为《史记》的，是东汉桓帝时写的《东海庙碑》。在这以前，《史记》都称为《太史公书》、《太史公记》或简称《太史公》。
东汉朝廷也曾下诏删节和续补《史记》。《后汉书·杨终传》云，杨终“受诏删《太史公书》为十余万言”。表明东汉皇室依然不愿全部公开《史记》，只让杨终删为十多万字发表。被删后仅十余万言的《史记》，在汉以后即失传，以后一直流传的是经续补的《史记》。