西漢時代，太史令還兼有皇家天文台台長的職責，諸如天文、氣象、曆法、星占等涉及“天”的迷信與科學事宜，都歸太史令掌管，它需要有“文史星曆”專門知識的人才能充任。司馬遷正是這樣的理想人選。
司馬遷擔任太史令後，在改曆工作中所表現出的忠誠和才幹，博得了漢武帝的賞識和信任。事業上的成功使司馬遷的心情十分舒展，他有更充沛的精力去考慮將父親的遺命變為現實。他認為應該像父親說得那樣，繼孔子之後，在曆史著述上作一番努力，於是，他決心承擔起這個艱巨而又神聖的使命。
經過多年的苦心準備，漢武帝太初元年（公元前104年），司馬遷決心將他們父子幾代人的理想變為現實。他提起如椽大筆，開始了他那鴻篇巨製《史記》的寫作。
正當司馬遷雄心勃勃，準備建造他那文化史上最輝煌的大廈時，一場巨大的災難將他推進了深淵。
這場災難的導火線是李陵一案。李陵是名將李廣的孫子，精於騎射，有祖父李廣遺風，謙虛下士，為人守信，不貪財，有口皆碑。漢武帝曾派他率領八百騎兵深入匈奴領地二千餘裏，偵察地形。回來後任騎都尉，率兵士五千人，在酒泉張掖一帶，鎮守邊防。天漢二年（公元前99年）初秋時節，漢武帝再一次要為貳師將軍李廣利立功封侯創造機會，命他率三萬騎兵出酒泉攻打匈奴右賢王於天山，並命令李陵同行，替李廣利管理軍糧、軍械等輜重。李陵因瞧不起這位無才無德、靠裙帶關係爬上來的將軍，不願意接受這個差使，便在漢武帝召見時表示，希望能獨自帶兵去蘭幹山以南活動，這樣可以分散匈奴軍隊的注意力，以減少對李利所部的壓力。漢武帝聽後不悅，並說朝廷再也派不出騎兵讓他獨當一麵了。李陵仍然堅持自己的意見並認為朝廷可以不必增派騎兵。他原來所帶領的五千步兵，都是荊楚勇士，力能扼虎，箭法高超，一定能以少勝多，出奇製勝，直搗匈奴的巢穴。在李陵的一再請求下，漢武帝勉強同意了他的方案，同時派駐守在居延的強弩都尉路博德為其後衛。不料這位老資格的將軍卻不甘心作為李陵的接應，便心生一計向漢武帝上書說，現在正是秋高馬肥的季節，敵人兵強馬壯，恐怕不適宜與其交戰。還是讓李陵留下來，等到明春，我與他各領五千騎兵一起出擊，定能捉住單於。漢武帝看到這份奏書十分生氣，懷疑李陵說下大話卻又害怕，指使路博德編出這些理由。於是詔令李、路立即出兵，不得違誤期限。
李陵接到詔令後隨即領兵從居延出發，北擊匈奴。最初，李陵所部長驅直入，深入敵境未遇抵抗，進展相當順利，便派部將回報。漢武帝接報後十分高興，朝中諸大臣無不舉杯祝賀。豈料，就在這時，內部出了叛徒，有個名叫管敢的人投降了匈奴，將李陵沒有援軍、射矢將盡的機密告訴了單於。單於得到這一情報後親自率領重兵，將李陵軍逼入狹穀團團包圍。匈奴騎兵從三萬增加到八萬，數十倍於漢軍，大有一舉殲滅漢軍的氣勢。陷入敵軍重圍中的李陵軍英勇奮戰，且戰且退，經過十幾天的浴血激戰，殲敵一萬多人。但終因寡不敵眾，在離邊塞僅有一百多裏的地方，矢盡糧絕，五千壯士死傷殆盡，李陵也成了匈奴的戰俘並最後投降了匈奴。
再說貳師將軍李廣利，雖然領有精兵三萬餘人，一路上未遇匈奴主力。但這個庸將一向貪生怕死，隻與匈奴軍遭遇了幾次就損失折將，落荒而逃。
漢軍連遭敗績的消息傳來，整個朝廷都為之震動。漢武帝見兩路兵敗，更是食不甘味，坐立不安。漢武帝本希望李陵在兵敗路絕之時，能戰死全節，給漢王朝和他自己挽回一點麵子。後來卻聽說李陵做了俘虜且投降了匈奴，大為氣惱。於是便召集朝臣商議處置的方案。大臣們深知李廣利作為漢武帝寵姬的哥哥在朝廷中的地位，不敢對他有更多的責備，於是將兵敗匈奴的全部責任和氣憤全傾注到李陵一人身上。有的甚至火上加油地說李陵辜負天恩，剛愎自用，喪師辱國，罪在不赦，其家屬也應連坐等，極力慫恿漢武帝重重治罪。
在場的司馬遷卻越聽越不是滋味，心想，幾天前還在盛讚李陵功勞的這些人，今天卻又痛罵李陵想置他於死地。相反，對敗將李廣利卻不敢責備，胸中很覺不平。因此，當漢武帝召問他對李陵事件的看法時，司馬遷以自己對漢武帝的“拳拳之忠”，以及坦率、耿直的性格，力排眾議，大膽地為李陵辯護。
司馬遷說：“我和李陵都在宮中任職，沒有甚多交往，甚至不曾在一起飲過酒，說不上有什麼特別的情誼。但我了解他平時的為人，是個能自守節操的出眾人才。他侍奉雙親很孝敬，待人接物講信用，平時廉潔奉公，不貪圖和索取分外的財物。能分別尊卑長幼而禮貌待人，謙恭自約，禮賢下士，常常想著奮不顧身地為國家的急難而獻身。他平素所含蘊的品德，我以為具有國家傑出人才的風範。作為一名臣子，出於寧肯萬死不求一生的考慮，奔赴國家的危難，這已經是難能可貴了。如今他一有過失，那些平時貪生怕死，隻想保全自己和家室私利之徒，卻任意誇大、製造嚇人的罪名強加於他，對此我實在感到不安和痛心。