下狱之后，司马迁有三个选择。
第一，是接受死刑。这在当时，其实是非常自然的选择，从战国到西汉，一直是危险系数极高的时代，意外死亡的事随时可能发生。相应的，那个年代的坦然赴死，相比今天容易得多。
贪生怕死难免“为天下笑”，重义轻生，却可能得到好评。事实上有气节的士大夫，多半会抢在死刑执行之前选择自杀，以免在大庭广众之下受辱。
但是，父亲嘱托的那部史书，也是自己这些年已经倾注无穷心血的史书还没有写完，这时候死，意味着前功尽弃。
第二，是花钱赎罪。按照当时的法律，如果能够拿出五十万钱，可以“减死一等”。司马迁拿不出这么多钱，也没有朋友愿意借钱给他，——朋友们也未必是吝啬，更多恐怕还是害怕借钱引火上身。
第三，选择死刑的替代刑“宫刑”。
司马迁已经只剩这条路可选了。于是他活了下来，汉武帝让他改任一个当时还只由宦官担任的职务，“中书令”。
司马迁很清楚，“行莫丑于辱先，诟莫大于宫刑”，这个选择，意味着今后自己将面对无穷的嘲笑。宦官是整个社会鄙视链的底层，高洁的士大夫们，只要和宦官发生一点牵连，就视为莫大的屈辱。一个本来优秀的人物，若是与宦官亲密一些，他的朋友就可能与之断交，他就要被逐出士大夫的社交圈，何况自己成为一个宦官呢？
尤其是在自己的家乡，司马迁从小就不被乡亲父老喜欢，他越成功，越证明父老们眼光拙劣。现在，司马迁因为说错了话而落到这个下场，他们一定喜闻乐见（“仆以口语遇遭此祸，重为乡党戮笑”）。
但司马迁还是选择坚持活下来。理由，也就是今天中小学生作文里反复引用的那句话：
人固有一死，或重于泰山，或轻于鸿毛。
司马迁墓，位于陕西省韩城市司马迁祠风景区
司马迁知道，现在就选择死亡，那真如鸿毛一般轻浮，如蝼蚁一般卑贱。他必须坚持活下来把那部后来被称为《史记》的书写完。他的生命只有与这部书融为一体，才能有泰山之重。
司马迁最终的结局，没有可靠的记录。有人说，他最终还是因为口出怨言，而被汉武帝处死。有人推测他是自杀，也有可能。汉武帝征和三年（前90）写《报任少卿书》的时候，司马迁《史记》肯定已经写完。而这封著名的书信，许多地方看来都不像只是写给任安的，而是一封遗书：处处流露着最大的事业已经完成，人生已无可留恋的感觉。
《史记·赵世家》里，写了一个很不可靠，却也许能体现司马迁心迹的故事：程婴受尽屈辱，终于把赵氏孤儿抚养成人，然后，他就选择了自杀，程婴说，我要去告诉逝者，这个重任，我已经完成了。
仿佛，司马迁就是程婴，《史记》就是他的赵氏孤儿。
司马迁死的时候，大约仍然没有得到亲族和父老的认同。司马氏祖辈的墓地，在家乡夏阳的高门原，而司马迁的墓地在芝川，远远隔开。这种屈辱的处理，和今天当地有关部门把司马迁视为重要的旅游资源，形成了鲜明对照。
自然，这一切毁誉，对司马迁来说，都已经轻于鸿毛。