太史令是一个什么样的职务，太史令和太史公这两个称呼究竟是什么样的关系，是两千年来学者们聚讼不已的问题。这里取一个折中的说法：
作为一种职业，“史”和古老的巫术有关，太史尤其精通天地阴阳鬼神的各种消息，当然，“史”也掌握着大量关于过去的记忆，但目的并不是撰写史书，而是利用这些知识，来给统治者提供参考。
在西周时代，这些知识被认为非常重要，所以“史”也就有崇高地位，太史寮是重要的实权部门。但春秋以来，政治家们越来越意识到，无论是鬼神对人事的影响力度，还是过去对现在的参考价值，其实都相当可疑。所以，“史”也就不能不越来越被边缘化。在秦代的官僚系统中，太史令已经只是一个微不足道的小官。
但是，汉武帝推崇儒术，弘扬传统文化的热情，弥漫在大汉官场的空气中。太史令这个职务曾经地位尊崇被很多人注意到了，有人甚至宣扬在一些礼仪性的场合，它位次更在丞相之上。于是，尊称太史令为太史公成了流行，而一种美称一旦使用长了，大家习以为常，反而会忘掉（或至少淡化）它的赞美色彩，变成了一般性的称谓——类似我们今天听到“帅哥”“美女”之类的称呼，都知道它很多时候和颜值无关。所以后来司马迁有时会自称“太史公”，也就毫不奇怪了。
司马迁像
太史令司马谈是一个非常优秀的学者，学问广博、思路清晰，更重要的是善于直击问题的核心。《史记》最后一篇《太史公自序》中，收录了司马谈的一篇文章《论六家要旨》。司马谈把先秦诸子纷繁复杂的学说，归结梳理为阴阳、儒、墨、名、法、道德六大流派，并对每个流派都做了切中肯綮的评点。司马谈之前，道家、法家这些概念，几乎并不存在，那时人们读到的是一个个的“子”，司马谈之后，人们才习惯于把诸子分类于某个“家”。可以说，是这篇文章奠定了后世诸子研究的基本框架。
司马谈还有更大的学术雄心，他觉得孔子之后，缺乏一部伟大的著作，能统摄一切事实，并把伟大的治国之道寄寓其中。之前列国争雄的乱世，没有这样的著作也就罢了，生于大汉天子的治下，贤明的君主、忠义的臣子如此之多，仍然没有诞生一部足以继承《春秋》的作品，那就怎么都说不过去了。
司马谈可能很早就意识到穷自己一生，也无法完成这项工程浩大的事业，所以很早就着力培养自己的儿子司马迁，为他创造了极好的学习条件和工作机遇。这里需要格外强调的是：司马谈的政治情商极高。
这一点，不但他的儿子司马迁望尘莫及，历来也较少为学者所注意。