公元前621年，晋襄公去世，大夫士会被派往秦国，接襄公的弟弟公子雍回晋国继承君位。但晋国执政赵盾突然又改变主意，立了襄公之子做国君。于是，在秦军护送下正赶往晋国的公子雍怎么处理就成了难题。最后赵盾干脆出兵攻打秦军，把他们都赶回秦国。
这样一来，士会也就只好滞留在秦国。他是一个见识谋略都非常出众的人，多次为秦国出谋划策，给晋国制造了很大的麻烦。所以晋国人后悔，又设法骗秦国人把士会放回了晋国。
而士会的随行人员，就没有这样的好运了，他们只好从此永远生活在秦国的土地上。这当中，就包括司马迁的祖先。
因为这样有点荒唐的经历而成为秦人，司马家在秦国开头几代人的生活大概诸多磨难（比如士会回国后，他们可能经历严厉的政审）。但后来，终于慢慢完全融入，开始把自己当作一个秦国人来思考问题，努力奋斗。
司马错雕像，位于陕西省咸阳市两寺渡公园
《周礼》中说，夏官司马掌管国之军政；在晋国，司马则是军队里的执法官。春秋贵族的氏，往往来自担任的官职，所以司马家的祖上，可能在晋国曾担任过这个官职。到秦国后，仍在军方谋求发展。而其中成就最高的人物，无疑是活跃于公元前三四世纪之交的司马错。
可能得益于商鞅变法带来的阶层跃升空间，300多年来默默无闻的司马氏，突然涌现了司马错这么一位统领大军，坐镇方面的大将。司马错平灭了巴蜀，多次重创楚国，可谓战功赫赫，按说在《史记》的列传中拥有一席之地，也完全够格。但司马迁没有给祖先这个待遇。有学者注意到，秦昭襄王二十七年（前280），司马错攻取了楚国的黔中郡，而昭襄王三十年（前277），秦国再次攻取黔中郡，统帅却换了人。则是这两次秦国攻取黔中郡之间，楚国必定一度收复了黔中。司马错从此再也没有在史书中出现，也许，他在这次战败中丧命，或者即使没有战死，按照秦国的法律也只有死路一条。
司马错的孙子司马靳，是赫赫有名的武安君白起手下的一员战将。战国历史上最恐怖的屠杀，坑杀赵军四十万的长平之战，司马靳是重要参与者。后来，白起在杜邮亭被赐死，司马靳也在赐死名单之中。白起是无数军事爱好者的偶像，也是人道主义者最痛恨的屠伯（有“快心千载杜邮剑”之类的诗句），关于白起的各种毁誉，司马靳都难免要分一杯羹。