陶侃出生在鄱阳郡的一户普通家庭中，他的父亲陶丹曾经在东吴担任将军一职，然而后来东吴被灭，无奈之下陶丹选择回到故乡继续做一名普通的农民。
日子过得还算舒适，但是在陶侃六岁的时候，父亲却去世了，于是母亲便靠着纺织继续供陶侃读书。在《晋书》中也记载了陶侃与其母亲的诸多典故。除此之外，陶侃的母亲还与孟子之母，岳飞之母，还有欧阳修之母共称为“四大贤母”。
而陶侃也没有让母亲失望，他自幼便对经史和兵书展现出了极大的兴趣，于是他勤奋好学，不浪费一丝一毫的时间。但是在那个时代，他虽然拥有远大的志向，但当时并没有科举制度，所以对于身为平民的他进入仕途是十分困难的。
所以他只能先在地方做一名小小的官吏，负责他们那里的鱼市交易。有一天，他派人给自己的母亲送去一条腌鱼以表孝顺，但是他的母亲看都没有看，便将腌鱼直接退回，还告知他说：“你这样利用职位之便而谋取小利来孝顺我，我怎么能高兴呢？”陶侃自知自己的行为有错之后，便在之后的行事之中对于自己的行为严格要求，这也使得他在邻里之间的名声变得越来越大，越来越好，受到邻居的爱戴。
除去陶侃自己的努力，他的母亲也仍旧竭尽自己的努力让儿子增长见识、结交好友。鄱阳郡的孝廉就曾经到陶侃家里进行拜访，然而由于陶侃家中贫困，所以没有好的东西来款待他，于是陶母便悄悄将自己的头发割下，到市集上去换取酒菜，晚上还将自己的草席弄碎给客人喂马。
后来鄱阳郡的孝廉知道了这件事情，便感叹“有其母必有其子”，有这样优秀的母亲，儿子也必定优秀。之后他也积极向太守举荐陶侃，陶侃也因此得到了机会，可以进入仕途，展现自己的才能。
然后据史书记载，还未等到陶侃功成名就，他的母亲便早早去世了。这个时候的陶侃伤心欲绝，却又发现自己中唯一的一头牛也走丢了，于是便焦急寻找，在半路遇到一位老人，这位老人说在前面的山中见到一头牛卧在那里睡觉，还说若将人在那里安葬，之后此家必将飞黄腾达。说完这句话，那个老人便不见了。陶侃听从老人的话，在山中找到了自家丢失的牛，还将自己的母亲葬到了老人所说的地方。
在那之后，陶侃全身心投入仕途之中，他也逐步受到了朝廷的重用。他没有辜负朝廷对他的期待，屡建功劳，之后成为了一代名臣，甚至官至太尉、还封爵为长沙郡公。在公元332年，他还被晋成帝封为大将军，还准许他可以带剑上殿。
然而陶侃十分谦虚礼让，拒绝了这个殊荣，依旧安心做好自己的事。在晚年的时候位高权重的陶侃自知物极必反这个道理，所以他便决定不再参与朝廷之中的是是非非，他的这个做法不仅保住了富足的家产，还让他后世的子孙保住了前途。
两年之后，陶侃去世，那年他76岁。晋成帝在其去世之后还追封他为大司马，赐谥号为桓，用太牢之礼祭祀。