中平四年的时候，太尉崔烈被罢免，当时担任大司农的曹嵩贿赂中官以及给西园捐钱一亿万，得以太尉之职，位列三公。不过曹嵩的这个太尉只当了半年就被罢免，随后曹嵩回到了谯县老家。
董卓之乱的时候，曹操在陈留骑兵，曹嵩以家财相助，但是又害怕战场之上的刀兵，便带着自己的少子曹德到徐州琅琊郡避难。
而徐州刺史陶谦也是看到了曹操的发迹，觉得曹操这个人不简单，总有一天会困龙升天，便想着结好曹操，为自己的子嗣谋求一个出路。正好这个时候曹嵩要去兖州，路过下邳，陶谦便是将曹嵩迎到了下邳城中，每日好酒好菜的款待，为的就是让曹嵩能够念自己的好，以达到交好曹操的目的。
不得不说，陶谦的计策还是很有效的，曹嵩也觉得陶谦这个人不错，也打算在曹操面前给他说几句话，反正是顺手的事情嘛。
曹嵩要走的时候，陶谦安排自己的部将张率五百精兵护卫，张本来是黄巾余党，后面才投降的陶谦，但是贼性未改，在护卫曹嵩的途中，贪图曹嵩随身携带的财物，又因为一路上被曹嵩轻视而心有不忿，于是，在一次突遇大雨的时候，张带着自己手下的头目将曹嵩一家杀了，放火将他们投宿的寺庙也给烧了，之后前往淮