受先帝宏恩，自当善辅其孤，或者翌日死于阵上，总好过畏罪而自刭。譬如赵氏孤儿事，李景年已先为公孙杵臼矣，我等又岂能不为程婴啊？”
乔泰最终打消了自杀的念头，但说平阳我是不能回去的——“君可护送先帝灵柩，返回平阳，我则南下以守临汾、绛邑。晋人闻我国乱，必然北犯，则我若能守住两城，亦可稍减罪愆；若不能守，乃与城池携亡，不负先帝之恩！”
于是召集残兵数千人，先找个风光秀丽的地方，秘密把刘粲给掩埋了，其后两员胡将便洒泪而别，呼延实护着刘聪灵柩返归平阳，乔泰则直向临汾、绛邑而来。
临汾、绛邑城内，尚有留守兵马两三千人，但此前靳氏经过，匆匆接走了家眷，城内人心就开始不稳，导致流言满天飞。随即便有逃兵复归——因为不少都是刘粲临时在两郡征募的兵卒——于是咸闻刘粲已死的消息，“呼啦”一声，守军逃了个精光，就连城中百姓，也纷纷扶老携幼，出城躲到乡下去了。
薛涛、裴硕并未被刘粲裹挟着北上，而是拘押在了绛邑城中。薛涛忽见典守者纷纷逃散，就此打探清楚消息，急忙逃将出来，去寻裴硕。裴硕尚且懵懂，听了薛涛的解释，这才肯跟着他一起落跑。
薛涛本有勇力