中平五年正月，休屠各部寇西河，攻杀西河郡守邢纪。
中平五年三月，休屠各部攻杀并州刺史张懿。遂与南匈奴左部胡合，号称有十万人，杀其单于羌渠。
兴平二年，南匈奴参与了中原诸侯的混战，沿黄河而下，蔡邕之女蔡昭姬就是这一时期被掳掠去匈奴的。此时，南匈奴已经占据黄河流域诸多郡县。
建安七年，南匈奴首领栾提呼厨泉单于归附曹操。曹操为了北方的稳定，将南匈奴分为五部每部择立贵族为帅，另选汉人为司马对其进行监督。同时，曹操还把并州的中下层匈奴人编入汉族。这样，南匈奴上下完全编入中原政权，中国北方完成了实际的统一。
但是贪婪的南匈奴人不会停止劫掠的脚步，仅仅过了一年，栾提呼厨泉单于再次造反，劫掠平阳一带，掳走汉民几千户，一度气焰嚣张。
而曹操此时正在谋划南征之事，若是转兵向北攻打南匈奴，虽然能克尽成功，但颇有些烈马踩蚂蚁的感觉，再加上南征事宜已经开始准备，如果先去打匈奴，再回头打荆州，很容易造成士卒疲惫，将士厌战的心态。
郭嘉进言道：“有现成的人选在那里，丞相何必烦恼？”
曹操道：“你说的可是子文？”
郭嘉笑道