造成的羞辱又太过，李世民早就想弄死丫的一雪前耻，只不过一直在等待时机成熟而已，如今正是报仇雪恨的好时候。
同为李世民潜邸老人的代州都督张公谨，就是那个玄武门之变时靠着一膀子力气，生生把玄武门的大门给关闭的猛将，也是和李世民想到了一处，上表提议攻伐突厥。
张公谨向太宗介绍可以击败突厥的六条理由：第一，颉利国内政局混乱；第二，薛延陀等部叛离；第三，突利、欲谷设等都对颉利有怨言；第四，突厥之地遇灾，粮食缺少；第五，颉利亲近胡人，而胡人容易反叛；第六，汉人在突厥的很多，唐朝出兵，他们必定响应。
于是李世民以颉利既然已向唐朝请求和亲，而又援助梁师都为借口，于贞观三年八月正式发兵攻打突厥。
命兵部尚书李靖为行军总管、张公谨为副总管，前去征讨突厥。
听闻消息以后，突厥俟斤九人带领三千骑兵降唐，拔野古、仆骨、奚等酋长也帅部众降唐。
李世民又以并州都督李世勣为通汉道行军总管，兵部尚书李靖为定襄道行军总管，华州刺史柴绍为金河道行军总管，灵州大都督薛万彻为畅武道行军总管，合兵十多万，全部受李靖节度，分道出击突厥。