又成為太中大夫，足見其才干深得武帝信任，為后來七征匈奴，甚至任大司馬大將軍為內朝參決政事、秉掌樞機打下良好基礎。
這年，匈奴興兵南下直指上谷。漢武帝任命衛青為車騎將軍，率領一萬騎兵，迎擊匈奴。這次出戰，漢武帝一共派了四路兵馬。車騎將軍衛青出上谷，騎將軍公孫敖出代郡，輕車將軍公孫賀出云中，驍騎將軍李廣出雁門。
這是衛青首次出征，果敢冷靜，深入險境，直搗匈奴祭天圣地龍城，首虜七百人，取得大勝。而另外三路，兩路失敗，一路無功而還。龍城之戰是自漢初以來對戰匈奴的首次勝利，也為漢武帝之后對匈奴的全面反擊打下了良好的人心基礎。
漢武帝看到只有衛青勝利凱旋，封衛青為關內侯。相面大師的面相解讀，果然厲害。
當然，這還只是開始。
第二年秋天，衛青為車騎將軍出雁門，領三萬騎兵，長驅而進斬首虜數千人。
第三年，匈奴又大舉入侵上谷、漁陽，先攻破遼西，殺死遼西太守，打敗漁陽守將韓安國，劫掠百姓兩千多人。漢武帝派衛青率領大軍，進攻匈奴盤踞的河套地區。衛青采用“迂回側擊”的戰術，繞到匈奴軍的后方，迅速切斷了匈奴白羊王、樓煩王同單于王庭的聯系。