区设置了云中等县。林胡、楼烦北迁融入了新崛起的匈奴，在战国的末期，赵国大将李牧曾经大败匈奴。
匈奴统治的结构分为中央王庭、东部的左贤王、和西部的右贤王，控制着从里海到长城的广大地域，包括蒙古、西伯利亚、中亚北部、中国东北等地区。
秦始皇统一中国之后，命令蒙恬率领三十万秦军北击匈奴，收回了河套地区，屯兵于上郡。退却匈奴七百余里，胡人不敢南下而牧马，蒙恬守护北防十多年，匈奴慑服他的威猛，不敢再犯。
匈奴首领头曼单于，宠爱后妻阏氏，生了个小儿子，头曼便想立幼子为下任单于，就设法杀害长子冒顿。他派冒顿到月氏当人质，随后派兵袭击月氏，想借月氏之手杀死冒顿，冒顿极有胆识，抢了月氏的战马，支身一个人逃回匈奴，头曼没有口实去杀掉冒顿，只得作罢，后来冒顿知道真相之后，即对父亲及后母产生报复之意。
他先训练了一支军队，并要求当他响箭射向何处，部队即射向何处。他先后以他的爱妾、他父亲的爱马为目标，将未射箭者处死。等待时机成熟之后，即将响箭射向头曼单于，使他的部队射死了头曼单于，冒顿并发动了政变，杀死后母以及不服他的将军大臣，夺取了单于之位。
冒顿单