公元前209年，头曼被儿子冒顿射杀。登上单于之位的冒顿开始了一系列的军事改革：单于之下，由左右骨都侯辅政。左右屠耆王掌管地方行政，左方管理东部，右方管理西部，单于直接管理中部。除单于亲自统领军队外，从左右贤王、谷蠡王、大将、大都尉到左右大当户也都分别统军作战。统领万骑的24个军事首领被称为“万骑长”，万骑以下设置千骑长、百骑长、十骑长、裨小王、相封、都尉、当户、且渠等官职，完整而严密的军政体系建制正式定型。
所以，冒顿初期，匈奴能作战骑兵已近30万。接下来，冒顿开始大规模的开疆拓土。首先向东将得寸进尺的东胡打回原形，致使其分化并蛰伏于乌桓山与鲜卑山一带；向北击败了浑庾、屈射、丁零部，拓地达贝加尔湖；向西赶走盘居于河西走廊一带的月氏，迫使西域多数王国称臣纳贡；向南征服楼烦、白羊河南王，重新占领河南地。
汉朝所面对的匈奴已经脱胎换骨达到鼎盛，而汉朝初创，又经历多年战乱，民生疲弊、百废待兴，很难同匈奴抗衡。
匈奴全民皆兵世代游牧，在国家建设和管理上几乎没有成本，汉朝农耕社会就不一样了，一个人在千里之外的前线打仗后方可能需要十个人的劳动力去供应他。就跟正规军打游击队一样，工业时代大多数国家都玩不起这种持久战，更不要说封建时代的那个生产力了，根本耗不起。
骑兵在冷兵器时代就是特种部队的象征，不是汉朝不行，是汉朝初期没有庞大的骑兵部队，不然汉武帝时期也不会大规模养马发展骑兵部队了，秦朝的骑兵那时候算是无敌的存在了，灭六国，匈奴怎么会是对手，只能游击打击秦朝，之后才有了长城的修建防止匈奴
战略转变，局部取胜
公元前127年，汉武帝由“到草原上碰运气”，转变为有目标的进攻。他派卫青、李息率军进攻河南地的匈奴大本营。此战算得上是汉匈开战以来的第一次大胜，卫青斩杀俘虏匈奴数千人，白羊王、楼烦王战败逃跑，汉军剿获牲畜百万余头。
接下来，匈奴开始反扑，准备夺回河南地，但均被汉军击败。公元前123年，汉朝派七位将军出征匈奴，史称“七将军伐匈奴”。此战共消灭匈奴兵九千余人。公元前121年，汉武帝发动河西之战，匈奴浑邪王投降。盘居于河西走廊一带的匈奴势力被严重打压，致使匈奴对西域诸国的影响力也逐步减小。
经过上述战争，汉朝只是将匈奴势力逐渐从边境剔除，并打通河西走廊，开始同西域部分国家建立战略同盟，形成对匈奴的战略围攻，但匈奴的主力并没有受到重创。所以汉朝倾十年之功，仅换来的是局部胜利。同时，还招来匈奴更频繁的侵扰，一场决战势在必行。
公元前119年，汉朝10万大军分两路出击，一路由大将军卫青率领，一路由骠骑将军霍去病率领。其中卫青还统帅李广、公孙贺、赵食其、曹襄等几位将军，采取正面进攻左右包抄策略，计划全歼匈奴单于主力。结果，卫青正面进攻，击败匈奴单于主力，而负责包抄的东路军李广、赵食其则迷失在大漠。因此，虽然霍去病部大获全胜，但依旧没有改变匈奴主力遁逃的事实。因此，漠北之战喜忧参半，遗憾收场。
漠北之战过后，虽然匈奴受到重创，但汉朝也陷入疲敝，因此双方暂熄刀兵。而当霍去病去世后，汉朝对匈奴的战争陷入被动常态，要么劳师远征、无功而返，要么损兵折将，惨不忍睹。而当汉武帝起用贰师将军李广利之后，汉朝的几次出击皆以失败告终。在汉武帝有生之年，也没有改这个局面。
