西漢武帝時對匈奴的戰爭明顯分為兩個階段。以前119年的漠北決戰為標誌。之前為第一階段，之後經17年休戰，從太初二年（前103年）到征和三年（公元前90年）為第二階段。
漢匈戰爭第一階段第一階段漢取得極大的勝利，到前119年的漠北決戰則達到勝利的頂點。此戰的結果是匈奴在戰爭中直接喪生近10萬人，這對匈奴的打擊是致命的，匈奴能作戰的部隊基本被消滅。漠北之戰的結果是“匈奴遠遁，而幕南無王廷”。這之後，邊境不見匈奴蹤跡。
在這期間，唯一的一次較大戰事是元鼎五年（前一一二年）匈奴與西羌呼應入侵五原事件。漢派徐自為率十萬人平定了西羌人的叛亂。對於乘機打劫的匈奴，漢的反應是：將軍公孫賀、趙破虜各率軍萬餘騎出塞數千里，結果不見匈奴一人而還。
元封元年（前110年）漢武帝巡邊來到朔方，帶着十八萬騎兵在邊境上示威。“而使郭吉風告單于。郭吉既至匈奴，匈奴主問所使，郭吉禮卑言好，曰：“吾見單于而口言。”單于見吉，吉曰：“南越王頭已懸於漢北闕。今單于即前與漢戰，天子自將兵待邊；單于即不能，即南面而臣於漢。何徒遠走，亡匿於幕北寒苦無水草之地，毋為也。”語卒而單于大怒，立斬主客見者，而留郭吉不歸，遷之北海上。而單于終不肯為寇於漢邊，休養息士馬，習射獵，數使使於漢，好辭甘言求請和親。”
假如這一時期漢再次對匈奴發動大規模的打擊，匈奴確實難逃滅亡的命運。其原因主要有：
一、這一時期匈奴儘管態度依然傲慢，但確實沒有在邊境發動騷擾,說明已喪失戰鬥能力，幸運的是漢又發動對大宛、朝鮮、西南、南越的戰爭。以至沒有顧的上打落水狗
二、漢在第一階段戰馬損失較大，無法象原來一樣進行深入打擊。而漢亦馬少，無以復往。
三、衛青、霍去病先後病故。“漢方復收士馬，會驃騎將軍去病死，於是漢久不北擊胡。”

這期間，匈奴最高統治者輪換過多次，公元前一一四年，生不逢時的匈奴伊秩邪單于死去，子烏維立。烏維在位期間，同漢沒有發生衝突，雙方進行了一系列的勞而無功的外交交涉，漢武帝想通過外交及離間策略迫使匈奴徹底臣服，而匈奴希望通過和談取得緩衝時間以休養生息。十年後，烏維單死，子詹師廬立，被稱為兒單于。兒單于年少，喜怒無常，喜好殺人，屬於暴君導致國中多不安。這樣，發生左大都尉的政變陰謀。
也是在這年，漢武帝發動對西域大宛的汗血馬戰役，由於大宛殺漢使，導致早就想染指西域的漢朝終於找到藉口進入西域。在結束西南地區的戰爭後，漢終於騰出手，開始實施收西域，斷匈奴右的戰略。通過在西域建立了據點，漢朝將匈奴勢力逐步排擠出去，這個宏大的戰略的確威脅到匈奴的生死存。這年冬天，匈奴遇上雪災，牲畜凍餓死很多。這對游牧民族來說是致命，
同時漠北之戰後，匈奴被迫放棄漠南，居於北方困苦之地。漢在邊境堡壘林列，且多遷民，漢代的長城是用於進攻的，它是補給與挺進基地，漢軍可以以此為基地打擊出現漠南匈奴人，在在這種情況下，匈奴不可能漠南居住。
這這樣的情況下，匈奴內部存在着親漢派和強硬派產生了激烈的衝突。可以猜測到匈奴存在親漢派主張妥協也解決困境，
史書中說兒單于好戰暴虐，引起匈奴內部不滿，推斷兒單于屬於強硬派，依然主張用戰爭走出困境。擺在面前的是一是奪回漠南地，二是在西域恢復主導權，三是必須應付漢軍可能的大規模進攻。第一個問題在於匈奴必須摧毀邊境堡壘，而匈奴攻城能力極弱，而漢軍早已經騎兵化，在漠南與漢軍進行大規模作戰顯然是自尋死路;
第二個問題是匈奴屢次被漢軍擊敗，自身難保，面對咄咄逼人的漢的西域戰略，漢朝有幾乎無限的財力，採用對西域小國的軟硬兼施的策略，西域落入漢朝之手也是遲早的事；這註定匈奴的最終命運。但是匈奴並不甘心滅亡，他們進行了極為艱難的抗爭。
這年冬天，匈奴遭大雨雪，畜多饑寒死；親漢派領袖左大都尉認為繼續同漢對抗是自取滅亡，與兒單于產生衝突，兒單于年少好殺，對意見不合的人往往一殺了之，引起一部分人強烈不滿。左大都尉決定採取陰謀活動殺死兒單于，考慮到自身力量的不足，派人與漢朝聯絡，請求接應，承若殺死兒單于後，全體降漢。這個冒險計劃實際上成功的可能性並不大。雖然此前匈奴被漢多次擊敗，然而匈奴內部凝劇力很強，匈奴內部也未發生大的分裂，漠北之戰單于與匈奴大部走散，匈奴右賢王以為單于已死，自立為單于，但單于一旦歸來，右賢王自動去其號，仍為右賢王。在其後的談判期間，在漢的壓力下，和自身的極度窘迫中，匈奴依然表現出極端的自尊。
漢武帝聞訊後極為欣喜，假如這個計劃能實現，漢的心腹大煥將被徹底根除。漢朝因此派因杅將軍公孫敖在漠南筑受降城作為接應，受降城在現在內蒙古烏拉特地區。由於受降城離開漠北龍庭依然太遠，太初二年春，漢派野侯破奴將二萬騎出朔方北二千餘里一直到浚稽山，這樣在漠北之戰之後19年漢匈雙方再次爆發了大戰。此時由於經過近二十年的休養生息，匈奴實力有所恢復，從漠北之戰到現在，二十年後，經過將近一代人的時間，匈奴人口有一定的恢復。浚稽山戰役
趙破奴是太原人。曾經逃亡到匈奴，後來歸漢，投入軍界。因為熟悉匈奴情況，元狩二年，在第二次河西戰役中，他很幸運地在票騎將軍手下擔任司馬，此役他跟隨具有“天幸”的票騎將軍斬俘兩個匈奴王，殺俘數千匈奴軍隊，被封從票侯。但不久後因為酎金失侯。後來，漢決定經營西域，在漢使王恢的建議下，破奴率領輕騎七百人進攻樓蘭，俘虜了樓蘭王，順勢擊破姑師國，從而打通西域的門戶。應當承認，這是一個很漂亮的戰役，此役後，“漢列亭障至玉門矣”，因此功被封為浞野侯。顯然，他是最恰當的人選之一。這項看上去是個美差，如果順利，他可以輕鬆帶着單于的腦袋和數萬匈奴降軍回到長安接受光榮的凱旋。

浚稽山在現在阿爾泰山一帶,具體位置約在今蒙古國南部鄂洛克泊南，距離趙破奴的出發地搠方有千里之遙。經過長途跋涉，漢軍雖人困馬乏，但終於按約定的時間到達目的地。 趙破奴焦急地等待好消息，但是，壞消息卻傳了過來，左大都尉已經陰謀敗露，已被單于誅殺。可想而知趙破奴聽到這個消息是多麼沮喪。他只得帶着疲乏的部隊後撤。在撤退途中，匈奴追擊軍隊抄了上來,據推測這支部隊是由左賢王統帥的。趙破奴發現匈奴追擊軍隊人數並不多，命令兩萬漢軍列陣迎戰，經過一番激戰，匈奴軍敗退。漢軍斃殺匈奴軍數千人。趙破奴覺得也很滿意，雖說未能實現預定目標，但也殺數千人，足夠獲得封賞了，看來曾幾何時無敵的匈奴騎兵戰力已衰落，趙破奴休整後，繼續徐徐撤退。經過數日跋山涉水，距離受降城僅四百里。正當漢軍行進時，忽見塵頭大起，遠方傳來萬馬奔騰聲音。趙破奴大驚，經驗豐富的趙破奴立即明白一支龐大的騎兵部隊趕過來了。趙破奴急忙命令強占有利地形，紮好營盤。因為部隊已疲憊，不可能行進中和占絕對優勢的匈奴騎兵對戰。匈奴軍很快逼近，匈奴並沒有立即進攻，而是兩翼展開，向漢軍營壘包抄。顯然，匈奴軍胃口不小，企圖包圍漢軍。趙破奴很快弄清了匈奴軍的實力，他不僅倒吸一口涼氣。
匈奴此次出動了八萬騎兵，由單于親自統帥。這樣的規模，是漢匈開戰以來少見的，考慮到匈奴的人口，可以認為匈奴出動了能出動的所有軍隊。趙破奴簡直無法想象兒單于會如此孤注一擲。
很快夜色降臨，匈奴也紮下營，等待明日再戰。趙破奴很快發現犯下一個低級錯誤：匆忙選定的營地缺水。現在，士卒怨聲載道。趙破奴只得帶少數親隨出營找水。沒想到水源靠近匈奴營地，趙破奴自以為熟悉匈奴，居然離開自己的大營很遠去尋水，卻正好與匈奴巡邏兵撞個正着，一番撕殺後，運氣不濟的趙破奴被匈奴兵生擒活捉。這樣一來，這場戰役結果就沒有懸念了。冷兵器時代，一支失去主帥的軍隊只能是全軍崩潰。
兒單于大為欣喜，急驅匈奴軍趁勢對漢軍發動猛攻。而此時的漢軍發現自己的統帥忽然失蹤落入敵人手中，全軍大駭。按照漢律，亡主將，軍吏要被誅殺。漢律極為嚴苛，於是漢軍的臨時負責人陷入極為尷尬的局面，面對八萬匈奴軍的圍攻，如作戰生還機會渺茫，即使突圍，回去後還要面對軍法審判，判決的結果將是掉腦袋。經過一番爭論，他們選擇一個對個人而言的最優選擇：全軍投降！考慮到這支軍隊含有大量的屬國匈奴人，包括部分高級軍官也是匈奴降人，如後來參與刺殺單于事件並牽連到蘇武的緱王，投降對他們來說並沒有多大的心理障礙。
這樣，經過20年休戰後的漢匈第一戰-浚稽山戰役就這樣以一場意外事件結束了。漢軍兩萬全沒，匈奴只在初期損失數千人。匈奴獲勝。匈奴兒單于喜出望外，勝利的如此輕易也出乎意料。如果是硬碰硬地和漢軍對仗，即使勝利，自身的損失也不會比漢軍少，對此時的匈奴而言，人力是最寶貴的因素。兒單于從初戰也領略漢軍強悍的戰鬥力，這樣從天掉下來的餡餅也令兒單于驚喜不己。
匈奴獲得兩萬完好無損的漢軍裝備，這對缺乏資源的匈奴是一個巨大的收穫。兩萬俘虜中有很大部分是原匈奴人，這對人力缺乏的匈奴巨大的補充。
這一戰對匈奴來說是個轉折點。之前，匈奴一直是從一個失敗走向另一個失敗，漠北之戰更是把匈奴推向幾乎亡國滅種的處境。這一戰如果漢朝的計劃成功，匈奴將提前退出歷史舞台。匈奴贏得也相當僥倖，只能說幸運之神已向匈奴傾斜。
當了俘虜的趙破奴也相當不服氣，趙破奴輸的很窩囊，只能說他的運氣真是太差了。但他在指揮上的失誤也是明顯大。首先他的戰場感覺實在是太遲鈍了，當得知左大都尉失敗後，他應該立即撤退。而不是慢吞吞地回趕，結果被機動性極強的匈奴趕上被包了絞子。
趙破奴在匈奴呆了幾年，如同之前的張騫和後來的蘇武一樣，他在當地娶妻生子，看來，匈奴對他還不錯。直到天漢二年（公元前九九年）他帶着在匈奴生的兒子逃歸漢朝。
兒單于乘勝進攻受降城，企圖拔掉插入這顆深入漠南的釘子。但是匈奴人的攻城能力太差了，還是停留在冒頓時代。以前和匈奴人作戰從無勝跡的常敗將軍公孫敖這次得知匈奴進攻的消息，很好地做了防備，終於擋住了匈奴人的攻勢。兒單于見攻城無望，只能乘好就收。
對於漢朝來說，浚稽山戰役是打的最窩囊的一戰，漢武帝聽到後大為光火，正當他策劃大規模的報復行動時，壞消息又到了。貳師將軍李廣利進攻大宛失利，現帶着殘兵敗將逃歸玉門關，漢武帝大怒，“而使使遮玉門，曰軍有敢入者輒斬之！”。漢朝顯然不可能在兩個方向行動，漢武帝召集大臣開會討論，大部分大臣都認為停止進攻大宛，專力進攻匈奴。漢武帝雖然對趙破奴的失敗十分氣憤，但仔細考慮後，仍然決定暫時放過匈奴，全力經營西域。其原因在於：趙破奴軍雖全軍覆沒，但對漢朝來說，這點損失還是微不足道；匈奴雖僥倖取勝，但並未改善整體不利的戰略姿態。而停止進攻大宛則意味漢放棄圖謀已久的西域戰略，這是無法容忍的;而且大宛這樣小國都不能打下，對漢的政治形象極為不利,儘管朝臣們反對，“天子業出兵誅宛，宛小國而不能下，則大夏之屬漸輕漢，而宛善馬絕不來，烏孫、輪台易苦漢使，為外國笑。”，漢武帝決定大規模徵兵重新進攻大宛。這樣，匈奴再次幸運地逃過漢朝大規模的報復。
而匈奴受到這次勝利的鼓舞，決心繼續擴大戰果。第二年，兒單于打算再次進攻受降城，但不料未成行就病死。兒單于只當政三年，由於他的兒子年少，匈奴乃立其季父烏維單于弟右賢王呴犁湖為單于。這年是太初三年。
漢朝也預料到匈奴對漠南長城的攻擊，這年漢派“光祿徐自為出五原塞數百里，遠者千餘里，築城鄣列亭至廬朐山，而使游擊將軍韓說、長平侯衛伉屯其旁，使彊弩都尉路博德築居延澤上。”，在原來邊塞前再築一道屏障，將防線推向漠南地區。
果然這年秋天，秋高馬肥時，匈奴果然大舉入侵，“入定襄、雲中，殺略數千人，敗數二千石而去，行破壞光祿所築城列亭鄣。又使右賢王入酒泉、張掖，略數千人。”大肆破壞眼中釘漢長城工事。
漢朝已有所防備，漢將任文帥機動兵力救援，趕走匈奴人，盡復失所得而去。
也在這一年，貳師將軍李廣利終於攻破大宛，斬殺大宛王，獲寶馬數千匹，威震西域，西域各國震於漢軍軍威，皆使子弟從其軍來漢入質，並臣服於漢。匈奴不甘心右臂西域被漢勢力插入，企圖截殺歸來的漢軍。但畢竟漢軍勢大，且漢已考慮到，作了精心的部署，匈奴不得不放棄這一計劃。冬天，匈奴計劃再次進攻受降城，但由於單于病死而作罷。
呴犁湖單于死後，按照兄死弟立的習俗，匈奴立他的弟左大都尉且鞮侯為單于。
太初四年，在付出巨大代價後，漢終於征服了大宛，威震西域，西域國家紛紛派使節向漢進貢臣服，漢的西域戰略開始見成效。這時漢可以騰出手來對匈奴算帳，漢武帝特地下詔曰：“高皇帝遺朕平城之憂，高后時單于書絕悖逆。昔齊襄公復九世之讎，春秋大之。”
剛剛即位的鞮侯單于倒是頭腦清醒，明白匈奴處境不妙，加上且鞮侯剛即位很有可能地位還不太穩定，他很明智地採取了緩兵之計，主動歸還以前扣留的漢使路充國等人。還對漢上書說 “我兒子，安敢望漢天子！漢天子，我丈人行也”。
這樣的卑詞使漢武帝的自尊心大大得到滿足，於是派遣中郎將蘇武帶着禮品出使匈奴。
且鞮侯見漢上當，不由露出本相，正好又發生副使張勝陰謀劫持單于母閼氏事件，導致漢使節團被扣留事件。
漢武帝得知被愚弄後大怒，發兵進攻匈奴，這樣，漢匈之間再次爆發大戰。天山-東浚稽山戰役
天漢二年（公元前九九年）五月，漢軍完成集結，漢軍兵分兩路，主力為李廣利率兵3萬出酒泉擊右賢王，同時派匈奴叛王介和王成娩將樓蘭兵擊車師；
因杅將軍公孫熬與強弩都尉路博德出西河回合於涿邪山；騎都尉李陵率五千步兵出居延至東浚稽山南龍勒水，進擊匈奴中部作為輔攻，以牽制匈奴本部主力回援右賢王。
李陵是飛將軍李廣的孫子，儘管李廣享有傳奇般的聲譽，但一生卻未能封侯，最後因“失道”負氣自殺。李陵就是李廣長子李當戶的遺腹子。家族的榮譽和遺憾加上漢代的尚武風尚驅使李陵迫切希望在戰爭中一展身手獲得功名。
原來李陵是作為貳師將軍李廣利輜重護衛軍。但心高氣傲的李陵恥於做輜重護軍，李廣利在大宛之役中的糟糕表現也讓李陵瞧不上眼。於是象他的祖父一樣，李陵主動請戰要求獨當一面做前鋒。也許年輕人的勇氣和他的名將世家的身份打動了武帝的心，武帝居然破例同意這一大膽的行動，但武帝不知想到“三代為將不吉利”的說法。李陵本來是希望帶騎兵，但武帝以“吾發軍多，毋騎予女。”拒絕了他的請求。而年少高傲的李陵為得到立功的機會，在沒有馬匹的情況下，率領五千步兵進擊單于王庭。這五千步兵是李陵精心從荊楚勇士奇材劍客中挑選的，經過精心訓練，具有極強的戰鬥力。李陵對他們充滿信心，毫不懷疑他們能以一當十，深入王庭，立不世之功，封侯揚名，完成祖父的遺願。
但是，五千步兵深入王庭實在是太冒險了，無異於虎口拈鬚，武帝也很明白匈奴人的厲害，為了保險，武帝命令強弩都尉路博德作為李陵的後援。而老資格的“南越的征服者”原伏波將軍路博德也不可能容忍自己居然淪落為一個初出茅廬的小子打下手的角色，於是上奏推脫：“方秋匈奴馬肥，未可與戰，臣願留陵至春，俱將酒泉、張掖騎各五千人並擊東西浚稽，可必禽也。”結果這樣的奏書到了武帝手中，多疑的武帝反而壞疑李陵後悔了有意教路博德上書，於是這一老一少的兩“憤青”就較上勁。武帝於是下詔李陵：“以九月發，出庶虜鄣，至東浚稽山南龍勒水上，徘徊觀虜，即亡所見，從浞野侯趙破奴故道抵受降城休士，因騎置以聞。所與博德言者云何？具以書對。”命令李陵獨立率軍至東浚稽山南龍勒水(今圖音河)上，偵察匈奴動靜，若不見敵，則歸於受降城休整。
貳師將軍李廣利是武帝的寵妃李夫人之弟。李夫人極為受寵，留下了“傾國傾城”這一成語，並為武帝產下一子,封為昌邑王。不幸紅顏薄命，正當妙齡的李夫人不治而亡，據說，李夫人死前，漢武帝探望，李夫人蒙被死活不讓他看她的臉，別人問李夫人原因，她說：“所以不欲見帝者，乃欲以深托兄弟也。我以容貌之好，得從微賤愛幸於上。夫以色事人者，色衰而愛弛，愛弛則恩絕。上所以攣攣顧念我者，乃以平生容貌也。今見我毀壞，顏色非故，必畏惡吐棄我，意尚肯復追思閔錄其兄弟哉！”。果然，李夫人死後，武帝一直無法忘記她，她的音容笑貌一直在武帝心中盤旋，於是太初元年，武帝提拔小舅子李廣利為貳師將軍進攻大宛，也許武帝不僅僅是滿足念念不忘的李夫人心願，也是想從外戚中提拔一位將才，再造一個衛霍。但是名將並不是這樣產生的，武帝這一古怪的念頭將使漢朝付出數萬將士的生命代價。
漢想乘大宛之戰之威，進一部擴展戰果，以到達斷匈奴右臂的目的。然而此時漢朝的大宛一戰損失慘重，因而出動兵力不多。李陵居然只能帶五千步兵進擊，連馬匹都沒有，而且連後援也沒有實際上已處於極端危險的地步。另外一個對漢軍不利因素是季節的不利。漢軍以前進擊匈奴都是選擇春天進攻，因為此時匈奴馬匹剛剛過完冬，青草未長成，處於最羸弱的時候。現在正是秋天，正是匈奴草深馬肥之際，從季節來看對漢相當不利。
匈奴叛王介和王成娩率領已降服的樓蘭兵進攻車師，匈奴反應很敏感，右賢王立即遣數萬騎救之，擊敗了匈奴叛王的進攻。但與此同時，貳師將軍李廣利已達到目的地向右賢王大舉進攻。右賢王主力已派出，無力抵禦，因此大敗，被漢軍斬殺一萬人。李廣利得手後便回師。然而，迴路上正好遇到單于主力救援部隊。單于主力部隊似乎數倍於漢軍，而李廣利對遭遇單于主力救援也毫無防備，一開始就被打的措手不及，損失慘重。匈奴軍將漢軍包圍，企圖吃掉漢軍。此時的漢軍形勢嚴峻，糧食也快完了，面臨全軍覆沒的危險。此時擔任代理司馬的隴西上邽人趙充國自告奮勇帶領一百勇士作為敢死隊向匈奴軍發動衝擊。經過一番血拼這支敢死隊幾乎損失殆盡，才殺出一條血路。李廣利率兵隨後衝擊，終於突圍成功。這一仗漢軍損失達二萬人，為漢軍突圍立下大功的趙充國受傷二十處差點喪命。
而此時李陵五千步兵經過三十日的行軍，順利抵達目的地浚稽山宿營。路上未遇匈奴一兵一卒。李陵將一路的地形製成地圖，派騎士陳步樂報漢武帝。李陵此時心情很好但也為遇上匈奴很鬱悶。他不知道在他行軍時單于主力部隊正在與李廣利鏖戰。此時已經擊敗李廣利後的匈奴騎兵已經向他鋪天蓋地的向他撲過來。李陵在穿越浚稽山的一山谷時，終於與單于相撞了。三萬匈奴騎兵從兩山之間向李陵包圍而來。剛剛擊敗李廣利的且鞮侯單于迫不急待地對李陵發動進攻，否則讓漢五千步兵在匈奴腹地肆意縱橫豈非屈辱大恥。好在漢軍只有五千步兵，且鞮侯單于認為只需要三萬騎兵不用費多大力量就可殲滅漢五千步兵。但是且鞮侯單于小看了這支步兵的戰鬥力，另外在山地，由於地形的限制，騎兵部隊根本施展不開，無法象平地一樣形成對步兵的優勢。
於是一場慘烈的大戰開始了。《漢書》詳細地記敘了這場戰鬥，這也是《漢書》中對漢匈戰爭記述最為詳細的一場戰鬥，這使我們對漢代戰術有了充分的了解。
李陵及其副將成安侯韓延年各自有八百人是其核心精銳部隊。韓延年是征服南越國的戰爭中殉國的原濟南相韓千秋之子。
李陵以大車為營為屏障，防止匈奴軍突入。其步卒列陣前行持戟盾組成密集陣，後排持弓弩在後。命令部隊“聞鼓聲而縱，聞金聲而止。”待匈奴進入射程，漢軍千弩俱發，匈奴無不應弦而倒，於是匈奴紛紛退卻上山。由於地形的限制，匈奴騎兵反而跑不過步兵，漢軍乘勢追擊，居然殺匈奴數千人。
戰鬥的結果讓且鞮侯單于大吃一驚，他再也不敢小看這股漢軍，在憤怒趨勢下，他命令左右地所有部隊共八萬騎兵追擊。漢軍擊退匈奴軍後迅速撤退，但是步兵畢竟跑不過騎兵。匈奴軍再此在一個山谷追上漢軍。漢軍依然採用同樣的戰術同匈奴軍周旋。由於漢軍人數少，李陵命令“卒中矢傷，三創者載輦，兩創者將車，一創者持兵戰”，經過激戰漢軍再次擊敗匈奴軍，斬殺三千匈奴軍。引兵東南，李陵巧妙地循故龍城道走了四五日，由於沿路多為山區及大澤葭葦地，地形的原因使匈奴騎兵無法實施追擊。匈奴放火燒漢軍，李陵亦令軍中縱火以自救,。這樣漢軍且戰且退再次向南行至山下，而此時單于已經親率部分部隊搶占了山頂，單于命令他的兒子率領騎兵從山頂向李陵軍衝擊。李陵反應也很及時，將部隊轉移到樹林中，這樣抵消了騎兵的衝擊。此時匈奴軍再次犯錯，居然深入到樹林中，這樣騎兵的優勢完全喪失，反而變成劣勢，漢軍步兵在樹林中則靈活的多，游仞有餘，這樣漢軍再次殲滅了數千人匈奴軍。一支漢軍甚至用連弩向山頂觀戰的單于射擊，單于大驚慌忙逃走。
單于原來企圖挾戰勝之威一舉殲滅這股孤軍深入的漢軍，但結果卻是出乎意料，匈奴以絕對優勢的兵力在五千漢軍面前連連碰壁，這使單于幾乎動搖了決心，他懷疑漢軍是有意吸引匈奴接近邊塞有埋伏的地方，但匈奴貴族們都極端不甘心這樣結局，說“單于自將數萬騎擊漢數千人不能滅，後無以復使邊臣，令漢益輕匈奴。復力戰山谷間，尚四五十里得平地，不能破，乃還”
而此時漢軍和匈奴騎兵連戰多日。雖然漢軍人數過少，情況依然危險。但漢軍依然以昂揚的鬥志將士氣不振的匈奴騎兵擊敗，再次擊斃二千匈奴騎兵。匈奴終於喪失了取勝的信心，已準備退軍。
正當單于氣餒準備放棄的那一刻，一個意外事件毀滅了李陵最後的機會。
軍候管敢因犯錯誤被校尉責罵，居然一怒之下投降匈奴，將漢軍的虛實特別是漢軍沒有後援的情況完全告訴匈奴。管敢的情報給幾乎喪失信心的匈奴打了強心劑。管敢的投降使李陵軍的形勢急轉而下。單于大喜，堅定了殲滅這股漢軍的決心，展開瘋狂的進攻。他命令騎兵部隊立即對漢軍發起總攻。
匈奴軍毫無故忌地在山上向山谷中漢軍射箭，矢如雨下。漢軍拼命衝出包圍，經過長途跋涉，漢軍距離邊塞只有百餘里。但行動迅速的匈奴騎兵在離鞮汗山不遠的地方再次追上漢軍，而此時漢軍尚剩三千餘人，但是五十萬箭全部用完，陷入彈盡糧絕的處境。士兵只能斬斷車輻持之，軍吏持尺刀，企圖進入峽谷。但單于匈奴軍已切斷後路，漢軍陷入絕境。李陵發現大勢已去，感嘆道：“復得數十矢，足以脫矣。今無兵復戰，天明坐受縛矣！各鳥獸散，猶有得脫歸報天子者。”李陵命令士兵分散突圍，令軍士人持二升，一半冰，約定到遮虜鄣會合。到半夜，李陵與韓延年俱上馬率領跟從的壯士十幾人。而此時匈奴騎兵數千人在管敢的指引下非常準確地發現了李陵本人的突圍部隊，這場壯烈無比的戰鬥次持續了很長時間，韓延年英勇戰死。而李陵本人卻說了一句：“無面目報陛下！”令人費解地投降了匈奴。
這場戰鬥終於結束，漢軍步兵五千人僅有四百人突圍逃到百里外的遮虜鄣。而匈奴軍付出的代價更為慘重，死亡人數竟然逾萬。

實際上以李陵五千步兵在沒有後援的情況下深入匈奴腹地千裡面臨匈奴八萬騎兵的圍攻，其覆滅的命運從一開始就可以說定了下來。但令人驚奇的是李陵居然堅持了那麼長的時間，大小打了數十戰居然毫不落下風，殺敵過萬，確實是一個奇蹟。這一方面是李陵表現了戰術天才，漢軍士兵也表現出極為頑強的戰鬥力。
從匈奴來說，顯然開始太輕敵了，居然在山地不明智地同漢軍糾纏，使得匈奴騎兵和人數上的巨大優勢根本無法發揮，而且後面基本上是被漢軍牽着鼻子在對匈奴不利的地形上戰鬥，因而出現八萬騎兵對五千步兵居然落下風的笑話，若不時漢軍沒有援軍加上官敢叛變說不定這支人數少的可憐的漢軍會全師而退。也許是且鞮侯單于輕易擊敗李廣利的主力漢軍對李陵這支偏師太掉以輕心了。假如且鞮侯單于頭腦不發熱，不急於進攻，而是等待漢軍到平地上在突擊肯定對匈奴有利的多。
另外一路因杅將軍公孫熬與強弩都尉路博德的部隊撲空，未發現任何匈奴部隊空手而還。
這樣，天漢二年秋天的天山-東浚稽山戰役以漢軍的慘敗而拉下帷幕。漢軍總共損失二萬五千人（李廣利損失二萬人，李陵五千人全沒）。匈奴再次贏得了勝利，但是，且鞮侯單于很可能笑不起來，這個勝利對匈奴而言是個皮洛士式的勝利。匈奴自身損失居然超過二萬人（李陵部造成匈奴一萬人的損失，天山戰役第一階段李廣利部殺匈奴一萬，第二階段雙方混戰匈奴人即使按照最保守的估計也達五千人左右），很可能與漢軍損失一樣。這對匈奴這樣一個人力極端匱乏的民族來說，這樣拼下去，距離亡國滅種也不遠了。