西漢後期，匈奴分為南北兩支：公元前60年左右，匈奴虛閭權渠單于死，引起內部分裂，先後出現五單于爭立的情況，混戰不斷，最後發展為呼韓邪單于和郅支單于的相互攻伐，分為南下附漢的為南匈奴、留在漠北的為北匈奴。公元前53年，呼韓邪單于附漢，是為南匈奴，郅支單于部為北匈奴。北匈奴曾擊敗大宛、烏孫等國，強迫四方各族進貢，威震西域，一度領導了匈奴的短暫復興。

東漢永元初年（公元89年），北匈奴被東漢和南匈奴擊敗（班固燕然勒功），91年東漢大將軍耿夔又出擊金微山（今阿爾泰山）大敗北匈奴軍，這導致北匈奴走向沒落。大部分西遷至伊犁河流域的烏孫國，與東漢仍然發生多次戰役，便再遷於西邊的康居國，後來，餘部西遷至中亞地區和東歐地區，其小部分留居鄂爾渾河流域，後被鮮卑所並，北匈奴與鮮卑的混血後代鐵弗人在河套地區建立過胡夏；後全部融入漢族。