元朔二年的河南之战，迫使匈奴楼烦王、白羊王退处荒凉寒冷的漠北。然而，战略要地河西走廊还在匈奴浑邪王和体屠王的控制之下。汉军如果能够夺占这条走廊，向南，可以斩断匈奴与羌人的联系；向西，可以兵进西域，威慑西域各民族和城邦诸国，匈奴从西北方向对长安的威胁也会因此得到解除。汉武帝审时度势，果断决定出击河西走廊，挫败匈奴右贤王，孤立单于王庭，为再次同匈奴展开全面决战铺平道路。
元狩元年(前122)五月，匈奴在东翼战场向汉军发动进攻，万余铁骑入侵上谷。第二年春三月，汉武帝下达了出击命令，在西线开辟了新战场，并未派汉军从上谷出击。汉武帝起用霍去病为骠骑将军，率领汉家万余骑铁军跃出陇西，宛如矫健的游龙，沿着岩石裸露、砾石堆积的祁连山峡谷迅速向西北挺进，长途奔袭。
一路上翻越了险峻的乌戾山，跨过了奔腾的狐奴水，转战六日，厉兵匈奴五部，势不可当，差一点儿活捉了单于的儿子。