直到‘武帝驾崩、昭帝即位后，汉才改善了与匈奴的关系，两国开始外交谈判。但匈奴一直拒绝承认苏武还活着。当时，匈奴的单于已经换了好几茬，两国和议也达成了，为什么还不愿释放苏武？苏武牧羊的故事令古今各代的中国人感动，苏武不屈的英雄形象也起着对后来很多封建王朝对待北狄蛮族的垂范作用——对单于和酋长们“以礼谕之”、“以节斥乏”，这样的大汉使者们虽然不一定能够完成外交使命，但在声名上总会有加分，至少可以达到立言的效果。苏武在北海生活多年，当然就非常了解匈奴的生态、气候与虚实。匈奴给苏武娶了媳妇，苏武在那里还有了小孩，其中有个孩子名叫苏通国，后来随汉使回国，为苏武延续了香火。在匈奴看来，男丁就是战士，生育人口当然也就是国防建设的一部分，从这一角度上说，也算是苏武变相给匈奴作出了贡献。
在这样的背景下，苏武出使到了匈奴，而且，其副使张胜等还策划绑架单于的母亲，此举导致两国外交形势急剧恶化。在屠刀面前，张胜投降，苏武不屈被扣。两国就此事件展开激烈交涉。恰在这时，不按牌理出牌的武帝，突然发动了对匈奴的新一轮攻势。当时，霍去病已经早殇，武帝任命了新统帅李广利。此人是武帝新宠李夫人的哥哥，是新得势的国舅。卫青当时还健在，但因为卫子夫已经失宠，大将军卫青只能负责东、西、南三面的战线，不再参与对匈奴的作战了。李广利的军事水平并不次于卫青，但他的战绩却远不如后者。因为，当时汉的军事潜力和后勤供给能力，都已经远远不如卫、霍统率兵马的时候了。
新的一轮攻势兵分两路;主力由李广利率领西进，出河西走廊，直扑匈奴与西域的结合地带，意图扫清匈奴对汉朝准备占据的西域地区的威胁;李广之孙李陵，率领一支步兵(所有好马都已经拨李广利使用)，北上进入匈奴境内牵制单于主力。这一战汉朝失败，李广利先告败绩，李陵也基本全军覆没。李陵本人投降后，成了匈奴的大将。
苏武因此更不可能回到汉朝。汉朝接下来连年进攻失利，匈奴失去西域的大部分土地，也感到了疲惫。于是，两国较量的核心环节开始从直接军事对抗，改为主要在西域各国作外交对抗。武帝晚年，国内民穷财尽，上层祸起萧墙，国家陷入重重危机。主帅李广利的家眷，因为国内的“巫蛊之祸”被灭，李广利本人投降匈奴，被单于当作了祭天的牺牲品。而匈奴内部同样还是天灾人祸不断，并没有因为李广利作了牺牲就有所改善，反而天灾更加剧烈。古人云，大战之后，必有凶年。穷兵黩武的汉匈双方，也逃不脱这个规律。直到‘武帝驾崩、昭帝即位后，汉才改善了与匈奴的关系，两国开始外交谈判。但匈奴一直拒绝承认苏武还活着。当时，匈奴的单于已经换了好几茬，两国和议也达成了，为什么还不愿释放苏武？
因为，苏武在北海牧羊的地方正是匈奴与丁令(即后来的铁勒)的边界。我们惯常的认识，是苏武牧羊的地方非常荒凉，没有人迹，兔子都不拉屎。其实不然，那里有包括丁令在内的很多游牧民族，水草肥美，鸟语花香，草原上歌来歌往，热闹得很。后来，蒙古人的数次西征，出发点都离那里不远。苏武在北海生活多年，当然就非常了解匈奴的生态、气候与虚实。匈奴给苏武娶了媳妇(当然是匈奴人)，苏武在那里还有了小孩，其中有个孩子名叫苏通国，后来随汉使回国，为苏武延续了香火。在匈奴看来，男丁就是战士，生育人口当然也就是国防建设的一部分，从这一角度上说，也算是苏武变相给匈奴作出了贡献。
这时的匈奴最不希望看到的，是掌握了匈奴虚实与规律的汉使们，回到汉朝，再带着汉军来攻打他们。尤其是苏武这样的杰出人物，回到汉朝，他就是又一个博望侯张骞了。这就是苏武一行在匈奴的后期继续被扣的主要原因，两国的前仇倒成了其次了。但是，苏武的部下常惠偷偷把苏武的情况通报给了汉使，这样单于不得不放归了苏武。苏武，常惠回国以后，理所当然成为汉制定对匈战略的高参。常惠后来搞了一个匈奴包围网，包括匈奴西边的乌孙、东边的鲜卑、北面的丁令、南边的汉朝，趁匈奴内部衰落而发起了对匈联合军事作战。其中，常惠本人作为乌孙军的参谋长，指挥乌孙军重创匈奴。这一战直接导致匈奴内乱分裂，呼韩邪单于南下投降。
