后顷之，冒顿死，子稽粥立，号曰老上单于。
老上稽粥单于初立，文帝复遣宗人女翁主为单于阏氏，使宦者燕人中行说傅翁主。说不欲行，汉强使之。说曰：“必我也，为汉患者”。中行说既至，因降单于，单于爱幸之。
初，单于好汉缯絮食物，中行说曰：“匈奴人众不能当汉之一郡，然所以强之者，以衣食异，无仰于汉。今单于变俗好汉物，汉物不过什二，则匈奴尽归于汉矣。其得汉絮缯，以驰草棘中，衣裤皆裂弊，以视不如旃裘坚善也；得汉食物皆去之，以视不如重酪之便美也。”于是说教单于左右疏记，以计识其人众畜牧。
汉遗单于书，以尺一牍，辞曰“皇帝敬问匈奴大单于无恙”，所以遗物及言语云云。中行说令单于以尺二寸牍，及印封皆令广长大，倨骜其辞曰“天地所生、日月所置匈奴大单于，敬问汉皇帝无恙”，所以遗物言语亦云云。
汉使或言匈奴俗贱老，中行说穷汉使曰：“而汉俗屯戍从军当发者，其亲岂不自夺温厚肥美赍送饮食行者乎？”汉使曰：“然。”说曰：“匈奴明以攻战为事，老弱不能斗，故以其肥美饮食壮健以自卫，如此父子各得相保，何以言匈奴轻老也？”汉使曰：“匈奴父子同穹庐卧。父死，妻其后母；兄弟死，尽妻其妻。无冠带之节、阙庭之礼。”中行说曰：“匈奴之俗，食畜肉，饮其汁，衣其皮；畜食草饮水，随时转移。故其急则人习骑射，宽则人乐无事。约束径，易行；君臣简，可久。一国之政犹一体也。父兄死，则妻其妻，恶种姓之失也。故匈奴虽乱，必立宗种。今中国虽阳不取其父兄之妻，亲属益疏则相杀，至到易姓，皆从此类也。且礼义之弊，上下交怨，而室屋之极，生力屈焉。夫力耕桑以求衣食，筑城郭以自备，故其民急则不习战攻，缓则罢于作业，嗟土室之人，顾无喋喋占占，冠固何当！”自是之后，汉使欲辩论者，中行说辄曰：“汉使毋多言，顾汉所输匈奴缯絮米蘖，令其量中，必善美而已，何以言为乎？且所给备善则已，不备善而苦恶，则候秋孰，以骑驰蹂乃稼穑也。”日夜教单于候利害处。
孝文十四年，匈奴单于十四万骑入朝那萧关，杀北地都尉卬，虏人民畜产甚多，遂至彭阳。使骑兵入烧回中宫，候骑至雍甘泉。于是文帝以中尉周舍、郎中令张武为将军，发车千乘，十万骑，军长安旁以备胡寇。而拜昌侯卢卿为上郡将军，甯侯魏脩为北地将军，隆虑侯周灶为陇西将军，东阳侯张相如为大将军，成侯董赤为将军，大发车骑往击胡。单于留塞内月余，汉逐出塞即还，不能有所杀。匈奴日以骄，岁入边，杀略人民甚众，云中、辽东最甚，郡万余人。汉甚患之，乃使使遗匈奴书，单于亦使当户报谢，复言和亲事。
孝文后二年，使使遗匈奴书曰：“皇帝敬问匈奴大单于无恙。使当户且渠雕渠难、郎中韩辽遗朕马二匹，已至，敬爱。先帝制，长城以北引弓之国受令单于，长城以内冠带之室朕亦制之，使万民耕织，射猎衣食，父子毋离，臣主相安，俱无暴虐。今闻渫恶民贪降其趋，背义绝约，忘万民之命，离两主之欢，然其事已在前矣。书云‘二国已和亲，两主欢说，寝兵休卒养马，世世昌乐，翕然更始’，朕甚嘉之。圣者日新，改作更始，使老者得息，幼者得长，各保其首领，而终其天年。朕与单于俱由此道，顺天恤民，世世相传，施之无穷，天下莫不咸便。汉与匈奴邻敌之国，匈奴处北地，寒，杀气早降，故诏吏遗单于秫蘖金帛绵絮它物岁有数。今天下大安，万民熙熙，独朕与单于为之父母。朕追念前事，薄物细故，谋臣计失，皆不足以离昆弟之欢。朕闻天不颇覆，地不偏载。朕与单于皆捐细故，俱蹈大道，堕坏前恶，以图长久，使两国之民若一家子。元元万民，下及鱼鳖，上及飞鸟，跂行喙息蠕动之类，莫不就安利，避危殆。故来者不止，天之道也。俱去前事，朕释逃虏民，单于毋言章尼等。朕闻古之帝王，约分明而不食言。单于留志，天下大安，和亲之后，汉过不先。单于其察之。”
单于既约和亲，于是制诏御史：“匈奴大单于遗朕书，和亲已定，亡人不足以益众广地，匈奴无入塞，汉无出塞，犭己今约者杀之，可以久亲，后无咎，俱便。朕已许。其布告天下，使明知之。”
后四年，老上单于死，子军臣单于立，而中行说复事之。汉复与匈奴和亲。
军臣单于立岁余，匈奴复绝和亲，大入上郡、云中各三万骑，所杀略甚众。于是汉使三将军军屯北地，代屯句注，赵屯飞狐口，缘边亦各坚守以备胡寇。又置三将军，军长安西细柳、渭北棘门、霸上以备胡。胡骑入代句注边，烽火通于甘泉、长安。数月，汉兵至边，匈奴亦远塞，汉兵亦罢。后岁余，文帝崩，景帝立，而赵王遂乃阴使于匈奴。吴、楚反，欲与赵合谋入边。汉围破赵，匈奴亦止。自是后，景帝复与匈奴和亲，通关市，给遗单于，遣翁主如故约。终景帝世，时时小入盗边，无大寇。
武帝即位，明和亲约束，厚遇关市，饶给之。匈奴自单于以下皆亲汉，往来长城下。
汉使马邑人聂翁壹间阑出物与匈奴交易，阳为卖马邑城以诱单于。单于信之，而贪马邑财物，乃以十万骑入武州塞。汉伏兵三十余万马邑旁，御史大夫韩安国为护军将军，护国将军以伏单于。单于既入汉塞，未至马邑百余里，见畜布野而无人牧者，怪之，乃攻亭。时雁门尉史行徼，见寇，保此亭，单于得，欲刺之。尉史知汉谋，乃下，具告单于。单于大惊，曰：“吾固疑之。”乃引兵还。出曰：“吾得尉史，天也。”以尉史为天王。汉兵约单于入马邑而纵，单于不至，以故无所得。将军王恢部出代击胡辎重，闻单于还，兵多，不敢出。汉以恢本建造兵谋而不进，诛恢。自是后，凶奴绝和亲，攻当路塞，往往入盗于边，不可胜数。然匈奴贪，尚乐关市，嗜汉财物，汉亦通关市不绝以中之。
自马邑军后五岁之秋，汉使四将各万骑击胡关市下。将军卫青出上谷，至龙城，得胡首虏七百人。公孙贺出云中，无所得。公孙敖出代郡，为胡所败七千。李广出雁门，为胡所败，匈奴生得广，广道亡归。汉囚敖、广，敖、广赎为庶人。其冬，匈奴数千人盗边，渔阳尤甚。汉使将军韩安国屯渔阳备胡。其明年秋，匈奴二万骑入汉，杀辽西太守，略二千余人。又败渔阳太守军千余人，围将军安国。安国时千余骑亦且尽，会燕救之，至，匈奴乃去，又入雁门杀略千余人。于是汉使将军卫青将三万骑出雁门，李息出代郡，击胡，得首虏数千。其明年，卫青复出云中以西至陇西，击胡之楼烦、白羊王子河南，得胡首虏数千，羊百余万。于是汉遂取河南地，筑朔方，复缮故秦时蒙恬所为塞，因河而为固。汉亦弃上谷之斗辟县造阳地以予胡。是岁，元朔二年也。
其后冬，军臣单于死，其弟左右蠡王伊稚斜自立为单于，攻败军臣单于太子於单。於单亡降汉，汉封於单为陟安侯，数月死。
伊稚斜单于既立，其夏，匈奴数万骑入代郡，杀太守共友，略千余人。秋，又入雁门，杀略千余人。其明年，又入代郡、定襄、上郡，各三万骑，杀略数千人。匈奴右贤王怨汉夺之河南地而筑朔方，数寇盗边，及入河南，侵扰朔方，杀略吏民甚众。
其明年春，汉遣卫青将六将军十余万人出朔方高阙。右贤王以为汉兵不能至，饮酒醉。汉兵出塞六七百里，夜围右贤王。右贤王大惊，脱身逃走，精骑往往随后去。汉将军得右贤王人众男女万五千人，裨小王十余人。其秋，匈奴万骑入代郡，杀都尉朱央，略千余人。
其明年春，汉复遣大将军卫青将六将军，十余万骑，仍再出定襄数百里击匈奴，得首虏前后万九千余级，而汉亦亡两将军，三千余骑。右将军建得以身脱，而前将军翕侯赵信兵不利，降匈奴。赵信者，故胡小王，降汉，汉封为翕侯，以前将军与右将军并军，介独遇单于兵，故尽没。单于既得翕侯，以为自次王，用其姊妻之，与谋汉。信教单于益北绝幕，以诱罢汉兵，徼极而取之，毋近塞。单于从之。其明年，胡数万骑入上谷，杀数百人。
明年春，汉使票骑将军去病将万骑出陇西，过焉耆山千余里，得胡首虏八千余级，得休屠王祭天金人。其夏，票骑将军复与合骑侯数万骑出陇西、北地二千里，过居延，攻祁连山，得胡首虏三万余级，裨小王以下十余人。是时，匈奴亦来入代郡、雁门，杀略数百人。汉使博望侯及李将军广出右北平，击匈奴左贤王。左贤王围李广，广军四千人死者过半，杀虏亦过当。会博望侯军救至，李将军得脱，尽亡其军。合骑侯后票骑将军期，及博望侯皆当死，赎为庶人。