後頃之，冒頓死，子稽粥立，號曰老上單于。
老上稽粥單于初立，文帝複遣宗人女翁主為單于閼氏，使宦者燕人中行說傅翁主。說不行，漢強使之。說曰：「必我也，為漢患者」。中行說既至，因降單于，單于愛幸之。
初，單于好漢繒絮食物，中行說曰：「匈奴人眾不能當漢之一郡，然所以強之者，以衣食異，無仰於漢。今單于變俗好漢物，漢物不過什二，則匈奴盡歸於漢矣。其得漢絮繒，以馳草棘中，衣褲皆裂弊，以視不如旃裘堅善也；得漢食物皆去之，以視不如重酪之便美也。」於是說教單于左右疏記，以計識其人眾畜牧。
漢遺單于書，以尺一牘，辭曰「皇帝敬問匈奴大單于無恙」，所以遺物及言語云云。中行說令單于以尺二寸牘，及印封皆令廣長大，倨驁其辭曰「天地所生、日月所置匈奴大單于，敬問漢皇帝無恙」，所以遺物言語亦云云。
漢使或言匈奴俗賤老，中行說窮漢使曰：「而漢俗屯戍從軍當發者，其親豈不自奪溫厚肥美齎送飲食行者乎？」漢使曰：「然。」說曰：「匈奴明以攻戰為事，老弱不能鬥，故以其肥美飲食壯健以自衛，如此父子各得相保，何以言匈奴輕老也？」漢使曰：「匈奴父子同穹廬臥。父死，妻其後母；兄弟死，盡妻其妻。無冠帶之節、闕庭之禮。」中行說曰：「匈奴之俗，食畜肉，飲其汁，衣其皮；畜食草飲水，隨時轉移。故其急則人習騎射，寬則人樂無事。約束徑，易行；君臣簡，可久。一國之政猶一體也。父兄死，則妻其妻，惡種姓之失也。故匈奴雖亂，必立宗種。今中國雖陽不取其父兄之妻，親屬益疏則相殺，至到易姓，皆從此類也。且禮義之弊，上下交怨，而室屋之極，生力屈焉。夫力耕桑以求衣食，築城郭以自備，故其民急則不習戰攻，緩則罷於作業，嗟土室之人，顧無喋喋占占，冠固何當！」自是之後，漢使欲辯論者，中行說輒曰：「漢使毋多言，顧漢所輸匈奴繒絮米□，令其量中，必善美而已，何以言為乎？且所給備善則已，不備善而苦惡，則候秋孰，以騎馳蹂乃稼穡也。」日夜教單于候利害處。
孝文十四年，匈奴單于十四萬騎入朝那蕭關，殺北地都尉卬，虜人民畜產甚多，遂至彭陽。使騎兵入燒回中宮，候騎至雍甘泉。於是文帝以中尉周舍、郎中令張武為將軍，發車千乘，十萬騎，軍長安旁以備胡寇。而拜昌侯盧卿為上郡將軍，甯侯魏脩為北地將軍，隆慮侯周灶為隴西將軍，東陽侯張相如為大將軍，成侯董赤為將軍，大發車騎往擊胡。單于留塞內月餘，漢逐出塞即還，不能有所殺。匈奴日以驕，歲入邊，殺略人民甚眾，雲中、遼東最甚，郡萬餘人。漢甚患之，乃使使遺匈奴書，單于亦使當戶報謝，複言和親事。
孝文後二年，使使遺匈奴書曰：「皇帝敬問匈奴大單于無恙。使當戶且渠雕渠難、郎中韓遼遺朕馬二匹，已至，敬愛。先帝制，長城以北引弓之國受令單于，長城以內冠帶之室朕亦制之，使萬民耕織，射獵衣食，父子毋離，臣主相安，俱無暴虐。今聞渫惡民貪降其趨，背義絕約，忘萬民之命，離兩主之歡，然其事已在前矣。書雲『二國已和親，兩主歡說，寢兵休卒養馬，世世昌樂，翕然更始』，朕甚嘉之。聖者日新，改作更始，使老者得息，幼者得長，各保其首領，而終其天年。朕與單于俱由此道，順天恤民，世世相傳，施之無窮，天下莫不鹹便。漢與匈奴鄰敵之國，匈奴處北地，寒，殺氣早降，故詔吏遺單于秫□金帛綿絮它物歲有數。今天下大安，萬民熙熙，獨朕與單于為之父母。朕追念前事，薄物細故，謀臣計失，皆不足以離昆弟之歡。朕聞天不頗覆，地不偏載。朕與單于皆捐細故，俱蹈大道，墮壞前惡，以圖長久，使兩國之民若一家子。元元萬民，下及魚鱉，上及飛鳥，□行喙息蠕動之類，莫不就安利，避危殆。故來者不止，天之道也。俱去前事，朕釋逃虜民，單于毋言章尼等。朕聞古之帝王，約分明而不食言。單于留志，天下大安，和親之後，漢過不先。單于其察之。」
單于既約和親，於是制詔禦史：「匈奴大單于遺朕書，和親已定，亡人不足以益眾廣地，匈奴無入塞，漢無出塞，犬己今約者殺之，可以久親，後無咎，俱便。朕已許。其佈告天下，使明知之。」
後四年，老上單于死，子軍臣單于立，而中行說複事之。漢複與匈奴和親。
軍臣單于立歲余，匈奴複絕和親，大入上郡、雲中各三萬騎，所殺略甚眾。於是漢使三將軍軍屯北地，代屯句注，趙屯飛狐口，緣邊亦各堅守以備胡寇。又置三將軍，軍長安西細柳、渭北棘門、霸上以備胡。胡騎入代句注邊，烽火通于甘泉、長安。數月，漢兵至邊，匈奴亦遠塞，漢兵亦罷。後歲余，文帝崩，景帝立，而趙王遂乃陰使於匈奴。吳、楚反，欲與趙合謀入邊。漢圍破趙，匈奴亦止。自是後，景帝複與匈奴和親，通關市，給遺單于，遣翁主如故約。終景帝世，時時小入盜邊，無大寇。
武帝即位，明和親約束，厚遇關市，饒給之。匈奴自單于以下皆親漢，往來長城下。
漢使馬邑人聶翁壹間闌出物與匈奴交易，陽為賣馬邑城以誘單于。單于信之，而貪馬邑財物，乃以十萬騎入武州塞。漢伏兵三十余萬馬邑旁，御史大夫韓安國為護軍將軍，護國將軍以伏單于。單于既入漢塞，未至馬邑百餘裏，見畜布野而無人牧者，怪之，乃攻亭。時雁門尉史行徼，見寇，保此亭，單于得，欲刺之。尉史知漢謀，乃下，具告單于。單于大驚，曰：「吾固疑之。」乃引兵還。出曰：「吾得尉史，天也。」以尉史為天王。漢兵約單于入馬邑而縱，單于不至，以故無所得。將軍王恢部出代擊胡輜重，聞單于還，兵多，不敢出。漢以恢本建造兵謀而不進，誅恢。自是後，凶奴絕和親，攻當路塞，往往入盜于邊，不可勝數。然匈奴貪，尚樂關市，嗜漢財物，漢亦通關市不絕以中之。
自馬邑軍後五歲之秋，漢使四將各萬騎擊胡關市下。將軍衛青出上谷，至龍城，得胡首虜七百人。公孫賀出雲中，無所得。公孫敖出代郡，為胡所敗七千。李廣出雁門，為胡所敗，匈奴生得廣，廣道亡歸。漢囚敖、廣，敖、廣贖為庶人。其冬，匈奴數千人盜邊，漁陽尤甚。漢使將軍韓安國屯漁陽備胡。其明年秋，匈奴二萬騎入漢，殺遼西太守，略二千餘人。又敗漁陽太守軍千余人，圍將軍安國。安國時千餘騎亦且盡，會燕救之，至，匈奴乃去，又入雁門殺略千餘人。於是漢使將軍衛青將三萬騎出雁門，李息出代郡，擊胡，得首虜數千。其明年，衛青複出雲中以西至隴西，擊胡之樓煩、白羊王子河南，得胡首虜數千，羊百余萬。於是漢遂取河南地，築朔方，複繕故秦時蒙恬所為塞，因河而為固。漢亦棄上穀之鬥辟縣造陽地以予胡。是歲，元朔二年也。
其後冬，軍臣單于死，其弟左右蠡王伊稚斜自立為單于，攻敗軍臣單于太子於單。於單亡降漢，漢封於單為陟安侯，數月死。
伊稚斜單于既立，其夏，匈奴數萬騎入代郡，殺太守共友，略千餘人。秋，又入雁門，殺略千餘人。其明年，又入代郡、定襄、上郡，各三萬騎，殺略數千人。匈奴右賢王怨漢奪之河南地而築朔方，數寇盜邊，及入河南，侵擾朔方，殺略吏民甚眾。
其明年春，漢遣衛青將六將軍十余萬人出朔方高闕。右賢王以為漢兵不能至，飲酒醉。漢兵出塞六七百里，夜圍右賢王。右賢王大驚，脫身逃走，精騎往往隨後去。漢將軍得右賢王人眾男女萬五千人，裨小王十餘人。其秋，匈奴萬騎入代郡，殺都尉硃央，略千餘人。
其明年春，漢複遣大將軍衛青將六將軍，十余萬騎，仍再出定襄數百里擊匈奴，得首虜前後萬九千餘級，而漢亦亡兩將軍，三千餘騎。右將軍建得以身□，而前將軍翕侯趙信兵不利，降匈奴。趙信者，故胡小王，降漢，漢封為翕侯，以前將軍與右將軍並軍，介獨遇單于兵，故盡沒。單于既得翕侯，以為自次王，用其姊妻之，與謀漢。信教單于益北絕幕，以誘罷漢兵，徼極而取之，毋近塞。單于從之。其明年，胡數萬騎入上穀，殺數百人。
明年春，漢使票騎將軍去病將萬騎出隴西，過焉耆山千餘裏，得胡首虜八千餘級，得休屠王祭天金人。其夏，票騎將軍複與合騎侯數萬騎出隴西、北地二千里，過居延，攻祁連山，得胡首虜三萬餘級，裨小王以下十餘人。是時，匈奴亦來入代郡、雁門，殺略數百人。漢使博望侯及李將軍廣出右北平，擊匈奴左賢王。左賢王圍李廣，廣軍四千人死者過半，殺虜亦過當。會博望侯軍救至，李將軍得脫，盡亡其軍。合騎侯後票騎將軍期，及博望侯皆當死，贖為庶人。