建武二十四年春，八部大人一道商量立比爲呼韓邪單于，由于比的祖父曾經歸順漢得以安甯，所以打算襲用呼韓邪單于的名号。于是比來到五原塞，表示願意做漢的屏障，抵禦北部的敵虜。皇帝采納五宮中郎将耿國的意見，就同意了。逭年冬天，比自立爲呼韓邪單于。
二十五年春，單于派弟弟左賢王莫率領一萬多兵力攻打北單于的弟弟奠鞑左賢王，活捉了奠鞑左賢王；又打敗了北單于帳下的軍隊，合并了北單于部衆一萬多人，獲得七千匹馬、一萬頭牛羊。北單于很驚恐，後退了一千裏。起初，皇帝制造戰車，可以用幾頭牛駕車，車上造有望樓，放在塞上，用以抵擋匈奴。當時見到戰車的人相互談論說：“谶語說漢第九代時将會使北狄退卻千裏，難道說的就是這件事情嗎？”到這時候，果然開拓了疆域。北部的奠鞑骨都侯與右骨都侯率領三萬多部衆前來投奔南單于，南單于再次派使者到朝廷，以藩國之禮稱臣，獻上國内的珍寶，請求派使者督察保護，派兒子到朝廷侍奉，締結從前的盟約。
二十六年，皇帝派中郎将段郴、副校尉王郁出使南單于，立于南單于庭，這裹距五原西部邊塞八十裏遠。單于于是延請迎接漢使者。使者說：“單于應當趴在地上拜接诏書。”拜完以後，單于要翻譯曉谕使者說：“單于剛剛即位，在手下人面前實在感到羞慚，希望使者不要當着衆人的面讓單于屈尊。”骨都侯等人見此情形，都流下眼淚。段郴等人回來覆命，皇帝下韶書聽随南單于住進雲中。單于派使者上書，獻來兩頭駱駝、十匹毛色有紋彩的馬。
正月初一朝廷舉行朝拜慶賀，在拜祭陵墓和宗廟以後，漢就打發單于使者回去，命令谒者護送，賜給單于一千匹彩色絲帛，四端錦帛，十斤金，還有太官爲皇帝制作的醬以及橙子、橘子、龍眼和荔枝；賜給單于的母親和各位辟氏、單于的兒子和左右賢王、左右谷蠡王、骨都侯中有功德的人各種彩色絲帛，合起來有一萬匹。
匈奴習俗，每年有三次龍祠，一般在正月、五月、九月的戊曰祭祀天神。南單于既然歸順漢，就同時祭祀漢皇帝，藉此機會召集各部，商量國家事務，舉行賽馬和賽駱駝，以此爲樂。匈奴大臣中尊貴的是左賢王，其次是左谷蠡王，其次是右賢王，其次是右谷蠡王，這稱爲“四角”；其次是左右日逐王，其次是左右溫禺千王，其次是左右漸将王，這稱爲“六角”：他們都是單于的兒子兄弟，按照順序将要當單于的人。異姓大臣有左右骨都侯，其次是左右屍逐骨都侯，其他又有日逐、且渠、當産各種官号，各以權力的大小、部衆的多少确定職位高低和次序。單于姓虛連題。異姓有呼衍氏、須蔔氏、丘林氏、蘭氏四個姓，他們是匈奴國内名族，經常與單于通婚。呼銜氏爲左，蘭氏、須蔔氏爲右，他們負責判決案件，受理訴訟，他們将判決的輕重，口頭告訴單于，那裹沒有文書和記事的簿冊。
二十六年冬，以前叛變的五位骨都侯的兒子又率部衆三千人投奔南部，北單于派騎兵追擊，将他們全部俘獲。南單于派軍隊抵禦，迎戰不利。朝廷于是又下韶書要單于遷到西河美稷居住，并派中郎将段郴和副校尉王郁留在西河保護單于，爲單于設置官府、從事、掾史。又命令西河長生每年率領二千騎兵，五百被解除枷鎖的刑徒，幫助中郎将護衛單于，冬天駐守，夏天撤銷，自此以後作爲常例。又免去沿邊八個郡的全部租稅和勞役。
南單于住進西河以後，也設置各部侯王，幫助漢抵禦戍邊。南單于派韓氏骨都侯駐守北地，右賢王駐守朔方，當于骨都侯駐守五原，呼衍骨都侯駐守雲中，郎氏骨都侯駐守定襄，左南将軍駐守雁門，栗籍骨都侯駐守代郡，他們都統領部衆替郡縣當耳目偵察動靜。北單于很惶恐，送還了被擄掠去的許多漢人，以表示友好。他們出來抄掠的軍隊每次經過南部附近，或回頭經過漠兵偵察敵情的崗亭，總是道歉說：“我們打的是逃亡的奠鞑曰逐王，并非膽敢侵犯漢人。”
二十七年，北單于于是派使者到武威請求和親，天子召集公卿大臣在殿庭商議，決定不下來。皇太子說：“南單于剛剛歸順，北部的敵虜害怕被攻打，所以側耳而聽，争着想歸附正義。現在朝廷不能出兵，卻反而和北部敵虜往來，臣恐怕南單于将會生出二心，願意投降的北部敵虜将不會再來投降了。”皇帝認爲有道理，就告知武威太守不要接納北單于的使者。
二十八年，北匈奴又一次派使者到朝廷，進獻馬匹和皮裘，重新乞求和親，并想求得漢的音樂，又請求率領西城各國的胡人一道前來進貢朝拜，皇帝将此事交給三公府去讨論應酬答覆的事宜。司徒掾班彪上書說：臣聽說孝宣皇帝吩咐守衛邊境的将尉說：“匈奴是大國，多變化和欺詐。交往合情得體，就可以談判取勝；應答中了他們的
計謀，就反過來被他們輕視欺侮。”現在北匈奴見南單于前來歸順，害怕我們設謀對付他們，所以多次乞求和親，又從遠方趕來牛馬與漢做生意，重複派遣有名的王侯，進貢很多東西，這都是用來向外顯示富強，爲的是欺騙我們。臣看到匈奴貢獻的東西越多，就知道匈奴國内越空虛，要求歸附親近越急迫，他們的恐懼就越厲害。然而現在既然未能幫助南部，那麽也不宜和北部斷絕聯系，按照懷柔籠絡的原則，于禮數不能沒有回覆。臣以爲可以給他們一些賞賜，大緻與他們所獻來的東西價值相當，公開将前代的呼韓邪和郅支行事的結果曉谕告知他們。