太延二年，慕璝死，弟慕利延立，诏遣使者策慕璝曰惠王。后拜慕利延镇西大将军、仪同三司，改封西平王；以慕璝子元绪为抚军将军。时慕利延又通刘义隆，义隆封为河南王。世祖征凉州，慕利延惧，遂率其部人西遁沙漠。世祖以慕利延兄有禽赫连定之功，遣使宣喻之，乃还。后慕利延遣使表谢，书奏，乃下诏褒奖之。慕利延兄子纬代惧慕利延害己，与使者谋欲归国，慕利延觉而杀之。纬代弟叱力延等八人逃归京师，请兵讨慕利延。世祖拜叱力延归义王，诏晋王伏罗率诸将讨之。军至大母桥，慕利延兄子拾寅走河西，伏罗遣将追击之，斩首五千余级。慕利延走白兰。慕利延从弟伏念、长史孚?鸠黎、部大崇娥等率众一万三千落归降。后复遣征西将军、高凉王那等讨之于白兰，慕利延遂入于阗国，杀其王，死者数万人。南征罽宾。遣使通刘义隆求援，献乌丸帽、女国金酒器、胡王金钏等物，义隆赐以牵车。七年，遂还旧土。
慕利延死，树洛干子拾寅立，始邑于伏罗川，其居止出入窃拟王者。拾寅奉修贡职，受朝廷正朔，又受刘义隆封爵，号河南王。世祖遣使拜为镇西大将军、沙州刺史、西平王。后拾寅自恃险远，颇不恭命，通使于刘彧，献善马、四角羊，彧加之官号。高宗时，定阳侯曹安表拾寅今保白兰，多有金银牛马，若击之，可以大获。议者咸以先帝忿拾寅兄弟不穆，使晋王伏罗、高凉王那再征之，竟不能克。拾寅虽复远遁，军亦疲劳。今在白兰，不犯王塞，不为人患，非国家之所急也。若遣使招慰，必求为臣妾，可不劳而定也。王者之于四荒，羁縻而已，何必屠其国有其地。安曰：“臣昔为浇河戍将，与之相近，明其意势。若分军出其左右，拾寅必走保南山，不过十日，牛马草尽，人无所食，众必溃叛，可一举而定也。”从之，诏阳平王新成、建安王穆六头等出南道，南郡公李惠、给事中公孙拔及安出北道以讨之。拾寅走南山，诸军济河追之。时军多病，诸将议贼之远遁，军容已振，今驱疲病之卒，要难翼之功，不亦过乎。众以为然，乃引还，获驼马二十余万。显祖夏诏上党王长孙观等率州郡兵讨拾寅。军至曼头山，拾寅来逆战，观等纵兵击败之，拾寅宵遁。于是思悔，复修籓职，遣别驾康盘龙奉表朝贡。显祖幽之，不报其使。拾寅部落大饥，屡寇浇河，诏平西将军、广川公皮欢喜率敦煌、枹罕、高平诸军为前锋，司空、上党王长孙观为大都督以讨之。观等军入拾寅境，刍其秋稼，拾寅窘怖，遣子诣军，表求改过。观等以闻，显祖以重劳将士，乃下诏切责之，征其任子。拾寅遣子斤入侍，显祖寻遣斤还。拾寅后复扰掠边人，遣其将良利守洮阳，枹罕所统，枹罕镇将、西郡公杨钟葵贻拾寅书以责之。拾寅表曰：“奉诏听臣还旧土，故遣良刘守洮阳，若不追前恩，求令洮阳贡其土物。”辞旨恳切，显祖许之。自是岁修职贡。
太和五年，拾寅死，子度易侯立，遣其侍郎时真贡方物，提上表称嗣事。后度易侯伐宕昌，诏让之，赐锦彩一百二十匹，喻令悛改，所掠宕昌口累部送时还。易侯并奉诏。死，子伏连筹立。高祖欲令入朝，表称疾病，辄修洮阳、泥和城而置戍焉。文明太后崩，使人告凶，伏连筹拜命不恭，有司请伐之，高祖不许。群臣以其受诏不敬，不宜纳所献。高祖曰：“拜受失礼，乃可加以告责，所献土毛，乃是臣之常道，杜弃所献，便是绝之，纵欲改悔，其路无由矣。”诏曰：“朕在哀疚之中，未有征讨，而云春枹罕表，取其洮阳、泥和二戍。时以此既边将之常，即便听许。及偏师致讨，二戍望风请降，执讯二千余人，又得妇女九百口。子妇可悉还之。”伏连筹乃遣世子贺鲁头朝于京师，礼锡有加，拜伏连筹使持节、都督西垂诸军事、征西将军、领护西戎中郎将、西海郡开国公、吐谷浑王，麾旗章绶之饰皆备给之。后遣兼员外散骑常侍张礼使于伏连筹，伏连筹谓礼曰：“昔与宕昌通和，恆见称大王，己则自名，今忽名仆而拘执此使，将命偏师往问其意。”礼曰：“君与宕昌并为魏籓，而比辄有兴动，殊违臣节。当发之日，宰辅以为君若反迷知罪，则克保籓业，脱守愚不改，则祸难将至。”伏连筹遂默然。及高祖崩，遣使赴哀，尽其诚敬。
伏连筹内修职贡，外并戎狄，塞表之中，号为强富。准拟天朝，树置官司，称制诸国，以自夸大。世宗初，诏责之曰：“梁州表送卿报宕昌书，梁弥邕与卿并为边附，语其国则邻籓，论其位则同列，而称书为表，名报为旨，有司以国有常刑，殷勤请讨。朕虑险远多虞，轻相构惑，故先宣此意，善自三思。”伏连筹上表自申，辞诚恳至。终世宗世至于正光，牦牛蜀马及西南之珍无岁不至。
后秦州城人莫折念生反，河西路绝，凉州城人万于菩提等东应念生，囚刺史宋颖。颖密遣求援于伏连筹，伏连筹亲率大众救之，遂获保全。自尔以后，关徼不通，贡献路绝。
伏连筹死，子夸吕立，始自号为可汗，居伏俟城，在青海西十五里，虽有城郭而不居，恆处穹庐，随水草畜牧。其地东西三千里，南北千余里。官有王公、仆射、尚书及郎将、将军之号。夸吕椎髻毦珠，以皁为帽，坐金师子床。号其妻为“恪尊”，衣织成裙，披锦大袍，辫发于后，首戴金花冠。其俗：丈夫衣服略同于华夏，多以罗幕为冠，亦以缯为帽；妇人皆贯珠贝，束发，以多为贵。兵器有弓刀甲槊。国无常赋，须则税富室商人以充用焉。其刑罚：杀人及盗马者死，余则征物以赎罪，亦量事决杖；刑人，必有氈蒙头，持石从高击之。父兄死，妻后母及嫂等，与突厥俗同。至于婚，贫不能备财者，辄盗女去。死者亦皆埋殡。其服制，葬讫则除之。性贪婪，忍于杀害。好谢猎，以肉酪为粮。亦知种田，有大麦、粟、豆，然其北界气候多寒，唯得芜菁、大麦，故其俗贫多富少。青海周回千余里，海内有小山，每冬冰合后，以良牝马置此山，到来春收之，马皆有孕，所生得驹，号为龙种，必多骏异。吐谷浑尝得波斯草马，放入海，因生骢驹，能日行千里，世传青海骢者是也。土出牝牛、马，多鹦鹉，饶铜、钱、朱沙。地兼鄯善、且末。
兴和中，齐献武王作相，招怀荒远，蠕蠕既附于国，夸吕遣使致敬。献武王喻以大义，征其朝贡，夸吕乃使人赵吐骨真假道蠕蠕频来，又荐其从妹，静帝纳以为嫔。遣员外散骑常侍傅灵使于同国。夸吕又请婚，乃以济南王匡孙女为广乐公主以妻之。此后朝贡不绝。
吐谷浑北有乙弗勿敌国。俗风与吐谷浑同。不识五谷，唯食鱼及苏子。苏子状若中国苟杞子。
北又有阿兰国。与鸟兽同，不知斗战，忽见异人，举国便走。土无所出，大养群畜。体轻工走，逐之不可得。
北又有女王国。以女为主，人所不至，其传云然。