马步芳感到兰州招架不住，听到临夏被占的消息更为惊恐，急令其骑八旅和几个骑兵团返回青海，增强西宁防御，8月23日，又特派马骥飞宁夏，向马鸿逵求援。马鸿逵初则答应派兵出援，要求派汽车来接运部队，并要求接济军用物资，故意拖延，同时也作出发兵姿态，但部队前锋到达海原县兴仁堡即观望不前。马步芳24日又十万火急电国民党中央政府：“窜洮河西岸临夏附近之共军第一军、第二军，刻正向永靖、循化进犯，患在腹心，情况万急！如陕署、宁夏友军及空军再不迅速行动协歼，深恐兰州、西宁均将震动。千钧一发，迫不及待！务望火速分催，不再迟延。”但国民党空军并未及时到来，各路“友军”也杳无音信，且兰州城郊不断发现解放军标语，虽然出动军警镇压，亦无济于事。马步芳知事不可为，当日即仓皇乘飞机返回西宁，临行叮嘱马继援：如马鸿逵、胡宗南及空军再不来援，即保存实力，撤回青海。25日晨，马继援召集马步銮、马振武、谭呈详、韩得胜、杨修戎、马璋等举行紧急会议，决定撤兵顺序，退出兰州。下午4时，长官公署和各部队向黄河北岸撤退，主力部队尚在阵地上，等待天黑再秘密撤走。解放军发觉“青马”意向，立即发起追击，26日凌晨首先攻入西关，并向黄河铁桥猛扑。铁桥旋被中弹抛锚的大卡车堵塞，车马无法通过，溃兵仅从两侧人行道上逃命，但人多拥挤，挤死、压死、跌死、淹死和炮火伤亡的，触目皆是。谭呈祥师急从东岗坡强泅黄河，企图从北岸逃走，泅渡中死亡过半，残部在雁滩被解放军俘虏。11时，解放军占领白塔山制高点，完成了北面包围。接着，各路先后攻入城内，中午，解放军已占领城内各要点，把“青马”在城内的势力全部肃清，兰州宣告解放。“青马”部队，除了淹死者，被解放军毙、伤12700余人，被俘14400余人。马家三代苦心经营的精锐，基本上被歼灭。逃出的残部，因兰青公路被解放军封锁，又恐被追，即攀入北山，从小径进入沙沟，转至永登一带。马继援亦单骑逃至该处，收集余众，仅得7000多人。马继援将残部集合起来，本打算讲话，未及发言，即失声痛哭，遂由八十二军副军长赵遂传达西向岔口驿撤退的命令，但大部分人一哄而散，各自逃命。时仅有三个骑兵团尚较完整，马继援令韩得胜率领，掩护残部继续向凉州撤退，梦想与在新疆的马呈祥军联成一气，据守星星峡。但马继援到岔口驿后，匆忙与马步芳通电话，马步芳叮嘱他，要机警灵活，时刻提防混乱中遭部属暗算，于是马继援即率亲信少数人转赴互助，用电话探询西宁动静，冶成荣促其返回，遂于8月30日午后逃至西宁。
三、青海解放
马步芳于8月24日逃回西宁后，明知兰州即将不守，但仍然不肯死心，还要以西宁为根据地，作最后的挣扎。他命令步兵军军长马全义带领循化、化隆等县民团，凭黄河天险，把守化隆一带；强令循化群众移于黄河之北。一二九军军长马步銮率残部逃到民和县享堂。为延缓解放军进军时日，杨修戎炸毁享堂大通河铁桥，骑兵军第一旅旅长马绍武（与省党部书记长重名的另一人）烧毁甘都古什群峡黄河木桥。在甘都黄河南岸积存的木料数万根，也被步兵军副军长马仲福浇上汽油，付之一炬。这时久居临夏的马步青、马步荣、马步援等也从临夏逃到化隆甘都。马步青在临夏目睹韩起功不战而溃的情况，且其所存黄金和烟土，也大半被韩起功部掠夺，心怀积忿，即以电话向马步芳指责“韩起功不战而退，未能发挥一个军的兵力，形同儿戏”，要求将韩正法。马步芳立即下手令就地枪决，但手令被秘书长高文远压下，韩得以不死。
马步芳让别人拼命，他和他的家族，早已作好逃走退身之计。早在7月初，他就命令他的亲信冶成荣等掠夺兰州物资，将甘肃造币厂、兰州服装厂、甘肃机械厂和军政部军需署在兰州囤积的器材、军火、机件和汽油等物资，纷纷搬到西宁，并一再向冶叮嘱：“快点办，慢不得。”又令冶成荣和陈彦将历年搜刮的黄金，利用陈纳德的飞机多次运往重庆，甚至连银元也一并偷运。某次以载量过重，飞机不能起飞，只得卸下一部分，才得起运。究竟“青马”掠夺了多少黄金，无从估计，仅他们逃跑前带走的，据说马步青最少在3万两以上，马步芳也有两万两之数。马步芳在离开兰州前曾经劝一些伊斯兰教上层人士一同出走，对方回答：“我是传教的，外国无处传。麻雀拔了毛，成了肉蛋蛋，我不走。”马步芳说：“出走怕啥呢。我把黄金一拉走，到哪儿都是扬州。”这句话可为马步芳心态的注解。
兰州解放的第二天，国民党行政院长阎锡山派徐永昌飞抵西宁，召开军事会议。徐埋怨马步芳未能坚守兰州，责其在部署上犯了错误；马则以中央支持不力，“宁马”不听指挥为词，反唇相讥，双方争得面红耳赤，不欢而散。徐永昌令“青马”继续阻止解放军前进，但马步芳已不听这一套，当日下午便秘密携眷飞往重庆。临行前，他利用省政府秘书处的电话向副长官刘任安排后事，嘱托刘任负责指挥前方军事，调周嘉彬等军支持残局，陇南由王治歧军打游击。最后叮嘱刘说：“我只有一个儿子，不怕牺牲，交给你指挥。”据当时在场的人事后说，这最后几句话，声音抖颤，凄怆之态，不能自抑。但放下电话后，又转而指示其部属说：“西宁到都兰的公路，赶快修好，将来退守都兰。飞机场继续赶工，修好后便利轰炸机起落。”又与冶成荣附耳窃窃私语后，即乘车到乐家湾，临上飞机前，对修筑飞机场的民工和学校师生们说：“快点修好，我去联络空军。”随即起飞，同机的是他的家属10多人。马步青、马步瀛、马绍武、马骥等也携家眷飞往重庆。当天，马步芳又从重庆向西宁打回电话说：“路过兰州时，看到地面我军孤立，非常痛心，即派空军前往轰炸。”时中央空军有一架轰炸机停于乐家湾机场，由西北长官公署高参朵含章乘坐携带一批宣传品，飞往兰州、临夏上空散发，并向兰州西关卧桥投掷炸弹3枚，也算是所谓空军助战的兑现吧。
马步芳逃走后，秘书长高文远还极力保守秘密，为安定人心，在省府中山堂召集干部会议，宣布撤往牧区的部署；给厅、处级以上人员，分送黄金、白银，一般公务员也得一些残渣余滓。还由陈秉渊分派车辆，把各要员的家眷送到各地匿避。在此以前，马步芳对临洮、临夏解放时，各族人民欢迎，一些军政人员起义深恶痛绝，此时又怀疑西宁人民，遂拿出挑起民族纠纷的故伎，散布“回民造反，要杀汉人”的谣言。一时西宁谣言四起，彼此猜疑，人心惶惶不安。8月29日，警察局长马怀礼谎称：“汉人勾结共产党，密探十多人已由兰州进入东关，即将暴动。”适逢义源工厂人员放枪，便信以为真，高文远、冶成荣、韩进禄、陈秉渊等军政高级人员，连饭也不敢吃，即乘车逃往门源，马忠义、马全义、马禄等则潜藏于东关民宅之中。高文远等在中途大通河畔，碰到从临夏逃回的韩起功，即将所压的马步芳处决他的手令拿出让韩看。韩见后痛哭失声，连呼冤枉，他分辩说：“骑兵军在临夏的失败，由于新兵未加训练。长官说我作战不力，未放一枪，这在我有责任。可是那一军人马是临时召集起来的，我怎能负起全部责任。”高乘机进逼说：“骑兵军的军饷，已发黄金200两，据我所知，你并未发出。应即交出来，以免罪上加罪。”韩意存支吾，推说此项军饷由军需处经手。韩进禄即在吉普车上架好机枪，向韩起功进逼，韩起功只得乖乖地将黄金交出，高文远勒令其即日返西宁交代，韩也唯唯听命。高文远等到达门源后，向西宁联系，始知并非共产党人鸣枪，于是又折回西宁。30日，马步銮回到西宁，张昌荣、马师融、韩树淼、魏敷滋4人，以地方士绅名义，到湟中实业公司求见马步銮，要求他维持地方治安，避免回汉仇杀，糜烂地方，马步銮说：“我们由当初几十个人，发展到十余万人。今天又由十余万人，回到几十个人。我们失败已无法挽回。西宁是家乡，我们祖辈衣食所给，我们住一天，保护一天，你们放心。”张等告辞后，马步銮指着他们背影说：“这些人惯于转圈，我们要小心提防，以免吃亏。”马步銮、马成贤、马忠义、陈秉渊、马禄、马全义、马继融等人聚集于湟中实业公司相对徬徨，马成贤尚以电话指挥享堂、循化方面继续与解放军顽抗，但那边负责人员早已逃跑，仅由电话员支吾而已。公司一玻璃窗上写有“哀哉青海，往哪里逃”8个大字，众人面面相觑，不置一辞。适冶成荣进来，马禄一见，即手持步枪大哭大叫：“你管飞机，军长（马继援）到今天也无消息，已经来不及了，你要负责。”接着即欲扳动枪机，向冶射击。但冶的随从亦举起冲锋枪对准马禄，马禄未敢开枪。冶成荣说，军长在互助，已派车去接，我去联系飞机，边说边抽身而去。下午，马继援回到西宁，与冶成荣等长叹欷歔，骄悍之气，不复存在。31日早10时，马继援乘车到乐家湾机场，照例乘预定的陈纳德飞机逃往重庆，同机成行的，有高文远、马步銮、马璋、谢公仁、马耀宗及其岳父马庆。其时马继援以马振武失去联络，不得同逃为憾。临起飞时，赵珑赶至，得以同机。管飞机的冶成荣旋亦携眷逃重庆。
马继援之逃走，标志青马统治青海的结束。从马麒于1912年8月始据西宁算起，马家统治青海整整37年。
由于“青马”将黄河渡桥、渡船破坏，解放军在各族人民协助下，修桥、造筏修船，分别于8月31日、9月2日，由循化、永靖北渡黄河，经民和、乐都和循化、化隆两路向西宁进军。在此以前，解放军一兵团司令员王震于8月22日解放临夏后，动员曾任青海省财政厅长、马步芳的亲戚马丕烈先生，率领一个由回汉族4人组成的“劝降团”，到西宁向“青马”残部劝降。马丕烈于8月底到达西宁后，先后在上五庄、三角城向赵遂、马文鼎等高级军政人员讲述解放军的“约法八章”，劝他们早日弃暗投明，找寻出路，促进了他们的思想转变。
西宁解放前夕，该城商会和地方士绅组成维持会，推马辅臣、张昌荣等7人为代表去循化迎接解放军未遇，又返回西宁。9月5日，王震司令员率领的一军部队举行西宁解放入城式，各族各界4万余人隆重欢迎。旋即成立西宁市军事管制委员会和西宁市人民政府。军管会发出布告，令“青马”残部官兵到指定地点投诚登记，指定海晏三角城、大通桥头镇、湟中上五庄为集中地。军管会还分别与八十二军副军长赵遂，国民政府蒙藏委员会副委员长喜饶嘉措等取得联系。“青马”残部在走投无路和解放军争取感召下接受了条件。9月8日解放军正式接受国民党军政人员投诚，其中有八十二军副军长赵遂、一百师师长谭呈祥、二四八师师长韩有禄等高级军官320余人，中下级军官312人，士兵1683人，收缴了许多枪炮、战马、其他军用品和地方的黄金、白银、粮食、布匹等物资。与此同时，解放军继续向青海腹地各县区进军，至9月底，除了都兰、玉树、果洛，各县均告解放。1952年7月进军果洛后，青海全境完全解放。
西北军政长官公署残部，在副长官刘任带领下，随马继援残部逃出兰州，经武威向河西走廊逃窜，沿途被解放军追击，零星起义、投诚和溃逃的很多。到酒泉之后，刘任只身南逃。残部副参谋长彭铭鼎以下与国民党第八补给区等部共35000余人，于1949年9月24日，参加了由陶峙岳将军领衔的起义。在新疆的马呈祥部也随陶峙岳一道起义，但马呈祥本人却取道南疆，逃往印度。至此，马步芳的部队全部完结。
