鲁南于4月下旬失守后，张学良、杨宇霆意识到津浦失利，天津危急，因此提前就开始做撤退准备。这时又接到张作霖命令向滦东集结，于是按计划分两期实行。第一期，把攻打冯军安阳一带的部队先撤到保定附近，然后由铁路输送到滦东各县；第二期，把攻打阎军的石家庄、娘子关部队撤到保定以南，先掩护由安阳方面撤退的各部安全通过保定之线，然后各掩护部队以军为单位，经过京、津中间地带向滦东一带撤退。第一期各部队于5月上旬先后通过保定开赴滦东一线，第二期各部队于5月上旬先后撤到保定以南布防，然后经津浦中间地带向滦东撤退，所有撤退计划均有条不紊执行，因此奉军主力未受到任何损失。撤退途中仅有冯军郑大章部率骑兵尾追了一阵，但兵力很少，仅属于骚扰性质，无大的战斗。
张作相率领的第五方面军团，于5月底分别向热河、京东一带撤退。第十二军退承德，第九军退滦平，第三十军退马兰峪一带，仅留四十七旅在北京办理交涉。汲金纯部在第五方军撤退前，于5月中旬已奉令向热河境内凌源一带后撤。
褚玉璞第七方面军团在大名防守军，未发生主力战斗。4月下旬因张宗昌败退而下令所部，经南宫、武强等县向天津以东撤退。
关于这次奉军大规模撤退，其实是张作霖看见关内形势明显不利于自己时采取的一项保存实力的做法。当时关内蒋冯阎桂携手，反对的目标只有张作霖一个，以前还有直系可以依赖，于今是孤家寡人。当然，只要张作霖愿意，还是有人愿意帮助他的，那就是日本人。日本公使芳泽曾于5月中旬携带秘密文件晋见张作霖，承诺如张允可签订，日本可以出兵相助，阻止南军北进，但被张作霖拒绝了。张作霖不愿卖国，同时也认为，只要自己退出关内，那么蒋冯阎桂之间为争夺北京政权一定会打起来，这样以后还有卷土重来的机会。应该说张作霖的判断非常有先见之明，大概一年后蒋冯阎桂之间果然就争斗了起来，甚至在1930年还爆发了史无前例的中原大战。如果张作霖还在，那么他一定还是民国历史上的不死鸟，极有可能再次率军驰聘中原。只可惜恼羞成怒的日本人再没给他这样的机会。1928年6月4日，张作霖在大军撤退之时被日本人炸死于皇姑屯，即本文开篇所说的皇姑屯一声巨响。
奉军撤退时，阎锡山捡了大便宜。此时离奉军撤退地方最近的就是阎锡山的部队了。奉军在前边走，阎军就在后面跟，就好像约好了一样。阎锡山也就这出息，打仗打不过别人，所以就不打了，只管跟着就是，跟着跟着也就进占了石家庄、保定等重要据点，收编了安锡嘏师，还获得了奉军运不走的或者不屑于运的一些物资和军用物品。6月8日，阎军商震、徐永昌部进占了北京。捡到便宜的还有冯军韩复榘部，他们派汽车载着一部分军队跟着阎锡山进了北京，因此也算捞到了一点外快。最倒霉的就是蒋介石了，仗打得比谁都大，战利品却一毛也没有捞着，不过蒋财大气粗，也不在乎这些。
1928年7月下旬，蒋介石约冯玉祥、李宗仁、阎锡山、李济深到京，在西山碧云寺召开军事会议，决定停止对奉军的进剿，虽然张作霖被日本人炸死了，但张学良已接续大位，拥有相当的实力，短期内进军关外解决不了问题。而此时共产党已在井冈山建立了革命根据地，成为蒋介石的心腹大患，急需派部队前去征剿。至于张宗昌、褚玉璞以及孙传芳等的残部，决定由白崇禧率军解决。此外，将北京改名为北平，派阎锡山为平津卫戍司令，派张荫梧为北平警备司令，傅作义为天津警备司令。直隶改为河北，派商震为河北省主席，杨爱源、徐永昌分任察哈尔、绥远主席。平、津和北方的大权，均落到了阎锡山的手中，使阎锡山成为此次北伐的最大获益者。
奉军大撤退，张作霖和吴俊升身死，处于危境中的东北受到了各方势力的觊觎，幸亏老将张作相以其资历和声望镇住了人心惶惶的东北诸将。张作相力排众议，坚决按照张作霖的意思拥戴秘密返回奉天的张学良。
其实，张作霖死时只说了句：“我受伤太重，恐怕不行了……叫小六子快回奉天。”这应该算是他的最终遗言，从他的最终遗言里，应不难推测出来张作霖是要子承父业了。其实即便没有这句话，仅从张学良年纪轻轻就担任了奉军最精锐的部队第三军团军团长一职，也可以看得出来张作霖对张学良的苦心栽培了。1928年6月18日，奉天各法团会议公推张学良继任奉天军务督办，张学良于6月19日就职，通告各国领事，并于6月20日公布了施政纲领5条，6月21日才宣布了张作霖的死讯，等到外界包括日本人等知道时，奉天局面已经稳固，军政大权已经顺利移交给了张学良，日本人失去了借张作霖之死出兵奉天的好时机。
然而可能是出于对张学良掌控东北的担心，在东北保安总司令这一统率东北三省的职务上，杨宇霆及诸将初期拥护的不是张学良而是张作相，但张作相坚辞不受，极力拥戴张学良，诸将在张作相的苦心劝说下最后才接受了张学良的子承父业。应该说杨宇霆的担心不是没有道理，在继承张作霖遗志这方面张学良确实不是合适人选。后来张学良的改旗易职以及放弃东三省等举动，如果张作霖在世那肯定是不会同意的。张作霖死后，杨宇霆在相当长一段时期内还按照张作霖的路子在走，从而为自己的死亡埋下了伏笔。
1928年7月2日，东三省议会联合会会议一致公推张学良为东三省保安总司令兼奉天保安司令，至此，东北地区平稳地实现了政权交接。
值得一提的是，张作霖死后，被张作霖两度逼得走投无路的秀才吴佩孚居然送来了一篇感情真挚、催人泪下的祭文，其内容摘录如下：“呜呼，天下滔滔，乱民接踵。东北义旗，一隅犹重。公之一身，国之梁栋。闻公之亡，临江长恸。非公之惜，惟国是痛。轵里无名，博浪竟中。始闻而疑，今腾于众。呜呼哀哉。自与公交，寒暑两经。以事变之纷扰，致肝胆以莫倾。恐瞑目而长往，或遗恨于九京……”。吴佩孚是性情中人，他的祭文应是他真实意思的表示。张作霖如果地下有知，不知作何感想，因为此时的吴佩孚已经被逼得几无立椎之地。当初被张作霖拆台赶出河南后，如今又被蒋介石四处追捕，只得寄身于四川军阀杨森之下。有意思的是，刚刚还与张作霖打得不可开交的国民革命军李宗仁、白崇禧等也送来了挽联。李宗仁的挽联实事求是，着重于从张作霖与孙中山的交往以及守护东北的贡献来表述，其文曰：“与总理生前为友述志有人能令欃枪化日月，当中原多事之秋捍边最力每从辽海想旌旗。”由此可知，尽管张、吴、李在战场上拼得你死我活甚至于到了有你无我的敌对状态，然而在个人品性上却很是投缘，大约是英雄惜英雄吧。抛开各自所代表的利益而言，实际上打心里还是非常认可对方的。
张作霖被炸死了，在各方都还没有做好充足准备的情况下很突然地离开了奉系大集团，奉系内部的军政大权可以由张学良在很短的时间内接替，但各方盘根错节的利益却因这次意外事件而要重新组合，有些人更是损失惨重甚至于连命都搭进去了。
