1920年1月17日，曹锟将吴佩孚请求撤防的电报转给北京政府，电文苦诉全体将士远离家乡、缺粮断饷的困难处境，坚决要求立即撤兵，曹锟嫌吴电报太平淡，在电尾又加了两句：“战死者既作泉下之游魂，生存者又为他乡之饿莩。”20日，吴佩孚再次向北京政府发出急于撤防的通电，电文措辞十分强硬，声称：“困顿湘南，经历百般之痛苦，众心怦怦，万难支持，归意勃勃，沛然莫御。”曹锟又在电尾加上“全军士卒，疾苦呼号，虽经慰勉交加，终难制止，空口抚慰，终无以维系军心，近更屡电哀鸣，有不可终止之勇，情词至为迫切。”北京政府不予批准，曹锟决定授意吴佩孚采取自由行动。30日，南方军政府决定：“现该军眷属业已北上，归志已决，无法挽回，务请速发欠饷及开拔费，并电令湘督拔队接防，迫切待命。”吴佩孚撤防北归，即意味着直皖一战。吴佩孚撤防北归，南军可以随时随地北伐进攻，这样就使段祺瑞的“武力统一”政策破产，同时也会直接形成对控制中央政权的皖系军人集团的致命威胁。因而，3月上旬，段授意安福系补选曹锟为副总统，以便保证吴佩孚不撤防。但曹锟对此已不感兴趣，8省联盟的督军都指使本省籍议员不得出席副总统选举，安福国会虽开会要选举副总统，却两度流产。
4月8日，曹锟在保定假借追悼直军阵亡将士之名，邀请8省反皖联盟的代表举行秘密会议，讨论对付皖系的策略。会议决定：(1)拥靳云鹏留任国务总理，不反对段祺瑞；(2)赞成直军撤防北归，但须责成吴佩孚与南军有一默契，保证直军撤退后，南军不乘机前进；(3)宣布安福系卖国祸国罪状，勒令解散。在此之前，张作霖也以祝寿为名，召开反皖秘密会议。8省反皖同盟经过两次会议，取得了直军撤防北归和解散安福系的一致意见。
曹张联合倒段之势已成，虽然口头上不讲倒段，实际上只有倒段才能打开当时的政治僵局。吴佩孚在这样强有力后盾的支持下，公开声称：
“我军远戍湘南，瓜期两度，所由必须回防之苦衷，迭经电陈，毋庸赘述。既经罢战言和，南北同属一家，并非外患、仇雠，何必重兵防守。”
由此看来，直军撤防北归，已势在必行。
4月中旬，皖系以攻为守，组织鲁、皖、浙、闽、湘、晋、陕、甘、察、热、绥11省联盟，作为反直“统一战线”，但除了京畿其巢穴外，寄其心腹于十余省，力量显得十分分散。相反，直系则据长江数省，可以控制中原，联络西南和东北，可解劲敌相煎之急。直皖两系最后诉诸武力的危机日益接近。
冰冻三尺，非一日之寒。直皖两系剑拔弩张，战争一触即发。很具体地分析当时的局势，段祺瑞没有徐树铮，就没有那几年的煊赫声势，可又正是因为徐树铮而使众矢集于一身，到了直皖决裂之时，形势已造成，想摆脱已是不大可能，因此非经一战不能解决。
7月14日，段祺瑞迫于情势，向“定国军”正式下达对直军的总攻击令，直皖大战正式拉开帷幕。
但是最后段祺瑞在直皖战争中惨败。19日，段祺瑞通电全国，“引咎辞职。”同一日，曹锟宣布直皖战况及皖军败北通电，直皖大战主战场战争告终。
曹锟威风凛凛地骑马入城。此时的曹锟已今非昔比，不要说与往日的布贩子相比，就是与执掌一省军权的督军相比也是截然不同，代替段祺瑞成为北京政府的“太上皇”、“无冕”的总统。
直皖战争在18日已经基本结束。一直到23日，直奉先头部队才开到北京。24日，直奉两军大队人马进入北京，分别接收了南北苑营房。同日，徐世昌派王怀庆督办京畿军队收束事宜，负责解散败兵。26日，北京政府下令撤销曹锟的川、粤、湘、赣四省经略使，改任为直、鲁、豫三省巡阅使。28日，批准段祺瑞辞职，撤销督办边防事务处、西北边防军名义，西北边防军由陆军部收束解散，勒令解散安福俱乐部。至此，曹锟、张作霖已开始共同执政中决大权，皖系作为中国政府舞台上风云一时的政治力量，烟消云散。
曹、张两人在天津，一是喜结亲家，二是庆贺双双荣登“太上政府”，欢天喜地在天津逗留了一周以后，各自心满意足地回到了保定、奉天。
直皖战争，双方准备，前后历时三年之久，从冯国璋到京接任总统后即开始冷战，这是北洋军阀统治时期的一个特色——冷战期长，热战期短。直皖冷战了三年，可是真正热战起来不过三四天。尤其怪异的是，两系的阵容并不鲜明，真正敌对的，在皖系方面是段祺瑞和徐树铮指挥的边防军，在直系方面是曹锟和吴佩孚指挥的直军。其他各省的两系军人基本上是按兵不动，坐观成败。因而战争的结果，所消灭的也只是边防军，第一个垮台的是段祺瑞。
直、皖战争，皖系失败，从此撤出了政治舞台。徐世昌满以为可以堂堂正正地做一个大总统了，可没想到，赶走了皖系段祺瑞一个“太上政府”，又来了直奉曹锟、张作霖两个“太上政府。”而这两个“太上政府”要比段祺瑞霸道得多，一切中央政务都要干涉，没有他们的点头同意，北京政府任何问题都休想解决。
曹锟和张作霖虽说是亲家，但在争夺地盘问题上却丝毫不让。
北京政府为平息这场争夺，只得调任姜桂题为陆军检阅使，而以第二十八师师长汲金纯任热河都统，张作霖这口气才算平定下来。
1921年5月，靳云鹏第三次组阁。
靳云鹏组阁是直、奉两系保持均衡下的产物，靳云鹏与张作霖是儿女亲家，有亲奉远直的倾向。因此，直系对这个内阁越来越觉得不满意。旧交通系利用这一时机，再次发动倒阁运动。旧交通系的中坚分子叶恭绰秘密到奉天向张作霖献策，必须控制中央财权，才能更有效地控制北京政府，他劝张作霖首先控制中央财政。张作霖在旧交通系的怂恿之下，便于1921年12月1日到达天津。次日，靳云鹏也应邀赶到天津。于是，二人联名邀请曹锟前来天津参加“巨头”会议，解决目前的一切重大问题。
曹锟本欲前往，吴佩孚力劝曹锟少过问北京政府的事情，多注意扩张军队实力。因此，曹锟托病未到天津。12月16日，张作霖到达北京，宣称军人不干政，不过问内阁问题，此次前来，专为讨论“征蒙”问题。但是，当他见到徐世昌的时候，却大骂靳云鹏推荐的张志潭对交通事业是个门外汉，不配当交通总长，内阁必须改组才能有所作为，靳云鹏本来希望张作霖进京能帮他一把，没想到张作霖阴一套，阳一套，口是心非，到处讲他的坏话，拆他的台。这时候靳云鹏才知道自己面临着总统、奉系和旧交通系的三面围攻，在内外交困的形势下，靳内阁支撑了数月之后，被迫于12月17日宣布辞职，靳云鹏当天离开北京赴天津。18日，徐世昌批准靳云鹏辞职，派外交总长颜惠庆代理内阁总理职务。
19日，曹锟在徐世昌、张作霖的再三邀请之下到达北京。张作霖虚伪地向曹锟表示：“我们两个应当合力筹款维持中央财政。”实际上，张作霖已与旧交通系约好，用投资的方式控制交通银行，他将东三省公款400万元提借给交通银行，按月息一分二厘，定期半年收回。他还企图合并中、交两行为中央银行，置于自己的控制之下。
这时，亲日派梁士诒突然跳出来，大肆活动，各方拉拢，企图出来组阁。梁士诒在袁世凯死后，作为帝制复辟的祸首被通缉，逃往香港。段祺瑞当政时期，梁士诒郁郁不得志。直、皖战争结束后，梁士诒便跃跃欲试，始终没有碰到机会，这次乘靳云鹏辞职，又力图东山再起。现今政治纷争，国库空虚，军队欠饷、官员欠薪，无人敢来一试，只有梁士诒这类想当总理心切的人物，胆大包天，想来尝试一下这内阁的风味，过一把总理的瘾。
梁士诒到处游说，他向张作霖表示，如果他能组阁，一定听命于张大帅，给奉军多筹军饷，并联络南方合作倒直。张作霖见梁士诒条件优厚，便答应他可以考虑。但张作霖迫于曹锟的势力，未敢包办，表示：“只要曹亲家赞成，我这边没有问题。”梁士诒得到了张作霖的允诺之后，便派人联络曹锟，曹锟并不赞成张作霖提名的梁士诒出任总理，但梁士诒并不甘心，大施政治手腕、四处放风，表示自己组阁后，将迅速筹发直军军饷。梁士诒还亲自拜访曹锟，曹锟向梁士诒说：“燕孙，你们可以替我筹个500万的军费吗？”这个数字实在不小，但梁“财神”并没有被曹锟的巨额清单所吓倒，心想：只管答应下来，做上总理再说，车到山前必有路，说不定到那时直系已被奉系打倒了呢？想到此，便慷慨承诺。曹锟见梁士诒如此爽快，便信以为真，答应他出任总理。
梁士诒并没有点石成金的妙手，也没有扭转财政危机的能力，即使就是有这个能力，他也不会为曹锟效力，曹锟上当受骗了。12月24日，徐世昌正式颁令，任命梁士诒为国务总理。梁士诒凭借他的三寸不烂之舌终于当上了国务总理，12月31日，曹锟离开北京，回到保定。
梁士诒上台之后，对直奉两系是看人下菜碟：对张作霖有求必应，而对直系所要求的事情，总是搪塞敷衍。直系索款，他以财政枯竭为理由加以拒绝。由于一次世界大战的结束，西方国家剩余了大量的军火。1921年11月，曹锟的北洋政府与意大利政府谈判，购买了4011吨军火，意大利经手这批军火的是其驻华使馆武官瓦尔达上校，本来说好了是装备北洋军——那当然是直系部队了。可是这些军火由天津马兹里公司从神户运到中国时，有奉系撑腰的梁士诒内阁却把它分给了直、奉二系，而且奉系还分的比直系只多不少：共计运到沈阳10吨，山海关2434吨，北京60吨，天津1057吨。直系替别人做了好饭，自己却没吃着多少。
曹锟万万没有想到，梁士诒竟敢戏弄“太上政府”，恼羞成怒，决意发起倒阁运动，除去梁士诒这个隐患。此时，梁士诒大肆进行亲日卖国外交活动，干了一系列亲日卖国勾当，引起全国各界不满。1月5日吴佩孚通电痛击梁士诒，可谓批得体无完肤，不留余地。矛头实则指向了张作霖。吴佩孚发电之后，直系各省督军、省长，如王瑚、陈光远、萧耀南、冯玉祥等也一起通电响应。随后，张作霖也拍电中央，为梁士诒辩护。张作霖的电报，一方面为梁士诒辩护，一方面指责了直系吴佩孚，扬言：如果吴佩孚再反对梁内阁，即以“反抗元首”和“军人干政”的罪名加以讨伐。于是，由内阁问题演变成直、奉双方的对阵。直奉战争一触即发。
曹锟见梁士诒死活不下台，岂能罢休，1922年1月19日，授意吴佩孚联络各省军阀，联名电请徐世昌立刻罢免梁士诒，并声明：“请大总统乾纲独断，立罢梁士诒以谢天下。”与此同时，吴佩孚又密电湖北督军萧耀南，循京汉路北上，他自己则调动洛阳、郑州部队集中保定，挟持北京政府。
徐世昌原指望梁士诒上台组阁能使北京政府扭转危局，对内、对外有一个新的彻底改观。但事与愿违，梁士诒上台仅仅几天，就弄出这么大的风波，使其陷入困境，因此不得不暗示梁士诒自动辞职。1月25日，梁士诒愤然离京，避走天津，徐世昌并没有宣布允准梁士诒辞职，只是以准假的名义让其暂时辞退，缓和一下紧张的局势，然后宣布总理一职由外交总长颜惠庆暂时代理。
张作霖得知梁士诒被迫辞职的消息后，不胜恼怒，认为直系如此从中作梗，无非是想切断奉系与中央的联系，削弱奉系在中央的势力。梁士诒是他一手扶上内阁的，曹锟手下将领欺人太甚，他决意与直系对抗到底，不惜兵戎相见。
1922年1月31日，张作霖电请徐世昌把梁士诒办理胶济铁路情由公布于众，以彰公道。不然，他就要联合其他力量代替北京政府加以制裁。此时，梁士诒见后台老板发话，也挺起腰杆，煽风点火，鼓动张作霖进兵关内，对直一战，企图依靠张作霖打倒直系，再度复任总理。
张作霖四处招兵买马，勾结皖系残余势力，联络孙中山，企图组织奉、皖、孙“三角联盟”与直系决战。
曹锟对张作霖企图独霸中央政权心怀不满，也想打垮奉系，独霸政坛。但是，他并不想立即与奉系交战，直皖战争刚刚结束，还需养兵蓄锐，扩军备战。曹锟指使吴佩孚等直系将领倒阁，只是想推倒梁内阁，杀一杀张作霖的威风，并不想和张作霖兵戎相见。因此，他声言亲家还是以和为贵，所以一再约束吴佩孚不要太走极端。同时派直军23师师长王承斌(奉天人)三次到沈阳表示善意。张作霖对于这位亲家曹三爷并无恶感，所以也派察哈尔都统张景惠到保定回拜。曹锟建议把北京和直隶境内的奉军调走，以免直奉两军因防区逼近而引起冲突。张作霖慨然同意，并令张景惠主持关内奉军撤退的事务。
但直系将领吴佩孚却认为张作霖公开挑衅，主张痛击奉军。曹锟一再告诫吴佩孚，不要鲁莽从事，时机尚未成熟。吴因为自己的兵力散在陕西和两湖，部署尚未周全，就遵从曹三爷的意见，且曾通电辟谣说本人和奉军决不开战。
曹锟在保定虽然倚赖吴佩孚，可是也对吴佩孚的洛阳局面存有戒心。尤其是曹三爷的左右，时时把吴佩孚的专横向曹进谗，曹锟的兄弟曹锐和曹锳也对吴极为不满，还有曹锟所私宠的一群小人，更把吴看做眼中之钉。
奉系了解曹吴之间可以分化，所以便拼命在曹锟身上下工夫，不断强调直奉之间的问题完全是吴佩孚一手造成的，如果不压制吴，将来直奉之战必然不可避免，而直奉之战将必两败俱伤，徒给南方和皖系制造机会。
3月8日，曹锟派其胞弟曹锐去奉天给张作霖祝寿，向他表示和意。张作霖对曹锐仍像往常一样，亲亲热热，有说有笑。但是一谈到政治问题，便“顾左右而言他。”曹锐见探听不出实情，满肚子的话没有机会说，只好离开张家，去找孙烈臣打听消息。孙烈臣说：“咱们的大帅也想请教四爷，究竟是部下亲呢，还是亲戚亲？”
曹锐心里明白，孙烈臣所说的部下，指的是吴佩孚。曹锐对吴佩孚半年内连连升迁，早心怀妒忌，也想借奉系的势力壮大自己的声威，与吴佩孚抗衡。于是，便指天誓日地说：“我们兄弟决不会纵容部下干出对不起亲戚的事情来。”还表示，奉军不必撤出关外，以保卫京、津的治安。显然，曹锐想牺牲吴佩孚以换取自己在直军的地位。但是，曹锟毕竟不是三岁小孩，军政多年，老谋深算，岂能如此容易上当。可见曹锐不但不知爱国爱民，就连胞兄也不恤廉价拍卖，曹锟知道后，也不好过于谴责兄弟，便想了一会说：“等我斟酌斟酌再说吧。”曹锐不敢再多说，便告辞回到天津去了。
曹锟的长处是：他自己虽然无用，却能信任吴佩孚，虽然他有时对吴佩孚的许多做法看不惯，但是大前提下是一切都信赖和尊重吴佩孚。直系当时能一枝独秀，这是关键。
在这紧急的情况下，徐世昌要求直奉两系推荐一个双方可以同意的内阁总理，张作霖表示“拥护元首，应由元首主持”，吴佩孚则表示“军人不干政。”1922年4月初，徐世昌任命周自齐署理内阁总理，不料遭到奉系的反对。
