蔡元培返校后，在蒋梦麟的协助下，对北大进行体制改革。经蒋建议，北大设立教务、总务两处。总务处是北大的行政中枢，处理学校的行政事务，由蒋自己任总务长；教务处负责教务，由顾孟余担任教务长。校中最高立法机构是评议会，制订各项规程，授予学位，并维持学生风纪。从此，北大走上教授治校的道路。
除北大总务长外，蒋梦麟还兼任文牍、会计部主任、预算委员会会员、聘任委员会委员、学生自治委员会委员等职务。总务委员会实际上成为北京大学最高行政机关，负责管理全校事务，举凡注册、编制、文牍、咨询、介绍、图书、仪器、出版、校舍、斋务、杂务、会计、卫生等，都是总务长所必须负责管理的事情。
1922年，蔡元培赴欧美各国考察，蒋梦麟再度代理北大校长。蒋接到孙中山来信，对北大的各种运动大加奖誉，最后勉励蒋“率领三千子弟，参加革命”。
1923年，蔡元培因罗文干案再度辞职离校，后赴欧洲考察。蒋梦麟援引北大教授连续任教五年可享受出国休假待遇的规定，让北京政府保留了蔡校长一职，蒋第三次代理北大校长，一直到1926年蒋因躲避奉系军阀通缉而逃离北京。之后，北大评议会致函蔡元培，对三年来蒋梦麟主持北大的工作予以充分肯定：“平心而论，本校学生之程度，本校学生之爱纪律，本校图书仪器之设备，在近三数年间，实际上固俱有显著的进步。”
1930年，蒋梦麟正式出任北大校长，直至抗战胜利，成为北大历史上掌校时间最长的一位校长。蒋梦麟自述：“从民国19年到民国26年的七年间，我一直把握着北大之舵……一度曾是革命活动和学生运动漩涡的北大，已经逐渐变为学术中心了。”
上任之初，蒋梦麟对文、法、理三学院的院长说：“辞退旧人，我去做；选聘新人，你们去做。”在这段时间，一批旧教授离开了北大，如著名史学家朱希祖于1932年辞职；1934年，国文系教授林损、许之衡被解聘。
早在1920年，蒋梦麟就拟为北大学生盖一所宿舍。到1934年，在蒋梦麟的努力下，北大终于在松公府东院北面兴建了一幢学生宿舍，每室8平方米，附壁室2平方米，每室住1人。北大学生朱文长回忆：“蒋梦麟校长为新宿舍费了不少的心血。而这楼完成之后，北大宿舍乃压倒了燕大清华。这是四层楼立体式的钢骨水泥建筑，在一院空场的最北头，远远看来像一座兵营，里面的格局也很特别，里面每层七八间形式各别、妙处不同的房，十分适合北大爱好个别发展的胃口。更妙的是一人一屋，偿了几十年来北大同学求隔离的宿愿。每间屋附着一小间放箱子挂衣服的暗室。热水汀、弹簧锁，配合而调和的特制家具，摩登舒适，使你完全忘了这是老北大。”
蒋梦麟注重加强理科的教学和建设。他对理科教师的队伍进行了全面大整顿与充实，聘请了一批全国一流的科学家来校执教，如皮革专家刘树杞，地质学家丁文江、李四光，光学家饶毓泰，植物学家张景钺，古生物学家孙元铸，有机化学家曾昭抡，拓扑学家江泽涵等。当时，北大所聘研究教授中以理学院最多，大约是文学院的2倍、法学院的4倍。蒋梦麟还努力充实理科各系仪器设备。经过几年努力，北大地质系、物理系、化学系、生物系、心理系等办学条件大为改善。据统计，到1935年，北京大学实验设备的价值已达50余万元，计有仪器6200余件，标本167000余件，药品及实习用具3100件，名列全国各高校之冠。
蒋梦麟协助掌校期间还落实“选科制”改革，即允许学生在规定范围内自由选择，修够学分即可毕业，不拘年限。到西南联大之时，“选科制”已经十分完善。1939年考入西南联大的何兆武回忆说，他在联大七年一共读过四个院系，一年级读工学院，后来觉得不是自己的兴趣，就转到历史系，然后考了哲学系的研究生，因病休学耽搁功课后重考，觉得自己学哲学不太合适，又改行学外语。“转系很容易，写申请书，系主任同意就可以。”西南联大学生转系十分普遍，诺贝尔奖得主、物理学家杨振宁，进联大时报考的是化学系，后来改读物理。
在蒋梦麟治下，北大呈现“五公开”的自由局面：一是课堂公开，不管有没有学籍，都随便听课。二是图书馆公开，可以随便进出。三是浴室公开，莲蓬头一天到晚开着，什么人都可以去洗。四是运动场地公开，操场上外校学生有时比本校的还多。五是食堂公开。
蒋梦麟认为：“师资不尊，不足以言重学术；待遇不丰，不足以言志；故崇教授之座位，而厚其俸给，二要也。”故蒋执掌北大时代，北大教授受校方礼遇极高。钱穆回忆：“在北大任教，有与燕京一特异之点。各学系有一休息室，系主任即在此办公。一助教常驻室中。系中各教师，上堂前后，得在此休息。初到，即有一校役捧上热毛巾擦脸，又泡热茶一杯。上堂时，有人持粉笔盒送上讲堂。退课后，热毛巾热茶依旧，使人有中国传统导师之感。”
晚年，蒋梦麟在《新潮》一书中深情地回忆道：“著者大半光阴，在北京大学度过，在职之年，但知谨守蔡校长余绪，把学术自由的风气，维持不堕。”
1945年6月，在美国考察教育的蒋梦麟，受甫担任行政院长的宋子文之邀，出任行政院秘书长。6月底，北大教授会讨论此事，会议上郑天挺等教授主张根据《大学组织法》中大学校长不得兼职的规定，认为蒋梦麟既从政就不能兼任大学校长，应辞职。
8月7日，蒋梦麟回到昆明，召集教师茶会，坦诚地说，他欲兼任北大校长却违反了自己手订的大学组织法，最初未想及此点，经朋友们的提示和劝告，决计辞去校长职务。据与会之人回忆：“他讲话的态度极好，得着大家的同情。”9月，教育部决定胡适为北大校长。自此，蒋梦麟离开北大。
1950年，在台湾举行的北大52周年纪念会上，傅斯年在演讲中说：“孟邻先生学问上比不上孑民（蔡元培）先生，办事却比蔡先生高明。我的学问比不上适之先生，但办事却比胡先生高明。这两位先生的办事，真不敢恭维。”蒋梦麟听后笑言：“孟真，你这话对极了，所以他们两位是北大的功臣，我们两个人不过是北大的功狗。”
困境
1920年，蒋梦麟在一次对北大全体师生的演讲中说，北大上一年欠了一个建筑公司的巨款，对方来讨，他只能予以搪塞。后来建筑公司实在没办法，在中秋节前派人每天到蒋家讨债，蒋无奈，只好逃到西山躲避。
胡适于1921年6月10日的日记中记载：“梦麟邀我与文伯同去西山游一次。梦麟此次处境最难，憔悴也最甚。今天我们同到八大处脚下的西山旅馆座谈三个多钟头，也可算是偷闲寻快活了。梦麟说：’北京的教育界像一个好女子；那些反对我们的，是要强奸我们；那些帮助我们的，是要和奸我们。‘我说：’梦麟错了，北京教育界是一个妓女，有钱就好说话，无钱免开尊口。‘”
1922年11月，北大25周年校庆之际，蒋梦麟向全校师生许诺，一定要在第二年暑假建好图书馆，让学生在开学后有个地方看书。但因北洋政府拖欠北大八个月的经费，到次年9月初，当学生们暑假后从全国各地赶回来上学时，却连图书馆的影子都没看见。蒋梦麟只好在开学仪式上向大家道歉。
1923年，蒋梦麟写信给胡适抱怨道：“蔡先生致评议会函，又属我代理校长。半年的欠款，六百的饥饿教职员，三千惹祸的学生，交到我手里，叫我怎么办！”
是年11月，蒋梦麟又致函胡适道：“我现在忙得不亦乐乎，有几分厌倦。教育部无人负责，他校大都不死不活。京师教育事务，我首当其冲，简直是大学校长而兼教育总长。我现在买了一架汽车，天天在街上跑，真是和gasoline（汽油）有仇。”
“三一八”惨案前后，蒋梦麟同情学生，反对北洋政府。4月，北京政府的前总理孙宝琦通知蒋梦麟，蒋的名字已经上了黑名单。刚好王宠惠来访，蒋梦麟不假思索，连忙跳上王的军警不会盘查的红牌汽车，直驶东交民巷使馆界，在六国饭店住下。第二天，蒋梦麟对一位美国朋友开玩笑说：“我天天叫打倒帝国主义，现在却投入帝国主义怀抱求保护了。”
蒋梦麟在六国饭店住了三个月，经常以写字消遣。同住在六国饭店的还有北大地质学教授朱家骅等人。后来局势比较宽松一些，蒋梦麟一位朋友的夫人冒充蒋的太太，同乘一辆马车将蒋送到东车站。一路上，只要陌生人看蒋一眼，他都觉得心惊肉跳。到车站后，蒋梦麟搭上一辆去天津的火车，然后从天津搭英国商船，安全抵达上海。
任北大校长（包括代理校长）期间，蒋梦麟经常为校内外发生的事情所困扰。他感慨：“在那时候当大学校长真是伤透脑筋。政府只有偶然发点经费，往往一欠就是一两年。学生要求更多的行动自由，政府则要求维持秩序，严守纪律，出了事时，不论在校内校外，校长都得负责。发生游行、示威或暴动时，大家马上找到校长，不是要他阻止这一边，就是要他帮助那一边。每次电话铃声-响，他就吓一跳。他日夜奔忙的唯一报酬，就是两鬓迅速增加的白发。”多年后，在昆明的蒋梦麟在《西潮》一文中回忆这些事情后，又做了场恶梦，在梦中一会儿看到青年男女横尸北京街头，一会儿又看到宪兵包围北大要求交出学生领袖。梦中惊醒之后，他辗转反侧，闭上眼睛，当年的一幕幕悲剧又重现眼前。
1935年12月9日，北大学生参加了“一二九”示威游行，返校后即宣布成立北大学生会，并决定总罢课。蒋梦麟两度发表《告同学书》，决定于1月4日复课。为了使学生准时复课，蒋梦麟、胡适召集全体学生谈话，结果赞成复课者寥寥无几。1月4日早上，蒋梦麟站在北大二院门口，胡适站在一院红楼门口，亲自动手拉学生上课，仍无功而返。
蒋介石定于1936年1月16日在南京召见全国高校领导人和学生代表，以平息学生运动。因学生拒绝前往，蒋梦麟只得指定3名学生为“聆训代表”，前往南京。3名学生返回北大时，北大学生会将他们驱逐出校，派人把他们的行李、书籍掷在马路上，连其爱人的相片都撒了一地。蒋梦麟伤心不已，他召集全体同学开会，沉痛地说：“我是中华民国国立大学的校长，我不得不服从国家的命令！这三位同学是我要他们去的，一切的责任当然我负。……从前海上有一只船遭难了。船长镇静地指挥着，让妇孺老弱们送了救生船逃生，余下的人和他自己无路可走，他却命船上的乐队奏着’近乎我主！‘的赞美诗，随着这船慢慢的沉下去。现在如果我们所乘的这只船（中国）要沉了，那我们也应当和这位船主一样，在尽了自己的责任以后，站在岗位上从容就义。马上复课吧，先尽我们的责任！”但同学们依然拒绝了蒋梦麟近乎恳求的复课建议。
1936年2月底，北平宪警当局奉令突击搜查北大、清华等校，逮捕学生200余人，来自河北的高中生郭清被捕后因病死在医院。消息传出后，群情激奋。北平学联与北大学生会决定举行抬棺游行。蒋梦麟闻讯即与警方前来劝阻，结果学生52人被捕，其中北大学生9人。蒋梦麟对积极支持学生运动的许德珩、马叙伦等教授也表示不满。当时按北大惯例：教授工作满五年，可以休半年，支全薪；也可以休息一年，支半薪，但期满必须重新聘请。马叙伦工作已满五年，因身体不佳，提出休假半年。胡适在主持校评议会时，决定马叙伦休假一年。马获知后向蒋提出质问，蒋只说：“仍送一年的薪水好了。”但未提及重新续聘之事。马叙伦非常气愤，立即提出辞职。消息传出，北大学生纷纷向学校当局提出质问。蒋梦麟只好退回辞呈，亲自向马道歉，并再三送来聘书。但马叙伦还是离开了北大。
抗战时期，北大、清华、南开三校在长沙组成长沙临时大学，教授们主动要求缩减月薪，共赴国难。于是临大常委会决议教职员薪水按七成支付，会议公推蒋梦麟兼总务长、梅贻琦兼教务长、张伯苓兼建设长。蒋梦麟因终日算账，累出胃病，才让旁人帮他的忙。到西南联大后，蒋的胃病又犯过一次，静养四个月，才得以恢复。
随着战火的蔓延，长沙随时有受到敌人攻击的危险。在蒋梦麟的建议下，蒋介石同意将联合大学迁到昆明。到昆明后，校舍紧张，学生无法安置。为解决校舍问题，蒋梦麟亲自去蒙自考察后，决定将联大文法学院设在蒙自。1938年5月4日，西南联大正式上课，此时距师生全部抵达昆明，仅隔六天时间。
1939年3月1日，蒋梦麟在致胡适的信中写道：“现家移乡间居住，新构茅屋20余间（北大在昆明北郊新建的北大教授临时宿舍，窗户纸是用出国留学生考试的试卷糊的），为此处同人疏散之备……地离昆明四英里。每逢警报，高朋满座。两星期前，几乎每日有警报。……昆明一年以来百物腾贵，米每石已涨至100元以上，前年每石7元。人人叫苦……炭每石近16元。猪肉每斤1元7角。盐每斤6角。鸡蛋每枚1角。同人8折支薪，每月入不敷出。人口较多之家，有午吃饭而晚饮粥者。学生方面，政府每月给贷金14元，幸官米每石50元，犹能吃菜饭充饥。营养大成问题矣。”
