不久，林伯渠带着李大钊的推荐信拜访陈独秀。李大钊在信中说，祖涵是老同盟会员，现在是孙中山大元帅府参议，愿意加入C.P（共产党），希望陈独秀和他本人作林的入党介绍人。陈独秀非常高兴，但吸取戴季陶的教训，建议林作为秘密党员加入中国共产党。于是，林伯渠便秘密加入了中国共产党。
1921年7月，中国共产党第一次代表大会在上海召开，在广州任教育部长的陈独秀因忙于筹措广东大学预科校舍经费而没有参加，代表们最后推举张国焘主持会议。陈独秀写信给张国焘，对会议提出了4点意见。会议开到7月30日晚，因发生包打听闯入的意外事件中断，第二日移往浙江嘉兴南湖。
“一大”结束后，共产国际代表马林嘱包惠僧回广州请陈独秀到上海。他认为，陈独秀既然是中央局书记，就要回到上海，负起责任来，而且“还没有一个国家的共产党领导人，在资产阶级政府里做官”。8月17日，陈独秀以胃病严重需回上海养病为由，向正在桂林指挥粤军与陆荣廷作战的陈炯明提出辞职，陈炯明未准。陈独秀先斩后奏，径自离开。
党务
陈独秀回到上海后，与马林的关系极为紧张。张国焘回忆，马林“很骄傲，很难说话”，“说起话来往往表现出他那议员型的雄辩家的天才，有时声色俱厉，目光逼人，他坚持自己主张的那股倔强劲儿，有时好像要与他的反对者决斗”，“我们在和马林的接触中，感到他总是以国际代表的身份居高临下，高人一筹”。马林在中共召开一大时，就与李汉俊、李达等人产生龃龉。陈独秀回到上海后，很快与马林产生矛盾，陈甚至不愿与马林晤面，还告诫党人，中国革命要靠中国人自己。
1921年10月，陈独秀被捕后，马林出资为其聘请律师，陈与马林的关系得到缓和。陈感谢马林的积极援救，表示愿意多听共产国际的意见。马林在充分领教了陈独秀的刚毅倔强之后，也放下了架子，说：“中国的事主要是中国党中央负责领导，我只和最高负责人保持联系，提供一些政策上的建议。”
李达与陈独秀也很快产生了矛盾。李达回忆，建党之初，陈独秀已“具有恶霸作风”，“每逢同志和他辩论的时候，他动辄拍桌子、打茶碗，发作起来”。李达无法接受国共合作，不愿加入国民党，而与陈独秀发生争论。陈大骂道：“你违反党的纪律，我有权开除你。”李达遂认为陈是“草寇式的英雄主义者，做我党的领袖，前途一定无望”。
包惠僧回忆：“陈独秀不讲假话，为人正直，喜怒形于色，爱说笑话，很诙谐，可是发起脾气来也不得了。他认为可以信任的人什么都好办，如果不信任就不理你，不怕得罪人，办事不迁就。”
共产国际代表马林认为中共应该尽快与国民党合作，他建议中国共产党人采取加入国民党的办法。陈不同意。在1922年8月20日召开的会议上，陈独秀、张国焘、李大钊、蔡和森等人都反对加入国民党。马林表示，加入国民党是共产国际的政策。陈这才表示：“我服从共产国际的指示。但是，我是有条件的服从。孙先生的国民党有一套封建式的加入方法，如打手模，宣誓服从他个人，我是不会接受这些封建方法的，只有孙先生用民主主义方法改造了国民党，我才同意中国共产党加入国民党，否则……即使是共产国际的命令，我也要反对。”之后，张继、林伯渠等介绍，孙中山亲自主盟，李大钊、陈独秀、张国焘、张太雷、蔡和森、夏曦等人加入了国民党，成为第一批加入国民党的共产党员。
张国焘回忆：中共三大后，“陈独秀先生的权力是增加，许多事往往不经过会议决定而取决于他个人。那时任中央组织工作的毛泽东，多半的时间不在中央。任宣传工作的蔡和森，只是埋头写作，不多过问政策方面的事。至于不管部的瞿秋白，除了在广州耽搁了一个长时期外，返沪后忙于上海大学的工作。陈独秀在中共内的‘家长’称号，也就是这时候传出来的”。
1926年1月上旬开始，陈独秀突然不来中央看文件了。因没有人知道他的住址，无从寻找。中央常委瞿秋白、彭述之、张国焘恐慌起来，大家猜想陈肯定被秘密处死了。张国焘还说：“老头子（指陈独秀）如果要做官，可以做很大的官，想不到今天落了这个下场。”说着，快要哭出来了。
2月21日至24日，中共中央在北京召开特别会议，讨论两个顶重要的问题：一是陈独秀已经月余与中央隔绝消息，二是关于北伐问题。会议刚开始，便接到陈独秀自上海发来的电报，说：“已经能扶病视事。”原来他得了伤寒病，住进了医院。
在北伐问题上，陈独秀刚开始赞成，后经维经斯基苦劝，表示反对。陈个人认为，北伐的时机并未成熟，而且北伐结果必然造成一个新军阀。陈独秀、彭述之、张国焘、瞿秋白四人讨论北伐问题时，陈、彭不赞成北伐，张、瞿主张北伐。两票对两票，结果陈拍了桌子，张才表示反对北伐。但由于共产国际支持北伐，所以陈最终还是决定参与北伐。
中山舰事件后，苏共援助国民党的一批武器刚好运抵广州。陈独秀让彭述之去找鲍罗廷要5000条枪，好武装广东农民，以防分裂。鲍罗廷一口拒绝：“武装农民不但不能去打陈炯明和北伐，而且要惹起国民党疑忌及农民反抗国民党。”甚至还说：“现在是共产党应当为国民党当苦力的时代。”
1927年4月4日，陈独秀与汪精卫联名发表《汪陈宣言》，宣言为陈所起草，汪签字后，周恩来拿回来让陈签。文件上汪的名字签在后面，前面留了许多空白，意思是让陈将名字签在前面的。但陈独秀还是把他的名字签在汪的名字后面。宣言发表后，陈独秀对郑超麟说：“大报上好久没有登载我的文字了！”
陈独秀希望通过与汪精卫合作，而达到抑制蒋介石的目的，这也是共产国际的意思。但农民运动中，一些农民押着唐生智母亲游街，农协还扣留了政府的粮米，汪精卫、唐生智等人质问陈独秀：“民众为何侮辱我家人？”陈独秀无言以对。
大革命失败后，中共中央在共产国际的指示下，停止了陈独秀等人的工作。鲍罗廷曾建议陈独秀等人赴莫斯科，与共产国际讨论中国革命问题，陈表示拒绝。他说：“我所受国际机会主义的训练已经受够了，以前因为接受国际意见，而做了许多错误。”
8月7日，中共中央在武汉召开紧急会议，有人主张邀陈独秀参加会议，遭到了共产国际代表罗明那兹的反对。此次会议选举了新的临时中央政治局，至此，陈独秀实际上被撤销了党的总书记之职。
大革命失败后，陈独秀痛苦地自我反省道：“自一九二七年中国遭受了悲惨的可耻的失败后，我固亲自负过重要责任，一时实感无以自处，故经过一年之久，我差不多完全在个人的反省期间。”
汪原放回忆，1927年夏天，陈独秀次子陈乔年来找他，说陈要见他。他随乔年来到了一条深巷里的一楼一底的房前，见门口摆着一张竹床，一个人面孔朝屋里，头靠着门，躺在床上，赤着膊，肩上披着一条粗夏布的大围巾，手里拿着把芭蕉扇。等他们两人走进屋里，躺在竹床上的人坐起身来说：“来了。”这时，汪才认出他是陈独秀。陈让汪安排他到上海去，9月上旬，陈独秀由黄文容、汪原放、陈啸青（亚东图书馆员工）陪同，乘船顺长江而下赴上海。四人包了一个官舱，陈独秀扮作病人，戴上风帽，睡在上铺，连吃饭也在舱里。船靠码头时，他们关起门来装作睡觉。
一路上陈独秀躺在上铺很少开口，有时喃喃自语，但也只有一句话：“中国革命应该由中国人自己来领导。”他这时虽然只有48岁，可他那副沉闷、执拗的神态，已像是一位垂暮之年的老人了。
陈独秀被免去中央局书记职务后，几次致信中共中央，提出建议。时任中共江苏省委组织部长的陈乔年，十分同情父亲的遭遇，也部分赞同他的观点。但他对父亲与党中央之间的矛盾很感为难。有一次，陈乔年劝告陈独秀不要再给党中央写信了，因为中央里有些人把他的意见“当作笑话到处宣传”。于是，陈独秀听了乔年的话，在较长一段时间里不再给中共中央写信。
八七会议后，陈独秀在中共中央机关刊物《布尔什维克》发表文章，署名“撒翁”。郑超麟说：“我猜想署名表示他撒手不再领导中国共产党之意。”
托派
自1929年开始，陈独秀接受了托洛茨基主义。8月，陈与“我们的话派”（注：由托派留苏学生被遣送回国后于1928年在上海成立的第一个托派组织）接触，希望加入该组织。但我们的话派主要成员不但不欢迎陈等人，反而对他们很是厌恶，讽刺说：“这些没有出路的老机会主义者向我们托派投机了。”
加入我们的话派未果后，陈独秀开始自行组织托派组织。中共中央发觉后，对陈提出警告，要求陈“一月内作篇反对反对派的文章，并编入中央直属支部中参加党的生活”。陈认为中共中央的要求是“发狂闹的笑话”，也复函针锋相对地对中共中央“作一次最后的警告”：“我现在正式告诉你们：在你们，绝对没有理由可以开除发表政治意见的任何同志……因此造成党的分裂，是应该由你们负责的！”11月15日，中共遵照共产国际的意见，通过了开除了陈独秀、彭述之、江泽楷、马玉夫、蔡振德五人党籍的决议。
12月15日，陈独秀等人在上海正式成立托派组织“中国共产党左派反对派”（又名“无产者派”），并很快发展至百人。共产国际遂开始改变对陈独秀的策略态度，致电陈称：“决定予你以机会来参加本政治书记处审查中国共产党中央开除你的党籍决定的会议。”陈独秀再一次表示拒绝，他给共产国际的回信道：“我的问题不是一个简单的个人问题”，如共产国际“不肯正式公布于各国支部加以讨论”托洛茨基的主张，那么他和共产国际之间的“不可调和的不同意见”，就“决不是调我个人到莫斯科便可解决的”。
无产者派的内部矛盾很快尖锐起来，彭述之不久便与陈独秀发生矛盾。当时何资深说彭是个“纸老虎”，陈独秀说：“不是纸老虎，是烂西瓜。纸老虎里面不过空无所有而已，烂西瓜表面很好看，剖开之后喷出一阵恶臭。”此后，“无产者派”常委每次开会必定发生激烈吵架。
1930年4月，托洛茨基委托陈独秀出面统一中国托派组织。经过陈的努力，5月1日至3日，统一大会秘密召开。“无产者派”的李仲山拿出一件猞猁皮大衣，典当得二百多元，充作大会经费，在上海大连湾路租了一幢房子，让王茨槐带着妻子、女儿住进，掩护开会。为了保密和安全，在这三天中，除了陈独秀一人外，所有代表都要住在会场内，开完会之后才能出去。大会上，陈独秀被选举为书记。
统一大会结束后，陈独秀给托洛茨基拍了一个电报，喜气洋洋地告诉他，他的中国同志正完成了一个有意义的开端，布尔什维克——列宁派的旗帜不久就将飘扬在全国。
然而大会甫一结束，内部便矛盾重重。由于陈独秀的文章说红军是“土匪”，所以青年托派对他写的文章不放心，认为他已是总书记，对外便代表整个托派的观点，因此要求他写的文章发表前最好让大家看看，同意后再发表。陈对此大发脾气，说：“文章像人一样，要有个性，大家同意，就没有个性了，还写什么文章！”
大会结束不久，梁干乔、陆一渊等四人即跑到南京加入军统，并公开发表声明，声称共产主义不符合中国国情。而马玉夫因未当上“中委”，竟去国民党龙华警备司令部告密，致使13名托派成员被捕，其中包括除了陈独秀、彭述之和罗汉之外的托派统一组织全部中央委员和候补中央委员，托派统一组织的常委仅剩陈独秀一人。此时，距离托派成立大会结束仅20天。陈独秀哀叹说：“我不识人！”
1932年春，原托派“中委”濮清泉、宋逢春因狱中时疫流行，保外就医。陈独秀召集二人与彭述之、罗世潘共五人成立临时中央委员会。但是年10月15日，彭述之等四人到秘书谢少珊家中开会，中统特务跟踪濮清泉至，将他们全部逮捕。陈独秀因病未出席这次会议，本可幸免，但由于唯一知道他住址的谢少珊的出卖，他也于晚上被捕。因谢的出卖，另外五名托派骨干被捕，包括编辑托派机关报《火花》的曾猛，被捕时他正印刷第13期《火花》。至此，托派中央被一网打尽。事后，因招供有功，谢少珊未被起诉，加入了“中统”，更名“谢力功”。
1934年下半年至1935年初，刘仁静等人趁陈独秀在狱中的机会，将1931年至1932年托派中央的文件翻出来，批判为“彻头彻尾的机会主义”，要陈独秀承认错误，陈坚决拒绝。于是，托派中央便将陈开除出托派。
囹圄
陈独秀一生四次被捕，1932年更是被国民党政府判处有期徒刑八年。陈曾有名言：“我们青年要立志出了研究室就入监狱，出了监狱就入研究室，这才是人生最高尚最优美的生活。”此为陈身体力行的自箴之词。
五四运动爆发后，陈独秀写了《北京市民宣言》，做成传单散发。6月10日，高一涵和陈独秀一起到中央公园（今中山公园），乘吃茶的人离开茶座时把《宣言》放在没有人的桌子上，用茶杯压好。等到吃茶的人回到原桌子来，看到传单，读后大声叫好，拍手欢呼。
