1931年9月底，陈赓离开上海，经河南省南部，进入了大别山，被任命为中国工农红军第四军第十三师第三十八团团长。11月7日，第四方面军成立，第十三师改编为第十二师，陈赓被任命为该师师长。
陈赓已经离开部队4年了，对重返军队工作是很高兴的。他的性格开朗、豪爽，在上海做隐蔽战线工作，虽然成绩辉煌，但性格上不能不受点压抑；因此非常愿意到能公开工作、可以大声说笑的地方去。能直接带部队向敌人冲杀，自然是他梦寐以求的事。但是他却不大愿意到大别山来。
陈赓很早就认识张国焘了，特别是南昌起义时，对他的印象深刻。起义的准备工作在7月27日就基本完成，作为“中央代表”的张国焘却打电报来说：“暴动宜慎重”，无论如何要待他到南昌再决定。7月30日张国焘到了南昌，在前委召集的紧急会议上叫嚷：“起义须得张发奎同意，否则不可动。”其根源就是对军阀张发奎有幻想。这一主张当场受到周恩来、恽代英及大家的反对，遭到否决。正是由于他的这些干扰，起义计划被推迟了好几天，在白色恐怖下的秘密活动几乎被暴露。张国焘的火气无处发泄，就发在了当时在起义军指挥部工作的年轻人头上，忙碌的陈赓就被他无缘无故地骂了一顿。长期在周恩来领导下工作的陈赓，从直觉就可以感到张国焘和周恩来之间的明显差异。
张国焘先于陈赓半年到达大别山，任鄂（湖北省）豫（河南省）皖（安徽省）苏区党政军的最高领导。陈赓当然不大情愿到张国焘手下工作，不过组织上坚持说那里急需军事人才，他就不能推辞了。
这一时期发生了“九一八”事变。那一天日本帝国主义驻在中国东北的关东军，炸毁南满铁路柳条湖一段路轨，反诬系中国军队所为，突然出兵攻击沈阳市北大营的中国驻军，同时在吉林、黑龙江两省发动进攻……全国人民义愤填膺，掀起要求抗日的怒潮。蒋介石却提出了“攘外必先安内”的反动政策，对日军采取“不抵抗主义”，命令张学良的东北军撤到山海关内，致使东北全境沦陷。另一方面，蒋介石调集大军全力“围剿”主张抗日的红军。
为了粉碎蒋介石的第三次“围剿”，红四方面军总指挥部决定夺取南线敌人伸入根据地的突出据点——黄安（现改为红安）县城，并决定陈赓所率的第十二师参加战斗。
打仗当然是陈赓求之不得的事，但这是自己指挥的初战，应当怎样才能打好呢？
谁都知道陈赓是一员战将、猛将，但却很少知道，他参加了几年特科工作后，变得更加兢兢业业了。
黄安城的守军是国民党赵冠英的第六十九师，经过红军长时间的围困袭扰，士气相当低落。但陈赓对之也决不大意。
1931年11月10日夜，战斗发起，陈赓指挥他的第十二师击退国民党军增援部队后，进攻黄安城外的东王家据点。赵冠英于11日派两个团出城增援，被陈赓早已安排好了的高绍先的第三十五团和徐海东的第三十六团将其击溃退回城内。14日晨，陈赓命令第三十五团攻击城外另一据点下徐家，而把许世友的第三十四团摆在黄安城南三里店一带，占领大路两侧有利地形修筑工事，防备城内敌人南逃。14日上午，城内敌人果然出城南下，第三十四团即予阻击，于是双方展开恶战。团长许世友自幼在少林寺学习武术，武艺出众，勇猛过人。他亲自率领部队冲入敌阵，杀得敌人尸横遍野，退回城去。
这时天降大雪，黄安守军还穿着夏衣，几次败仗，加上粮弹俱缺，可以说是一片啼饥号寒之声。陈赓则指挥部队一面遏制敌人飞机空运，一面发动人人出主意想办法，开展宣传攻势：把醒目的标语漫画插在阵地前给守军看，用自制弓箭把传单射向城内，还用俘虏喊话、唱歌，揭露国民党军队罪行，宣传中共和红军政策，瓦解敌人士兵的斗志，颇见成效，夜晚不断有饥饿的敌军人员翻越高墙深壑前来投诚。
17日，国民党驻黄陂县的第三十三师，派兵支援黄安，进攻红军放牛山阵地，黄安城内守敌趁机以两个团的兵力出南门，向嶂山进击，被陈赓率领第三十四团阻截，被迫于当夜又退回城内。经过10天战斗，红军攻克了黄安城外的大部分据点。
国民党军队感到紧张了，为改变处境，又派1个旅（辖两个团）出城企图恢复过去的据点，以便和驻宋埠和麻城县、黄陂县的部队能呼应上，拉上手。
陈赓当然不能让他达到目的，于是指挥第三十五团和黄安独立团正面御敌，自己亲自率领第三十四团和第三十六团，绕到敌军侧后猛攻，敌人的出击很快就被瓦解了，败退城内。23日，国民党两个团再次出击，陈赓又将其击退。这几次战斗，红十二师俘敌千余，缴枪700余枝。
陈赓到第十二师当师长，对部队的战斗作风只是一般地了解，心中并不是很踏实的。经过黄安外围的这几次战斗，增加了陈赓的信心：这个师战斗力是可以的，能使自己的指挥得心应手。陈赓随即指挥部队乘胜前进，于27日攻占了黄安县城的东、西两关。
驻守在宋埠和黄陂县的国民党军队曾多次派出大量部队增援黄安，给黄安守军解围，都被徐向前指挥的红四方面军的其他部队击退。于是陈赓决定发起对黄安县城的总攻。
总攻前夕，第十二师在陈赓领导下，积极做登城准备工作，为了争取胜利，陈赓日日夜夜在部队中进行宣传鼓动，开展军事民主，动员干部战士出主意想办法，检查对敌进行的政治瓦解工作等。他亲自上第一线看地形，侦察敌情，经过仔细斟酌，他决定第三十五团担任主攻，先以偷袭手段由城西北角突破，偷袭不成即改为强攻，登城后向西发展；第三十六团以1个营在东门佯攻，其他部队夺取城外西南角的溜坡山敌阵地；归陈赓统一指挥的黄安独立团，攻打敌课子山据点。
红四方面军将第十师的1个团和第十一师摆在城外，作总预备队，待机而动。这在陈赓眼中，他们是来看他表演的：看看你这才上任的小师长，有把什么样的“刷子”？所以陈赓很紧张，但他经过多年特科工作的锻炼，头脑清醒，并不慌乱，知道不能出大问题，也不能出小纰漏。切实掌握敌情，认真的思索，细致的准备，做出了各种不同情况下的多个作战方案。
这时，给了陈赓一个意想不到的力量，就是红军第一架飞机“列宁”号，带着迫击炮弹和宣传品飞临黄安城上空助阵，炸弹掷下，城内浓烈的烟尘四起；抛撒的传单，像天女散花似的满天飞舞，使已被围几十天的守城敌人异常恐慌。
红军怎么会有飞机呢？原来国民党这架德国容克式的飞机，执行通信任务，因大雾迷失方向，油料耗尽，被迫降落在大别山，被红军缴获。后来通过各种渠道弄到汽油，重新给飞机涂了油漆，在机身上写了“列宁”两个大字，机翼上画了两个红星，被俘的驾驶员经过耐心的教育工作，表示愿意为红军服务，就在这场战役中派上了用场。
赵冠英的部队在黄安城里被围多日，没有粮食吃，士兵们饿成皮包骨，大雪纷飞，一片哭叫声，加上突围出不去，援兵进不来，士兵们希望落空、军心动摇。飞机马达声，使他们兴高采烈，以为国民党给他们送粮食来了，没有想到是红军的飞机来投迫击炮弹！在红军阵地，指战员们挥舞红旗向飞机致敬，祝贺它轰炸敌人阵地成功；而弹尽粮绝的黄安守军则更惊恐万状。就在这天夜里，总攻开始，陈赓指挥第三十五团迅速攻上城头，第三十六团跟进……一切顺利。敌第六十九师师长赵冠英见城已破，急令部队从南门突围，自己则换了便衣从西门潜逃，还叫他的秘书扮成他的模样，骑上他的白马另走一方，以转移红军注意力。但他自己一出城就负了伤，一瘸一拐地没走多远，就被赤卫队生擒，被送到红军总指挥部。他一走进门就点头哈腰地承认：是，是，我就是赵瞎子，赵冠英。请红军先生和父老们开恩饶命。他的突围部队5000人，也在郊外被全歼。
这是陈赓4年后第一次在军事上显露身手，使他高兴，也使他放心，自己虽然4年没打仗，但并不生疏，特科工作锻炼给他带来的好处也是明显的。
黄安大捷之后，红军挥师北上，迅速控制了河南省潢川县和商城县之间的公路，使国民党军队伸入苏区长蛇阵的蛇头——商城孤立起来。红四方面军总指挥部鉴于国民党军队主力尚未受到重创，强攻商城很难取胜，决定实施围城打援。
红军一部兵力，做了个进攻商城的样子，吓得守军紧急呼救，就把北面的援军呼来了。援军共有19个团，其数量及装备均占优势。对于来势汹汹的敌人，没有别的办法，只有奋力迎击。
适逢天下大雪，道路泥泞，部队冒雪行军，到达豆腐店地区，已是黄昏时分。陈赓立即率领各团干部察看地形。山路崎岖，他强忍着伤腿的疼痛跑上跑下，和大家研究作战部署，任务分配后又督促大家争分夺秒地构筑工事。有人习惯打游击，又因天寒地冻，不愿意费气力干这样的苦活累活，陈赓就不厌其烦地加以说服，并且进行督促检查，修得不坚固的，一定要重新修好或加固。因为他知道，在这里要打的，可不是一般的战斗。他率领大家苦苦干了一整夜。
1932年2月7日上午9时，国民党军来了，先是激烈的枪战，然后是白刃格斗……敌人是蒋介石嫡系部队，兵多武器好，经过正规训练，但想通过兵少武器差而未经正规训练的陈赓部队的防线则不可能。敌人多次冲锋，多次被打退。中午时分，敌军不得不停下来喘息一下做些调整。下午1时，在猛烈炮火掩护下，敌倾其全力再次发动进攻，军号声、喊杀声、枪炮声、风雪呼啸声震撼着整个战场，敌人尸横遍野，陈赓部队也伤亡惨重，但他的3个团终于顶住了敌人的十几个团的轮番进攻。后来许世友回忆说，当时大家横下一条心：“人在阵地在，决不让敌人突破防线！”
认真地讲，陈赓从来指挥作战，是不愿意这样硬拼的。他主张大踏步前进，大踏步后退，就是说，不打阵地战，打运动战，打得赢就打，打不赢就走，吃亏的事绝对不干。但在这次战役中，他不能这样做，因为他的师只是一个筹码，筹码的位置是在全局中定好了的。
坚持就是胜利！陈赓部队不仅打击了敌人，消耗了敌人，还给红四方面军争取了时间。下午5时，红十师的第三十团直插刘寨，包围了国民党军队的指挥所；第三十二团抢占了白露河上的傅流店渡口，切断了敌人的退路，使国民党高级将领汤恩伯、曾万钟等人成了瓮中之鳖，迫使进攻陈赓的部队纷纷后撤逃命。多路红军以锐不可当之势围歼逃敌，当即有4000余人被歼，余敌趁夜色逃往潢川。红军踏雪紧追，直抵潢川县近郊，迫敌龟缩城内，再无力出援了。驻守商城的国民党第五十八师，见援兵无望，不敢等红军回来打它，弃城南逃，商城及商潢公路全获解放。
当年参战的红四方面军将领在谈及商潢战役时，都盛赞陈赓指挥的豆腐店之战是整个战役中最困难也是最精彩的一幕，给国民党嫡系部队碰了个硬钉子。蒋介石盛怒之下，把汤恩伯撤了职。
红十二师虽然损失不小，陈赓感到痛心，但另一方面，部队在严峻的考验下，完成了上级交付的任务，使他知道这个部队，不仅能攻，而且能守，是信得过的。
此后红军大部队东进，留陈赓的红十二师在潢川一带坚持斗争。据当时的第三十四团团长许世友后来回忆说：“那时我们想跟着大部队去东边打仗，陈赓就把三个团的领导干部召集在一起讲：‘听说部队想到前方去打大仗，恐怕跟你们这些团长、政委有点关系吧？同志哥哎，这可不行噢！我们保卫和巩固了根据地，拖住潢川这一带的敌人，就是对苏家埠战役的有力支援嘛！你们要把这个道理向大家讲清楚，做好部队的思想工作。’”[许世友：《我在红军十年》，战士出版社1983年版，第156页。]
东进部队在安徽省西部苏家埠地区大捷之后，又回师商城地区与陈赓部队会合。国民党第二十路军又沿潢商公路进犯，方面军决定给以严惩。6月12日红七十三师包围了潢川至商城公路上的仁和集，陈赓率红十二师包围了双柳树之敌。
国民党军是2个团，陈赓是3个团，兵力并不占绝对优势，何况敌人是防守，修好工事以逸待劳。陈赓当然很想把这两个团吃掉，可是怎么打才能达到目的呢？有人说：“黄安那么坚固的县城，我们都攻进去了，这个小寨子算什么？”还有人说：“兵力差不多，但我们是红军，以一当十，吃这点白军毫无问题。”这些话当然都有一定的道理，只是陈赓了解了敌情，又仔细观察了地形后认为：打黄安县城，那是整个方面军在行动，准备又充分，还有飞机助战，现在没有那个条件了，如果包围起来硬攻，不仅不易奏效，必定耗时费力伤亡大。他考虑再三，想起了1925年在广东省第二次东征时，攻打惠州城久攻不下，后来采取了周恩来的“三面攻击，网开一面”的战术，诱敌出逃，聚而歼之。那一仗给他印象很深，现在攻打双柳树之敌，可不可以采取打惠州的办法呢？
于是他决定从东、南、西三个方面发起攻击，把一个多团的兵力隐蔽集结在双柳树以东、环山以北地区埋伏。战斗开始，国民党军队果然上当，向北突围。陈赓一面指挥部队迅速攻入寨内，歼敌两个营；一面又指挥埋伏的部队及时出击拦住逃敌，与红军追击部队，两面夹攻，终将敌全歼，敌旅长被击毙。加上红军其他部队的胜利，此役共歼敌8个正规团。红军的损失却是很小的。几十年后，许世友上将回忆双柳树之战时赞扬道：“这充分表现了陈赓同志机智灵活的指挥艺术。”
红四方面军经过这8个月的南征北战东进西杀，共歼敌军6万。在这辉煌的战绩中，有着陈赓及其所部的突出贡献。
