陈赓受领了夺取长子县城的任务，立即快马加鞭赶回太岳解放区。
长子县城位于长治市西南50华里，日军占领时曾筑有坚固工事。城墙高约8公尺，城四周碉堡密布，城外还有一道3米多宽、2米多深，注满了水的护城壕。阎军占领后，又对工事进行了改造和加修，使之更加巩固。
陈赓回到太岳区，立即把分散打游击的部队集合起来，恢复了第三八六旅和决一旅建制，9月初即匆匆率领这两个旅的7000人开赴前线。并且把夺取县城的任务交给了第三八六旅和决一旅的第三十八团；决一旅的第二十五团和第五十七团在长治市与长子县之间，准备阻击长治方面增援之敌。
陈赓知道，这个任务不简单。把分散打游击的部队集合起来，还没有来得及训练，就拉到战场上去打他们既不熟悉又毫无思想准备的攻坚战，真是不可想象。
当然，说“毫无思想准备”，也不完全符合实际。因为阎锡山的这支军队，是经过太岳解放区到达长治的，有些部队为了迟滞它，消耗它，已经和它交过手了。但是谁都知道，这要靠打大仗才能解决问题。所以人们都在念叨着：“司令员什么时候回来呀？”“他要能回来就好了！”人们思念着离别了两年的陈赓，几乎到了望眼欲穿的程度。突然有一天有人喊：“好消息，陈司令员已经回来了！”大家都兴高采烈地跑去看望，并迅速传播着。这时，人们心上的一块石头才算落了地。
对于陈赓，这块石头还落不到地上，依然高悬在心头。显然打长子县城，用围困沁源城的办法是不行了；5年前的百团大战中，夺取榆社县城，部队不会攻坚，3天之内作了4次攻击才解决战斗，部队付出了很大代价。长子县城守敌虽然已经不是日军了，但确实是“堡坚垒密”，有2100多敌人来抗争，确实不能等闲视之。反观自己的部队，这两年政治素质提高了，打游击的本领更大了，但是攻坚经验，还处在攻击榆社县城的水平。
因此，陈赓一连度过几个不眠之夜，谋划最佳方案：他决定由旅长刘忠指挥攻城，由旅长李成芳指挥打援。攻城的具体部署是，第七七二团夺取城北唯一高地——北高庙，然后攻占北关；第二十团夺取西关，由西门登城，第三十八团由城西南角登城。
由第二十团和第三十八团作主攻，人们认为这种安排是独具匠心的。第二十团是在冀南平原成长起来的，素以勇猛顽强著称，长于村落战，人民爱戴他们，在拥军的猪肉上，常常发现“送给二十团吃”的字样。敌人害怕他们，公开承认：“天不怕，地不怕，就怕楚团戳一下。”楚者团长楚大明也。第二十团奉调来太岳军区，又以高度适应性，掌握了山区作战特点。第三十八团是百团大战和沁源围困战中的英雄团。让这两个团担任主攻，大大增加了胜利的保险系数。
陈赓把指挥部设在距城北关3华里处。白天他领着干部去观察地形，了解敌情，考虑部队配置，研究具体的火力掩护任务和通过外壕登城的办法，并亲自主持“诸葛亮会议”，发动指战员献计献策。他深知初战的重要，所以认真细致地对部队作动员，给战士讲形势，讲胜利条件，讲战法，讲顽强性，讲“针锋相对”的意义。他对指挥员们特别强调：“这次让我们来攻打长子，是邓政委建议，经总部批准的，这是首长对我们的信任，大家一定要努力打好。还要注意总结经验，从战争中学习战争。”
陈赓对攻城的指挥员刘忠说：“攻坚，登城，我们部队没有好多经验，但榆社的教训要记取。要老老实实组织战斗，千万不可疏忽、蛮干！”又说：“弹药尽量满足你们，但炮弹不会多，主要依靠手榴弹。事先准备一些篮子，设专人运送手榴弹。”“一颗手榴弹威力不大，但多了威力就会大一些，无数手榴弹打上去，造成一片火海和震耳欲聋的声音，就是不能把前沿敌人都打死，也能把它吓坏，使其丧失战斗力。”他谆谆告诫：攻城部队一定要组织好，投弹组、火力组，跳板组、梯子组和登城突击组，人员都要精心挑选。特别要讲究战术，以短促的浓密炮火，掩护部队登城。
1945年9月13日黄昏，战幕拉开。在攻击外围据点时，别的部队都还顺利，只有第七七二团攻击北高庙受挫。这座小庙建筑在一个孤立而陡峭的小山上，虽说是在城外，实际距城墙仅200米，是拱卫长子县城的唯一高地，攻下它就可以控制全城。敌人筑有坚固的碉堡、工事，利用地形上的有利条件进行顽抗。
北高庙敌人工事特别坚固是事实，但被誉为“夜老虎”的部队，怎么会没攻取呢？陈赓拄着手杖亲自赶到前线，观察中发现北高庙孤山壁立，确实易守难攻。它西、北、东三面工事很坚固，南面有高大的寨门，敌人比较放心，工事较简单，守备也薄弱。根据这一情况，陈赓对七七二团团长周学义说：立即改为从南面进攻，并根据该团善于夜战的特点，战斗改在夜间进行。
周学义从第十连中挑选了能征善战的二排，针对敌情亲自组织了必要的训练。当天晚上天特别黑，没有星星也没有月亮。周学义按陈赓的布置，派一支小部队继续在北面佯攻，吸引敌人注意力，二排的孤胆英雄们从南面一个个匍匐前进，摸到小山上，悄悄地扫除了冲锋障碍物。因为攻击两天没有攻得动，敌人疏忽大意起来，没想到解放军已经来到眼前。排长命令“打！”轻机枪、步枪、六○炮、手榴弹一齐开火，掩护工兵上去，“轰”的一声，庙墙炸开一个大口子，第七七二团战士冒着飞扬的硝烟和尘土，像怒潮一样地冲进庙去，和敌人白刃格斗。敌营长打算从西北角逃命，但第七七二团第十二连也围了上来，敌人只有缴械投降了。
怎么攻城呢？陈赓说：“根据榆社县作战经验，接敌运动的关键，是要隐蔽、突然，此时必须用轻重机枪压制敌人对我们威胁最大的火力点，以掩护投弹组接近城墙向城上、城内大量投掷手榴弹，以便能架梯子登城。”为了登城顺利，陈赓考虑还是用榆社作战的办法，挖坑道到城下，买一口棺材装满炸药送进去爆炸。他说：“要力争把城墙炸出个豁口。就是炸不开，也能把敌人吓坏、震昏，使他们暂时丧失战斗力，而为我攻城提供有利条件。”接着还指出：“不要因为用了炸药，就认为冲锋道路会炸出来，就不积极做登城梯子等其他准备，那就错了。什么事都要做两手或三手准备，胜利才能有保障。进城之后，也要以手榴弹为先导，迅速控制制高点，向纵深发展……”
从上面情况看，陈赓似乎变得有点婆婆妈妈了，在掰着手指头教部队作战。这说明他完全不是粗心大意的人。他虽然非常了解自己的部队，但毕竟分开快两年了，又是打这样一个攻坚战，何况整个晋冀鲁豫军区部队都在这里，大家实际是在竞赛，仗只能打好。因此，他心中自然是焦急的。
攻城前，他从刘忠电话里得知，第二十团在屋脊上设的观察所，可以看见敌人阵地。他就喊着：“很好，我要去那里。”人们劝阻他：“你不能去，那里危险！”陈赓哪里肯听，为了更好地了解敌情，检查自己部队的配置是否合理，他不顾自己的伤腿能否适应，坚持爬上那屋顶的观察所。
部队占领了北高庙据点和城的四关后，即积极进行攻城准备。各级指挥员对这次战斗非常重视，反复勘察地形，研究敌情，开展军事民主，组织部队进行投弹、爆破、架梯、登城等训练。陈赓为了吸引长治敌人出援，以便在野战中歼灭它，所以一直对长子县城围而不攻；确定长治敌人不会来援时，才在9月18日晚7时30分下令攻城。
一声巨响，山摇地动，浓烟四起，西城门的西北角炸出来一个豁口，攻城部队火力掩护枪炮齐鸣，有的部队沿着斜坡从豁口冲进城去，有的部队架梯子登城。
战斗打响后，陈赓为了与部队保持最近距离，以便及时了解情况实施指挥，他极力向北城门靠近。这时，敌人从县政府的楼上射出密集火力，封锁了道路，但陈赓坚持要通过，随行参谋和警卫人员劝阻，他不听，就劝他跑几步，越过这危险地段。他却催促大家赶快跑步通过，并解释说：“不是我不怕死，是我的腿负过重伤，不能跑。你们好胳膊好腿，赶快跑步通过吧！”通过这一封锁线时，有一个通信员负伤，手指被打掉两个，可见当时的危险程度了。
最先攻入城内的第二十团像一把尖刀，向纵深进发。楚大明不准部队沿街道和巷子前进，因为那些地方都可能有敌人设置的障碍物和火力封锁，部队会增加伤亡。他叫部队另辟通道，从房屋和院落里面走，逢屋凿壁，遇墙掏洞，避开敌人在街巷中设置的一切，部队行进得很顺利。
陈赓得知后，大加赞赏，说：“这是楚大明的一大发明，巷战就是要这样打，才能减少伤亡，应当推广。”
部队打进城展开巷战时，陈赓要进城去指挥。因为他腿不方便，大家建议把敌人堵城门的麻袋搬开，打开城门，从城门进去。他却执意不肯，怕部队抽人来干，费工费时，坚持“要尝尝爬梯子登城的味道。”
这时战斗虽然在城内进行，但子弹、炮弹还在人们头上乱飞，陈赓却用他负过重伤的腿，在战士登城后留下的梯子上爬，大家都为他捏了把汗。他却站在梯子上说：“梯子很长，战士登城时拥在上面，会压断的。今后再用这种梯子，要加固主梁；登城的人不能一拥而上，要保持距离，重量平衡梯子就不会断了。”他离开部队两年，回来之后，像是要把一切都亲身体验一下似的。
陈赓进城到达县政府，立即听取太岳第二军分区参谋长邓世俊的汇报。当说到攻打县政府中，敌人有一个火力点负隅顽抗，造成战士的伤亡，待拿下这个火力点后，气愤的战士枪毙了几个俘虏，陈赓的脸色就严肃起来。立即批评说：“这种做法是非常错误的。只要敌人放下武器，就不能杀他们，都应该懂得这是党的政策，谁都不能违犯。”
整个战斗于午夜结束，守城之敌被全歼，敌挺进第二纵队司令白映蟾被活捉。
9月19日早饭后，陈赓召开干部会议，听取各部队作战情况及经验介绍。接着，他带领大家围城绕了一圈，边走边说：“在军校学习，是进行沙盘作业，现在刚打过仗的真战场摆在这里，我们为什么不利用它呢？”
到了西城门，在被炸开的豁口面前，陈赓叫大家停下来，听楚大明的现场讲述。接着陈赓就在这里作了这次战斗小结，归纳了六条经验：一、先攻占城关，使攻城有依托；二、周密组织火力，用轻重机枪压制敌人火力点，掩护投弹组大量投掷手榴弹，造成火海，使敌人无还手之力；三、充分准备攻城器械；四、推广第二十团楚大明开辟新通道的经验，以减少自己的伤亡；五、入城后，突击连长和旅、团、营指挥员屁股后面，都要跟一部电话，以便随时进行联络；六、攻城战斗一定要掌握预备队，宁可有预备队用不上，也不要需用时没有而抓瞎。这种趁热打铁、实地总结的经验，是攻坚的ABC，使打惯了游击战的大家受益匪浅。
与此同时，友邻部队也先后攻克了襄垣、屯留、壶关、潞城等县城，消灭了上党阎军总兵力的1/3，只剩下长治市一座孤城了。该敌正日夜赶修城内外工事，企图最后挣扎。这时，刘、邓首长发出命令，要求各部队以“勇猛速决之作战夺取长治城。各部应于9月23日前深入侦察工作，24日22时开始攻城。”
刘、邓亲临太岳纵队指挥部，听取陈赓汇报，并把攻占长治市北关的任务交给太岳纵队。陈赓考虑：决一旅的第二十五和五十七两个团，在长子县攻城战中，主要任务是打援，因为援兵未来而轮空，指战员求战心切。他就把夺取北关的任务给了决一旅。
长治是上党地区首府，城高壕深，城周围地形开阔，易守难攻。纵队部署：首先由决一旅攻占北关，而后协同友军攻城。北关是长治的屏障，是敌人防守的重点。攻占北关既是为攻城扫清外围主要障碍，也是为调动敌人出援，以便在野战中歼灭之。9月20日，李成芳带领各团团长到长治北关附近进行侦察，确定战斗部署后，当天趁夜暗，以勇猛迅速、出其不意的奔袭手段一举突入关内。
事前，陈赓认为：在长治东、西、南三关均未占领的情况下，北关争夺必然激烈，就特地向李成芳交代：“在敌人气势汹汹面前，我们一定不能软，稍一软，敌人的攻击就会更嚣张。”果然不出所料，北关的争夺非常激烈。第五十七团一营负责歼灭北星阁、石灰窑之敌。北星阁是北关连接关外的重要通道，是敌防守重点，有主碉、地碉、暗碉、外壕、地雷、铁丝网等较完善的防御设施。守敌为一个加强连。一连奉命攻占北星阁，激战一夜，未能攻克。三任连长先后牺牲……当时苏策随部队到北关，写过一篇通讯，报道第二十五团的一个连队，在北关和敌人反复进行的《九公尺的争夺》。22日晨，西关也被决一旅攻克。
