敌人继续千方百计地打探我军的虚实，频繁地在地面、空中进行侦察活动。我军想了不少方法对付，弄得敌人越打探越糊涂。一天，十三旅抓住了敌人一个便衣侦探，问他是哪个部队的，他还想冒充是“自己人”，说是“一〇五师师部”的。一句话就露了马脚。原来当时这支部队使用的代号普遍扩大了番号，“一五师”实际是三十八团的对外代号。看来敌人真的把这个旅当成几个师来〇对待了。为了迷惑敌人的空中侦察，从镇平出发后，这支部队索性白天行军，队伍拉成一条条长龙。行军休息的时候，又让战士们故意燃起大量的篝火。这样，白天看来烟尘滚滚，夜晚看来，则是火光冲天。说老实话，这支“牵牛”的部队并不怎么轻松。因为既要想办法牵上“牛”，又不能叫“牛”咬住，所以常常是米刚刚下锅就又要前进，背包刚刚解下又要出发。特别是后卫部队尤其艰苦，一天不知道要和敌人打多少仗。有时即使一枪不发，也要大量修筑工事留给敌人“看”。但战士们都知道这一行动的重大意义，因而始终情绪饱满，信心十足。当然，敌人的处境更加艰难。他们整天上气不接下气地跟在后面，我军说走，他不敢休息；我军一停，他就得赶快拉开“进击”的架势。敌人部队臃肿，辎重累赘，一天赶个两头黑，走不了三五十里，还累得一个个咧嘴，脚跛腿软；夜晚，刚要伸伸腿，缓缓气，又被我军的小部队不断袭扰，一夜数惊，这样，敌人被弄得昼夜不安，疲于奔命，越来越狼狈，一天天跟不上队了。为了把“牛”牵得紧些，让它跑得更快，11月19日，陈赓又打电报来，命令这支部队奔袭内乡。当天夜里我军就将内乡县城包围。这个时候，我十三旅与二十五旅已经会合，二十五旅担任主攻，十三旅以炮火支援。这一夜，我军的炮火急袭，比攻打镇平更加猛烈。不到天亮，外围据点便被扫清。但是我军并没有向城里发起冲锋，只是和敌人时打时停地相持着。
内乡敌人向李铁军频频告急，整三师的牛性发作，兴冲冲地扑了过来。敌人越来越近，和内乡的距离逐渐缩短；40里，30里，20里……到20日下午3点多钟，本来已经被吓破了胆的敌人，突然活跃起来。甚至把老乡们逼到城墙上来向我们喊话，说我军已经“被包围了”，声称要我军“投降”。有些战士气鼓鼓地，有的干部也要求下令攻城。可是一经提醒：“别忘记咱们的任务是‘牵牛’啊！”这些同志的怒气立刻烟消云散，马上拉紧“牵牛”的“缰绳”前进。果然，我军刚刚转移，整三师先头部队的炮弹就从湍河那边打过来了。
敌人洋洋得意地紧跟上来，他们跑得急，我军牵得快，转眼又把敌牵到赤眉镇。赤眉镇是由内乡通向伏牛山深处的一个隘口（也是宛西土顽头子刘顾三等长期经营的匪巢），再往里走，沟深路窄，大部队运动不便。这时我军估计，李铁军到达这里可能会愁思苦虑，举棋不定。但若不能继续把它牵进山去，就会前功尽弃，达不到预期的目的。因此，部队离开赤眉镇不久，陈康就连夜派出一支侦察分队返回去诱惑敌人。另外还派三十八团三营在鱼关口布置了囊形设伏阵地，准备狠狠地揍它一顿，显露一下力量，引诱它坚决进山。
第二天——11月2日8时，枪声在赤眉镇方向打响了。敌人被我侦察分队从鱼关口对面的大平川牵了过来，在最前面的第八连迅速迎了上去，准备把敌人拖进口袋。狡猾的敌人没有照直进入口袋，却扭头向九连的阵地扑来，从此展开一场异常激烈的战斗。这天从早上到下午，敌人连续发动了十几次猛烈攻击，进攻的兵力一次比一次多，最后竟然整营整连涌来。但在英雄的九连面前，敌人只是一次又一次地留下大批尸体败退下去。李铁军以为这下真的抓住了我军的主力，亲自赶到鱼关口来督战。敌人密集的大炮一直轰击到太阳偏西，才一步一步地爬上山来。可是，我军早已主动撤出战斗，向夏馆镇转移。李铁军满以为大功即将告成，第二天，竟然丢掉辎重，扔下大炮，拼着老命往里追赶。这时，国民党的中央社也在那里大吹牛皮：“国军已把陈赓主力逼进深山穷路，共军士气低落，逃亡严重，粮食困难……”
其实，这时十三旅已到夏馆镇，分工开辟根据地的部队已全部展开，陆续建立了7个分区，豫陕鄂军区也成立了；在伏牛山东麓隐蔽待机的我兵团主力，向平汉线靠拢，已经和华东野战军的部队会师。震撼中原的平汉线破击战马上就要开始了。这时，担任“牵牛”任务的我军估计敌人可能不会再跟得那么紧，因此，在夏馆休息了两天，想等它一下，看看情况。不料，李铁军派出了两个旅由西面包抄过来，准备把我军合围在夏馆。这突如其来的情况，真使十三旅又惊又喜，惊的是差点没给敌人裹住，喜的是敌人到这时候还没有醒悟过来，而且还在寻我主力“决战”呢！陈康旅长后来回忆道：部队连夜撤离夏馆，迅速进到伏牛山深处形势险要的二郎坪。我们原以为李铁军会“不到黄河心不死”，奇怪的是他却又不来了。
正在疑惑间，从纵队突然传来了叫人欢喜欲狂的消息：平汉线破击战大获全胜，郑州至信阳800多里铁路被我军破坏，敌人的重要屯兵基地许昌、漯河等23个县城被我军攻克，带着32个旅“清剿”大别山的白崇禧，不得不抽兵回援。围歼刘、邓大军的阴谋彻底破产，鄂豫两省的敌人已完全陷入瘫痪状态。李铁军这时才像醉汉喝了酸汤似的，清醒过来，星夜“驰援”平汉线了，纵队命令我旅立即尾追整三师，由“牵牛”改为“赶牛”，务必将“牛”赶到预定地区。牵了这么久的“牛”，现在到杀的时候了。战士们高兴得一蹦三尺高。驻地通宵灯火不熄，歌声不断，到处在忙着磨刺刀，补鞋子，准备出发。几十天来，战士们从北到南，从东到西，牵着比我军强大几倍的敌人在伏牛山兜了个大圈，爬过了多少山，过了多少河。在无后方的条件下，鞋坏了只有赤着脚走路，粮食缺了就紧紧裤腰带，没有谁发过一声怨言，没有谁讲过一句怪话。今天，“牛”终于被拖垮了，谁不想马上扑上去，一刀把“牛”斩掉呢！
追击的命令一发出，部队就像决堤的山洪，一泻直下。战士们一个个像长了飞毛腿，一昼夜就赶了200多里。这时，正赶上下大雪，天寒地冻，滴水成冰。号称蒋介石嫡系精锐的整三师，被我们拖来拖去，早已精疲力竭，加上缺衣少食，挨饿受冻，当兵的一路走，一路开小差，到处是散兵，到处扔的是枪支、弹药。敌人原来留在内乡的大炮，也在向李铁军靠拢的途中，被我们的游击队改换路标，引到山沟里缴了械。李铁军万万想不到，他赶到平汉线，不仅是给他的难兄难弟奔丧，而且自己也进了坟墓。当整三师日夜兼程赶到西平县西南的祝王寨、金刚寺一带时，陈、粟大军和我陈赓兵团的主力早已摆开了聚歼的阵势。我十三旅也已绕路赶到前面“恭候”着了。
一天黄昏，整三师2万余人全部陷入了我军重围。李铁军成天梦寐以求地“寻找共军主力决战”的时刻终于来到了。李铁军原想依靠新式的美中装备来上个把回合，挽回被歼的命运。但是他没有想到，美械并不能救他的命，仅仅一天一夜的战斗，他的兵团部和整三师就全部被我军歼灭了。此战，除李铁军等少数残敌逃跑外，其余敌军被全歼。当李铁军在祝王寨全军覆没离阵逃跑时，他像似一个漏完了气的皮球，终于悔恨交加地说：“我一世英名，为陈赓毁于一旦。”在豫西打败李铁军后，陈赓准备进袭洛阳，发起洛阳战役。
1948年2月，中原之敌为了恢复对平汉路的占领，以胡琏兵团、孙元良兵团南北对进，占领漯河、许昌。此时，我西北野战军已在宜川、洛川发动攻势，迫使胡宗南急调裴昌会兵团西援，分布在郑州，潼关400百公里的地段上，敌正规军只剩下1个师驻守洛阳。3月7日，经中央军委批准，决定以陈赓兵团的第四、第九纵队和华东野战军陈士渠、唐亮的第三、第八纵队，以及当地地方武装，由华东野战军西集团统一指挥，发起洛阳战役。当陈赓、陈唐（陈士榘、唐亮）兵团突然向北移动，到了襄城、禹县一带时，南京收到了两个方面的急报，陆军总司令部郑州指挥部主任孙震说：“匪有犯郑州企图。”洛阳守将青年军二〇六师师长邱行湘说：“匪可能攻洛阳。”
蒋介石认为攻洛阳可能性较大，特召邱行湘到京，“洛阳是中原与西北连接的要点，陈赓他们欺你兵单，或许会贸然来犯。我之计划是诱其来攻，随后，胡琏兵团由驻马店北上，孙元良兵团由荥阳西出黑石关，必要时还可调裴昌会重出潼关，几路大军会战洛水之滨，吃掉他4个野战纵队。你只要顶住最初阶段的攻击，主动权就转到手里了。你在四平打得很好，到二六师又表现出卓越的治军〇才能，由你来担起这个任务我是放心的。”蒋介石讲了此战对中原战局的影响，青年军总政治部主任蒋经国。又指点地图说道：“邙山、龙门、西工（位于城西六里，中央军校洛阳分校所在地）、飞机场都是护卫洛阳的重要外围要点，那里防御一定要加强。”这是蒋介石的习惯，每召见战场指挥官，总是先讲战略地位、作战意义，而后做些具体指点，哪里该增兵，哪里该减灶，等等。作为最高统率搞得这么具体实在是弊多利少，有些仗正是因为指挥官缺乏胆识，不敢机动灵活，固守不变而吃亏。
邱行湘由官邸出来，直去碑亭巷曲园，蒋经国已经先在那里等候并摆下便宴，并非蒋经国与邱行湘交厚，是他很早为自己定下的规矩，凡是青年军师长到京，不论因公因私，都要找个清静地方与之推杯谈心。青年军是蒋经国抗战末期任三青团中央干校教育长时倡议组建，以中将衔自任青年军总政治部主任、青年军政工人员训练班主任。从一开始就注重素质，以多有忧国之心的青年学生和失业青年为骨干，选拔优秀青壮年将校任各级指挥官和政工干部。军训与政训并重，决心要建一支新军，革除旧军的种种陋规恶习。他走遍9个师，深入下去作精神讲话，他的名言使千万热血青年振奋：“青年军不是少爷小姐俱乐部、不是官僚政客摔跤场，要革命就矢志报国，不革命就请出去。”他说青年军应该成为第二黄埔，立志要超过黄埔，因为黄埔渐渐蜕变了。
日寇投降，嫉妒青年军的势力借整编之名取消青年军，蒋经国保留下骨干，内战枪声一响，青年军拔地而起，9个师纷纷开赴一线。到此时人们才明白，蒋经国身为国立政治大学（中央干校和中央政治干校合并而成）教育长为什么还要兼任国防部预备干部局局长了。新建的9个师都是齐装满员的精锐，师长个个有名气，很快被拔擢到重要地位，有的当军长有的当兵团司令，有的当绥区长官。邱行湘原任陈诚随从副官，十八军特务营长、团长，九十四军第五师师长，正要下令接任军长的时候改调为第三任二六师师长，成为“土木系”出身的“太子系”一员大将。〇蒋经国俭朴，便宴简便而又随便，总是他自掏腰包付账，对部属有极好印像。邱行湘深感蒋氏父子知遇，下了以死相报的决心离开曲园。邱行湘回到洛阳以驻军首脑和洛阳警备司令身份成立党政军联席会议，纳军政警宪特权力于一身，搞战时体制，实行非常措施。把洛阳四周的县统管起来，扩大地方武装，补充枪支弹药，加强保甲制度，严格连保连坐。控制人员，只准进不准出，所有各方人士不问任务理由一律不准撤走，以免扰乱人心。按惯例，城防吃紧眷属疏散，邱行湘一反其道，下令把住在郑州的二〇六师眷属也迁来，以示必胜。下令银行货币冻结，不准外放，所有军用民需物资实行统管不准外流，方圆百里以内粮秣全部征购。亲自修改工事设计，重新编排火力网点。因兵力不足，他没有遵照蒋介石面谕加强外围据点，准备随时收缩，坚城固守。这支部队经长期法西斯教育，政治上很反动，部队装备精良，就是缺乏实战经验。该敌为防备我军的袭击，不断在加强城外的工事。特别是由于我军渡河后及由潼关东进时两次近逼城西，还在铁门歼灭了敌一个整编旅，故敌对西关的防御非常重视。西城墙本来就高，房屋也少，城外地形开阔。为了增强防御，敌又加高了城墙，挖深了外壕，构筑了多层次的火力网点，其密集程度用当时指战员的话来说：“就像蜂窝一样”。尤其是“西工”（原国民党陆军军官学校洛阳分校）和周公庙，不仅完全地堡化了，而且派了两个团的重兵把守。北城墙不高，工事也一般，但城外地形开阔，不好进攻。南城墙也不高，特别是东南角更低些，工事亦欠坚固，攻取虽不难，但因有洛水作天然外壕，大部队不好展开。东关最大，一直被敌作为其后方，主要是民房。这时，邱行湘正征用民夫，昼夜不停地赶筑工事，准备顽抗。
从总体上看，洛阳为一坚固设防的城市，夺取它将是一场硬仗。特别是洛阳西城，为我军进取之首要障碍，不拔除“西工”和周公庙这两个钉子，便无法进行攻城作战；同时，洛阳东面及东南面为敌援兵必经之路华野和我们的伤员只能经西关向洛阳以西转移。故首先攻占西关，即为此战役之关键。根据我军两个集团当时的态势，作了这样的分工：陈唐第三纵队打北关、东关，相机攻城；第八纵队于黑石关一带阻击郑州援兵；第九纵队在洛阳以西肃清陇海路各城镇敌地方部队并作为战役预备队；四纵第十旅负责占领周公庙，从西关攻城，第十一旅占“领西工”，于南关攻城；第十三旅因受地形限制，只在南关外用一个团的兵力协助第11旅，另一个团则放在靠后的位置。部署停当，部队即向洛阳开进。3月9日黄昏，我军强渡伊水、洛河，开始围攻洛阳城的四关、车站及城郊据点。华东野战军第三纵队由城北和城东面进攻，当晚围攻东关、北关、东西两车站及九龙台、美国医院的守敌，除九龙台外，各处敌人均被肃清。陈赓兵团第四纵队则从城西和城南两面进攻，即以突然动作肃清敌屯兵场“西工”和西关敌军，切断城内敌军与外围的联系；接着又攻占了洛阳的门户周公庙和西工发电厂。
