1947年8月下旬，刘、邓大军在强渡黄河、取得了鲁西南战役大捷后，向南实施无后方的千里跃进，到达大别山区，从而拉开了中国人民解放军战略反攻的序幕。
大别山区位于长江中游，鄂、豫、皖三省交界。当时是敌人战略上的薄弱地区，又是对敌人威胁最大的地区。我军进入大别山，可以东窥南京，西逼武汉，南扼长江而控制中原，并直接威胁着敌人的两大交通命脉---平汉路与津浦路，等于在蒋介石反动统治的心脏，插进一把锐利的尖刀。
8月27日，刘、邓大军第3纵队第8旅作为跃进大军的左路军，由皖西进入大别山区，乘敌人主力被甩在淮河以北、山区力量极为空虚之际，立即分成三路，以秋风扫落叶之势，连克金寨、霍山、六安、舒城、庐江、桐城、岳西、潜山、宿松等9座县城。
为了迅速立足生根，刘、邓首长按照中原局的计划，以3个旅在皖西展开，两个旅在鄂东展开，9个旅摆在大别山北麓的商城、罗山地区，一面牵制敌人，一面就地展开。
当时，蒋介石看出我军"逼宫将军"这步棋对他威胁太大，在我军跃进大别山后，急令尾追之敌22个旅赶过淮河，进入大别山区。同时，又派国防部长白崇禧率两个桂系主力师，进山寻找我主力决战，妄图把我军逐出大别山区。
面对严重的敌情，根据中央军委的指示刘、邓首长决定，先打战斗力较弱和孤立之敌。就在敌主力纷纷云集商城、光山一线，皖西之敌仅剩第46师残部及第88师执行守备任务之际，刘、邓首长立即抓住战机，命令第3纵队主力第7、第9旅，迅速从河南商城、固始一线回师皖西。其部署和态势是：第9旅隐蔽集结在漯河以东山王河一线，正处于敌第88师西进的正面；第7旅则部署在舒城西北约五六十华里的椿树岗、中店子到双河一线，位于敌第88师前进方向的右翼；第8旅位于舒城西南60多里的庐镇关、河棚一带。
此时敌第88师师部正率第62旅由舒城西进，妄图同第48师、第46师、第7师对我3纵实施合围。第88师像打了吗啡针一样，胆子壮了起来，正在向我防区孤军深入。
第3纵队陈锡联等首长当机立断，决定放弃追歼由霍山逃往六安之敌第46师1个团和刚进入桐城之敌，抓住有利战机，在敌人的合围尚未形成之前，集中优势兵力，先"吃"掉送到嘴边的这条"大鱼"---敌第88师师部及其第62旅。
作战方案是：利用我军已形成的有利态势，在山王河以北40余里的张家店一带布下"口袋"，迫敌进入，聚而歼之。
3纵首长命令第7旅以1个团，部署于六安与张家店之间的中店子一带，阻击六安之敌南出增援；命令第9旅及第7旅大部，迅速集结于山王河东北的山地一带，准备给予西进之敌迎头痛击，迫敌向北进入我在张家店一带预伏的口袋阵中；同时，急令第8旅放弃桐城之敌，于10月7日拂晓前赶到毛坦厂及其以东地区集结。当夜大雨滂沱，伸手不见五指。
10月6日，敌第88师进到南官亭及以西地区，遭到第8旅第23团的阻击。23团在给敌以杀伤后，主力迅速撤出战斗，只留少数部队与敌接触，诱敌继续西进。10月7日，该敌进至山王河以东地区，遭到第9旅迎头痛击，不能前进。而敌右翼又遭第7旅第20团从太平地、黄土寨、江湖岭发起的攻击。
10月8日，8旅各团由毛坦厂向北直插山王河以东的苦麦岭，中午又与敌接触。此时，敌人西进不得，欲退不能，只好改道北逃，企图向六安之敌靠拢。正好乖乖地被我牵入预伏的口袋阵中。
当晚7时许，从俘虏口中获悉，在我军三面围追中，敌第88师师部及第62旅6000余人，全部龟缩在张家店镇及外围的一些小村落和居民点中。10月9日零点，第7旅协同第9旅先头部队，将这股敌人团团包围起来。
张家店位于六安县东南约60华里，是一个有200多户人家的集镇，一条长约两华里的土路从镇中穿过，房屋多数为砖结构，也有一部分草房。镇外没有围墙，但沟渠纵横，形成了一道绵延数里的"护城沟壕"，利于防守而不利于进攻。但仓皇北逃的敌人，惊慌失措，指挥无能，没有占领和控制镇子南北的制高点，仅仅控制和占据了镇外稻田地里一些小的村落和农舍。这就为我军歼灭这股敌人创造了有利条件。第8旅各团从毛坦厂方向追击敌人至张家店外围，迅速占领了镇南的丘陵地带，控制了制高点。第7旅第20团也以两个营的兵力，占领镇子东北的山头，控制了镇北的高台地，并立即抢修工事，防止敌人向合肥方向突围。
10月9日拂晓，张家店之敌进行了多方面火力侦察之后，在炮火掩护下向我驻守在镇北高地的第7旅第20团阵地猛扑，企图打通逃往六安或合肥的道路。敌人的三次反扑均被第20团打退。与此同时，敌人在其他几个方向的突围也没有成功。战斗进行到下午3点，敌伤亡很大，已无力反抗，只好固守待援，企图待援军到来后，内外夹击，夺路逃走。
岂知，敌此举正在我纵队首长的意料之中。第7旅第21团早已横亘在张家店西北25里处的中店子一带。就在张家店反扑之敌被打退的同时，从六安出动增援第88师的第46师约3个团的兵力，也因受第7旅一部的阻击而不能前进一步。张家店之敌，早已成了瓮中之鳖。
9日下午，3纵第7、第8、第9旅主力全部赶到了张家店附近。为迅速全歼该敌，纵队首长命令：9旅从西南方向担任主攻，7旅在北，8旅在东及东南方向担任助攻和阻击外逃之敌的任务。
总攻时间到了。我方山炮、迫击炮齐鸣，张家店笼罩在一片硝烟火海之中。在我强大火力掩护下，第9旅对当面之敌发起了猛攻，第7旅第20团则以迅雷不及掩耳之势，一举夺得镇北小河外沿的居民点，并迅速派一个营冲过小河，占领了附近的制高点。然后，该营又集中所有轻重火力，掩护突击部队沿小河近旁的居民点，交替突击前进。该团另一个营则在右翼与镇外守敌展开激战。第8旅第22团沿朱家冲以西高地，以一个营的兵力直插胡家祠堂。24团在张家店东南面韩家畈与胡家祠堂之间，向镇内突击。
敌人在我四面包围、三面突击的情况下，已经是四面楚歌，到了背水一战的境地，所以整个战斗打得非常激烈。即使是一个独立房屋，也要经过反复的争夺才能占领。激战约进行了两个多小时，担任主攻的第9旅，终于扫清了外围据点，进逼到敌人的鼻子底下。这时，纵队集中炮火猛轰镇内之敌。不一会儿，镇内敌指挥机关驻守的一座较坚固的房屋中弹起火，指挥系统全部失灵。此时，镇内火光冲天，枪炮声、喊声、叫骂声混成一片，几千敌人顿时陷入一片混乱之中。
事后得知，敌第88师中将师长张世光见大势已去，只带10余人乘镇内混乱之机，首先仓皇逃窜。群敌无首，大队人马像热锅上的蚂蚁，乱蹦乱跳，都在寻机外逃。
天将破晓，数百敌人拼命地冲向镇北高台地第7旅第20团的阵地，企图夺路逃命。此时，第24团团长吴先洪急令身旁的两门山炮，把阵地上仅剩的20多发炮弹，全部射向敌群。敌人被炸死炸伤一部，其余乱作一团，被第20团全部俘获。
这时，我军从四面八方像潮水般地涌进镇内，残敌完全失去了战斗力，纷纷举手投降。
10月10日凌晨4时，攻打张家店的战斗胜利结束了。此战，3纵共毙伤敌900余人，生俘敌少将副旅长唐家楫以下官兵4000余人，缴获山炮3门及枪支数千，弹药无数。其中第8旅俘少将副旅长唐家楫以下2000余人。
这是刘邓大军千里跃进大别山后，第一次消灭敌人一个整旅的歼灭战。
张家店战斗的胜利，正如刘伯承司令员讲过的那样"：这是大别山我军在无后方依托条件下，第一次消灭敌人一个整旅以上兵力的重大胜利。""是在敌情十分严重，供给异常困难，部队人员和装备都削弱了的情况下进行的。但是，由于全体指战员坚决执行了党中央和毛主席的指示，响应了中原局的号召，发扬英勇顽强的战斗作风，克服各种困难，终于取得了胜利。"这次胜利"大大打击了敌军和地方反动势力的气焰，鼓舞了群众的斗争情绪，提高了部队进行无后方作战的胜利信心，为进一步发动群众，建立根据地创造了极为有利的条件。"
