1907年8月，高敬亭出生在河南省光山县。1927年11月参加了“黄麻起义”。起义失败后，敌人把他父亲和妻子抓去，酷刑致死，儿子下落不明，房屋被烧尽。高敬亭怀着一腔悲愤，弃家离乡，转战于鄂豫皖各地，成为一名优秀的部队指挥员。
1934年冬的一天，高敬亭率领红军二一八团在鄂豫皖革命根据地的皖西地区，被国民党军队紧紧包围。经过三天的激战，终于杀出了一条血路，翻山越岭甩掉了敌人，转移到金寨县的抱儿山。
鄂东北道委少共书记方永乐多次冲破敌人的堵截，率领部队，于1935年2月1日到了抱儿山，两军汇合，为部队带来了万分欢欣与希望。方永乐传达了鄂豫皖省委的决定：省委与主力部队红二十五军撤离鄂豫皖根据地，高敬亭留下，负责组建红二十八军，继续在这里坚持武装斗争。
省委这个决定，使高敬亭心情很不平静。省委走了，红二十五军走了，鄂豫皖这块革命根据地遭到敌人多次烧杀掳掠，几乎成了无人区，剩下的党的机关也无法在原地立足……
高敬亭紧锁眉头，心事重重地来回走动，经过反复思考，他命令部队迅速向东南方向转移。途中，他和方永乐等研究重建红二十八军的方案。
2月3日，高敬亭在太湖县凉亭坳主持召开了干部会议，讨论并作出了两项重要决定：一是将皖西北红军二一八团和鄂东北独立团合编，组建红二十八军，高敬亭任政治委员。下辖八十二师和手枪队，全军共一千四百多人，二是发展地方武装，成立四路游击师，在太（湖）潜（山）、霍（山）、英（山）四县交界创建游击根据地。
此时，敌人以十四个团的兵力，从三面合围而来。高敬亭开罢了干部会议，当晚整编了部队。第二天转移，先后突破敌人两次堵截。2月12日在霍山县太阳畈东侧的黄泥榜又遭到敌人两个团的围截，师长罗成云牺牲。黄昏时，高敬亭命令一支部队阻击敌人，自己率领大部队翻越皖西最高的山峰白马尖。到达山巅时，有些同志昏倒在雪地里。高敬亭立刻大声疾呼：“冲下山去就是胜利！”说着，就领着大家，踏着深雪，大步向山下走去。拂晓时，部队到达了马家河，终于摆脱了敌人。
红二十八军重建后的第一个严重问题是枪支弹药不足，供给困难。高敬亭决心“向敌人要补给”。2月15日，他派手枪团奇袭潜山县官庄林家冲，捕杀了国民党安徽省民政厅长，反共老手余谊密和他的儿子，缴获了一批武器弹药和粮食，军威大震。
红二十八军连续突破了敌人几次堵截之后， 1935年4月20日转移到了霍山县汤池畈东侧的桃岭。这时候，敌人又尾追到汤池畈。高敬亭环视了四周的地势，对师政委方永乐说：“这里只有一条小路上山，是个打伏击的好地方。把敌人装进口袋，狠狠揍。”随后，他们密切注视敌人的动静，并设好了包围圈。这一仗，歼灭了敌人两个营。
接着，蒋介石派出六十一个正规团，加紧“清剿”，限令两个月内将红军全部消灭。蒋介石为了困死红军，筑成了纵横交错的七条封锁线，给红军的行动造成了极大的困难。高敬亭总结了经验，确定“化整为零，集零为整”的方针。红军主要以营为单位，小部队分散出击，深入到敌人兵力薄弱的平原、丘陵地区活动，在一年多的时间里，活动范围从过去的不足三十个县，扩大到四十六个县，影响遍及江北。
高敬亭派徐成基在舒城、潜山一带找到了立足点，安置了伤员。以后又在皖西组织了十一支便衣队，建立了十多处立足点。到1936年秋天，便衣队发展到八十一个，遍及鄂豫皖边区各地，真是星罗棋布，到处开花。便衣队机动灵活，深入群众，通过亲连亲、户连户、村连村，把群众发动起来，用各种方式骚扰敌人。一些地主惧怕便衣队，按期交粮交款，还掩护红军伤员。一些保长、联保主任也暗中为红军筹粮筹款、送情报。便衣队实际上控制了这些地区。
1937年初，便衣队在各处恢复和建立了游击根据地。还在这些根据地里，创办了山林医院、小型修械所、被服厂等，为部队筹款购买药品和日用品，并且组建了游击队，有力地配合了红二十八军主力部队作战，并输送了大批兵员。
在三年的游击斗争中，高敬亭积累了丰富的斗争经验。受过红二十八军沉重打击的有形形色色的杂牌军、地方反动武装和国民党嫡系部队。许多国民党将领都是高敬亭的手下败将。三年中，红二十八军共歼敌军十八个营、十五个连和大量小股敌人，钳制敌人正规军最多时达六十八个团，十多万人，创造了游击战的辉煌成绩。
1938年春，高敬亭到武汉向党中央汇报工作时，周恩来副主席高度评价他的工作说：“中央红军长征后，你们在十分艰苦、十分困难的条件下坚持敌后斗争，你们的功绩很大。你们能在敌后保存住这样一支红军部队，这是了不起的！”
2月，红二十八军遵照党中央的决定，改编为新四军第四支队，共三千一百多人，高敬亭任支队司令员。
这是新四军的一支劲旅，数量多、素质好，能征善战，誉满华中。5月，高敬亭率领四支队赴皖中巢湖将家口，打响了新四军对日作战的第一炮，全歼一股猖狂出扰的日军。后来又接连在合肥、舒城、桐城一带，取得了大关、小关、范永岗、椿树岗、棋盘岭等三十多次战斗的胜利。初步开创了舒城、桐城、庐江、无为地区的抗日根据地。新四军四支队威震江北地区，给气焰嚣张的日寇以狠狠的打击。四支队很快发展到八千多人，受到了党中央的表扬。
