皖南事变发生后，山东顽固派的反共气焰更为嚣张。1941年3月，采取分区联合、互相策应、步步紧逼的办法，在全山东发动了所谓“三月攻势”。中共山东分局、八路军第一一五师、山东纵队遵照“人不犯我，我不犯人，人若犯我，我必犯人”的自卫立场和“有理有利有节”的原则，开展了反顽自卫斗争。

　　鲁南地区的反顽斗争 在鲁南区，东北军顽固派军队及土顽、土匪连续制造“四二五”、“七二五”、“银厂惨案”（鲁南区党委书记赵镈被杀）三次流血事件。1941年4月25日，东北军顽固派张本枝部，纠集地方土顽王洪九、李以锦等部共2000余人，大规模进攻以抱犊崮山区为中心的临(沂)郯(城)费(县)峄(县)边联县。顽军占领边联县后，大肆烧杀抢掠，仅在九女山一带就活埋共产党员、革命干部和群众77人。5月16日至22日，八路军第一一五师调集教二旅等部进行反击，经一周激战，收复了该地区。

　　胶东地区的反顽斗争 1941年3月，国民党鲁苏战区暂编第十二师师长赵保原纠集顽固派组成的“抗八（路军）联军”1.2万人，于14日对东海地区的八路军部队发起进攻，妄图消灭、驱逐这支部队。在八路军第三旅旅长许世友的指挥下，八路军胶东部队经三个阶段反击作战，予顽军以沉重打击。1942年5月，在五龙河畔反击了赵保原部，八九月间又歼灭了驻在东海地区的顽军挺进第五纵队丁纟孛 庭部和挺进第六纵队秦毓堂部。历时近5个月的反顽作战，缩小了日伪军占领区和顽军占领区，发展和巩固了胶东抗日根据地。

　　湖西地区的反顽斗争 皖南事变后，国民党山东省第一区专员周侗部、国民党沛县县长兼保安旅旅长冯子固部等，封锁津浦路、微山湖东西地区，切断了鲁南与湖西两根据地的联系。八路军第一一五师决定反击顽军，重新控制微山湖地区。反顽作战自1941年1月16日开始，2月14日结束，近1个月，使鲁南与湖西两区的联系得到恢复。3月，冯子固部联合土顽朱世勤等部，向湖西根据地丰县、沛县以北要地十字河地区进犯十余次。教导第四旅当即展开反击，至5月收复了十字河地区。

　　冀鲁边区的反顽斗争 在冀鲁边区，长期以来，国民党鲁北行署主任何思源、山东第五区专员刘景良部、山东保安独立第六旅旅长张子良部等顽固派，利用黄河（此时已断流）、徒骇河、马颊河等天然障碍，对冀鲁边区抗日根据地实施分割、封锁，并在惠民以南、滨县以西地区大量修建碉堡，完全切断了冀鲁边与清河两区的联系。皖南事变后更加变本加厉。为打通与清河区的联系，改变冀鲁边根据地孤立局势，八路军第一一五师教导第六旅于1941年2月至9月连续4次南下。前三次未完成任务。9月23日开始第四次南下，粉碎了张子良部的阻击。清河区的山东纵队第三旅主力此时沿利津以西北上，直捣何思源部驻地义和庄，并打退了何思源、刘景良两部的联合进攻。到10月初，在清河区部队的积极配合下，终于打通了两区的联系，粉碎了顽固派的长期分割和封锁。

　　滨海区三次甲子山反顽战役 1942年8月3日，为反对国民党的投降、分裂、倒退政策，东北军一一一师师长常恩多在鲁苏战区政策委员会政务处长郭维城的帮助下，率部脱离国民党的控制，到达山东抗日民主根据地。常恩多率部离开后，第一一一师第三三一旅旅长、顽固分子孙焕彩纠集所属余部，并勾结土顽李延修部及国民党游击第七支队朱信斋部，抢占了一一一师原驻地甲子山区。8月14日至19日，滨海抗日根据地部队发起反顽战役，收复了甲子山区。10月8日，孙焕彩部再次进攻。经20天激战，甲子山区再次被孙部占领。12月17日，在罗荣桓等亲自指挥下，第一一五师教五旅、教二旅一部、特务营及山东军区和滨海军分区各一部等共1万余人，分4路向顽军孙焕彩等部发起攻击。在广大民兵、群众的配合下，经14天激战，再次全部收复甲子山区。甲子山战斗的胜利，从根本上扭转了滨海抗日根据地的困难局面，扩大了根据地，并为以后开辟滨海北部地区，打通与胶东抗日根据地的联系，创造了重要条件。

　　阻止李仙洲部入鲁反共 由于蒋介石对于学忠在山东和共产党八路军团结合作之举不满,决定派李仙洲部入鲁接替于学忠。李率部入鲁后，执行“先歼匪（指共产党、八路军）后敌伪”的反动方针，疯狂进攻冀鲁豫边区和山东两抗日根据地。八路军冀鲁豫军区只好进行反击，经两个月的反击战，李部受损很大，被迫撤回皖北。于学忠部不待李部接防即撤出山东，国民党山东省政府也一同撤离。自此，山东再无国民党主力部队，山东敌后抗战的重任历史地落在了共产党领导的抗日军民身上。