1937年8月22日至25日，中共中央召开洛川会议，制定了《中国共产党抗日救国十大纲领》，确定开展独立自主的山地游击战争。9月下旬，中共北方局在太原召开会议，号召“共产党员脱下长衫，到游击队去”。按照中央和北方局的要求，山东省委制定了发动抗日武装起义的十大纲领，研究制定了分区发动抗日武装起义的计划，决定在冀鲁边、鲁西北、胶东、鲁中、泰西、鲁东、鲁东南、鲁西南等地建立l0个军或10个支队。1937年下半年到1938年6月，各地共产党组织根据山东省委的部署，抓住日军入侵立足未稳、国民党军队溃逃的时机，以中央和北方局派来的干部以及刚从狱中释放出来的共产党员为骨干，在全省发动了数十起抗日武装起义。其中，最著名的有十次。

　　冀鲁边抗日武装起义 1937年7月15日，津南工委负责人马振华等联合盐山县的爱国进步人士周砚波等召集民众，在盐山县宣告成立华北民众抗日救国会和华北民众抗日救国军。山东省委派红军干部周凯东、郭盛云前去加强起义部队的军事领导，并派于文彬到冀鲁边组建了鲁北特委，统一领导津南、鲁北地区党的组织。为便于和地方实力派建立抗日民族统一战线，华北民众抗日救国军改番号为“国民政府军事委员会别动总队第三十一游击支队”。1938年1月31日至4月6日，第三十一游击支队开展机动灵活的游击战，连克被日伪军侵占的盐山、无棣、乐陵、庆云等4座县城，并在4县建立了抗日民主政府，控制了以乐陵县为中心的乐陵、庆云、宁津、盐山南部、南皮东部，东西约百里、南北五六十里的区域。1938年3月，鲁北特委书记于文彬牺牲。

　　鲁西北抗日武装起义 1937年10月下旬，共产党员解彭年带15名政训服务员到堂邑县和当地党组织一起，在各乡发动群众，建立武装，起义抗日。张霖之、王幼平、徐运北和洪涛到堂邑后，成立了山东省第六区抗日游击第一大队，洪涛任队长，李福尧任指导员。1938年1月31日，经中共鲁西特委与范筑先商定，以第一大队为基础，吸收冠县、范县、博平、寿张等县党组织组建的武装，建立了山东省第六区游击司令部第十支队，不久扩大到四五千人，成为党直接领导的坚持鲁西北抗战的一支重要力量。另外，鲁西特委和各地党组织先后在濮县、濮阳濮县交界处、齐河、长清分别创建了第二十七支队、十三支队、十二支队、三十一支队等武装。到1938年秋，在鲁西北，共产党直接领导的人民抗日武装发展到1万余人。

　　天福山及胶东各地抗日武装起义 1937年12月24日，胶东特委领导的抗日武装在地处文（登）荣（成）威（海）三县交界处的天福山举行起义。参加起义的有“一一·四”暴动后坚持下来的昆嵛山红军游击队全体成员及农民、学生、知识分子等80余人，编为山东人民抗日救国军第三军第一大队，于得水任大队长，宋澄任政治委员。天福山起义和第三军第一大队的成立，揭开了胶东人民武装抗日的序幕。1938年1月16日，在国民党威海卫行政区管理公署专员孙玺凤的合作下，胶东特委书记理琪和特委委员林一山领导举行了威海起义。参加起义的共100余人。为了加强对起义武装的领导，胶东特委成立了胶东军政委员会，理琪任主席，吕志恒任副主席。同时成立山东人民抗日救国军第三军司令部，理琪任司令员，林一山任政治部主任，将所辖部队整编为两个大队和一个特务队。1938年2月13日，第三军第一大队和特务队在理琪等率领下，一举攻克牟平城，俘伪县长及其以下人员100余人。之后，理琪、林一山率领特务队20人，在牟平城南雷神庙被数倍于己的日军包围。经七八个小时激战，毙伤日军数十名。后在抗日友军的策应下，于夜间冲出包围圈。胶东特委书记理琪在战斗中壮烈牺牲。雷神庙战斗，扩大了党的政治影响，增强了胶东人民的抗日斗志。天福山和威海起义后，胶东各地党组织纷纷响应，举行起义。3月下旬，胶东特委和第三军召开会议，推举曹漫之代理特委书记，吕志恒任副书记兼组织部长，决定林一山任胶东军政委员会主席兼第三军总指挥，宋澄任第三军政治委员。在此前后，胶东各抗日武装先后编为第一、二、三、四路，共3500余人。在省委派去的中共党员张加洛的领导下，1938年3月8日，掖县县委集中500余人的武装在城北玉皇顶举行起义，攻克了掖县城，活捉了伪县长刘子容，俘伪军200多人。收复县城后，起义部队定名为胶东抗日游击第三支队，郑耀南任支队长，张加洛任党委书记。三支队迅速发展到16个大队，共3700余人。

　　黑铁山抗日武装起义 1937年12月26日，姚仲明、廖容标、赵明新率领长山中学师生、训练班学员和部分“民先”队员、青年农民100余人，汇集在长山、桓台、临淄3县交界的黑铁山下的太平庄，举行抗日武装起义，宣布成立山东人民抗日救国军第五军。廖容标任司令员，姚仲明任政治委员，赵明新任政治部主任。几天后，马耀南来到黑铁山，遂决定成立临时行动委员会，由马耀南任主任，姚仲明为副主任，一切行动由该委员会商定。1938年1月8日，第五军一部在廖容标指挥下，夜袭长山县城，消灭维持会武装30多人。19日，又在小清河上伏击日军汽艇1艘，击毙日军官兵12人。2月4日，第五军在白云山区的三官庙击退日伪军的进攻，毙伤敌近百人。这3次战斗，震慑了敌人，锻炼了部队，鼓舞了群众。各地群众自发组织的小股武装纷纷加入第五军。为广泛开展游击战争，迅速扩大抗日武装，2月底，第五军决定分两路开展活动，廖容标、姚仲明率领一部跨过胶济铁路，南下淄川、博山一带；马耀南、赵明新率一部留在胶济铁路北的长山、邹平一带。在一系列战斗中，第五军不断发展壮大，到1938年6月，发展到5000多人。

　　牛头镇、潍北、昌北抗日武装起义 1937年12月29日，在寿光县委的领导下，抗日武装在牛头镇举行起义，正式宣布成立八路军鲁东游击第八支队。马保三任司令，张文通任政治委员。至1938年3月，第八支队发展到2000余人，下辖3个大队和3个直属队。1938年1月27日，在鲁东工委领导下，发动了蔡家栏子起义，建立了八路军鲁东游击队第七支队，王培汉任支队长，鹿省三任政治委员，王翼之任政治部主任。2月14日，鲁东工委和昌邑县委领导100余人在昌北瓦城镇举行起义。次日，起义部队与第七支队会合，编为第七支队的两个中队。3月2日，潍县南部的共产党员和抗日积极分子在东曹庄举行起义，约100余人，自命名为八路军鲁东游击队第七支队第二大队，何凤池任大队长。4月5日，鲁东工委为加强第七、八支队的统一领导，决定成立八路军鲁东游击指挥部，马保三任指挥，鹿省三任政治委员，韩明柱任副指挥。10日，第七、八支队由昌邑开往胶东。5月上旬到达黄县与山东人民抗日救国军第三军会合。

　　省委直接领导的徂徕山抗日武装起义 1938年1月1日，各地参加起义的160余人集合在徂徕山大寺，黎玉代表中共山东省委正式宣布起义，成立八路军山东人民抗日游击第四支队。洪涛任司令员，黎玉任政治委员，赵杰任副司令员，林浩负责政治工作，马馥塘任经理部主任。随后，起义队伍编为两个中队，很快发展到400多人。1月26日，第四支队在寺岭伏击日军，毙伤日军10余人，首战告捷。2月18日，又在泰（安）新（泰）公路的四槐树公路桥设伏，用地雷炸毁日军汽车两辆，歼敌40余人。接着，开展交通破袭战，破坏了新（泰）汶（大汶口）公路上的一座桥梁，造成日军交通一度中断。2月底，山东省委在新泰县刘杜召开扩大会议，决定兵分两路。北路（第一大队）由洪涛、林浩等率领，向莱芜、博山、淄川一带发展；南路（第二大队）由赵杰、程照轩等率领，向泗水、蒙阴、费县一带发展。4月上旬，第四支队第一大队在淄川县马棚、磁窑坞一带，与廖容标、姚仲明率领的山东人民抗日救国军第五军一部会师。同时，张岗、汪洋、谢辉、崔介等率领的临沂兰陵和莒县十字路抗日武装300余人，及徐化鲁、张敬焘率领的博山抗日武装大部，都编入第四支队。4月28日，南路第二大队在赵杰率领下智取莱芜城，活捉顽固派县长谭远村等300余人，并救出被扣押的马馥塘等人。29日，南北两路部队胜利会师，于次日在莱芜城召开盛大庆祝会，将四支队番号改为山东人民抗日联军独立第一师，洪涛任师长，林浩任政治委员，所属部队共4000余人，编为3个团及1个教导队、1个独立营。5月25日，洪涛病逝。6月，部队又恢复第四支队的番号。

　　鲁东南抗日武装起义 1937年11月，莒县的郭有邻等组建了莒县高房乡民众抗战自卫团。1938年1月，邵德孚、李仲林受山东省委派遣，到沂水与当地党组织组织起一支抗日武装。3月，根据省委决定，莒县、沂水两支武装在沂水县公家疃合编为八路军山东人民抗日游击队第四支队第六大队。鲁滨任大队长，邵德孚任党代表，李仲林任政治部主任，郭有邻任大队参谋兼管莒县地方工作，所部500余人，陆续编为6个中队。6月，为加强对第六大队的领导，省委派红军干部罗积伟、吴瑞林和吴坤去第六大队，分别任大队长、副大队长和政治委员。经过整顿，部队很快得到恢复和发展。

　　泰西抗日武装起义 1938年1月1日，张北华、远静沧等10人在泰西夏张镇举行抗日武装起义，并与其他数支部队汇合，成立山东西区人民抗战自卫团，共100余人。1月17日凌晨，自卫团冒雪奇袭肥城县城，将县维持会武装20余人全部俘获，缴枪十几支，处决了汉奸维持会会长，将缴获的粮食、物资分给贫苦群众，扩大了影响，群众纷纷要求参加队伍，自卫团很快发展到200人。28日夜，张北华、崔子明等率领60余名队员突袭津浦铁路上的敌据点界首车站，毙伤日军18人。两次战斗的胜利，震动了整个泰西地区，鼓舞了人民群众的抗日救亡热情，坚定了人民群众的胜利信心。到3月底，自卫团发展到17个大队、1个先锋连、1个特务队，共有2700余人，1000余支枪。台儿庄会战期间，山东西区人民抗敌自卫团炸毁万德车站附近的铁路桥和公路桥。同时，在北集坡车站附近炸翻敌军车1列，毙伤日军20余人。两次破袭战，使日军十几天无法通车，有力地配合了台儿庄会战。

　　鲁南抗日武装起义 1937年12月中旬，中共邹县县委在南亢埠举行抗日武装起义，建立了鲁南人民抗日游击总队，有200多人，100多支枪，冯起任总队长。1938年3月初，郭子化、张光中通过统战关系，从国民党徐州专员兼第五战区游击总指挥李明扬处争取到人民抗日义勇队的番号，公开在沛县、滕县、峄县等地发展抗日武装。3月底，各支抗日武装合编为1个大队，朱玉相任大队长，下辖4个中队。5月，中共苏鲁豫皖边区特委在老古泉召开扩大会议，决定成立第五战区人民抗日义勇总队。张光中任总队长，何一萍任政治委员，韩文一任参谋长，王见新任政治部主任。总队下辖3个大队和1个直属宣传队，共600余人。抗日义勇总队成立后，依靠滕峄边山区，开辟以抱犊崮为中心的鲁南抗日根据地。、

　　湖西抗日武装起义 1938年6月11日，李贞乾、王文彬等率领丰县、单县、砀山部分抗日武装共250余人，在丰县宣布成立人民抗日义勇队第二总队。6月底，中共徐西北区委和鲁西南特委调集沛县、铜山、金乡、萧县等地的抗日武装前来会合，共有1000余人，李贞乾任总队长，王文彬任政治委员，张如任参谋长，孙叔平任政治部主任。到1938年12月，第二总队发展到约5000人。

　　这些起义武装，肩扛土枪、长矛、大刀，与日伪军英勇作战，不久即进行大小战斗百余次，攻克县城15座，得到老百姓的拥赞。同时自身也不断发展壮大。1938年12月，中共中央决定成立八路军山东纵队，辖10个支队又3个团，共2.45万人，另辖1万多人的地方武装。它的建立，标志着山东人民抗日起义武装已由若干分散的游击队成为战略上统一指挥的游击兵团。

　　在此期间，台儿庄会战是国民党在正面战场打的一场著名战役。为沟通南北战场打通津浦铁路，1938年3月中旬，日本华北方面军第二军分两路向徐州的门户、鲁南军事重地台儿庄进发。一路是板垣第五师团，于12日猛攻临沂。中国守军经5昼夜激战，歼敌6000人，阻止了敌之进犯。一路是矶谷第十师团，于15日进攻滕县。中国守军奋力抵抗，川军第一二二师师长王铭章以下2000余人牺牲，17日下午5时滕县城失守。23日，台儿庄会战开始。中国军队在第五战区司令长官李宗仁指挥下英勇作战，至4月6日会战告捷，连同临沂、滕县战役共歼敌1.8万余人。4月上旬,中国军队为抵抗日军进攻发起徐州会战。5月19日徐州失守，山东全境沦为敌后。在这场战役中，国民党军队英勇抗战，可歌可泣，但这只是国民党中央军事委员会部署的一场战役，并非国民党山东省政府和地方军主动抗敌。