1938年4月30日正午，段君毅一行到达鲁西南的曹县，住在曹县县城东关马家店。当时济南失守，曹县县城成为国民党山东省政府临时驻地。
当日下午，段君毅、王彬前去拜访山东省主席沈鸿烈。其时，韩复榘已被蒋介石处以军法，沈鸿烈接任省主席。
虽然此时国共合作抗日民族统一战线已经形成，见到延安来的干部后，沈鸿烈态度却不冷不热：“明天省政府将在曹县南关广场召开庆祝台儿庄会战胜利大会，你们延安来的干部选位代表在大会上讲讲话吧。”
5月1日上午，段君毅一行排着整齐的队伍，打着庆祝台儿庄会战胜利的标语，唱着抗战歌曲，进入庆祝大会会场。
会上，延安来的共产党代表讲了话，高度赞扬了第五战区司令长官李宗仁指挥的台儿庄战役取得了重大胜利，又赞扬了蒋介石发表国共合作谈话、承认中国共产党合法地位、国共合作抗战的做法。紧接着，他详细阐释了中国共产党的抗日救国《十大纲领》，介绍了八路军一一五师平型关大战、一二零师雁门关大战，一二九师奇袭阳明堡机场以及新四军在长江两岸的抗日战况。最后讲道：“我们这次到敌后来，就是为了坚持国共合作团结抗战，打击日本侵略者，把他们赶出中国去!”
台下，延安干部带领群众高呼抗战口号，高唱《大刀进行曲》《游击队之歌》。在场的青年学生和老百姓也跟着唱歌和呼起口号来，连国民党警察也一起呼口号、喝彩。整个会场群情激昂，庆祝会实际成了共产党宣传抗日主张的动员大会。
国民党山东省党部书记李文斋等少数顽固分子气急败坏，认为这是共产党的煽动宣传。会后，李文斋立即向沈鸿烈提议：派特务队将延安来的干部秘密杀害。
同情共产党、赞同国共合作抗日的东北将领谢珂得知这一消息后，立即派人找到段君毅，告知这一紧急情况。段君毅向上级汇报了这一紧急态势。曹县已不宜久留，必须马上离开。但这么多人要快速撤离，交通工具是个难题。段君毅遂与曹县县长王贯一一起打着范筑先部有急事需要用车的旗号，连夜找到东北军原张学良将军的秘书，中共党员郭维城。他派来一部卡车，段君毅带领延安来的全体干部悄悄登上汽车，火速北进菏泽。
当时段君毅年仅二十八岁，怀揣着一腔报国热血，政治斗争经验尚不丰富，到敌后开辟革命根据地要比想象的困难大得多。到了菏泽，段君毅发觉形势仍然严峻，第二天便奔郓城，找共产党领导的自卫团团长梁仞仟。段君毅代表中共山东省委听取了梁仞仟关于中共郓城县委的工作。段君毅赞扬了梁仞仟父子倾家荡产发动群众打日寇的行为。梁仞仟则嘱咐段君毅说：“进了郓城不要找县长王念根，他是个顽固派。”
郓城倾共的驻军司令祝璧臣回了老家祝桥，司令部的人看过梁仞仟的信，便开了介绍信，以到聊城找范筑先的名义，请沿路地区政府为郭、段一行安排食宿。最后一行人辗转来到了山东省委组建的山东泰西区抗敌自卫团驻地泰西。
山东泰西区抗敌自卫团这支刚刚建立的武装，1月17日攻克肥城县城，击毙汉奸维持会会长范维新；1月28日奇袭界首火车站，消灭日军十余人；3月下旬破坏津浦铁路，炸毁万德铁桥，阻止了日军向台儿庄增兵；4月6日在肥城的道朗一带配合民团与日军血战，歼日军百余人。连战连捷，军威大振。目前，已发展为十七个大队两千七百余人的抗日武装。
为加强党的领导，山东省委电呈中央同意，设立中共泰西特委，段君毅任书记，张华北任军事部部长，孙光任组织部部长，万里任宣传部部长。张华北兼抗敌自卫团主席，延安来的军事干部何光宇任副主席。
曲折的道路使段君毅深刻地认识到，毛主席的枪杆子里出政权的理论是多么正确！没有一支人民的军队，便没有人民的一切，也便没有革命的根据地!
在段君毅和特委的领导下，通过举办培训班和送上级培训，用两个月的时间培训党员干部四百余人，帮助四十余名失掉关系的党员恢复了组织关系，并将许多“民先”队员发展为共产党员。在此基础上，先后建立了长清、泰安、肥城县委和汶上、宁阳县工委，并将东平县工委改建为县委，所辖大部分区建立了区委，部分村庄建立了党的支部。全区党员迅速发展到一千五百余人。在各级党委和农村党支部的领导下，工人、农民等各界抗日救国会和儿童团、姐妹团等抗日群众团体蓬勃兴起。
1938年8月，原属中共苏鲁豫特委领导的郓城中心县委及其所辖的菏泽县工委、郓鄄工委、巨菏工委、巨嘉工委等县党组织，划归泰西特委领导。此时，泰西特委辖区东至济南、西至菏泽，长约二百五十公里。
泰西地区的部队建党与地方同步进行。1938年5月，自卫团十七个大队中活动在大峰山区的四个大队建立了党支部，其余的十三个大队和自卫团团部都没有党的组织，只有一些抗战前的共产党员、共青团员和“民先”队员。这些同志多数都坐过国民党的监狱，“七·七”事变后才释放出来，还没有恢复组织关系就到泰西参与组建抗敌自卫团，并成为自卫团的骨干。据此，段君毅支持特委开会研究决定：尚未接上关系的老党员一律恢复组织关系；抗战前参加过共青团、“民先”队的，一律转为共产党员；对一些在组建武装和作战中表现好的积极分子均作为党员发展对象。在此基础上，段君毅和特委其他领导，深入到自卫团，一个单位一个单位地研究建党问题。
第一批建党的重点是大队、中队的教导员和政治指导员，凡是具备党员条件的，吸收他们入党，少数不具备党员条件的，也不随便降低标准，调换他们到别的工作岗位。经过两三个月的工作，所有大队、中队的队长、教导员、指导员都由共产党员担任，还在班长、战士中大量发展党员，使部队的政治、军事领导权紧紧地掌握在共产党员手里。
