第1军在频繁进行游击战争的同时，还非常重视根据地建设，特别是金川河里后方根据地的建设。金川河里地处龙岗山脉中段的哈尼河上游山区，即今吉林省柳河、通化、浑江交界地带。这里地势复杂，多深山巨林，群众斗争基础较好。第1军成立后即在此建立军的后方根据地，先后建立了临时医院、修械所、被服厂和物资仓库。根据省委1934年发表的《关于农民委员会与民众政府》的指示精神，根据地还陆续建立了反日会等群众组织。在河里根据地的影响下，到1935年10月，南满各游击区已建立300个农民委员会、15个乡政府和56个区政府。同年11月，还在辉南石头河子召开南满特区民众代表大会，成立了南满特区人民革命政府。在斗争中创建的南满游击根据地，已成为东北抗日武装斗争的一个重要基地。
二、东北人民革命军第2军的编成与东满游击区的发展
（一）人民革命军第2军独立师组成并转战东满各地
东满是中国共产党领导各族人民开展抗日斗争较早、较活跃的地区，也是日军推行“治安肃正计划”的重点地区之一。
1933年夏，中共东满特委根据中央“一·二六”指示信精神，指示东满游击队与其他抗日武装订立协定，加强联合作战。以东满游击队为主体的联合部队，先后进行了攻打八道沟和夺取东宁城等战斗，歼灭日伪军200余人。
1933年冬至1934年春，东满游击队以避敌主力，择敌弱点，伺机袭击的战术，又先后粉碎了日伪军数千人的冬、春季“讨伐”。
1934年3月21日，在汪清县十里坪反“讨伐”中，中共东满特委书记童长荣身负重伤，不幸牺牲，年仅27岁。童长荣在担任特委书记两年多时间里，积极领导东满人民进行反日斗争，创建了东满各县抗日游击队，为发展东满地区的抗日游击战争做出了贡献。
1934年3月，根据满洲省委的指示，东满延吉、和龙、汪清、珲春4县游击队合编成人民革命军第2军第1独立师，朱镇（后叛变）任师长，王德泰任政治委员，下辖4个团。独立师成立后，即“采取积极进攻的策略”，＇中共《满洲省委给东满特委短信》，1934年2月10日。＇ 到敌人统治薄弱的地区开辟新的游击区。第2团、独立团（1934年夏组成）向安图方向发展；第3、第4团到汪清、宁安、东宁等地活动；第1团仍在原地坚持斗争。随后，独立师各团联合其他抗日武装，在各地艰苦转战：4月初战安图车厂子，5月激战东宁二道沟，6月夺取汪清大甸子，8月猛攻安图城，连战连胜，共歼灭日伪军450多人，缴枪160多支，并促使伪军约300人反正。
1934年9月至1935年1月，日军集中主力及伪靖安军、警备旅共3万余人，以通化、哈东、东满和绥宁等四区为重点，发动为期4个月的秋冬季大“讨伐”。第2军独立师根据中共满洲省委的指示，一面将游击区里的群众疏散到深山密林和敌人统治区去，一面将部队分成三路转移：一路到宁安镜泊湖南湖头；一路到敦化、安图之间；一路至大梨树沟。独立师各部在反“讨伐”中，采取伏击、袭击和截击等战术手段，寻机打击敌人。
1935年1月，日伪军分四路围攻安图车厂子游击根据地。独立师以少部兵力牵制伪军，集中主力伏击日军，取得毙伤日军40余人的胜利，自己仅伤亡四五人。4月，独立师一部突然包围了珲春县大荒沟伪军一个连，迫使伪连长率全连82人，携枪85支反正。4月末，独立师主力在安图境内伏击由延吉运送给养返回的伪警备旅一个营，毙伤伪连长以下官兵50余名，缴获军需品一批。经过40余天战斗，独立师终于粉碎了日军的秋冬季大“讨伐”，并发展到1000余人。
（二）人民革命军第2军编成，东满游击区进一步扩大
1935年2月末，在中共满洲省委巡视员、原哈尔滨市委书记魏拯民参加下，中共东满特委于汪清县大荒崴召开党、团特委联席会议，改组了党、团特委领导机构，选举魏拯民为党的特委书记，周树东为团的特委书记。3月下旬，东满特委又在汪清腰营沟召开第2军独立师政委联席会议，研究如何贯彻大荒崴会议决议，加强人民革命军建设的问题。这两次会议是在东满党组织和第2军独立师面临严重困难形势下召开的。会议在一定程度上纠正了统战工作和反“民生团”斗争中的“左”倾错误，确立了新的工作方针和任务，为东满党和军队摆脱困境，发展抗日游击战争指明了方向。
根据中共满洲省委的指示，第2军独立师于1935年5月30日正式扩编成东北人民革命军第2军，军长王德泰，政治委员魏拯民，参谋长刘汉兴，政治部主任李学忠，辖4个团及军直属队，共1200余人。
第2军成立后，根据腰营沟会议的决定，加强了对东满地区的抗日救国军和反日山林队的争取、团结工作。
1935年6月，第2军发表了《为成立东满抗日联合军指挥部致反日部队的信》，提出了建立抗日联合军的四项主张：
第一，不投降，不卖国，抗日到底，收复失地；
第二，不分什么部队，不分党派，不分民族，不问宗教信仰，团结起来共同抗日救国；
第三，没收日本及其走狗的财产，充作抗日战费；
第四，允许民众言论、出版、结社、集会、武装自由，联合民众共同抗日救国。
通过争取工作，在东满地区活动的数千名其他抗日武装中，与第2军关系密切的有11支武装，共1500余人，关系较为密切的有8支武装，约数百人。这些武装已能做到，“凡是我们有事叫他们来，他们能来。他们叫我们去，我们也去，实际上已经能在我们号召领导之下统一行动”。＇《冯康报告之二——义勇军工作》，1935年12月20日。＇
为了扩大游击区，打通与人民革命军友邻各军的联系，第2军除以部分兵力坚持安图、汪清原地斗争外，主力分三路向外线发展：第1路由第1团团长安凤学和政委周树东率领，于1935年4月末向敦化、额穆、蚊河、舒兰一带前进。他们先后取得了敦化沙河掌、额穆青沟子、敦额交界处的威虎岭等战斗的胜利。特别是5月2日在京（长春）图（们）铁路哈尔巴岭伏击日伪202次国际列车，俘日伪军政人员13名，歼灭押车日军一部。日伪报刊哀叹，此次列车被颠覆是“京图线开车以来发生的最大惨事”。＇伪《协和》第9卷，第148号，第7、8页，1936年6月15日。＇
由于情况变化，该路未能与活动在哈东地区的人民革命军第3军联系上。第2路由军参谋长刘汉兴率领，于6月间向宁安、穆棱、东宁一带进军。他们在东宁县老黑山附近歼灭伪靖安军一个连后。又取得了东宁县太平沟、宁安县山东屯等战斗的胜利。不久，即与周保中率领的反日联合军第5军一部会合，并以宁安为中心，共同开展游击战争。第3路由军政治部主任李学忠率领，于8月向抚松、桦甸、濛江一带西征。该路于10月间在濛江那儿轰与人民革命军第1军会师，并举行了两军领导干部联席会议，就两军联合作战等问题作出了相应的决议。第2军部队与第1、第5军部队会师并协同作战，具有重要的意义，它标志着各军联合抗日局面的开始出现。留在老区坚持斗争的第2军部队，于8月29日联合反日友军攻克安图县城，有力地配合了远征部队的行动。
第2军的节节胜利，使日军大为震惊。自1935年9月开始，日军从长春、热河抽调部队对东满游击区进行疯狂的“讨伐”，致使游击区人口减少，面积缩小，并被分割成东西两半，给各部队相互协同和统一指挥带来困难。为摆脱困境，争取主动，第2军军长王德泰率第2军一部，于1936年1月中旬来到镜泊湖北头第5军军部，与该军军长周保中等共同召开了两军特别党委会议，讨论了两军的整顿、发展和配合作战等问题。决定第2军军部率第1师转战安图、敦化、额穆、桦甸、抚松地区；第2师大部仍与第5军一起行动，小部在汪清、珲春一带坚持斗争。还决定将第2军由原成立时的4个团扩编成两个师，6个团。第1师师长、政委分别由王德泰、李学忠兼任；第2师师长史忠恒因病未到职，由刘汉兴代理，政委王润成。通过这次会议，实现了东满、吉东地区党组织和军队之间的联络，为以后各军协调动作，联合对敌创造了有利条件。
三、东北人民革命军第3军的成立与北满哈东游击区的扩展
（一）人民革命军第3军成立，并转战哈（尔滨）东各地
在东北抗日游击战争发展形势的影响和推动下，珠河（今尚志）地区的抗日游击战争经过贯彻中共中央“一·二六”指示信之后，得到了迅速的发展。到1934年底，东北反日游击队哈东支队已发展到450余人，并与10多支其他抗日武装建立了反日联合军司令部。游击区也由1个县（珠河）扩展到6个县，并先后取得了宾县三岔河、五常县五常堡和宾县、延寿毗连的肖田地等战斗的胜利。为适应抗日形势发展的需要，根据中共满洲省委的指示，东北反日游击队哈东支队于1935年1月28日，在珠河铁道南三股流，扩编成东北人民革命军第3军，军长赵尚志，政治部主任冯仲云，下辖1个师，3个团及军直属队共500余人。
第3军编成后，以团为单位分别活动于珠河东北部和中东铁路南北的方正、延寿、宾县、阿城、五常、双城一带。
1935年2月，日伪军调集1000余人分路向珠河、宾县、延寿、方正游击区大举进攻。第3军各团就地与敌周旋，先后在小亮珠河、孟家店、一面坡和延寿中和镇等地，给敌以一定程度的打击，3月初，赵尚志率部抵达方正县大罗勒密，与在该地活动的依兰县土龙山农民抗日武装谢文东部及吉林自卫军李华堂部会合。经过协商，以第3军为核心；共同组成了东北反日联合军总指挥部，公举赵尚志为总指挥，李华堂为副总指挥，谢文东为军事委员会委员长。同时，以东北人民革命军第3军和东