一些被俘的坦克兵也说：“我们在印缅战场与日军作战3 年，一直是向前冲，美国人对我们也很看得起，想不到今天败得这样惨。”
陈毅诗情满怀，每每大战胜利后，都要吟诗作赋，这次也不例外，他写道：“快速纵队走如飞，印缅归来自鼓吹。鲁南泥泞行不得，坦克都成废铁堆。快速部队今已矣，二十六师汝何为？徐州薛岳掩面哭，南京蒋匪应垂泪。”
1947年1 月，根据中央军委统一整编全国军队决定的方针，撤销山东军区、山东野战军和华中军区、华中野战军，由这些地区和部队组成华东军区和华东野战军。
华东军区以陈毅为司令员，饶漱石为政治委员，张云逸为副司令员，黎玉为副政治委员，陈士榘为参谋长，舒同为政治部主任，辖鲁南、鲁中、胶东、渤海、苏北、苏中等6 个军区及滨海分区和东江纵队，共约36。6万余人。
华东野战军以陈毅为司令员兼政委，粟裕为副司令员，谭震林为副政治委员，陈士榘为参谋长，唐亮为政治部主任。辖第一纵队（含第一、第二、第三师和独立师），叶飞任司令员兼政治委员；第二纵队（含第四、第五、第六师），韦国清任司令员兼政治委员；第三纵队《含第七、第八、第九师），何以祥任司令员，丁秋生任政治委员；第四纵队（含第十、第十一、第十二师），陶勇任司令员，王集成任政治委员；第六纵队（含第十六、第十七、第十八师），王必成任司令员，江渭清任政治委员；第七纵队（含第十九、第二十、第二十一师），成钧任司令员，赵启民任政治委员；第八纵队（含第二十二、第二十三、第二十四师），王建安任司令员，向明任政治委员；第九纵队（含第二十五、第二十六、第二十七师），许世友任司令员，林浩任政治委员；第十纵队（含第二十八、第二十九师），宋时轮任司令员，景晓村任政治委员；特种兵纵队，陈锐霆任司令员，张藩任政治委员。
另外，原华中野战军第七纵队改为第十一纵队，兼苏北军区（辖第三十一、第三十二旅和3 个军分区），管文蔚任司令员，吉洛任政治委员；第十纵队与苏北军区一部合编为第十二纵队，兼苏中军区（辖第三十四、第三十五旅和3 个军分区），陈庆先任司令员，曹获秋任政治委员。
整编后，华东野战军约有27。5万余人（不包括第十一、第十二纵队）。
遵照中央军委指示，华东野战军主力在鲁南战役后拟在临沂地区休整两周。但1 月31日，国民党军队发动了新的进攻。
苏北、鲁南连遭惨败，蒋介石认为薛岳指挥不力，遂派参谋总长陈诚前往徐州指挥。陈诚煞费苦心地制定了一个“南北两大兵团对进夹击临沂，歼灭陈毅主力于沂蒙山区”的作战方案。
南线以8 个整编师组成主力突击兵团，由整编第十九军军长欧震指挥，从徐州地区向北推进，直取山东解放区首府临沂。北线以7 个师组成辅助突击兵团，由第二绥区副司令李仙洲指挥，从济南以东地区向南推进，直扑菜
芜、新泰、蒙阴。
陈诚严令各部：“党国成败，全看鲁南一役，只许成功，不许失败。”
并要求各部严格遵守他亲自制定的16字方针：“集中兵力，稳扎稳打，齐头并进，避免突出”，从而“使共军无隙可乘，将共军挤死在夹缝里”。
面对来势凶猛的敌人，华东野战军计划集中50个团的兵力，寻机歼灭南线之敌一部。但敌军齐头并进，步步紧逼，我难于分割敌人，创造战机。
粟裕十分焦急，整天待在地图前沉思。
2 月4 日，中央来电强调：敌愈深入愈好打，我愈打得迟愈好，只要你们不求急效，并准备于必要时放弃临沂，则我必能打胜。
中央关于心要时放弃临沂的指示，使陈毅深受启发。他对粟裕说：“我有一个设想，既然南线敌人密集，战机难寻，而北线敌人孤军深入，何不改变原定作战方针，置南线敌人重兵团于不顾，而以主力北上，以绝对优势兵力，歼灭北线之敌。你好好考虑一下是否可行。”
粟裕对陈毅的设想进行了认真的考虑，然后高兴地对陈毅说：“军长，我觉得你的设想十分高明。敌人认定我必固守临沂。我军突然北上，定可出敌不意。这样，我既可置南线之敌强大兵团于无用武之地，避免不利决战，又可歼灭北线之敌一部，粉碎敌军南北夹击的企图。”
陈毅满意地说：“完全对头。”
粟裕又接着说：“打北线之敌的最大顾虑，是恐敌发现我军主力北上，向回收缩，使我军扑空。因此，最重要的是准确掌握敌情和战机，隐蔽我军意图，制造敌人错觉，迅速抓住李仙洲集团。我计划将韦国清二纵与何以祥三纵留在临沂，伪装主力，迷惑敌人。”
陈毅又连连点头：“对头，对头，我完全同意。”
为迷惑敌人，粟裕在给韦国清、何以祥布置任务时说：“你们要协同地方，大量征集门板、木料，在临沂及其以南采取宽大正面防御，构筑三线阵地，摆出一副决战的架式，节节阻击，与敌纠缠，造成我主力就在临沂附近的假相。”
粟裕还令充州附近的地方武装，积极进逼兖州，并在运河上架设浮桥，在黄河边筹集船只，声言要与刘邓中原部队会合，造成我军主力西渡运河、黄河模样，使敌人难以判断我北上意图。
为了造成我军向南突击的假相，2 月6 日，韦国请率领二纵发起讨伐郝鹏举的战斗，全歼郝鹏举总部及其2 个师，郝鹏举被活捉。
郝鹏举原是被国民党收编的伪军，郝本人是一个国民党反动军官，反复无常，看风使舵，善搞政治投机。
1946年1 月9 日，在我强大的军事压力和政治争取下，他率部在台儿庄起义，表示反对蒋介石打内战，受到我山东军民的宽待。时隔一年，1947年1 月27日，当蒋介石南北夹击我山东解放区时，他又投靠蒋介石，得了个第四十二集团军的番号，配置在南线敌军左路，担任侧翼掩护。
郝鹏举为了表忠于蒋家王朝，竟枪杀了我军派到郝部的联络员朱克清。
陈毅闻讯，十分愤恨，严令韦国清，坚决拔掉这颗钉子。
经过一昼夜战斗，2 月7 日黄昏，郝鹏举全军覆没。
郝鹏举被俘后，于2 月13日被押到临沂附近的某村。郝提出要面见陈毅将军，陈毅表示可以接谈。
垂头丧气的郝鹏举被押了上来，他脸上曾有的凶顽之气已荡然无存。
郝鹏举一见陈毅，便说：“万分对不起人民，对不起陈军长，今天能见军长一面，虽死无憾，不知军长能原谅我吗？”
陈毅说：“请坐下慢慢谈。”
郝此时手足无措，竟流出了眼泪。
陈毅问：“你到过徐州，见着陈诚吗？”
郝：“到过徐州，见过陈诚，只谈了两小时。”
陈：“你见着蒋介石吗？”
郝：“没有。”
陈：“你与陈诚谈什么？”
郝：“谈战局，薛岳也在座。”
陈：“陈、薛（指陈诚、薛岳）对战局的意见怎样？”
郝：“陈诚说山东会战是国军成败关键，要我率部参加。”
陈：“你们有信心吗？”
郝：“我看他们信心是不够的，因为他们采取稳打稳进的办法，各路部队均怕侧翼暴露和后路被切断，且半年来失败太多，故均无信心，而且都知道即使进了临沂，仍不能解决问题。”
陈：“难道要你出任鲁南绥靖司令，你反有信心？”
郝叹气，说：“唉！陈诚对我说，四十二集团军番号仅系一个号召，因为国军战区及集团军番号已取消，要我以后只用鲁南绥靖区分区司令的名义指挥，我便知道上当了，不过是要我这个部队死在鲁南。我要求后调整训，他们不答应，我不便多提。”
陈：“陈、薛对你们部队的补充如何？”
郝又长声叹气，回答：“我29日当天（按：系1 月29日，郝鹏举叛变后的第3 天），由徐州经海州返部后，一、部队不准进驻海州城；二、立即奉命接防日塔埠，并担任‘进剿’任务；三、部队未领到经费，仅由段霖茂（按：系蒋军第五十七师师长，时率四旅驻海州地区）暂借一部分，不够用，且取款手续太繁，领不到款改领军米，又论包不论斤，实际每包130 —140 斤，但仍按200 斤算，所以部队吃不饱，抽烟、穿鞋更谈不到。想到一年来在解放区衣食毫无顾虑，样样满足，领款手续简便，且待遇较新四军、八路军部队为更好，比之国民党待我真有天壤之别。所以部队将士均不满意我投蒋行为。到2 月6 日晚发生情况时（按：即人民解放军讨伐郝逆时），部队便迅速放下武器，诸葛亮所说‘攻心为上’的战略，我这一回算是亲身领受。”
陈：“那你为什么要投蒋呢？”
郝：“由于我立场不稳，上了蒋介石政治诱惑的当。”
陈：“你说是被骗投蒋，为何又枪杀我派去的几名联络人员，为什么不完全送回？”
郝：“这完全是我受部下坏分子劫持，企图以此向陈诚报功，这是我的罪过，我不能约束部下。当投蒋前后数日内，我受良心责备，十分痛苦，真如古人所说到了‘魂不守舍’的地步。总之，一切由我负责，政治上已到了无法拯救的地步，军长给我任何处分，我都接受。”
陈毅不紧不慢地说：“你讲完了你的意见，我在这里可又告诉你事实：第一、去年6 月以前，我们是想以民主自愿的原则说服你们接受八路军、新四军建军经验，把你们这一支旧式部队改造成为一支真正的为人民服务的武装，无奈百般说服劝导，你们都不能接受。到了去年6 月以后，蒋介石大举
进攻解放区阴谋已露，自卫战争不可避免，我知道你们部队改造无望。中共中央来电要我们对你们的部队采取一贯的宽大政策，即不用武力强迫改造。
我为了忠实执行中共中央对起义部队‘来则欢迎，去则欢送’的民主自愿原则，故把你们部队由解放区中心调到东海