1948年8月，国民党军统帅部南京军事检讨会议决定，将国民党军作战重点置长江以北、黄河以南地区。并在战区内加强以主要城市为战略要点的守备力量和防御工事；同时以精锐主力为骨干组成若干机动作战兵团，作为应援力量，构成南线的重点防御体系。决定徐州方面，以郑州、徐州，济南3大战略要点构成鼎立之势，加强固守。徐州附近的其他城市均随时准备放弃，以集中一切可以集中的力量与解放军决战。鉴于刘峙指挥无能，蒋介石任命杜聿明为任徐州“剿总”副总司令兼第2兵团司令官，以加强徐州方面的指挥。
这时，南线国民党军计有7个机动兵团、9个绥靖区司令部，正规军连同地方军100万人。其中，华中“剿总”指挥的有张淦第3兵团、黄维第12兵团、宋希濂第14兵团和第5（信阳）、第13（南阳）、第16（成宁）“绥靖”区，约35万人左右，主力分布在以汉口为中心的平汉铁路确山至口段和长江北宜昌至安庆段。徐州“剿总”指挥的第1、第2、第3、第4、第9、第11绥靖区共15个整编师42个旅分别防守淮阴、济南、台儿庄、菏泽、海州、青岛等地；黄百韬第7兵团3个整编师6个旅位于徐州以东新安镇地区；邱清泉第2兵团4个整编师13个旅位于商丘、砀山地区；李弥第1兵团2个整编师6个旅位于固镇、蚌埠地区；
孙元良第16兵团3个整编师6个旅位于郑州地区；“剿总”直辖的2个整编师位于徐州。刘峙集团正规军连同地方军共约70万人，是国民党军兵力最多、战斗力最强的1个战略集团，其装备优良，机动能力强，又背靠南京、上海、铁路、公路交通方便。但其后方补给线脆弱，津浦铁路一旦截断，就将陷于粮弹两缺的困境。
杜聿明认为，华东地区国民党军的兵力、战力仍居优势地位，遂向南京国防部建议：趁华东、中原野战军分离作战之际，集中华东国民党军机动兵团，先寻华东解放军一部决战，予以歼灭后再而歼击华野主力，规复山东。同时，以华中国民党军主力进攻中原野战军豫西地区，阻止中原野战军转兵向东。南京国防部对杜聿明建议几经研究，至1948年9月下旬才完成各方面的“协商”。
华东野战军攻占济南，打乱了国民党军徐州“剿总”的防御体系。南京国防部对华东、中原野战军下一步的行动方向作种种猜测。有人判断，华东解放军可能转兵北上协同华北解放军攻击傅作义集团；多数人认为，华东、中原解放军将在陇海线以南发动大规模攻势。“取徐州，威胁南京”，“中原会战将在徐州方面进行”。
9月25日，蒋介石在南京召开紧急会议，研究济南失落后如何对付华东、中原人民解放军联合作战问题。国防部作战厅提出两个方案。
第1案，由徐州“剿总”副总司令杜聿明指挥2个兵团向鲁西出击，求歼华东解放军1、2个纵队，或从徐州转运2个整编师于郑州，连同孙元良第16兵团，配合华中“剿总”部队进攻中原解放军。“如能求得决战，则尚可扭转华中大局”。
第2案，徐州以主力监视待机，一部穷追猛打以“肃清”淮安以北、运河东西地区及津浦路徐州以南地区解放军。
会议认为：作战厅第1案是积极进攻方案，“是最有利的、也是有成功可能性的”。第2案是消极方案。主张实施第1案，集中兵力先歼击中原解放军。
蒋介石决定：白崇禧统一指挥孙元良第16兵团、黄维第12兵团、张淦第3兵团，分别由郑州、遂平、唐河3个方向向鲁山为中心的豫西解放区进攻，寻求与中原野战军主力决战；杜聿明指挥第2兵团向鲁西南作有限目标的攻击，黄百韬第7兵团向苏北攻击，李弥第13兵团沿津浦路两侧扫荡。确保对平汉路、陇海路、津浦路的控制，阻止中原解放军与华东解放军两大主力会合攻击徐州。威胁南京。
（二）杜聿明《对山东共军攻击计划》的破产
济南作战王耀武全军覆没后，杜聿明对南线形势作了如下分析对比：华东解放军16个纵队，中原解放军7个纵队，加上华东、中原军区及冀鲁豫军区的解放军地方武装共约60余万人。华东解放军经过济南作战消耗，力量减弱，必须休整1个月左右方能发起新攻势。徐州“剿总”拥有4个机动兵团、12个半军、3个绥靖区5个军，还有直属部队3个军，以及交警总队、炮兵、工兵、通讯、战车、辎重等，共约70万人，还不算第1、第2、第11、第12绥靖区等部队。徐州方面的“国军”不仅数量上略占优势，而且飞机、担克、火炮多。原来准备北上援济的3个兵团没有遭损失，无须休整，以这些机动兵力先发制人，即可以打华东解放军主力一个措手不及。变被动为主动，从而逐渐恢复士气。因此。极为赞成蒋介石对鲁西南作有限目标攻击的想法，并大加发挥，制定了一个《对山东共军攻击计划》。
计划中提出：在中原、华东解放军东西分离之际。以华中“国军”主力在豫西方面牵制中原解放军主力，以徐州“国军”主力寻求华东解放军主力一部，一举歼灭，进而击破其主力，达到收复泰安、济南之目的。
计划中规定：华中“国军”，以主力多方牵制中原解放军主力，阻止其东进。但不与其作真面目的作战。徐州“国军”应以1个绥靖区守备徐州既设工事；以1个绥靖区担任徐蚌间护路。并不断对铁路两侧进行扫荡，确保津浦路的安全；另以1个绥靖区为总预备队。徐州前进指挥所指挥4个兵团，以迅速奇袭之战法包围华东解放军主力之一部而歼灭之，进而击破其主力，一举收复泰安、济南。置攻击重点于左侧方（约3个兵团）。
计划要求华中“剿总”方面：如中原解放军主力绕道东进。应适时选择捷径，迎头痛击，将其阻止于平汉路以西地区；如其已越过平汉路东进，威胁徐州，则应日夜尾追之，协同徐州守军，将其包围于徐州以西地区而击破之。
计划要求徐州“剿总”方面：如已在兖州、济宁、大汶口间捕捉住华东解放军主力之一部，应迅速包围歼灭，不可旷日持久，与之对峙，坐失良机。如对方避免决战，第1步应将之压迫于东平、大汶口以北及泗水以东地区，不再深入。第2步实行攻击，如在“国军”攻击期间中原解放军主力已东进威胁徐州，即以有力之一部依据韩、枣既设阵地及东平湖、南阳湖间的运河沿岸占领狙击阵地，阻止华东解放军主力南下及西进，以主力回师协同华中“国军”将中原解放军主力包围于徐州以西地区歼灭之。如中原解放军主力企图通过微山湖向济宁、兖州增援，威胁“国军”攻击军侧背时，则攻击军应依据东平湖、南阳湖间之运河沿岸阻击中原解放军主力，并迅速击破华东解放军主力之一部，再回师击破中原解放军主力；如中原、华东解放军两大主力汇合东西大攻徐州时，攻击军右翼兵团以内线作战转运徐州，加强徐州防务，左翼各兵团即协同华中“国军”击破中原解放军主力后，再集中主力击破华东解放军主力。
蒋介石最害怕的就是华东、中原解放军两大主力形成联合，打击徐州刘峙集团。杜聿明计划的要旨是乘华东、中原两野战军分离作战之际，采用打、阻结合战法。既攻歼华东野战军主力一部并收复兖州、济南两大据点。又阻止中原野战军东进，防止华东、中原两军联合作战态势的形成。由于这完全符合蒋介石的战略意图，因而很快于10月2日获得蒋介石的批准。
10月7日。杜聿明在徐州召集各兵团司令官研究确定了具体实施办法，并决定于10月15日开始行动。
对于南京国防部9月25日作战方案及杜聿明《对山东共军攻击计划》，白崇禧亦表示赞成并10月10日下达了攻击豫西解放区、牵制中原野战军主力东进的作战任务。其作战任务分两个阶段遂行：第1阶段，黄维第12兵团由驻马店地区出发向西，主力于10月24日进至泌阳、方城之间的羊册、官庄地区；张淦第3兵团由确山向西，于10月24日进至泌阳附近（是时孙元良第16兵团已奉命离开郑州东进）。第2阶段，黄维兵团进占赊旗镇，阻止方城、博望以北地区中原野战军主力南下。并随时以主力或一部向源潭、唐河策应张淦兵团行动；张淦兵团向源潭、唐河攻击；王凌云第13绥靖区以主力协同张淦兵团作战。
10月15日凌晨。杜聿明收到南京国防部急电，叫他不要执行“对山东共军攻击计划”，改随蒋介石飞往东北。徐州“剿总”总司令刘峙本来对于杜聿明的计划疑虑重重，更不愿冒风险去发动进攻。杜聿明一走，徐州“剿总”即中止执行《对山东共军攻击计划》。
（三）国民党军统帅部“徐蚌会战计划”
徐州居于长江、黄河下游中间位置，扼守山东、河南、安徽、江苏4省要冲。交通便利，津浦、陇海两条铁路南北、东西穿城而过；公路及乡村大道四通八达。东面有沂水、运河、不老河，西南面有浍河、涡河、淝水、颍水等河川，虽然不成绝对障碍，但对大部队及车辆运动限制不小。城北面的九里山，虽然地势不高，却能瞰制徐城附近地区。位于徐东的曹八集、运河镇、台儿庄，滨临运河，能屏障徐州东侧；位于津浦路沿线的贾汪、韩庄、临城，西临微山湖，能屏障徐州北侧；位于陇海路上的商丘、砀山是徐州的西部门户；位于徐（州）、蚌（埠）之间的宿县、永城、蒙县、固镇等城镇，既是徐州“剿总”的战勤基地，又是南京北侧的重要屏障。济南被攻克后，国民党军若能固守徐蚌地区。既可控制江苏及鲁南、皖东、豫东，阻隔华东与中原人民解放军会合，又可稳固江淮防线，保障南京的安全。
华东野战军攻克济南，震惊南京。蒋介石及其统帅部深感徐州方面战事吃紧，兵力严重不足。遂于10月中旬将孙元良第16兵团由郑州地区撤至蚌埠、蒙城，下旬又将刘汝明第4绥靖区部队由开封地区撤至蚌埠。以图缩短防线，集中兵力，确保徐蚌地区防御稳定。同时，命令黄维第12兵团东进徐州，加入与华东解放军决战。
10月下旬，中原野战军主力解放郑州、开封。国民党军统帅部判断：华东野战军有可能南下苏北，中原野战军主力4个纵队有可能东进。若华东、中原解放军联合发动攻势，“中原会战将在徐州方面进行”。于是，国民党军统帅部对徐州之战。又开始不断研议。只是由于统帅部与徐州“剿总”在撤守徐州问题上，认识相左，因此，直至10月底才定下“守江必先守淮”的方针，并根据这个方针拟定出“徐蚌会战计划”。
10月22日，南京国防部开会讨论中原战场作战计划时，认为中原会战将在徐州方面进行，而徐州“剿总”的军队却分散在东起海州、西至郑州的陇海路上，态势很不利，主张放弃一些城镇，集中兵力于徐州外围，以应付即将到来的决战。同时主张以华中“剿总”的第2军、第15军加入黄维第12兵团序列，尾随中原野战军主力北移，阻止中原野战军主力加入徐州方面作战。考虑到南线国民党军分由徐州、华中两个“剿总”统辖，指挥不便，而徐州“剿总”总司令刘峙指挥无能，因此提出由华中“剿总”总司令白崇禧统一指挥华中、徐州地区部队与解放军决战。何应钦，顾祝同等不能决断如此重大的战略行动，便指定作战厅长郭汝瑰依据研讨构想拟成方案，于23日直飞北平，向蒋介石请示。
蒋介石决定：徐州方面应取攻势防御，郑州、开封、兰封（今属兰考）等城可以放弃；刘汝明第4绥靖区所部固守商丘；李振清第40军可由郑州退至黄河北岸，准备以后“打游击”；华中第2军、第15军归入黄维第12兵团序列，必要时华中“剿总”方面可以放弃南阳，以第12兵团进至周家口，跟踪中原解放军；徐州“剿总”限期恢复宿迁；华中、徐州两“剿总”部队由白崇禧统一指挥。
10月24日，国民党军统帅部以“酉敬防挥电”下达作战指示。
徐州方面：
徐州“剿总”应对陈毅部取攻势防御，逐次消耗其力量并巩固徐州附近地区而确保之；黄百韬第7、李弥第13两兵团分别控制于阿湖、新安镇、八义集各地附近机动。截击南进之共军，应援海州方面之战斗；邱清泉第2兵团应机动控制于砀山附近，依情况协同黄维第12兵团夹击进出黄泛区之刘伯承部；孙元良第16兵团于刘伯承部主力向黄泛区进出时向宿县、蒙城各附近转移，尔后控制于蚌埠机动（该兵团此时位于柳河附近）；冯治安第3绥靖区应以主力控制于运河以西地区台儿庄枣庄一线，担任守备；刘汝明第4绥靖区应以主力守备商丘，一部掩护陇海路东段商丘至徐州段交通。徐州“剿总”应加强徐州、蚌埠、淮阴防御工事。务期坚固守备，以形成机动兵团之核心，并预为因陈毅部之南进可能引起的各种应战作准备。
华中方面：
华中“剿总”为策应徐州方面作战，黄维第12兵团并指挥第2军、第15军，应索刘伯承主力进剿。如刘伯承主力越过平汉路东进，即先机推进至周家口附近，适时联系邱清泉第2兵团夹击而歼灭之。
蒋介石及其统帅部的战略构想是：“以徐州为中心。以现态势西起砀山，东至连云（港），北起临城，南至蚌埠，构成十字形准备阵，实施内线作战。”
国民党军在加紧研讨徐州方面作战计划的同时。甚至于研究了京沪不保时应有的准备。其中包括：（1）政府应迁广州；（2）政府应为军政府；（3）军政机构应缩减等措施。
关于徐州是守还是弃，国民党军统帅内部意见分歧，争执不休，多数人认为，徐州乃四战之地，利于攻而不利于守，且后方联络线延长，补给困难。据当时第一补给区附之资料显示，徐州储粮，只能维持3周，一旦联络中断，粮弹即无以为继。主张放弃徐州，退守淮河，以屏障南京，先挫败南进之共军，争取第二线战略配置之时间。10月29日，最后确定了“守江必先守淮”方针。但对如何守淮产生“两案”。
第一，“淮海决战案”。其基本构想是：徐州“剿总”除留1至2个军坚守徐州外，陇海线各次要城市一律放弃。主力于徐州至蚌埠间铁路两侧地区行攻势防御，集中全力寻求由平汉路东进和津浦路南下之共军主力均可决战。为配合徐州方面作战，华中“剿总”应令黄维第12兵团向周家口（淮阳以西）开进，以资策应。
第二，“守淮案”，即退守淮河南岸，凭淮河地障，实施河川防御。
经再三商讨统一认识。决定采取“淮海决战案”。蒋介石10月31日由北平回南京后，决定于11月4日亲往徐州主持部署，后因事临时决定由顾祝同代他去徐州“剿总”传达徐蚌会战计划。
11月5日上午，顾祝同飞抵徐州，召集邱清泉、黄伯韬、李弥、孙元良等兵团司令官及可以离防到徐州的军、师长等传达《徐蚌会战计划》，并调整兵力部署如下：
孙元良第16兵团（辖第41、第47、第99军），由商丘转移至蒙城地区，保障津浦路徐、蚌段西侧的安全；邱清泉第2兵团（辖第5、第12、第70、第74军），仍在砀山、永城地区集结待机；
