在第三次下野前夕，蒋介石已下定决心对国民党进行改造。他认为“党政军积重难返，非退无法彻底整顿与改造”，并准备“另起炉灶”。对于如何改造国民党，蒋介石是从总结第三次下野的经验教训开始的。
蒋介石将其失败首先归因于桂系李宗仁参选副总统。他在日记中说：
本年最大之失败为政治失败，而政治失败之总因，即在选举副总统主张党员自由选举之方式，尤其在选举前夕为李宗仁前来哭诉、恳求，误信其被选后彼不能有单独政治主张之诺言，于是支持孙科当选之决心动摇，对民、青两党选票任其选李，因之孙败而李胜。此乃余决心不坚，主张不定，甚至有首持两端，优柔取巧之所致。此一失败乃在政治上遭受致命之打击。而桂系得胜后，所有国际与社会对内、对外与对敌、对“匪”之威信扫地。凡可倒蒋毁党之阴谋暴行，桂系无所不用其极。最后竟不惜勾结“共匪”、迎合美国反华、助共之心理，协以打蒋。此乃余因循寡断，取巧自败，完全失却已往政治家之精神所致也。
至国民党七大时，蒋介石还对1948年桂系不服从安排、李宗仁强行竞选副总统之事耿耿于怀。他说：“为什么正在大敌当前，走到国家存亡、文化绝续的关头，乃在国民大会选举‘副总统’的问题上，竟不顾党的纪律，而强求自由选举？本党就在这样自由竞选斗争攘夺之中，而招致整个的崩溃。为什么只顾派系，只争地位，不能视当前敌情，认清党国危机，甚至以敌为我，以我为敌，投降靠拢，恬不知耻？这是党的组织不能坚强，党的纪律不能严肃，而使政党政治无从健全，给予‘奸匪’以分化的机会，渗透的空隙。”
就在下野当天，蒋介石在日记中进一步进行了检讨，认为“此次失败之最大原因，乃在于新制度未能成熟与确立；而旧制度先已放弃崩溃。在此新旧交接紧要危急之一刻，而所恃以建国救民之基本条件，完全失去，是无异失去其灵魂，焉得不为之失败”？并在日记中首次思考国民党的改造方案。他说：“当政二十年，对其社会改造与民众福利，毫未着手，而党政军事教育人员，只重做官，而未注意三民主义之实行。今后对于一切教育，皆应以民生为基础。亡羊补牢，未始为晚。”同时，他认为：“党应为政治之神经中枢与军队之灵魂，但过去对于军政干部无思想领导，驯至干部本身无思想，而在形式上，党政军三种干部互相冲突，党与军政分立，使党立于军政之外，乃至党的干部自相分化。干部无政治教育，不能使全党党员理解中央之政策，而且对于干部亦未能有集体的、配合的、系统的领导与运用。于是，领导之方向不明，而无力贯彻政策之执行；使每一个干部只感觉受其拘束，无权力；于是心存怨望，且诿卸责任。要改正上述缺点，应拟定具体纲要实施才行。”并应“一切以组织为主，纪律为辅。故组织应在纪律之先。组织的对象：第一为人，第二为事与物（包括经费在内）。至于干部训练与重建之方针：必须陶冶旧干部，训练新干部。其基本原则：（一）以思想为结合；（二）以工作为训练，（三）以成绩为黜陟”。
蒋介石并没有将重心放在检讨军政军令的错误方面，他认为军事的失败是次要的，国民党的政治失败才是最根本的。他说：“这次大陆反共军事悲惨的失败，并不是‘共匪’有什么强大的力量，足够打败我们国民革命军，完全是领导国民革命的本党，组织瓦解，纪纲废弛，精神衰落，藩篱尽撤之所招致。”蒋介石历数了国民党以往的失误，他说：“党的工作只在党部里面做，而不能向民众中间发展。党的工作离开了民众，就只有形式，没有内容。党的组织离开了民众中间的工作，就只有躯壳没有灵魂。党犯了形式主义的毛病，中了官僚主义的流毒，就只有失败的一条路了。论派系，不论政策，论地域关系，不论工作的需要。”他认为，今后“必须选训大批新干部，加以组织，并使之深入社会各阶层，组织基层群众，严格执行纪纲，提高组织尊严。党政军干部并应痛改过去松懈散漫的恶习，以群众力量来维护党纪；且保证每一党员都应服从革命的领导，执行革命的纲领。铲除空言不实，因循敷衍，徇情任私，麻木不仁等官僚作风，而代之以实事求是，精益求精，急公尚义，严正不苟，是非分明，赏罚公允的新作风”。
除了将失败归咎于党的失败外，蒋介石对自己的错误也进行了检讨。他说：“个人领导无方，有负职守，实不能辞其责任。”后来在国民党七大时，蒋介石再次向全党表示自己应负失败的最大责任。
中正继任总理遗志，接受全党付托，领导革命抗战，为中国自由平等而奋斗，垂三十年，乃其间竟为苏俄奸共所乘，不能维护国家领土完整，达成革命建国的任务，这是我平生引为无上的耻辱，而应负其最大责任。
在进行自我反省的同时，蒋介石也能注意从对手那里学习。1949年6月，他在日记中对中共的组织、军队等各方面情况进行了研究，并冷静地加以总结。他认为中共的优点至少有七个大的方面：一、组织严密。二、纪律严厉。三、精神紧张。四、手段彻底。五、军政公开，形式：甲、检讨，乙、研究，丙、批评，丁、学习，戊、坦白，己、计察，庚、侦探。六、办事方法：甲、调查，乙、立案，丙、报告，丁、审查，戊、批准，己、执行，庚、工作检讨。七、组织内容：甲、干部领导，乙、由下而上，丙、纵横联系，丁、互相节制，戊、监察彻底（情报），己、审判间捷（迅速执行纪律），庚、主义第一（革命利益与思想错误为定罪标准）。
期间，蒋介石还对毛泽东写的文稿进行研究。1949年6月25日，蒋经国在日记中说：“父亲准备‘总裁办公室’之备案与成立，以及各组组长与设计委员之派定，并亲自研究毛泽东之《中国革命的战略问题》。一面研拟整党方案，一面研究统一战略思想。忠党爱国，竭心尽力，可谓无微不至矣。”
很长一段时间里，蒋介石痛定思痛，对大陆失败的原因进行了深刻的思考。他在日记中说：“从前种种譬如昨日死，今后种种譬如今日生。过去一年间，党务、政治、经济、军事、外交、教育已彻底失败而绝望矣。如余仍能持志养气，贯彻到底，则应彻悟新事业、新历史，皆从今日做起”，“近日独思党政军改革方针与着手之点甚切，此时若不能将现在的党彻底改造，决无法担负革命工作之效能也”。这些反省式的思考，虽然不是很全面，但不少方面还是比较客观，并成为国民党改造运动的基础。
