正当蒋经国在苏联朝气蓬勃、奋发向上之际，蒋介石却开始公开“清党”反共。1927年4月12日，蒋介石公然背叛革命，在上海制造了举世震惊的“四一二”反革命政变。消息传到莫斯科，中山大学的学生愤怒了。他们烧毁了蒋介石的肖像，一致通过了给武汉国民政府的电文，要求严惩“革命的叛徒、帝国主义的帮凶”蒋介石。[10]
蒋介石背叛革命，屠杀工人的行为，不仅使蒋经国在同学面前感到难堪羞辱，而且在思想上也深感困惑。尽管他后来回忆说：“上海事件发生后，我花了相当功夫仔细省察在苏联及中国的政治事件。我的结论是：中国在一九二七年政局动荡，主要原因是中共领导无方，政策不智亦不周全。”然而，当时蒋经国的态度和表现却并非如此。他和其他愤怒的学生一样，加入了声讨蒋介石的行列中。他在声讨蒋介石的演讲中说：“我是一个共产主义青年团的团员，在这里我正是以青年团员的身份表示我的态度，我不是以蒋介石的儿子的身份讲话的。”他又说：“蒋介石作为一个革命者，他已经死了，他已经走向了反革命。蒋介石是我的父亲，曾经也是我的革命朋友。现在他反革命了，反革命就是我们的敌人。以后他是他，我是我，我仍跟着革命走。”随后，塔斯社发表了蒋经国的公开声明。1927年4月24日，汉口《人民论坛报》也登载了蒋经国的公开声明，全文如下：
蒋介石的叛变并不使人感到意外。当他滔滔不绝地谈论革命时，他已经逐渐开始背叛革命，迫切盼望与张作霖、孙传芳谋求妥协。蒋介石已结束他的革命生涯，作为一个革命者，他死了！他已走向反革命，并且是工农大众的敌人。蒋介石曾经是我的父亲和革命的朋友，他已走向反革命阵营，现在他已经是我的敌人了。
他在中山大学学生集会上的演说和他所写的谴责蒋介石的声明，不一定出自真心，可能是他年轻和受压处境下的产物。但他这一抛弃他父亲的行为却使他受到中山大学学生和俄国人的尊重。盛岳说：“这个声明发表后，我们无论走到哪，都碰到人们以极大的关注问我们：‘蒋介石的儿子在哪儿？’一夜之间，他成了一个有名的大红人。”
不久，汪精卫发动了“七一五”政变，第一次国共合作彻底破裂。国共合作的破裂，直接牵连了在中山大学的中国学生。国民党要求中山大学的国民党党籍的学生回国。蒋经国由于是共青团员，又由于其发表了反对蒋介石的宣言，而没有被莫斯科遣送回国。当然，蒋经国显然很想回国，但未能获准，而是成为了一名红军学员。他说：“我热切的希望回国。既然屡请不准，我在失望之余申请加入红军。结果获准加入红军第一师，驻地莫斯科，而我的身份是学员。在军中，我过的是一个普通士兵的生活。”
由于蒋介石背叛革命，在国内大肆屠杀共产党，中苏关系日益恶化。在随后的时间里，蒋经国不能和家人通信，几乎完全与中国隔绝了。他强忍思乡思亲之情，将自己的全部精力投入到军事训练中。“操练、装备、武器、战术、军纪等等，对我来说，一向不外是纸上谈兵。但当兵之后，我每天穿着整齐的制服，全副武装参加操练，并学习战术。久而久之，我对我的新生活又产生了兴趣。”[15]受训期间，他的确非常认真刻苦，对每一门科目都痛下苦功学习，不仅每一门功课的成绩都很好，而且还学会了野战战术和扎营。军训结束时，蒋经国以优异的成绩，获选为军中最优秀的五名学员之一，并被苏联政府保送到列宁格勒的红军托玛契夫中央军事政治学院深造。
红军托玛契夫中央军事政治学院是一所高级军政学府，创办于1919年。该校学员大都来自军队的军政现役工作人员，有不少是苏联国内战争中有过功绩的人。而在该学院任教的也大都要么是有实战经验的军事将领，要么是某个领域的专家。如担任战术的教官是苏联红军总参谋长的图哈切夫斯基，经济学教员是著名经济学家瓦尔加。学院的学制为三年。学习期间，学院发给书籍、日用品，以及每个月150卢布的生活费。第一年的课程主要包括战术、军队行政、运输、地形学、大炮原理，以及军队政工。第二年的课程加入了军事战略、俄国内战史、西方军事史，以及苏共党史。第三年的课业重点在战术及战略。除了学习军事课目外，蒋经国还研习了政治学、经济学，以及哲学，特别是唯物辩证法。1930年5月，蒋经国从军事院校毕业。虽然他一生从未带兵打过仗，但他却拥有二级上将军衔，这或许多少与他正宗军校出身有关。
在中山大学和军政学院的学习使蒋经国逐步成熟起来，并对他后来的事业产生积极影响。
留学苏联首先培养了他的刻苦精神。自莫斯科中山大学起至军政学院，蒋经国坚持早操，锻炼自己的意志。俄国人无论冬夏，都是用冷水洗脸，并且不用脸盆，都是在自来水龙头下洗的。所以在开始的时候，蒋经国和许多中国学生不适应，后来则形成了习惯。这种坚强的意志和刻苦精神，在他后来的政治生活中起了重要作用。
其次，留学苏联使他养成了集体生活的习惯。在莫斯科中山大学，蒋经国和其他学生一起过着集体生活。他们的寝室有十二张床铺，每张床上都摆放着一样的毯子、枕头、被单。此外，每个学生还有一个小柜，其他物件及私有零碎东西，都存于储藏室内。每天早起后，学生自己整理床位，扫除房间。这种经历，让蒋经国长期热爱集体生活，回国后无论是在赣南时期，还是在中央干校时期，他都喜欢和部下、学员打成一片。
其三，蒋经国在军政学院不仅系统地学习了红军的战略战术，而且真正领略到了红军政治工作的重要意义。从军政学院的军队政治工作课程中，蒋经国认识到政治工作对党掌握军队，形成强大战斗力具有重要作用，并对此留下了深刻的印象。抗战时期，蒋经国首先将政治工作运用于青年军，在青年军中建立起政治部，并亲自担任主任。国民党退守台湾后，蒋经国又全面接手国民党军队的政治工作，将原来的政工局改为国防部总政治部。
