蒋介石设立三青团的一个重要目的是为了改造国民党，即利用三青团吸收、训练全国青年，为国民党输入新鲜血液。因此，三青团成立后就成为组织训练全国青年的最高机构。1943年4月，三青团“一大”规定：“鼓励团员及青年踊跃接受军训及服兵役，以促进建军运动之完成。”通过建立一支“团军”进而在军队中占有一席之地，是三青团的明确目的。然而，在知识青年从军运动发动之际，三青团和国民党都有意掌控这场青年从军运动，从而掌握青年军的领导权。在党、团之间，蒋介石却有意扶持三青团，他特命三青团中央主持青年学生从军运动事宜。其实，蒋介石之所以将知识青年从军运动交付于三青团，一个重要的原因就是为蒋经国的发展作铺垫，因为在1943年3月三青团“一大”上，蒋经国已出任团中央干事会常务干事，1944年后又逐渐掌握三青团中央的实权。由蒋经国来掌握这支青年军，不仅可以使青年军完全听命于蒋介石，而且对蒋经国政治仕途的发展也是大有裨益的。蒋经国也以此为契机，借三青团的组织势力牢牢地控制着青年军。
1945年4月，国民政府军事委员会成立青年军编练总监部负责青年军的编练，罗卓英任总监。同时设立政治部，掌管全军所辖各师的政工，由蒋经国担任政治部主任。蒋介石命令青年军政治部直隶于军事委员会政治部，这个不寻常的做法使青年军和蒋经国享有独特的地位。青年军在重庆浮图关附近成立青年军事干部训练团，专门负责训练各级军事干部。而政治部则在重庆复兴关的中央干校内创设青年军政治工作干部训练班，专门负责政工干部的训练，由蒋经国兼任主任、邓文仪任副主任。
青年军政工人员训练班直隶军事委员会干部训练团，并受政治部之指挥监督。主任下分训育、教务、总务三组，每组设组长一人，副组长一人，组员若干人。蒋经国主要利用中央干校的师资和干部来训练政工干部，因此中央干校与青年军政工训练班在蒋经国的主持下，互为一体。他对干校学生说：“校长指示我们，这是武装自己、掌握实力的好机会。”蒋经国从三青团中央干校抽调287名学员充当政工干部，82人充当军事干部，又挑选了近千名具有大专学历的青年党团员直接入“政工班”进行训练。为了掌握青年军，蒋经国大力培养政工干部，并投入了大量的精力。曾参与政工干部训练的吕振寰先生回忆说：
他经常光着上身，带领学员跑步，学员随时可以找他谈话，一扫长官遥不可及的传统局面，感动了受训的学员。他们深信，“今后以蒋经国为首团结了十万知识青年军，对国民党从内部雷厉风行地进行革命一番，卧薪尝胆，自强不息，也许可以挽救垂危的民族前途，由此决心为蒋经国尽忠效命”。
政工干部的第一期训练时间为四周，政工班学员于12月31日结业，译员组学员于1月28日结业，共计888人。除译员组学员系由外事局分派工作外，其余按照各学员之能力、学识、特长分派各师政治部工作，其中军政治部61人，201师政治部103人，202师政治部87人，203师政治部83人，204师政治部88人，205师政治部74人，206师政治部76人，208师政治部61人，送干训团受训42人，留班服务11人，派回原机关服务12人，其他部门42人，外事局147人。
青年军政工干部分为三类：第一类，师级政工人员。各师政治部主任、副主任不必接受军事入伍训练，即授予少将官阶。除少数外，师主任多为三青团中央团部副处长以上干部，并选配报名从军大学教授中具有党团背景者出任。师主任大多数为复兴社成员，但仅挂名，在青年军中并无实权，实权由副主任掌握，副主任则为蒋经国亲信干部。第二类为团部政治督导员。这是蒋经国最寄予厚望的政工干部。蒋经国希望团部政治督导员“能成为青年军的核心领导者”。团督导员人选，全部来自第一期青年军政工干部训练班结业学员。青年军政工干部训练班受训学员背景，以三青团干部学校毕业生约占三分之一强，三青团团干部约占三分之一，其余三分之一为各级学校、机关团体内三青团干部，受团部保荐者。第三类为各师征集的青年兵，具备大专以上程度者。先在营接受一个月军事训练，然后由各师政治部就地筹设“政治工作干部训练班”，受训两周。期满后分发至各师连部，以连级政工少尉干事任用。
青年军政工人员就是由以上三类成员组成，形成各师、团、营、连政工网络。由下而上的政工干部，都是党团成员，年龄在30岁以下的占87%，而且绝大部分是在校或已毕业的大学生，年轻且素质较高，为青年军精英中的精英，蒋经国将其比喻为“军队的灵魂”。青年军的军事长官来自不同的战区、不同的军队，缺少统一的派系，可青年军的政工部门却是一条线下来的，各师政治部主任、团指导员、营督员、连训导，都是由设在团干校的青年军政治部主任蒋经国指派，主要来源是团干校研究部的一二期学员，这样蒋经国对青年军各师有着相当大的控制力。
蒋经国对青年军军事干部也有相当的控制力。蒋介石很重视青年军的人事安排，师长大多由陈诚、胡宗南推荐，团长由嫡系部队中挑选少将级干部担任，团以下干部则由青年军干训团训练考核。而这些干部的任用，最后还要经过蒋介石父子亲自召见审定才发表。据青年军207师师长罗友伦亲自告诉李以劻，他是杜聿明保荐的，两度由昆明飞重庆晋见蒋介石父子才批准的。没有取得蒋经国的同意，不可能充任青年军的师长。很明显，蒋介石有意让蒋经国掌握与辅导这支有知识的青年军。事实上，青年军的师长们大多和三青团有着密切的关系。201师师长戴之奇曾任三青团训练处副处长，208师师长黄珍吾是三青团“一大”时的中央干事，而202师师长罗泽闿、204师师长覃异之、205师师长刘安祺、207师师长罗友伦在三青团“二大”上分别增选为中央干事或中央监察。因此，青年军大部分师长也甘于臣服蒋经国。楚崧秋先生说道：
所有师长大抵由最高统帅蒋委员长亲从军中遴选资历完整、学历较高、立有战功、统御卓越的将才出任，且多降级录用，像在台担任过陆军总司令的刘安祺就是由军长来担任205师的师长。
此外，蒋经国还通过“预备干部局”继续掌控复员的青年军。抗战胜利后，青年军各师都有一部分青年要求复员升学、就业。为了使这支各方面素质都比较高的青年军不被共产党利用，蒋介石指示，青年军的复员不是青年军的结束，而是青年军新发展的开端。今后要制订一套办法，使青年军成为国军后备兵员的精英，同时要加强复员青年军的政治组训工作，使他们成为一股新兴的革命力量。
为了贯彻蒋介石的意志，1946年春，在重庆设立了青年军复员管理训练处，由军政部长陈诚兼任处长、蒋经国任副处长，主持青年军的复员和组训工作。7月，军委会撤销后，军政部改为国防部，青年军复员管理训练处改组为预备干部处，后又改为预备干部局，由蒋经国任局长、贾亦斌任副局长。蒋经国曾对贾亦斌说，青年军干部的任免，军官少校营长以上、政工人员上尉连指导员以上，都必须得到他的同意后，向国防部上报；各省市及各大学的复员青年联谊会由他直接掌握。
1946年6月3日，正式宣布第一批青年军复员，并规定这一天为“复员节”。为了能继续掌握复员青年军，蒋经国采取了诸多措施：“（一）对青年军各师士兵实行“预备军官”训练，训练完后，一律授予“少尉预备军官”军衔。（二）建立复员青年军通讯处，以保持预备干部局、青年军政治部及各师政治部对复员青年的联络与控制。（三）每年夏季在各地组织夏令营活动，把各地的复员青年军集中起来，受一次短期训练。（四）由行政院及有关部门规定，各地政府优先安排复员知识青年升学、复学、复职或就业。为帮助这批复员军人升学、复学，设立青年中学及大学补习班，并举办职业训练班，对复员青年实施短期的电话、邮务、通讯等专业训练。”1947年1月，蒋经国写信给蒋介石，汇报青年军复员工作，他说：“青年军方面之工作已渐上轨道，复员士兵之组织亦有相当基础。”
青年军复员，使得政工人员的编制缩小，职权变更，经费减少，少数政工干部情绪低落。为了鼓励政工干部继续坚守岗位，蒋经国于1947年6月发表了《致青年军政工同志书》。他说：
有少数单位或少数同志，因为这次改变而情绪低落，以致影响工作，几使各级工作陷入停滞状态，这是莫大的错误。青年军是革命的新生命，他的任务在建军建国，今后国家的安定繁荣都要寄托在诸位身上。诸位是青年军中的政工同志，更是军队的灵魂，士兵的保姆，应该如何的意识到自身责任的重大！在群情混乱、派别分歧、是非不明的今天，为国家培育出一批思想纯正、行动积极、抱负不凡、志量宏伟，上以图报国族，下以表率群伦的青年来，这是国家百年树人大计。诸位何幸承担此种神圣使命！岂可因目前的困难艰苦而灰心！
任职青年军，是蒋经国正式迈入国民党军队系统的重要开端。在此之前，蒋经国虽然担任行署专员，出任三青团中央干事会常务干事，兼任中央干部学校教育长，跻身于党团要员之中，但其势力在派系林立的国民党中毕竟有限。而知识青年从军运动，为蒋经国培植势力，插足军界提供了绝佳时机。他在老蒋的大力扶持下，凭借三青团的组织力量迅速地掌握了青年军的实际权力，牢牢地将青年军控制在自己的手中。蒋经国正是通过青年军正式迈入国民党的军事系统。至此，蒋经国开始集军、团、校三要职于一身，其势力也就非同寻常，他的组织力量和干部力量，几乎可以同CC系、政学系、黄埔系等几个大系并驾齐驱。
正因蒋经国力图掌控青年军，插足军界，故与以陈诚为代表的黄埔系多有冲突。陈诚与蒋经国争夺青年军的斗争反映在部队中，便是军事干部与政工干部的对立。军事官长强调纪律，政工干部却大谈民主自由，彼此相互拆台。军事干部虽然忌惮于蒋介石的威严，不敢过分为难蒋经国，但对蒋经国手下的政工干部却予以打击。如青年军204师通讯营一个连长因将士兵换下的夏季服装暂时存放于自己家，而遭到政工干事的怀疑，并鼓动士兵搜查连长的家。黄埔系立即抓住这一事件，大肆宣扬，认为政工干部不仅侮辱了军事干部，而且是聚众闹事、破坏军纪，要求严惩。结果官司打到军事官长罗卓英和政治部主任蒋经国那里。蒋经国为息事宁人，被迫将该政工干事撤职查办。但身为蒋介石亲信的陈诚，深知自己斗不过“蒋太子”，大部分时候要向蒋经国让步。蒋介石有意栽培蒋经国掌握青年军，引起了黄埔系的嫉妒。他们甚至在暗地里埋怨蒋介石“要以干校取代黄埔”，“要太子不要门生”。
1947年7月，蒋介石开始征集第二批知识青年，但第二批青年军的素质明显不如第一批。9月，蒋经国致信蒋介石说：“青年军之数量虽日在扩充中，但在素质上则有退而无进。目前必须设法提高素质，使质、量两方皆有进步。”然而，青年军不遵法纪的事屡屡发生，以致在国统区百姓把“青年从（军）”、“立监委（员）”、“国大代（表）”、“军官总（队）”、“新闻记（者）”，并列为“五害”。1948年2月，驻台湾的青年军发生了军长贪污受贿畏罪潜逃案。为此，蒋经国不仅受到了黄埔系的攻击，而且受到了蒋介石的严厉训斥。1948年2月29日，蒋介石在日记中说：“经儿来见，对于青年军组织与成绩不良迁怒于经儿。”蒋经国受此牵连，不得不辞去预备干部局局长职。他在给蒋介石的信中说：“儿对青年军确有未尽责任之处，自应受大人责备。”他说：“儿之所以坚辞预备干部局局长职务，除因青年军拨归训练处管训而高中生集训又不能举办外，国防部负责人当谓‘预干局乃为主席特设之机构’，并有人在会报上公开表示青年军为特殊干部所领导之特殊部队。儿素抱忍让隐藏之态度待人处事，故决辞职以表明立场，且更不愿使大人因儿之事而背后遭人毁谤。”
蒋经国辞职后，力排众议，推荐副局长贾亦斌为代局长，继续掌控青年军。之后，蒋经国又征集复员青年军的预备军官，成立预备干部训练总队，用以补充新兵队伍的下级军官。经参谋总长顾祝同的批准，在重庆、汉中、南京各设立一个“预干总队”。后来，南京总队迁往浙江嘉兴，由贾亦斌任总队长。然而，1949年4月，贾亦斌在中共的联络下带领嘉兴预干总队4000余人起义，投奔天目山的中共游击队。虽然起义军在途中被胡轨指挥的浙江保安团打散，但嘉兴预干总队是蒋经国的嫡系部队，该队的起义，对蒋经国打击极大。蒋经国不得不痛哭流涕地向蒋介石检讨，蒋介石则怒骂蒋经国“用人失策”。
