张自忠曾任学兵团团长，富有军事教育经验，任军官学校校长自然轻车熟路，十分内行。
张自忠的军官学校培养出一大批具备多种优秀品质，能够胜任各级基层工作的军事指挥员。这与他自身的军事才能有着直接的关系。
张自忠追随冯玉祥多年，耳濡目染，深受影响，因此其治军基本取法于冯玉祥的经验，并在实践中加以充实和发展。他一开始接触冯玉祥，就接触了冯玉祥亲自主持制定的《爱民十事》、《爱国精神三十条》等爱国爱民条款。这些条规详尽具体，通俗生动，富有特色。北京政变后，冯玉祥曾下令所有官兵戴臂章，上书“不扰民，真爱民，誓死救国”10个字，这与张自忠的政治思想完全合拍。因此他完全彻底地接受了这个著名的口号，并以此做为治军宗旨，在实践中贯彻落实。每到一处，张自忠除训练官兵外，还要带领他们帮助驻地耕种、收割、扫街、植树等，力求每驻一处为福一方。
张自忠自投奔冯玉祥后，历任各级军官，并以相当精力从事军事教育工作，显示了突出的治军才能，造就了一批又一批训练有素、善打硬仗的部队，并培养了上千名中下级军官。这些青年军官遍布西北军各部队，成为各部的中坚力量。经过十余年的奋斗，张自忠的治军和练兵在西北军已颇著声誉，为人称道。
1929年初，蒋介石举办了一次全国范围的军风军纪考察，第一师长刘峙任检查团团长。刘峙在最后的讲评中深有感触地说：“二十五师虽是全国第一，它的各个方面我们都可以学习，但有两个方面却是我们学不了的：第一，二十五师师官兵服装全师一致，上至师长，下至伙马夫，服装一律相同，每个战斗兵，面色都一致；第二，我来看这个部队，从早上八点开始，一直到12点，没有看到一个动的和讲话的，这种纪律，生平仅见。”
张自忠训练学员，首重“坚”字，“苦”字。一种练法，叫做“热练三伏”，即在三伏天的中午11点到2点之间，进行行军，体操等技术，演习经常举行行军比赛，以连、排为单位，每人全副武装，负重三、四十斤，不穿鞋，往返40里，以整队迅速到达者为胜。北方的暑天炎热而又干燥，一望无垠的黄土平原，只有遍地的野蒺藜和漫天的尘土。头顶着火一样的太阳，脚踏着热锅一样的地皮，人人都热得伸着脖子喘不上气来，出发之前，他照例说一段简短鼓励话，然后带头出发。他个子大，步子阔，走不多时，就能把部队丢在后面很远。其实这时候他作为长官完全可以骑马殿后，但他却总是把马匹让给掉队的伤病员。有时他走在队伍前面，回头看见有人唉声叹气，一步一个踉跄，知道他们是因为脚上打起了血泡，嫌疼、嫌 苦，于是他便停下来，半鼓励半训斥地说：“当兵不是作老爷小姐，忍受痛苦、战胜困难是我们的本份。在战场上受了伤也不能退却，该退时不能走也得走，起几个血泡，总比受伤要轻松得多，为什么就受不了？”他把自己的脚抬起来给大家看，接着说：“这水泡其实也很好治，你们看，”他说着，两脚便在地上连跺带搓，地上的尘土立刻红了一小片，又粘到脚上。“……这样可以消毒，不会溃烂的。”说完，他又大踏步地向前走去。学员们深为惊讶、惭愧、感动，顿时精神抖擞跟上前去。
另一种练法叫“冷练三九”。冬天降临，张自忠会突然命令全体官兵操场集合，携带全副武装，赤手赤脚，将棉裤挽在膝盖上，踏雪行军几十里。这种训练，张自忠也总是走在最前边。
腊月里的一天，天寒地冻，平地积雪两尺多厚。张校长下令：“明早六时在大操场集合。官长、士兵和学生一律全副武装，将棉裤卷在膝上，不准戴手套。”雪，仍在下着，寒风裹着鹅毛大的雪片吹到每个人的脸上、身上、领子里。脚踏在雪上，发出咯吱咯吱的声音。当大家跑步来到操场的时候，张校长早已赤脚站在大雪的讲台上了。他作了一个简短的训话，检查了人数和服装，就出发了。校长挺胸走在队伍前面，在他走过去的白雪上学兵们发现有殷红的血迹。队伍沿着他的足迹，不顾一切地加速前进。行军三十余里，终于到达了终点。讲评的时候，学兵们看到校长的脚还在流血。
张自忠练兵特别注重夜间教育，经常选择一个没月光的漆黑夜晚，官兵正在酣睡时，吹响紧急集合号，规定起床不准点灯，一切行动用白旗指挥，时间限在一刻钟之内。到集合场的时间是按跑步每分钟170步的速度，距离是预先测量好的，集合后，首先检查服装和人数，装束整齐，行动肃静、迅速、正确和人数不缺少的，赏。武装不全，行动嘈杂、迟慢和人员不齐的，惩。夜间演习水平射击，还进行对抗演习。所以在抗战中，他指挥作战，多采用夜袭的办法。
张自忠搞训练，身先士卒，以身作则，是士兵最好的楷模。
针对士兵文化水平不高的实际情况，西北军的爱国爱民教育通常采用通俗的形式，效果非常好。令人印象最深的就是每天清晨的“朝会”。驻兵开封时，二十五师官兵和军官学校学员每天清晨都要跑步训练到南门外的“演武厅”大操场举行朝会。这时，张自忠便大步流星登上指挥台，高声喝问：
“你们的父母是什么人？”
众答：“老百姓。”
“你们的兄弟姐妹是什么人？”
众答：“老百姓！”
“你们参军、入学前是什么人？”
众答：“老百姓”。
“那我们应不应该保护老百姓？”
众答：“应该！”
仪式完毕，官长开始训练，然后训练课开始。
军官学校里绝对禁止烟、酒、嫖、赌，纪律十分严明。他常对部属们讲：“无银钱、无保举尚属小事，切不可因烟、酒而坏身体，因嫖赌而坏品行。”有一次正在上课，张自忠突然临时检查，在一个学员口袋里搜出半截烟。张自忠立即罚他吞下去，那个学员活生生地把烟头嚼碎，一丝不苟地咽了下去。
他对军官的约束也非常严厉，失职或违纪者同样难逃惩罚。在军官学校的一次朝会上，张自忠因对训练极为不满，一时火起，当场喝令两个队长原地跪下，然后拎起军棍走到第一大队张大队长跟前，喝叫他：“趴下！”张大队长乖乖地趴在地上。只见张自忠抡起军棍朝着张大队长屁股狠打一阵，随即来到第二大队刘队长跟前，同样命他趴下，可是这位刘大队长十分乖巧，他突然拔腿跑开，跑出好远，然后面对张自忠跪下来，总算逃避了一顿军棍之苦。这是张自忠体罚军官的一个典型场景。
关于违纪处罚的问题，西北军与其他旧军队一样，仍保留了肉体惩罚的旧习。
张自忠对学员确实很严格，但学员们并不把他当作一尊凶神。因为他们早就摸出了规律，只要你严以律己，出色完成训练和学习任务，他一向严肃的脸上也会露出欣慰的笑容。
西北军士兵几乎全部招自乡村，绝大多数为文盲，这对于实施系统有效的军政教育训练是一个极大的障碍。因而，张自忠非常重视士兵的文化教育。他的方法有三条：第一，让士兵们先学会自身最切需的简单字；第二，每个字都要从三个方面掌握：读音、字义、笔法；第三，组织考核，增进竞争心，成绩太差者不予提拔。他要求士兵一天至少认识一个字，3年内至少认一千个字，达到会写白话家信的水平。上完了认字课，再让士兵们学习程度深一些的《军人读本》、《军人宝鉴》、《军人教育》、《军人精神》等等。西北军的士兵是通过一步步地学习文化，提高素质，然后晋升为军官的。
学习文化，这不但提高了军队整体的素质，最重要的是也使士兵们的自身得到了修炼。
张自忠虽是富家子弟，在他的身上却没有体现一丝的奢侈、浮化。他一贯提倡朴实勤俭，生活中他也一直是在从我做起，按照朴实，勤俭的标准来影响和塑造他的官兵和学员的。一次他看到一位教导队长未穿军鞋，穿着呢鞋，便斥责说：“军中不准有俏皮样子，罚你立正！”还有一次，阅兵时他发现一个战士穿了一双灰色袜子，而未穿黑色袜子，他十分生气地说：“在这样的场合，你竟敢违反军纪？”说罢，即命军法处将那个战士扣押了几日，并罚该旅旅长立正两小时。
张自忠认为，对于军人来说，战时最不可饶恕的便是贪生怕死。而违抗军令，“喝兵血”最为可恶，吃空额是军官贪污的重要途径，冒领军费，金额吞为己有。有一次卫生检查中，检查组在军需处的箱子中有一小袋私刻的粮行印章。张自忠一看便知其中奥妙，大骂该营营长申乐成：“你这混蛋克扣哑巴兄弟的口粮作假报销，看我扒了你的皮？”当即令军法处责打200军棍，撤职镣押，永不录用。后来，又发现了位营长帐目不清，侵吞士兵的存款，张自忠极为震怒，集合全师干部训话。只见他双手叉腰，目光灼灼，气势逼人，大声训斥那位营长说：“你这种恶劣的行为，是军中的败类，团体的蟊贼，害群之马……看我扒了你的皮！”说着，亲自抡起军棍狠狠地打了他200军棍，直打得皮开肉绽。打完了，还觉得不解气，又痛斥说：“钱是王八蛋。见了钱你连亲爹都不要了！你今天喝兵的血，明天兵就要吃你的肉！”
在西北军，官兵们为了几个治军严厉的将领编了顺口溜：“石友三的鞭子，韩复榘的绳，梁冠英的扁担赛如龙，张自忠扒皮真无情！”久而久之，“张扒皮”这个浑号西北军上下无人不晓。
其实，“张扒皮”这个浑号里也深涵着官兵对张自忠的尊敬。他并不是人们误会中认为的那种只知惩罚，粗暴蛮横之武夫。张自忠爱兵如子，严中寓恩，恩威并施，赏罚分明。他深知“治兵先治心”的含义，并不是遇过即打滥施军棍。他处罚非常有条理，讲究轻重和分寸，他提倡八不打：一、有害不打；二、盛气不打；三、盛暑不打；四、饭前不打；五、无恩不打；六、罚过不打；七、伤兵不打；八、不知不打。
他治军管兵并不是仅仅从自己是一个将领的角度出发，而是言传身教中时时牢记那份爱国情、民族情，大的思想出发点没有受个人性情的支配。
为了让官兵们时刻铭记国耻，张自忠采用了一种别致的方法——绘制“国耻地图”。凡被列强侵吞的中国领土，都在图上用红色标明，并注明侵略者、侵略时间及侵略方式。官兵们对“国耻地图”要熟读熟记，随身携带，以便查阅。
张自忠还命令每个士兵在自己的床头上贴上志愿书一类的东西，有八条六条不等，讲述自己的志愿，如爱国、勤学、杀敌、立功等等，每天对照检查自己的言行，以求上进。
他就是这样，从一点一滴起培养官兵的优秀品质和能力。这是他对官兵怀有深厚感情的最好见证。他从不必要的开支中节省出经费，甚至把自己的薪水都拿出来，为士兵们置办了各种运动器具，让他们锻炼，竞赛，还设立了图书馆、俱乐部举办各种读书竞赛和游艺比赛，吸引士兵们参加阅读和健康的娱乐活动。身为高级将领，他甚至不辞辛劳，时常深夜巡视士兵寝室，代盖衣被。他还经常出现在连队食堂里，与士兵一起吃饭，边吃边看饭菜做得怎么样，如发现不符合标准者，即命值日官改正，如饭菜做得差，负责管厨的排长或司务长就要受到训斥。有一次因馒头不大熟，值日官挨了一顿军棍，还有一次，他同官兵一起吃饭时，发现米饭里有沙子，他就将该连司务长撤了职。到连队巡视时一见到连长，他首先要问：“你们连有病号吗？有几个？什么病？都吃什么药？”有一次，他冷不丁地向站在身边的一位团长问道：“你们团有多少病号？”这位团长吱唔半天，讲不清楚，张自忠马上变了脸色：“告诉你吧，有11个，你整天在瞎忙些什么？连团里有几个病号都不知道，关心病号是你份内的事，你要记住，对兵没感情，一定逃兵多。”把那团长说得面红耳赤。
他对病号特别关心，每逢节假日，就拿钱，带些吃食去看望病号，悉心地爱抚关照。如果哪个连有三个以上不能出操的病号，连长就有被严罚或撤职的危险。有时训练间隙，他会命令士兵列队集合，让他们摘下帽子，看头发长不长，脏不脏；让士兵瞪大眼睛，看有没有害眼病的，让士兵露出牙齿，看是否刷牙了；有时又齐刷刷地让他们坐下，脱下鞋袜，看有没有洗脚，有没有患脚气、鸡眼；有时，又叫士兵脱下军装，看衬衣是否干净。
有人认为像张自忠这样的高级将领不应该管这些零星的芝麻小事。张自忠听了摇了摇头，他向官军们解释说：“讲卫生保证士兵身体健康，是小事但更是大事，它是增强战斗力的重要因素，绝不可忽视。军队是集体生活，比如眼病，很容易传染，如果有一个害眼病的，就可能传染到一班，甚至一个连。军队时刻准备打仗，一旦接到命令，立即就要开赴前线，如果一个连有三分之一害眼病的，你还怎么瞄准，怎么射击歼灭敌人呢？再比如许多人害脚病，一拐一拐，怎么才能完成行军，机动歼敌？两军作战，你没有力量去歼灭敌人，就有被敌人歼灭的危险，这样的军队连任务都完不成，还能保护领土吗？这怎能是芝麻小事呢？”
众官兵听了将军的一席分析，个个心服口服，理解了将军的苦心，也更加严格要求自己了。这就是以理服人的力量和作用。
张自忠深得官兵爱戴体现在许多方面，体现在生活中的每一件小事中。
张自忠规定，士兵每人每月要写一封家信报告在兵营的生活状况；各部官长要在家信的末尾附笔数言，向士兵家长致意。士兵存款，积至整数，由官长负责代存。凡有士兵家长来营，各级官长尽量陪同参观，陪同吃饭，走时奉送路费，使家长们放心满意而归。这些作法深得人心。
张自忠还有一个习惯，除了吃饭睡觉外，无论春夏秋冬，他总爱在兵营大院里转来转去。而巡视兵营时，他又通常爱把号兵带在身边，一旦发现问题或遇到需要改正事件时，就会令号兵立即吹号，召集各部长官，随时指示，随时改正，绝不留任何后遗症。曾在他手下干过多年的张知引曾说：“象这样的临时集合，一天不知有多少次。我们这些当连、排、班长的都习以为常了，但都从不敢松懈！”
作为军官学校的校长，张自忠号召学兵们自力更生，勤俭做人。无论洗衣做饭，还是砌墙盖房都必须自己动手，理发也不去理发馆，每班都有一套理发工具。他自己也有一套理发具，常自己给自己剃光头，胡子长了就用弯剪子剪从不搞特殊化。
以廉治军，以廉带兵，以廉养身，以廉养性，这是古往今来的许多名将所共有的高贵品质，张自忠自是更深知这一点，做到了“军开未汲，将不言谒；军食未熟，将不言饥；军火未燃，将不言寒；军幕未施，将不言困。”张自忠正是这样一位将领。他教官兵吃苦耐劳，自己首先加倍劳苦，不敢偷懒享受；他教官兵负责任，守纪律，自己也克尽职守，从不敢马虎松懈，无论军纪、风纪、学科、术科或是内务与外勤，凡他所要求于官兵者，他本身无一不遵守，无一不擅长。这就是他能够确实掌握部下，建立威信的原因所在。
张自忠作为叱咤风云几十年的名将，多少年来一直被人们赞颂，敬仰。并不仅仅因为他具备勤、善、忠、孝等诸多优秀品质，更重要的是他造就了一支技术过硬、意志坚强的劲旅，所以他的练兵之道所显示的深刻意义就不是那么简单了。
俗话说：卖啥吆喝啥，作为久经战场的军人，张自忠深知，一支成熟的军队仅仅有严明的军纪是不够的。走向战场，参战官兵就必须具备健壮的体魄、娴熟的技术和高明的战术，如果这些最基本的素质都不具备，何以能面对战事？又何以能够取胜？而一个常被敌人打败的军队显然是谈不上自信和自尊的。而那些所谓基本素质，又取决于平时的刻苦训练。
张自忠治兵，完全沿袭了冯玉祥的那套方法。西北军早在廊坊整顿时，冯玉祥已提出了一整套的练兵方法，即：一是文武并重，文官和伙马夫也要下操打靶，一如士兵；二是内外并重，场内教育与场外操练并重；三是学术训练与精神教育并重，教文忠、勇、仁、义，灌以卫生及科学方面知识；四是平常训练与特殊环境下训练并重，尤其注意利用大风、大雨、大雪的天气出外行军，作种种战斗操演。不过张自忠在实践中又不断加以丰富和充实，他从带领学兵部队和担任师长，以及抗战期间，始终是从严治兵。他的严厉作风，向为官兵学生所敬畏。
当时的训练分为学、术两科。学科是指精神教育和军事理论；术科则指体能、技能训练和野外演习。在当时的各系军队中，西北军的术科训练独树一帜，颇具特色。
术科训练的具体项目一般包括行军、跑步、射步、投弹等，西北军的不同之处在于，它增加了军体操、劈刀、刺枪和拳术等内容。军体操训练又包括单杠、双杠、跑拦阻等项目，它可以增强士兵的体力和身体的协调性、柔韧性，因而在西北军受到特别重视，以单杠为例，每个士兵必须练会三大套，即“曲身上”、“摇动回转”和“拿大顶”。单杠成绩列入术科评比中，甚至把会不会三大套定为提升军官的标准之一。跑拦阻即越障，也是重要的训练项目。
刺枪、劈刀及拳术，是体力与技能的结合，从我国传统武术演变而来。在武器装备不良的情况下，这种训练对于发扬近战之长，弥补武器的劣势，最终克敌制胜具有重要意义。
张自忠很善于练兵，他不是站在高高的土台上观看士兵操练，而是按照训练课程，选出一两个成绩优异的士兵作示范，召集各营、连干部前来观摩学习，由他提示讲解。比如训练射击，就着重示范士兵的射击动作，他站在一旁非常细致地为军官们讲解如何利用地形地物，射击姿态是否正确，持枪是否稳当，瞄准是否合理，哪些动作应当推广，哪些动作应当纠正。然后大家一起分析研究，再返回各部分头教练。训练成绩定期评比考核。
张自忠是个不知疲倦的人。他喜爱操练、阅兵，也经常向部下训话，日夜操劳，乐此不疲。他甚至常亲自给士兵们做劈刀、刺枪、拳术的示范动作，其强健体魄和敏捷有力的动作使官兵为之叹服。他尤其擅长骑术，纵马飞驰，疾如流星，为常人所不及。身为高级将领还具备这样的体力和技能，这在无形中提高了他的威望，官兵们为有这样的师长而自豪。
术科训练的目的除健壮体魄、娴熟技能之外，更重要的还在于锻炼官兵吃苦耐劳、坚韧顽强的精神。张自忠对此极为重视，他常对官兵们说：
战争之事，或跋涉于冰天雪窟之间，或驰骋于酷暑恶瘴之乡，或露营于雨雪，或昼夜兼程。寒不得衣，饥不得食，渴不得水。在枪林弹雨之中，血肉横飞，极人世所不见之惨，受恒人所不经之苦。这种精神和体力，非于平时养之有素，练之有恒，岂能堪此。练兵之宗旨，以能效命于疆场为归属，应于平时竭尽手段，以修养其精神，锻炼其体魄，精娴其技术，临阵才能有恃无恐。故习劳忍苦为治军之第一要义。
这是张自忠的经验，也是他的治军见解。他还进一步提出，通过训练每个官兵都要做到冬不衣裘，夏不挥扇，能忍三日之饥渴。为了达到这个目标，并使训练接近于实战，张自忠很重视训练的季节与时间安排，这就是“夏练三伏，冬练三九，夜练黑漆头”。这种做法形成了张自忠练兵的一个显著特点。
冬日三九天，全体官兵每天早上4点半钟起床、穿衣、刷牙、上厕所，然后整理内务，清洁环境、取枪，最后打背包等。每一项的进行，都严格地规定了时间，5时10分各部集合点名后，带到大操场，5时30分集合完毕，开始朝会和晨操。为给军官学校的新生们做示范，张自忠常把二十五师部队拉来与学兵一起操练。二十五师的士兵在严寒的清晨，光着膀子大声喊叫着练习刺枪、劈刀和拳术，看得新兵们目瞪口呆，赞叹不已。
经过两小时晨练，官兵们略事歇息，唱着吃饭歌进饭堂进早餐。上下午共进行学术两科训练8小时，为了锻炼士兵的耐寒能力，张自忠规定，士兵只能外穿棉衣，内衣短袖衫和裤头，不得另加衣服。
晚饭后自习前，是练习铁杠、木马、刺枪劈刀、打拳的时间。
张自忠还十分注意雨中的训练。夏秋季节，大雨滂沱的天气，被他视为练兵的良机，他常常组织攻防战斗演练，锻炼雨中指挥、射击、行进和识别方位的能力。官兵们个个淋得像落汤鸡，回营后每人灌下一碗姜汤水，以防感冒。
