甲午战争中国惨败，空前严重的民族危机在清廷朝野上下、社会各阶层激惹起种种要求改革的强烈呼声，政治上以康有为、梁启超为代表的一批文人志士发动了一场变法图存的运动，史称“戊戌维新”；军事上，军队的改革被看成是重中之重。在众臣僚争献练兵良策的风气下，袁世凯亦竭其所能“招致幕友，僦居嵩云草堂，日夕译撰兵书十二卷，以效法西洋为主”，他还上书督办军务处，陈述其练兵设想，并将其编写的练兵文字，遍向当朝权贵散发，袁因此博得“知兵文臣”之誉，而争得“变通兵制”、“仿照西法练兵”的大权，在小站督练新建陆军。
小站距天津东南70里，原名新农镇，是天津至大沽站中间的一个铁路站。原淮军周盛波、周盛传部曾在此驻扎屯田。1894年，在李鸿章的军事顾问汉纳根的建议下，清廷派遣长芦盐运使胡熵菜在小站以德国陆军操典编练“定武军”十营，计4750人。该军各级军官多为淮军将领，另外还选拔了天津武备学堂毕业生何宗莲、吴金彪、曹锟、田中玉、刘承恩等担任教习或军官，并购买西洋先进武器，期望以新式装备、新法训练形成新的军队阵容。
不久，胡熵菜被调去督办津芦铁路。袁世凯奉旨接替胡熵菜后，立即将“定武军”进行扩编改造；全部用洋枪洋炮武装起来，即成“新建陆军”。自此， “小站”这个名不见经传的小镇，成为中国日后各自雄踞一方、相互征伐不已的军阀武夫们的摇篮。
中国第一支炮兵部队
“新建陆军”是我国陆军近代化的开始，它的建立，完全模仿了当时世界陆军第一强国的德国。德国在中国近代化过程中确实扮演了非常重要的角色。小小的岛国日本就是因为效仿德国而强盛起来的，中国当政者也坚定地认为，中国要想重新强大起来，没有第二条路，只有全盘学习德国。
袁世凯也是持这种想法的，他看到中国军队的弊端，决心用最为严格的标准打造出一支真正的近代化意义上的军队。于是他参照德国的陆军制度，把军队分步、马、炮、工、辎各兵种，打破了以前旧军队不分兵种的编制方式，并全部采用西式武器以西法操练士卒。为提高兵士的素质，1898年，袁世凯创设了四个随营武备学堂，分别是德文、炮队、步队、马队学堂。
应该说，从这时候起，袁世凯就在为自己将来的政治生涯打基础，作为军人出身的他，深知在中国只有“枪杆子里才能出政权”（借用一下毛主席的话）。没有军队的支持，没有武力作为保证，说什么都没有人会听的。为了把这支当时国内最先进的陆军培养成听命于己的嫡系部队，袁世凯大刀阔斧地进行了人事改革，将那些有关系有背景资历深的高级军官们通通踢出了队伍，而重用了一批年轻的、有一定真才实学但长期受排挤不得志的北洋武备学堂的毕业生。他第一个看上的，便是段祺瑞。
于是段祺瑞被袁世凯从威海卫防军教习的位置上越级提升，段祺瑞平生第一次有了真正的实权，开始了真正的带兵生涯。当然，他所带的兵还是跟他的学历有关系的：他成为了炮兵营统带兼炮兵学堂监督。袁世凯的新军分为四个兵种，炮兵即是其中之一，也是最重要的一个兵种，而段祺瑞就成为了中国历史上第一任炮兵司令。自此，他追随袁世凯，开始了他几十载的宦海生涯。
段祺瑞在新建陆军担任炮兵第三营统带，他这支炮队装备有德国克虏伯厂出的57厘米过山炮和七生特半陆路炮等当时最好的重型武器，算是中国历史上第一支正规化的炮兵部队。段祺瑞还兼任炮队随营武备学堂的“监督”。四个随营武备学堂中，炮队学堂最著名，它以德国人祁开芬为教习，为北洋军培养了大批干部，像学生中的靳云鹏、傅良佐、吴光新、曲同丰等人就在段祺瑞以后的政治生涯中扮演了重要角色。
在小站，段祺瑞怀着“知恩图报”、“士为知己者死”之心，尽其所能地帮助袁世凯带兵、练兵，督办北洋各武备学堂和军官学堂，为培养中国近代陆军人才和促进中国军事近代化发展作出了贡献。由于毕业生们大都被派充到北洋各镇任军官，有不少人后来成为北洋系统中的高级将领，为段祺瑞将来从政打下了广泛的基础。
在小站练兵时，有三个人逐渐崭露头角，时人称之为“北洋三杰”，那就是“北洋之龙”王士珍、“北洋之虎”段祺瑞、“北洋之狗”冯国璋。
每每听到北洋三杰中各自的叫法，总觉得怪怪的。这龙虎的称呼还说得过去，毕竟龙虎在中国文化里是力量、权势的象征，但狗这个词怎么听都不是滋味。不过，这还真不是对冯国璋的贬斥，因为历史上还确实有龙虎狗三兄弟，他们就是三国时期的诸葛三兄弟诸葛亮、诸葛瑾、诸葛诞。
熟悉中国历史的人大都知道诸葛兄弟，大哥诸葛瑾在吴国效力，二弟诸葛亮执掌蜀国相印，这两人在中国历史上那可是无人不知无人不晓。但很少有人了解，他们还有一个堂弟，名叫诸葛诞，在魏国当谋士。当时的人认为蜀国得到了他们中间的“龙”，吴国得到了他们之中的“虎”，魏国得到了他们之中的“狗”。当时担任军令司副使的冯国璋对北洋尤其是袁世凯忠心耿耿，其军事才能还是很出色的，否则在那个英雄辈出的江湖时代，冯国璋不可能获得三杰的名号，不过冯国璋有一个很大的毛病——贪财，于是当时的人既对其才能认可，同时又看不起他的贪财之心，于是只好将其列为三杰之狗，也算是对他恰如其分的评价吧。
诸葛三兄弟各奉其主，段祺瑞、王士珍、冯国璋三人追随的却只有一位——袁世凯，是他把都来自北洋武备学堂的他们提拔到新建陆军中的重要位置上来，让他们得以施展才华。在那个讲究出身门第的年代，得到这样的机会可实在不是什么容易的事，有多少人一辈子胸怀理想、才华横溢却英雄无用武之地，只能终老乡村。因此，这三个人对袁世凯那可是忠心耿耿，至死追随。
恩人袁世凯
段祺瑞真正扬名立万是从小站练兵开始的，而这个天赐良机却实实在在是袁世凯给他的，因此段祺瑞对袁世凯的感情是恩师加知己，过去中国人讲究的是“士为知己者死，女为悦己者容”，段祺瑞又是一个秉持儒家思想的军人，更是将这一思想发挥到了极致。
袁世凯同样也看到了段祺瑞军事才能卓越的一面，觉得这个年轻人将来必能派上大用场，于是千方百计地笼络这位得力干将。在北洋系统中，袁世凯最为倚重的两员大将就是段祺瑞和冯国璋，较之冯国璋，袁世凯对段祺瑞更是多方笼络，恩宠有加。1896年，袁世凯刚到小站主持练兵，当听说段祺瑞要返回天津结婚的消息后，便放下一切军务，亲自前往车站迎接。过了几天，段祺瑞在天津一家饭店举行婚宴，招待小站的各位将领和同僚，袁世凯又同荫昌（就是拉住段祺瑞不让剪辫子的那位）出席祝贺，给了段祺瑞很大的面子。更绝的是，袁世凯知道段祺瑞家境并不宽裕，于是指示把宴会的所有花销都记在自己的名下，让段祺瑞觉得袁世凯如此看重自己必当知恩图报。民国初年，段祺瑞的妻子病故，袁世凯便把他大太太的干女儿张佩蘅嫁给了他。张佩蘅的祖父张芾是原江西巡抚都察院左副都御史，而她的父亲张瀛在山东时曾经是袁世凯的好朋友，但可惜过早离世，母亲在不到两年时间内也去世了，袁世凯的大太太于氏怜其幼年失怙，抚养之如己出。现在段祺瑞娶了袁世凯的干女儿，两人的关系从过去的恩师与弟子到了现在的翁婿之亲，段祺瑞成了袁世凯的干女婿，从此段祺瑞彻底成为了袁世凯问政的中坚力量。
看到段祺瑞如此受到上天眷顾，机会好得让人羡慕，有人肯定会觉得自己运气太差。不过我们一定要记住这句话： “机会只给那些有准备的头脑”。真正的人才，靠的还是自己的能力，机会是很重要的，但机会来临时有多少人能抓住就难说了。从报考天津武备学堂，到受到李鸿章赏识获得出国机会，再到受袁世凯重用，段祺瑞靠的只是两个字——能力。
不敢说段祺瑞打仗如何英勇顽强，那是匹夫之勇，搁在段祺瑞身上显然不太合适。段祺瑞真正的能力体现在他开阔的视野、扎实的文化底子，以及他敢于打破固有观念的勇气。真正体现他能力的是段祺瑞的练兵方法，这也是袁世凯极为看重他的地方。其练兵思想的根源只有一个：与国际接轨。我们今天爱把什么事都和国际接轨，而且还很为自己的发明创造得意，殊不知百年前的中国人对这一概念掌握得更是炉火纯青、运用自如。
怀着“知恩图报”、“士为知己者死”之心，他尽自己最大的能力帮助袁世凯带兵、练兵，并从军事教育出发兴学办教。 光绪二十四年，也就是公历1898年10月，清廷将新建陆军改名武卫右军，袁世凯指定段祺瑞为随营学堂总办和主要授课人，段祺瑞到任后，真刀真枪地开始了军事近代化改革。
第一件事：编书。
过去中国军队的训练是没有所谓教材的，再说那些当兵的还真没有几个识字的，十个恐怕有九个半是文盲，顶多会写自己的名字。至于连名字都不会写，领军饷时在花名册上画个圈的更是大有人在。要是念过几年私塾，乖乖不得了，那可是稀罕物，人才啊。所以军队的训练就是一样：练体能。
到了段祺瑞抓军事那就不一样了，首先他招的士兵都要求有文化功底，至少认字，会简单的读写，这就保证了他军事改革的顺利进行。段祺瑞亲自编撰了许多操练新军的重要教材，如《编练章制》、《战法操典》，以及《训练操法详晰图说》等。特别值得一提的是《训练操法详晰图说》一书，编写这本书时袁世凯非常重视，还专门组织了一个6人的写作班子，不过最主要的编写者和策划者还是段祺瑞，其编写思路、主要内容等全是段祺瑞一个人设计的。该书以图文并茂、通俗易懂的方式记载武卫右军的训练、攻守、驻扎，步队的操法、阵法、枪法、战法，炮队的操法、炮法，马队的操法、阵法、战法，工程队操法以及沟垒说、电雷说、测绘说和练兵要则、格式、饷章、规则律令等，成为清末编练新军的教科书。
段祺瑞是中国军事近代化的积极实行者，他提出的口号与我们今天的“与国际接轨”如出一辙。在教科书中，段祺瑞着重分析了东西方各国军队训练的情况，强调应全面学习德日操法，尤其是他提出带好军队的关键在于两个字：训与练。
