！覆局何常今异古，义旗虽倒果成因。
英雄关内知多少，血战长安有几人？
——题耿端人小照
！于右任流亡日本半年，悄然回到上海。这时，袁世凯已废除《临时约法》，正千方百计为其复辟帝制制造舆论。当时，鼓吹革命的报刊已缄口结舌，再想办报也为政治环境所不许，于右任乃在上海筹办民立图书公司，一方面作为反袁运动的掩护机构，另一方面也可为文化事业做些贡献。
于右任前两次去日本，尚在清朝时期，当时得知日本学者在明治维新后，蔑视我国古籍，将一些过去流传到日本、秘不示人的古书，随意处置，有的甚至论斤出售。幸亏当时清廷驻日公使的随员杨守敬，广为搜罗，就地在东京精印，名为《古逸丛书》，共印一百部，才算保存了一些典籍。对这事于右任印象很深，决心以刊印善本丛书为民立图书公司的目标。他出重资将中国图书公司最新式的印刷机器转盘过来，以康心如为总经理，张季鸾为编辑，自己总其事。
刊印善本丛书，必须了解版本学，因此举凡写本、历代刊本、传录本、批校本、稿本，以及每一书的雕版、传抄源流，孰为善本，孰为原刻，以至藏书印记、版式行款等，于右任都下过一番工夫。他还经常与学者名流相往还，与版本学专家“艺风堂”主人缪荃荪交往最多，黄季刚也是他的座上客，四马路棋盘街一带古籍书铺的书贾们都熟悉搞版本学的“于大胡子”。于右任后来与人谈起，总说：“这是我很难得的一个治学时期。”
我国是数千年的文明古国，文史典籍浩如烟海，要刊印一套大部头的善本丛书，从财力到物力均非易事。于右任、康心孚、康心如等几位的资金，都花在买印刷机器上了，几乎没有流动资金，日常开支捉襟见肘，无以为继。编辑人员也远不能应付庞大的编辑校勘工作，何况许多海内仅存孤本都在藏书家手中，斥巨资求之而不可得，于右任他们后来只好知难而退，把这一未能实现的计划转献给执我国出版印刷之牛耳的商务印书馆了。至于机器，则让给了世界书局的沈知方。于右任每当回忆到这件事时，总感到非常遗憾，而且还自谦地说：“学问是一切事业的根本。一个人一生失败的地方，都是学力不给的地方。”
民国初年（1913—1916），他曾三次去北京，其间曾秘密派人潜入陕西，策划讨袁事宜。是时，袁世凯的势力如日中天，为了掩护，于右任放浪形骸，耽于声色。某日，在名妓苏佩秋家里，一餐鸭粥，竟付了50元一张大票，轰动了当时糜烂的北京政界。实则他对国事的忧虑与对袁世凯的愤慨，未尝一日去怀，这可以从他离京时所写的《出京》、《再过南京杂诗》中得到印证。
出京
泪渍征衫墨似缞，大风吹散劫余灰。
穷途白眼亲兼旧，归路青天雨又雷。
几见神龙愁失水，始知屠狗少真才。
无端宣武门前啸，声满人寰转自哀。
再过南京杂诗
一
大好江山作战场，几经水火几玄黄。
雨花台下添新冢，远近高低尽国殇。
二
满目疮痍莫倚楼，凄风苦雨遍神州。
先生自分愁中老，泪眼湖山吊莫愁。
三
十万人家动地哀，多情处处野花开。
莫愁湖畔英雄骨，乞得佳人冷炙来。
四
山围故国人安在，泪湿新亭客更多。
再造神州吾未老，是非历历指山河。
1916年6月6日，袁世凯病死，但北洋军阀势力仍左右北京政局。1917年5月，于右任鉴于当时时局之迫切，推翻北洋军阀之举刻不容缓，便主动向孙中山建议，拟从北方着手，突破北洋军阀势力的核心，南北夹击，以响应西南讨逆义师。孙中山对于右任的这一设想表示赞许，于乃主动请缨受命，由北京经洛阳入西安，秘密联络革命志士、民党领袖，如井勿幕、张钫、胡景翼、宋元恺、茹欲立、李元鼎、曹世英、刘守中、樊钟秀、于鹤九、李春堂等筹商举义于陕，与西南的讨逆军相呼应，共同讨逆。
当时，陕西督军为陈树藩，辛亥革命时他曾参加陕西起义，后来附袁，蔡锷在云南高举讨袁义旗后，南方各省纷纷宣告独立，陈又起而反袁。所以，当时有人用中医中的二味药做了一副对联，叫作：“发病六君子，送命二陈汤”，把袁世凯称帝的“全过程”概括在这十个字中。“六君子”是指筹安会的六个发起人，“二陈汤”就是指陈宦、陈树藩和汤芗铭。陈树藩因投机反袁而登上陕西督军的宝座，等袁世凯一死，他迫不及待地于袁死之次日发表通电，宣布取消陕西的独立，还恬不知耻地在电文中吹捧袁为“中华共戴之尊，民国不祧之祖”。此语一出，反袁志士无不齿冷，但却受到他的老师段祺瑞的特别宠爱（陈毕业于保定军官速成学校，而段是该校校长），成为段祺瑞“督军团”的骨干。所以，于右任的西安之行，处境险恶，此行的使命当然也难以完成。他在归途中写的《过渭》诗中说：“十五年来梦一场，神州回首几沧桑；先生老作江南客，何事伤心到故乡！”流露了他对大局阽危，起兵不成，内心的悲愤与忧伤。但此次也并非虚行，由于他的活动，结识了许多民军领袖人物，为日后靖国军在陕西支撑四年多奠定了基础。
这一时期，于右任生活颇感困窘，有时穷得付不出水电费，以至水电公司剪断了他家的电线。无可奈何，他只好在上海各报登报卖字，以维持生计。所以，在这一二年他写的诗中，乃有“泪湿河山糊口难”、“闲煞江南卖字人”等句。
个人生活窘困事小，时局每况愈下使他更心忧。袁世凯死后，一时人心望治，参众两院五百余议员齐集北京，黎元洪宣誓就任总统，任命段祺瑞为国务院总理，重申尊重约法。不料由于派系歧见演变为总统府与国务院之争，黎、段交恶，黎元洪于1917年5月23日下令免去段祺瑞的国务院总理，而段则唆使各省督军脱离中央，相继宣告独立（宣布独立的有：安徽省长倪嗣冲、奉督张作霖、鲁督张怀芝、闽督李厚基、豫督赵倜、浙督杨德善、直督曹锟、陕督陈树藩等）。由于“督军团”的反叛，黎元洪无计可施，欲借皖督张勋之力与段祺瑞抗衡，调张勋入京。张从徐州带兵入京后，以调停为名，迫使黎元洪解散国会，于7月1日导演了一幕复辟的丑剧，把住在故宫中的清朝最后一个小皇帝溥仪重新捧上皇帝的宝座，而段祺瑞在马厂立即宣布讨伐张勋。这幕丑剧只上演了12天就“寿终正寝”，徒使段祺瑞赢得了“再造共和”的美名。
段祺瑞赶走了黎元洪，拥戴“北洋之狗”冯国璋入京代理总统。由于段承袭了袁世凯的衣钵，引起国会议员及政界人士强烈不满，一些议员和海军总长程璧光率领海军第一舰队相继南下，于8月25日至9月1日在广州召开了国会非常会议（因到粤的议员一百三十余人不足法定人数，故称非常会议），选举孙中山为中华民国军政府海陆军大元帅，从而揭开了护法战争的序幕。
在陕西，首先举起护法倒陈（树藩）义旗的是时任步兵团副团长的革命党人高峻（字峰五，白水县人，贫苦农民出身，曾为“刀客”）。广州的非常国会结束后，陕西籍的国会议员焦冰在陕活动，特前往访高，希望高峻早日起事，以与西南的军政府相呼应。于是，高峻率部于1917年10月19日在距离西安二百余里的白水县以护法军名义宣布独立，传檄渭河南北，数陈（树藩）罪状，宣布起义。
时高峻所部只有一千余人，而陈树藩却调了三个团的兵力，又在骑、炮、机枪诸营中各抽调一部前往进击。眼看高峻危在旦夕，时任陈树藩警备旅统领的耿直（字端人，澄城县人，农民出身，14岁因家贫辍学，考入地方警察训练所，16岁为地方警察），与高峻的好友刘锡麟（骑兵营长）为了救高，设下了一条行刺陈树藩之计。他们选派了一位敢死之士廉安到西安，由耿直陪同，到督军府向陈树藩面呈机密。
陈树藩听说起义军中有人前来秘报机宜，立即接见。老奸巨猾的陈树藩久历戎行，为人机警奸诈，在接过廉安的信札后，目不转睛地盯住廉安，那廉安身负行刺重任，心情紧张，神色有异，当他刚想动手抽枪时，立刻遭到陈的怒斥，责备他有失军人礼节，见督军怎么可以佩戴手枪？命令他卸枪退出，致使这一行刺之计未能实现，连陪同前来的耿直也遭到陈的怀疑。此时此刻，尽管耿直手上兵力有限，但箭在弦上，不得不发，因而佯作押送重囚廉安，实则令其身藏手枪，并挑选身强力壮的士兵押送，直奔督署，一进署门，就开起枪来。陈听见枪响，从后院越墙逃出，立刻调来重兵进攻耿直所部。耿直率部占领了西安钟楼，在城楼上竖起陕西靖国军的大旗。这一天是1917年10月26日，距高峻在白水县起义为时不过7天。
耿直所部在西安城内与陈树藩的军队血战两昼夜，终因伤亡颇重退出西安。他们且战且走，陈树藩调集了两个旅的兵力尾随追逐，誓欲将耿部全部消灭。在距西安三百余里的蒲城时，耿直在阵前中弹身亡，时年仅23岁。他是为护法牺牲的第一位陕西将领，也是在陕西第一个打出靖国军旗号的人。后来于右任担任靖国军总司令时，得悉耿直起义的经过，曾为他向军政府请恤，军政府追赠这位23岁的青年为陆军中将。于右任还写了《题耿端人小照》诗一首，表示对耿直的哀思：“覆局何常今异古，义旗虽倒果成因，英雄关内知多少，血战长安有几人？”第一句说耿直谋刺陈树藩，与二千多年前荆轲刺秦王的情形太相似了，由于秦舞阳在咸阳宫色变惊恐，使荆轲的计谋毁于一旦。现在，由于廉安的沉不住气，使耿直过早暴露，全盘失败。它们的不同在于，前者行刺的对象是统一中国的秦始皇，荆轲等人逆潮流而动，注定要失败。而后者行刺的对象是北洋军阀的走卒，耿直设谋如此周密，陈树藩尚且不死，于右任为之嗟叹不已。“义旗虽倒果成因”这一句也是有典故的。在耿直牺牲后，又有一位年轻的营长张义安（富平县人，出身贫寒，幼年曾为人佣，清末应募入新军，始乘暇读书，后入农业学校肄业，与胡景翼等人结识，入同盟会，辛亥西安起义，只身入城参加作战，共和告成，辞军职偕胡景翼游学日本），在于右任的家乡三原继续高举义旗，发兵抗陈（树藩），使陕西省的抗陈运动一下子成为燎原之势。没有张义安的起兵，很可能不会有于右任回陕担任靖国军总司令的事。所谓“果成因”即指此。
高峻在白水抗陈，耿直在西安发难，陈树藩为镇压革命力量，派旅长曾继贤率部进驻三原。张义安是胡景翼团的一个营长，原先就驻扎在三原，曾继贤根本不把这三百多人的张营放在眼里，纵容部属向张营寻衅闹事，张劝部属尽量忍让，私下却与连长董振五、邓宝珊商量应付之法。
1918年1月28日晚上，天降大雪，经过张义安的周密部署，一举缴了曾旅的械，击溃了比自己多十几倍的兵力，共缴获山炮二门，重机枪三挺，步枪一千余支，子弹六万多发，军马百余匹，军需品甚多，大大地充实了张义安部队的实力。曾继贤缒城而逃，其余官兵纷纷投降，到黎明时，战斗全部结束。当人们到张义安营慰劳时，只见张义安营长正拿着扫帚和士兵一道在扫雪，似乎什么事也没有发生一样，使人大为惊讶和敬佩。张义安笑着对慰劳的人说：“我一边扫雪，一边在做诗。”大家要张把他做的诗念一下，只见他从容地将腹稿诗逐句背出：“陈逆肆淫威，流毒秦川遍。同仁谋倾覆，四出相激劝。嗟予亦秦人，无乃有觍面！决计起义师，池阳今发难。啮血誓偏裨，渝盟天不眷。乘雪夜兴兵，鸡鸣巷交战。炮火震山峪，声势激雷电。将士争先登，叱咤风云变。杀气亘长空，咫尺不相见。妖氛顿刻灭，天日为之现。所愿我同盟，无为自扰乱。”慰问的人十分欣赏，遂把这首诗名为《誓师诗》。
张义安举事后，他的团长胡景翼立即率部开到三原，以“中华民国军政府陕西靖国军”的名义通电全国，宣布脱离陈树藩而独立。消息传出，在陕北组织民军的曹世英，也率部赶到三原会合，其余郭坚、高峻、刘锡麟等，也相继率部投入靖国军。几天之内，陕西省三分之二的兵力，转入到革命阵营，陈树藩困守在西安，惶惶不可终日。
当各路民军在组织靖国军总司令部时，内部却发生了争执。胡景翼、曹世英各以总司令自居，互不相让，放下龟缩在西安城内的陈树藩不去攻打，却在三原为了名誉地位一争高下，群议终日，毫无结果。张义安对此极为痛心，他愤然对大家说：“难自我发，我先出兵讨贼，以死谢三秦父老。”一气之下带着一营人向西安进发。此时张营已有一千余人，一直打到西安城下，终因城郭坚固，张营兵力太少，而胡景翼、曹世英的援军又迟迟不至。是时，靖国军诸将领之间，互相猜疑，各有所图，曹部不希望胡部成功，胡部也不愿曹部取胜，虽然胡景翼、曹世英几次派出援军，但此进彼退，步调不一，延误军机，几次均无功而还。后来陈树藩以陕西省长一职相许（陕西省省长原为李根源，陈先将李软禁，后迫使李离陕，自己以督军兼省长），向河南的刘镇华求援。刘率领他的镇嵩军入关，陕西的局势因而急转直下，力量的对比完全改观。这时胡景翼接二连三催张义安回师三原，另作别图。张义安回信给胡景翼说：“我自起兵，即置生死于度外，今战而胜，则贼可诛，志可遂。不然，唯有一死以谢陕人，较之觍颜人世不尤多耶？”
由于陈、刘联军的夹击，张义安采用游击战术，与他们在户县、周至一带周旋。3月13日，张义安身先士卒，率部猛攻盘踞在户县县城里的陈、刘联军，不幸为流弹所中，倒地不起，胸前血流如注。他紧紧攥住董振五的手，拼命挣扎着说：“告诉……同志们，快请于右任回陕，请他……回来……领导靖国军！”言讫而殁，年仅25岁。1919年4月，于右任将张义安的事迹申报广州军政府，军政府追赠张义安为陆军中将。
张义安的死，促使靖国军诸将领猛然省悟，若不抛弃成见，团结御敌，靖国军终非陈、刘联军的对手。于是，众将领集议，只有按张义安的遗言，请于右任回来领导靖国军，革命才能获胜。会议决定，由三支拥兵最多的部队各推派一人，联袂赴沪敦促于右任回陕。4月，胡景翼部的王玉堂，曹世英部的成柏仁，高峻部的张庆余去上海，将关中的形势和各派政治力量的情况一一向于右任做了陈述。于右任一年前奉孙中山之命返陕活动，就是希望能在陕西发动革命，如今陕西靖国军起，大家邀他返陕领导，这是责无旁贷、义不容辞的事。他抛开一切，在5月初与王玉堂等三人由上海乘轮西上，从汉口经郑州转洛阳。由于潼关有陈、刘联军把守，为避免发生意外，于右任化装成传教士，王玉堂等三人则乔装成教友，一行四人由陕县渡过黄河，经吴王渡入陕，再走宜川、洛川、延长、延安、耀县，整整走了20天，才到达三原的靖国军总部。于右任沿途作了不少诗，对黎民百姓的疾苦至为关切，如《宜川道中》一诗写道：“隐隐黄河线一痕，马前东望日将昏。风云晋塞连秦塞，波浪龙门接孟门。高祖山头余破庙，将军台上只荒村。川原如锦人如醉，遍地花开不忍论。”这诗的最后一句如果不加诠释，殊为费解。何以“遍地花开不忍论”呢？原来这是陈树藩为了扩军筹饷，大开烟禁，在陕北各县强迫农民种植罂粟花（制鸦片），开时花红一片，看起来虽然漂亮，但却祸国殃民。
到达三原后，于右任首先考虑的，是如何把这一支松散、意见分歧的队伍组织起来，使他们互相消除猜忌，团结一致，发挥战斗力。其次，要建立一个强有力的总司令部，做到令行禁止，步调一致。虽然靖国军各路队伍上上下下对于右任都极其尊重，怀有好感，但人贵有自知之明，于知道自己是个文人，带兵打仗非己所长，因此，建立一个权威性的总司令部，是当务之急。他延揽了在辛亥革命时任炮兵排长、作为民军的先锋首先进入西安、1914年出任过陕南镇守使的张钫担任副总司令，以骁勇善战的胡景翼为作战总指挥。为了减少矛盾和摩擦，各路民军仍按原建制编制，为便于指挥，将三万余大军编为六路，各路的番号也是用抽签的方式决定的。每路设司令一人，路下为支队，支队以下为团、营、连、排。
第一路司令郭坚，下辖五个支队，共五千余人。分驻陕西西部的岐山、凤翔、扶风、武功、兴平、乾县。以凤翔为司令部所在地，掌握川陕交通咽喉，防御甘肃、青海方面的敌军来犯。
第二路司令樊鍾秀，下辖三个支队，共三千余人。驻扎在陕西最富庶的周至、户县一带，直接威胁西安。
第三路司令曹世英，下辖三个支队，共三千余人。驻高陵、淳化、交口、栎阳一带，扼关中通往陕北的要道，切断西安与渭北大平原的联系。
第四路司令胡景翼，下辖六个支队，共六千余人。驻陕西的心脏地带三原、富平、耀县、蒲城等地，这是靖国军各路中力量最强、装备最佳的一支队伍，于右任把它安放在中间策应。未几，该路司令胡景翼被诱骗被俘，由岳维峻继任司令。
第五路司令高峻，下辖两个支队，共二千余人。驻白水、澄城、郃阳、韩城一带，把守陕东门户。
第六路司令卢占魁，下辖三个支队，共三千余人。驻三原、耀县等地，因为它有许多骑兵，于右任把它作为机动部队，用以支援各方。
一年多后又增编第七路，司令是王珏，辖三个支队，共二千人，驻乾县一带。
这七路大军的一些中下级军官，有人后来名垂青史，有人尔后煊赫一时，如杨虎城、史可轩、邓宝珊、孙蔚如、冯钦哉等即是。
于右任只身入陕，花了两个多月的时间，把这一支庞杂而又互不相服的部队组织起来，确非易事，如制定番号，谁为第一路，谁为最后一路也颇费周章。至于各路部队的驻地，有穷有富，钱粮分配，有多有寡，武器发放，有优有劣，将领们尤为力争不让，但最后于右任均一一解决，这不能不叫人佩服。一介书生，经历这样大而复杂纷纭的局面，居然在一些久历戎行的名将面前，调兵遣将，厘定战略，显示出元戎的气度，的确是时势造英雄。
早在于右任在就任靖国军总司令之前，即向孙中山提呈过“革命非自北方着手，无以突破北洋军阀之阵营”的战略，此时，又厘定了“会合陕西各路民军、义军，略定西北、抚鄂之背”的计划。在战争过程中，屡次制定战守方略，如1918年12月，镇嵩军猛攻周至，副总司令张钫和第二路司令樊鍾秀被围，于右任制定了“围魏救赵”之计，派董振五、邓宝珊、杨虎城等西攻武功，镇嵩军如回师来救，周至之围自解。
于右任不但设谋，战事紧张时还亲赴前线督战。如靖国军后期，杨虎城在武功地区独撑大局，以数千之众，与直军数万激战于武功、扶风、大王店等地，情况紧急时，于右任亲率炮兵赴前线增援，使杨虎城在打了一次小胜仗后迅速撤退，减少了伤亡。所以，1945年于右任在追忆陕西靖国军及围城诸事时，写的《中吕·醉高歌》十首中，以“名儒名将兼名士”自况。所谓“名将”就是指靖国军时期担任总司令一事，这也是他一生中唯一的一次带兵打仗。
1918年8月9日，在三原城外的广场上新搭建了典礼台，城里城外的父老兄弟也成群结队赶来参加，附近的驻军在广场中心列队鹄立，于右任在各路将领的簇拥下登上了主席台，宣誓就任陕西靖国军总司令之职。他发表了一篇简短有力、感人至深的演说：
余以革命党人，非为权利名位而来，实为救国家，救桑梓，与诸同志共甘苦、同生死而来，带给大家者，非金钱，非械弹，乃一腔热诚，与中山先生革命精神，此种精神为革命党人无价瑰宝，一切均不足比拟，只要大家确切认识，笃实践履，则革命必成，强权必败，区区陕乱，不足平也。
于右任回陕后不到三个月，各处民军竞相投效，六路人马总兵力在三万以上，大大超过了陈树藩、刘镇华所部。所辖地区，东自黄河，西迄陕甘交界，拥有14个县的地域，是辛亥革命以来陕西民党势力的鼎盛时期。
但接踵而来的问题，是军械弹药和粮饷的匮乏。陈、刘联军既有大宗烟土捐税收入，又有北洋军阀政府作后盾，而靖国军孤军奋战，南方军政府自顾不暇，实无余力接济。在这种情况下，有人向于右任建议，能否在靖国军的防区内增加税收，或者发行纸币，以救燃眉之急。类似这样的建议还很多，但均遭到于右任的拒绝，只要读一读他回陕时写的“戍卒一年三溃散，居民十室九逃亡”，“兵火连年人四散，平川历历上田荒”的诗句，就不难理解于右任为什么不采用增加税收和发行纸币的缘由。所以，在靖国军的控制区，仍按原来的税收份额课税，由于兵员猛增数倍，税收还是原来的水平，“粥少僧多”，官兵们只能维持最低的伙食标准，久而久之，怨声四起，以至数年后，连靖国军最主要的将领胡景翼也背于而去，接受了北洋军阀政府的改编。究其原因，除少数人为了升官发财外，粮饷问题长期得不到解决，的确是个潜在的因素。
尽管如此，靖国军在四年多的时间里，抗八省之兵（即刘镇华的河南镇嵩军、许兰洲的奉军、陆洪涛的甘军、刘存厚的川军、王鸿恩的直军、李际春的绥远军、王安澜的鄂军、商震的晋军），八省兵号称十万之众，粮饷充足，装备更是靖国军望尘莫及。段祺瑞曾致电陈树藩说：“限阴历年内务必联合各军平陕。如弟（指陈树藩）力有不足，再当以国防军相助。”因此，于右任实在难以支撑时，曾写信向孙中山求援。1919年1月5日，孙中山在给于的复信中说：“比接惠书，以交通阻滞，故稽奉答。每念军旅贤劳，未尝不神驰西陲也。三秦居全国上游，夙为形势之区，而密迩西疆，关系尤重。兄（指于右任）自创义以来，力荷艰难，毅力苦心，同深钦服。近自和议声日促日进，群为苟且之图，无澄清之远谋，思之岂胜扼腕。顾军政府在南亦仅有空名，欲期以饷械相助，势所不能。兄处此困厄之交，尚冀努力维持固有实力，保存现在地盘，以待发展之机。（孙）文苟有可为，亦必竭力相助，决不使兄独任其难。并望念国事之艰难暨西陲之重要，万勿遽怀灰心而有引退之意。”
9月，于右任再度向孙中山求援，希望军政府令湘、闽、赣、蜀各军齐出，以救陕局。孙中山也曾电令滇军总司令唐继尧，黔军总司令王文华，川军石青阳、吕超、黄复生，鄂军总司令黎天才等，命他们组成四省靖国联军，分十路援陕。其中除滇军叶荃部抵达凤翔外，后来各路军因广州局势发生变化，（非常国会被政学系一派人所利用，竟然决议改组军政府，实行七总裁制，孙中山只是其中之一。）已经出发的吕超等军，纷纷撤回。这样，于右任领导的靖国军又成为一支缺粮乏械的孤军了。2月16日，孙中山在复信中说：“手书诵悉，陕事危迫，而兄（指于右任）日在痛苦之中，谁则能为分忧者。北（北京政府）既不舍，南（广州军政府）不能救，不得已唯有借力于和议。……此诚下策，然舍此更无良策也。”看来孙中山也毫无办法，只好把希望寄托在上海召开的南北和平会议上，最好能通过谈判就停战问题达成协议，以挽救陕局。
在这困难的时刻，又应了“福不双至，祸不单行”的俗语，靖国军连折大将。于右任就任总司令时，任命卓有军事才干的胡景翼为全军作战总指挥，胡也希望在这一职位上有所表现，以消除靖国军中一些将领过去对他的成见。他想到陈树藩部驻守在固市的姜宏模，原是自己的旧属，另一团长李天佐，与自己私交也好，胡对他们晓以大义，劝他们弃暗投明，率部来归。不料姜、李二人劣性不改，另设诈谋，佯为允诺，背后又禀报陈树藩，盼陈同时来固市，妄想挟双方以自重。老谋深算的陈树藩，机诈百出，他估计可能发生的势态，盛陈兵卫，有备而来。结果，姜、李只得把胡景翼献给了陈，陈执胡返西安，送信给胡部骁将董振五说：“汝如释兵，吾即释胡。”董振五不为所动，毅然复信给陈说：“吾不能以一人之私弃公理。吾愿祝立生（胡景翼号）为关（羽）、岳（飞）、文（天祥）、史（可法），早就千秋，亦愿彼（指胡）祝吾为（白）起、（王）翦、（廉）颇、（李）牧，纵横一世。此时此地，请勿多言。”胡景翼与秦朝大将王翦同为陕西富平人，胡每以王翦自况，董信中所列举的历代名贤，均为胡所崇拜者，故董引用譬喻以诫——这样一来，使陈执胡以要挟靖国军的企图落了空。陈不得已，只能把胡景翼关了起来，一关就关了两年。直到直皖战争爆发，皖系失败，陈树藩的后台段祺瑞被迫辞职，他陕西督军的地位也岌岌可危时，才将胡景翼放回靖国军，其目的是想借胡以自重，用来对付直系。后来陕人在评论这件事时，说陈树藩执胡无心，放胡有意。
胡景翼受骗被俘后，靖国军顿失主将，士气为之大沮。恰在此时，陕西资格最老、年纪最轻的同盟会会员、辛亥革命时出任陕西北路招讨使的井勿幕从西安来归，使于右任喜之不尽。1906年，于右任初次赴日，井曾多方照拂，从此结下革命情谊。李根源出长陕西时，井应李之邀，就任关中道尹，旋李被陈树藩逼走，井勿幕也愤然辞职，以读书韬处，暗中仍与革命同志保持联系。靖国军起，于右任返陕出任总司令，一时声势浩大，陈树藩为缓兵之计，商请井勿幕以调停入的身份前往三原。井佯作不允，心实喜之，经陈再三敦促，井勿幕才动身到三原。这时正是胡景翼受骗被俘，副总司令张钫又在前线督战，总司令部缺少大将襄助于右任指挥之时，井勿幕的来归，全军为之一喜，深庆得人，于右任立即请井勿幕出任全军作战总指挥。
未久，井勿幕率董振五、岳维峻两支队南下攻兴平，城即将下，陈树藩部守城营长李东材见井，诈称全营官兵愿弃暗投明，起义加入靖国军，请井勿幕到驻地与全营官兵见面，并请讲话训示；井不疑有他，只身随李到兴平南仁时，李将井骗入一座土窑内，将井杀害，割下首级，亲送陈树藩处请功。城府很深的陈树藩一见就知大事不好，这样一来，一则会激怒靖国军发兵来攻，再则又得罪了井岳秀（井勿幕之兄，时任陕北镇守使，亦属北洋系统），因而给了一笔巨款与李东材，嘱离陕逃匿。陈树藩虽斥责李东材做事愚不可及，而内心实喜之，他转而效三国时曹操“刻沈香木为躯，以王侯之礼，葬关羽于洛阳城外”的故事，以檀木香盒置井勿幕首级礼送三原，靖国军上下为之大恸。
井勿幕遇害后，于右任曾作吊诗一首，名《吊井勿幕》：
十日才归先轸元，英雄遗憾复何言！
渡河有恨收群贼，殉国无名哭九原。
秋兴诗存难和韵，南仁村远莫招魂。
还期破敌收功日，特起邱山拟宋园。
这诗的最后一句说，总会有一天，要为井勿幕建一座像上海闸北宋教仁那样的陵园来纪念他。27年后（1945年）陕西各界为井勿幕遗榇举行安葬，于右任专程前往西安主持。公祭毕，执绋到墓地，路程约二十余里，于右任一直与各界人士步行执绋，为老友送葬，连比他年轻的祝绍周（时任陕西省主席）也走得两足起泡，足踝磨破流血，因见年长位尊的于右任院长缓步慢行，也只得硬着头皮作陪，结果两足红肿，数周步履艰难。
井勿幕遇害两月，骁将董振五又在武功东北的大王店阵亡。1918年12月，刘镇华的镇嵩军猛攻周至，副总司令张钫、第二路军司令樊鍾秀被困，战事旷日持久，城内粮弹两缺，张钫不断向于右任告急。于右任制订“围魏救赵”之计，命董振五、邓宝珊、杨虎城、冯毓东四个支队西攻武功，以救周至，如镇嵩军回师武功，则周至之围自解。不料许兰洲率部赶至，人多势众，将董振五团团围住，董部反而陷入内外夹攻、两面作战的绝境。奉军以数倍之众，四面环攻，董部居内线，掘壕固守，两军对垒月余尚不能突围，弹药愈来愈少，是故董下令军中士卒，敌人不到五十步之内，不许开枪。这种近战战术使奉军伤亡颇众。董振五知道敌我力量悬殊，僵持对己不利，于是拟派敢死之士迂回敌后，奇兵突袭，以期突围。他正站在阵前下达命令时，忽然一颗流弹飞来，董的右目被击中，当场倒地。战壕中的官兵见状，悲愤交集，跳出战壕一阵猛攻，将奉军击退，而董已亡，年仅26岁。后来，于右任将董的事迹申报军政府，军政府追赠董为陆军少将，其遗骸于1920年3月归葬扶风县法门寺东之白龙讲坛，于右任亲自为董撰写了长达二千余字的《董少将振五墓志铭》。
是年，适遇陕地岁饥，兵民争食，军中弹械窳竭，总司令部常常无钱买菜，而八省北洋联军又缠斗不休，靖国军处境险恶。于右任心情郁闷，在复沪上友人的信中竟说出“故人厚我，当捡我骸骨于战场灰烬中”的话。1920年，驻守交口的程星五偶得一文天祥的诗轴，派人送给于右任。于发现这首诗连《文山先生全集》也不曾收入，是件珍品，诗轴上的诗是：“江黑云寒闭水城，饥兵守堞夜频惊。此时自在茅檐下，风雨安眠听柝声。”
于右任在此时此地见此诗，自是感慨不已，遂援笔作诗一首《为程星五题文文山诗轴》：
肃穆瞻文墨，艰危见性情。
公曾全大节，我亦抚饥兵。
声伎同知悔，茅檐尚不惊。
丈夫自勤事，何必计前程。
1920年7月直皖战争后，皖系失败，段祺瑞引咎辞职，直奉两系入主北京，开始了新的明争暗斗。在这种形势下，北洋军阀无暇过问陕事，陈树藩的气焰顿敛，陕境战事无形停顿，靖国军得以休整。于右任利用这段时间，在家乡致力于教育与政府设施的建设。
靖国军总司令部成立时，于右任就在总司令部下设有教育处，为当时军中罕见。于在陕的几年间，设立了男女学校多处，如：民治学校、渭北中学、渭北师范、三原中学等。是时，正值五四运动时期，北京和其他各地进步学生纷纷来到靖国军总部所在地的三原，他们带来了新思想、新文化。于右任适时地举办了每周一次的学术讲演会，第一次是在总司令办公大院的明伦堂举行，以后由三原城关各学校轮流举办，或介绍孙中山思想，或评价中国文化各流派，或报告革命家的生平，或讲解中外时事，乃至于苏俄革命情况等。参加者多为三原各中小学校长和教师、部队军官，以及三原的社会名流朱佛光、前正谊书院山长张衡山（前清举人）等，于右任每会必到，以示提倡。于还选送了一些年轻有为的学生去云南、广东学习军事，其中保送到黄埔军校一、二、三、四期学习的就有八十余人，不少人后来都成为高级将领。孙中山得知此事后，特来信嘉勉：“顷接手书，知近从事新教育之设备，及改造社会之筹策，于干戈扰攘之秋，犹能放眼远大，深维本根，远道闻之，深慰所望。”并寄其近著《孙文学说》五册，嘱于右任翻印流传。但因为当时处于战争环境，翻印困难，于右任又给孙中山写信，要求“价购《孙文学说》百册，以便分赠靖国军将士研读”。孙收信后，在信上批示：“照寄百册，不收费。”
于驻陕时，在家乡度过了四个春节。陕地风俗，每年元宵节必举行“社火”（有龙灯、狮子舞、走马、火船、大头和尚戏翠柳等节目），从正月初十过后一直欢闹到十六，而乡民们每次必来总司令部表演，以示敬意。时间一长，劳民伤财。于右任有鉴于此，为了移风易俗，组织大家把各种节目集中在元宵节的一二天之内表演完毕，场所就设在总司令部明伦堂前的大院内，军民同观，与民共乐。于在观赏时，发现某些节目的唱词内容封建、庸俗，他便自编歌词十余首，如《秧歌十二月里来》，就是于右任在1920年亲自编写的，时间过去了七十多年，至今还流传在三原一带的耄耋老人中间：
正月里来正月正，吉利的话儿说几声。中华民国是民主，民权有了就太平。地方自治办得好，寻点儿快活玩花灯。
二月里来春雨多，家家学生上了学。男要学来女要学，爹娘的心儿莫偏过。手心手背都是肉，男女成才多快活，出不起学费挣着也要去上学。
三月里来百花香，处处民气都发扬。桃花儿红来李花儿白，菜子花儿遍地黄。国家事，要担当，为民不问国家事，那你还纳的什么粮？
四月里来大麦黄，田里庄稼朝上长。那田地是我庄稼人的刮金板，那田地是我庄稼人的常平仓。刮金板，常平仓，血汗得来吃喝也香，血汗得来吃喝也香！
五月里来是端阳，家家过节祭国殇。屈原端午沉江死，爱国的心儿永不忘！我们地方经战事，锦绣河山变战场。张义安，董振五，他们真爱国来又爱乡。为国死，姓名扬，百姓心里不能忘，百姓心里不能忘！
六月里来庄稼开，场畔里歇凉唱乱台。桃儿杏儿吃过了，沙瓤西瓜又上来，粪多力勤种子好，今年多打是应该，今年多打是应该！
七月里来七月七，织女牛郎是传说的。天空星星多的很，人的眼窝看不齐。人靠自己莫靠天，巧能学来不能乞。自古懒人肚子饥，自古懒人肚子饥。
八月十五月儿圆，武昌起义过去好几年。袁世凯要把皇帝坐，黎元洪他把狗洞钻，段祺瑞暗里通日本，冯国璋死的不值半文钱。南北几次经大战，到底国会不能全。把宪法要等到哪一天？把宪法要等到哪一天？
九月里来柿子黄，摘棉花的人儿分外忙。今年种子挑的好，棉桃大来棉絮长。棉田务弄实在好，收成竟比去年强。陕西棉花名气大，一年千万运外洋，大家努力务好棉，赚下钱来盖学堂。
十月里来天气冷，说几句淡话请你听：天上有了飞行机，海里游着潜水艇。孟夫子是个穷家儿，鞋匠当了美总统。为人首先要自强，自强才是真本领。你如不前进，谁个把你等，你如不前进，谁个把你等。
冬月里来雪花飘，王三姐苦苦守寒窑，杨宗保招亲穆柯寨，樊梨花坐帐斩黄袍。这些旧戏虽说好，都不如我唱的新歌谣。
腊月里来梅花放，家家商号都收账。乡里人儿趁冬闲，腊八会上逛一逛，把好话奉献大家听，如今世事不一样，中华民国重民权，国民责任你莫忘，你莫忘。
此外，于右任还编写有《十唱》，如：“第一唱来官员听，你把百姓莫看轻；民国官员是公仆，百姓雇你做长工……”。供耍社火的乡民们采用，寓宣传教育于娱乐之中。
在这一时期，他还促成了渭北水利委员会的建立，他延请老同学水利专家李仪祉为工程师，开始了泾惠渠的勘察和筹建工作。这一工程虽因经费问题时断时续，迟至十年以后才竣工放水，但于右任倡导在先，应居首功。李仪祉十年辛劳，使泾阳、三原、高陵一带数十万亩农田获灌溉之利，被赞为“关中灶神”。
1920年直皖战争后，直系军阀吴佩孚在洛阳设立了庞大的“直鲁豫巡阅副使公署”（正职为曹锟，驻北京），积极练兵，妄图以武力统一全国，对近在肘腋的皖系陈树藩，自然格外注意，卧榻之侧，岂容他人鼾睡？决心以武力将陈除掉。他派了二十师师长阎相文，第七师师长吴新田，以及第十六混成旅旅长冯玉祥（不久升为第十一师师长），率领所部大举入陕，并发布阎相文为陕西督军。陈认为自己还有三个师，加上刘镇华的镇嵩军，几近十万之众，足可一战，因而拒不让位。不料刘镇华表面拥陈，暗地却派人向直系输诚。后来两军一接战，陈军有的投降，有的被击溃，在众叛亲离、束手无策之时，陈带着百余骑兵卫队，奔赴汉中。不久，冯玉祥、吴新田两路大军逼近汉中，陈见大势已去，遂带着家小细软转赴四川，尔后到上海作寓公去了。
此后，直军进攻的矛头，直指靖国军。
8月，阎相文自杀，冯玉祥署理陕西督军。直军新胜陈树藩，又收编陈部甚夥，士气大盛，乃一边派人到靖国军说项，愿将靖国军胡景翼所部改编成一个师，以胡景翼为师长，岳维峻为旅长，其他将领各有提升；一边又设计诱杀郭坚。软硬兼施的结果，引起了靖国军内部的意见分歧，论实力，靖国军远逊直军，枪械窳陋，粮饷又缺，一旦开火，唯有拼光为止。在这生死关头，靖国军诸将领对是否接受直军的改编，众说纷纭，莫衷一是。要求改编的将领振振有词：“从权受编，忍辱待机”，“保存实力，以图再举”，“假途直军，另谋出路”，如此等等，娓娓动听。由于意见歧异，同志好友竟为之反目。
北洋军阀政府拟聘于右任担任总统府高等顾问，月薪一千元，并颁发一等文虎勋章一枚，以示尊崇。于右任对直系的使者气愤地说：“钱我见过的，什么文虎章？你妻侄小舅子都给，狗也给，猫也给，我看得不值半文钱。”
是否接受入陕直军的改编，靖国军将领争执甚久。最初双方势均力敌，各不相让，后来由于胡景翼等主要将领慑于直系军阀的声势，又因连年征战，疲惫不堪，各部将领均希图自谋出路，改善自身处境，因而接受直系军阀改编的主张逐渐占据上风。
1921年9月21日，胡景翼等在三原召开了“国民会议”，宣布取消陕西靖国军的名义，接受直军改编，并推举于右任为陕西自治筹备会会长。此事传播全国，于又未置一词，远在沪滨的章太炎不明真相，误认为于右任亦同意接受直系的改编，引曹操的“于禁从孤三十年，临难不如庞德，思君家法，为之慨然”之语以讥之。
此时，于右任处境十分困难，他在给赴日留学生段兆麟的信中说：“我现在事业已失败，昔年回陕整理陕西的志愿，此刻已陷在万难的地位，出关对不起人，并对不起良心，在陕又无一片地自容，真是难言。”
于右任眼看局势无法挽回，痛心疾首，感慨万端。为了摆脱那些力主接受改编将领们的纠缠，他离开了尊经阁（靖国军总司令办公处），住到三原西关民治学校校园里，前后四十余天，对胡景翼等将领前来叩询意见，不置一词，终日独坐危楼，泪洒戎衣，悲愤地写下了《民治学校园纪事诗》前十首、后十首（共二十首）。诗中引用了六十一种花木为喻，隐晦曲折，把苦战三年多的艰苦历程的辛酸凝聚在其中。全诗凡1120字，首句“只余民治园中路”，说明当时于右任处境艰难，已无路可走，只好到民治校园中来暂住。经过四十余日的苦思苦索，懂得了“山川如故人情改”、“天道无常似有常”之间的内在联系，心里重新燃起了希望之火，因而在最后一首的结束语写道：“难忘民治园中路，卷土重来未可知。”五年以后，于右任出任国民联军驻陕总司令兼省政府主席，实现了“卷土重来”的夙愿。
靖国军大部接受直系改编后，直系又派人来找于右任，请于右任担任陕西林垦督办，于抱定“三不”宗旨，即：不走曲线、不接受改编、不出任陕西省村垦督办。是时，由于胡景翼等人已接受直系改编，靖国军总部所在地三原已成为直系军阀的控制区了，于右任决定夜走高陵，冀曹世英等续举义旗。然曹等为了一己之利，终无所动。于旋知事终无可望，乃返三原，过三原城门而不入，径至城北郊东里堡半耕园。
时杨虎城屯兵武功、扶风间，吴佩孚派曹锟的参议武斌叔找杨谈判，拟编杨部为一独立旅，归吴佩孚直接指挥，被杨断然拒绝。胡景翼、曹世英也派人劝杨接受改编，并以他们改编后的亲身体验相告，杨又以“保全革命人格”，“人各有志，各行其是”而婉拒之。
到1921年年底，于右任困居半耕园，身边除了少数参谋、参议、秘书和警卫人员等亲信相伴外，宾客寥落，门可罗雀，人不敢过其门。他过着日无一勺饮，夜唯一孤灯的生活。12月26日，北风呼啸，大雪旋至，改编后的胡景翼第一师袭击了靖国军总部，他们断绝交通，砸烂招牌，焚毁文书，攫去印信，驱赶总部留守人员，总部自是不复存在。第一师官兵还扬言将袭击东里堡的半耕园，致使警卫人员昼夜警戒，一夕数惊。于右任乃率数十骑冒雪西行，往于鹤九参谋之弟于鸣冈驻守之淳化方里镇暂避。
1922年春，杨虎城迎于右任到武功驻地，重新建立靖国军司令部。于将所部分为三路：第一路司令李夺，第二路司令麻振五，第三路司令杨虎城。杨部力量最强，辖四个团。适甘军陆洪涛由北京领到一批军械，计32辆马车之多，途经扶风县法门寺，全部为杨部截获，计有步枪一千余支，子弹60万发，为以后在武功抗击直军进攻，提供了物质条件。
直军为最后消灭靖国军余部，派阎治堂师及直军郭金榜、镇嵩军柴云升共约三万之众，进犯武功。于右任命杨虎城抵抗直军。直军以十倍之众包围杨部，杨虎城矢死不退，在大王店与之激战二十余日，于右任亲自率领炮兵增援。讵料他所派的另一支援军麻振五轻敌中伏，叛降直军。杨部终因众寡悬殊，孤军应战，伤亡过重，于右任“为了保存一点西北的革命种子”，遂下令向凤翔方面转移。4月19日，由于第一次直奉战争即将爆发，吴佩孚命冯玉祥率部离陕赴豫（后任河南督军）。胡景翼亦率部随冯出陕，离三原前，夜叩于右任家门请见，于不在家，胡对于夫人说：“一切实出于不得已，翼誓死不忘右公。”1924年10月，胡与冯玉祥、孙岳一起，发动了“首都革命”，旋调河南省任督办。1925年因右臂生疔而去世，归葬于华山之麓。于不计较胡在靖国军后期背己而去的旧恶，怀着悲痛的心情，亲笔写了一副挽联：“盖世勋名，不为王翦；弥天风雨，又哭中山。”于右任晚年在台湾，为张群题书胡景翼为岳维峻临岳飞书长卷时，写了一首七绝，结句为“垂老才知负笠僧”。这时他考虑到：靖国军后期，部队缺粮少弹，官兵疲惫不堪，从权接受改编，实在是不得已，何况胡后来还坚持了革命，当年胡景翼夜叩家门，自己不予接待，的确是太过分了一些，有负胡笠僧。于右任就是这样严于解剖自己、实事求是。
冯玉祥离陕后，陕西督军由刘镇华接替。5月31日适逢端午节，李夺也投降了刘镇华。这样，靖国军只剩下杨虎城这一路了。于右任在这一天中饭也无心思吃，口中不断叨念：“田文生日，屈原死日。”原来孟尝君田文生于五月初五，大诗人屈原死于五月初五。而自己，此时此刻，前途未卜，还有什么心思过端午？于是，他在凤翔田家庄与杨虎城商定：他由甘肃经四川去找孙中山请示办法，杨率部去陕北依托井岳秀部，保存实力，以待后命。
于右任从1918年5月20日到达三原组织靖国军，到1922年5月31日在凤翔举行陕西靖国军的最后一次会议，于6月1日启程离陕。据王陆一笺注的《右任诗存笺》载，于右任在出走的过程中，备极凄险，几为乱兵所杀。王陆一是当年于的随侍人员，他的记叙如下（文中先生指于右任）：
次日黎旦，使参军雷鸿基，驰赴高崖假道，日卓午无耗，乃使王玉堂及参军王家曾与余，连骑疾驰往，约迎候于张家店，又使书记长李丰功牵先生所乘马西门，骨腾神骏，人知先生将骑由此出也。先生乃独出北门，急走陇田中，知追者踵至，纡回间道，与丰功相失。失骑，履决不可着，赤足行三十里，至张家店，远见山头兵皆满，抢攘意甚恶，乃避入小庙中，枕麦秸卧。有从兵见山涧中二马，其一为先生所骑者，恐先生或不幸，大哭四觅，被执于乱兵，亦追问先生所在，始意先生无恙，且必在左近，得间脱去，果寻见先生。先生急使走城中召支队长卫定一至，定一虽李旧部，然敬服先生甚至，因发兵驱诸乱者去，先生始进水饮。玉堂、家曾及余至高崖，反复言西北休戚，谢海涛动容允假道。玉堂驰去，觅李丰功及雷鸿基等，家曾驰报先生，余留营中察动静，防万一变。出所佩枪赠其参谋，益慷慨无间。次晨得报，先生将度岭，余与谢部二百骑往迎，卫定一护送先生至岭头，送者至崖而返，先生自此远矣，陕西革命事业遂结一幕，然先生度岭作别时，岭头流水，自尔悲壮。
北方唯一响应孙中山所领导的护法之役的军事组织——陕西靖国军，历时四年，以一隅之地，抗北洋军阀八省之众，苦战经年，独撑危局，这对一位从未统率过军队的文人来说，不能不说是一桩奇迹。他在频年苦战之余，还努力撙节军费，兴办学校，造就人才，兴修水利，造福桑梓，赢得渭北人民对他的感念。
于右任经甘肃入四川，在越秦岭时，沿途所见珍奇植物尤多，觅当地人为向导，询问草木之名及用途，听后取所携带之植物图书比索学名，将采集的标本分门别类，可谓上了一次形象化的植物学课，也增长了许多中草药的知识。抵重庆后，在刘湘等川军将领处小住匝月，乃乘轮东下，于9月初抵达上海。此时，陈炯明在广州叛变，炮轰总统府，孙中山在粤无法立足，不久亦抵上海。于右任等前往码头迎迓，并驱车到法租界莫利哀路孙寓拜谒，报告西北革命奋战的经过，并谢奉命不力引以为咎。孙中山安慰他说：“失败何伤，吾亦失败来此也。”
此后，于右任以卖字所得润笔维持生活。他写就的字件上，常盖“于思”二字的印章。“于思”是多须貌，《左传》上有“于思于思弃甲复来”之句。于须齐胸，人呼于髯，又因靖国军解散而返沪，大有“于思于思弃甲复来”之慨。
