杨虎城凭在中原大战中的战功执掌了陕西的军政大权，与蒋介石的关系也可谓进入了“蜜月期”。不料，好景甚短，就在杨虎城刚抵达西安的第四天，11月4日，蒋介石即派郑州行营主任何应钦飞抵西安进行视察。表面上，蒋介石因为杨虎城替他打败了冯玉祥有功，特派何应钦为代表到西安来慰问杨。当时受杨虎城指派负责招待何应钦的连瑞琦回忆说：“何对杨说：‘蒋总司令希望杨在西北整理五年，就是在五年之内，不至有什么变动。过去冯玉祥在西北的军事、政治、经济、文化等设施，一律由杨负责接收整理，中央决不插手干涉。’”
陕西机器局是由冯玉祥遗留下来的六个兵工厂改组而成，六个厂共有五千多工人，其中半数以上是大革命时代汉阳兵工厂的工人。制造武器的品种是捷克式机关枪、步枪、迫击炮和炮弹等。
何应钦来陕西时视察了陕西机器局，并同意机器局划归省办。杨听说后很高兴，对连瑞琦说：“这与咱们的计划相吻合。但是蒋介石一贯是说的一套，做的又是一套，对于这种人要随时提高警惕。”何回南京后不久，蒋介石指示军政部来电：“陕西机器局交由中央接办。”杨接电后，十分愤怒地说：“蒋介石欺骗我。”在陕期间，何应钦召见了陕西民军总司令甄士仁，许诺为甄编几个师，直属中央，目的是想与杨对抗。何应钦的言行不一致，当然也就是蒋介石的言行不一致了。杨虎城对何召见甄甚为愤怒，很快以“甄寿山扩充武力，存心叵测，与统一前途，殊为障碍”为罪名将甄枪决。
送走何应钦不久，1930年11月，蒋介石在陕西潼关设立陆、海、空总司令部西北行营，派顾祝同任主任，指挥陕、甘、宁、青的军务。顾祝同率中央军黄杰的第二师和陈继成的第三师驻扎在潼关、华阴、华县一带。让杨虎城最不能接受的是，蒋介石曾一度打算把陕西人民深恶痛绝的刘镇华的残部，由其弟刘茂恩带领再度进驻陕西，对杨虎城部形成监视、遏制之态。杨虎城则将十七路军布置在临潼、高陵、大荔、朝邑一带，对顾部形成半包围势态。
1931年春，蒋下令杨虎城部裁减一师的番号并即停发一个师的经费。杨不得已把马青苑的第五十八师改为陕西警备师，由陕西省承担经费。由此，马对杨心怀怨意，1932年调往天水时受蒋介石方面挑拨，最后叛杨投蒋。在这种形势下，为了弄清蒋介石的今后企图，杨虎城派长期负责与中央联系的李志刚两次去见蒋介石，代他向蒋表示：目前，甘、宁、青、新疆等省还是由地方军阀割据，自己愿将陕西军政大权交给中央，而率部西进，作为肃清西北的先头部队。杨虎城这种以退为进的谋略发挥了作用，迫使蒋介石不得不表态说：“告诉虎城安心进行陕西的军政建设，要把他的家乡治理好，切勿三心二意犹疑不定，这样的态度是做不好事的。至于西北的事，将来或许有用他的地方，但那是以后的事。”杨虎城还将对蒋介石的表示告诉了顾祝同以示自己的心迹。到1931年6月，冯玉祥的旧部石友三等在河北举兵反对张学良，蒋介石为了剿灭石友三，不得已将顾祝同部的中央军调离陕西，并将洛阳行营主任遗缺由杨虎城接替。
1931年夏，杨虎城接掌了潼关行营后，对西北各省的地方军事力量积极进行了联系与收编。经过先后联系由蒋介石委任青海马步芳为新编第九师师长、陇东的陈圭璋为新编第十三师师长、陇西的鲁大昌为新编第十四师师长、甘肃河西走廊马仲英为新编第三十六师师长、天水马廷贤为陇南警备司令、陇北的石秀英为新编第九旅旅长、李贵清为新编第十旅旅长。一时间，甘、宁、青三省的军队都派有代表常驻西安，表示服从和进行联系。
当时，甘肃的情况比较复杂，中原大战前军政大权由冯玉祥控制。中原大战中在蒋介石的策动下，往日受冯军压迫的回汉地方武装，纷纷起兵，各据一方。冯、阎战败后，1931年元旦，蒋介石先后发表马鸿宾代理甘肃省主席兼新编第七师师长，雷中田为新编第八师师长，企图利用回族力量控制甘肃，并以回汉制约以利驾驭。不料马鸿宾到任后，根本无法领导雷中田和高振邦。雷是西北军吉鸿昌的旧部，虽接受了蒋的番号，但始终忠于冯玉祥和吉鸿昌，念念不忘如何恢复旧日西北军势力。在冯玉祥和当地不服回民统治的一些人士和政客的策动下，雷于1931年8月25日将马鸿宾扣留，自行改组了省政府，由马文车担任临时省政府主席，雷中田自任甘肃全省保安总司令。之后雷积极扩充势力，准备应付来自各方的压力。这一变化当时被称为“雷马事变”。
杨虎城在接掌了潼关行营后即派赵晚江代表他到甘肃与各方联系，不料赵一到甘肃就与雷中田勾结。“雷马事变”前未曾报告，事变后他居然当上了临时省政府委员。杨得知后十分震怒，即电撤销了赵晚江的代表身份。派行营参议杜斌丞、蒋听松入甘调查了解事变情况。杜、蒋了解后得悉甘肃政局相当混乱，既有集团利益冲突，又有深刻的回汉民族矛盾，而且各方都在积极备战，蠢蠢欲动，一旦战争爆发，定陷百姓于水火。鉴于此情，杨虎城要求出兵甘肃平息混乱。而蒋介石在甘肃大肆收编地方武装就是为了在自己力量还达不及时，让他们相互矛盾，互相制约，以便于控制，特别是可借此关上陕西的西大门，防止杨虎城势力进一步向西北其他地区发展。甘肃的混乱符合蒋的战略安排，他就将杨的出兵要求搁置不复，默许了甘肃政局混乱的继续。1931年8月，在北伐战争中被打败的北洋军直系头子吴佩孚，在四川军阀邓锡侯的护送下，自称兴国军总司令，率领八大处几百人的队伍由川北进入甘肃，受到天水甘军马廷贤的欢迎。马接受了吴所委任的“兴国军骑兵禁卫军总司令兼陇南护军使”头衔。继而又受到雷中田、马文车的欢迎，11月初进入兰州。吴佩孚抓住当时甘肃政局混乱的机会，首先出面调解了“雷马事件”，恢复了马鸿宾的自由，取得了当地势力派的支持。于是吴佩孚再展威风，一面让雷中田宣布独立；一面让四川刘湘、田颂尧、邓锡侯与甘肃、青海的雷中田、马步芳等18位连衔发出通电，拥护吴佩孚出山。杨虎城认为进军甘肃的时机到了，将有关情况和出兵要求一并报给了蒋介石。蒋也生怕这个好不容易才打败的吴佩孚东山再起，遂同意了杨的请求。杨即派十七师师长孙蔚如率领所部（缺赵寿山旅）并以潼关行营参谋长的名义指挥甘军陈圭璋、鲁大昌等一起协同平乱。孙部在甘军陈圭璋等军的支援下，经过定西、会宁的激烈战斗，消灭了雷中田、高振邦、王省三等三部，于同年12月初进入兰州，吴佩孚、雷中田等经宁夏逃往了北平。赶跑了吴佩孚、雷中田等，甘肃无人主持行政。杨虎城就电令孙蔚如暂代甘肃省政府主席并报蒋介石备案，意在试探蒋介石的意图。果然蒋很快复电，仅明令发表孙蔚如为甘肃宣慰使，表明他不同意孙主甘的态度。杨虎城为了维护已经在甘肃取得的军事利益，向西继续发展，无奈之下向蒋介石保荐了蒋的亲信、一向作为蒋杨之间政治桥梁的邵力子。这样一来，正中了蒋介石的下怀。头一天，杨的电报发出，次日蒋即复电照准，于1932年4月下旬正式对外公布邵力子为甘肃省政府主席。邵5月上旬到兰州上任。同时撤销了甘肃宣慰使署，免了孙蔚如的甘肃宣慰使，升为第三十八军军长。孙交出政权后移驻平凉。蒋介石通过杨虎城图甘的过程，看到了杨的发展企图，于是想方设法削弱杨的权力与力量。先是于1932年5月将潼关行营改为西安绥靖公署，限制了杨经略西北的权力，接着10月策动陕西警备师马青苑在天水发动叛杨兵变。马青苑在杨的亲自剿灭下失败，只身逃到南京，蒋介石先安排他进陆军大学深造，以后又派任平汉铁路警务署署长。1933年红四方面军向川北发展，建立川陕边区根据地，陕西汉中情势紧张。蒋介石先调胡宗南的中央军第一师进驻汉中。2月间又下令孙蔚如的三十八军与胡宗南的第一师互换防地。这样，蒋一下达到了三个目的：一是将杨虎城军事力量平稳地移出了甘肃；二是将自己的嫡系揳进了西部，看住了杨虎城西进的通道；三是在与红军的交战中进一步削弱杨的力量。
三十八军主力调汉中后，杨虎城仅有两个补充旅和一个炮兵营留驻平凉，由杨渠统以陇东绥靖司令的名义统领。杨渠统将部队由原来的每旅两个团扩编为每旅3个团，还收编了当地土匪成立了骑兵，另外增编了工兵、辎重营连同原来的特务营形成了一个整编师的规模。杨渠统看到蒋介石对杨虎城的限制，认为自己在十七路无再发展的空间，于是向甘肃绥靖公署主任朱绍良（蒋的嫡系）表示希望向外发展的意向。他没有采取公然叛变的举动，同时向杨虎城也表达了同样的意思。作为朱绍良这是他求之不得的事情，1934年，蒋介石将杨渠统部改编为新编第五师，从杨部肢解了出去，调到河南归刘峙领导。
随着杨渠统部的东调，杨虎城的军事力量彻底退出了甘肃。从1931年11月到1934年11月整整三年时间，他企图掌握甘肃军政大权，建立西进基地的计划遭到了失败。随之，马仲英的新编第三十六师在新疆被盛世才消灭；青海的马步芳、宁夏的马鸿逵都被蒋介石用金钱和地位拉了过去。1934年4月，蒋介石在事先毫无通告的情况下，解除了杨虎城陕西省政府主席的职务，由邵力子接任陕西省政府主席。可以说这是自1930年以来蒋对杨最重的一次打击，从此，蒋介石的政治势力正式进入了陕西。蒋介石与杨虎城的关系也由紧密走向决裂。
1934年10月，随着蒋介石在江西“剿共”战争的胜利，红军开始长途转移。蒋介石逐渐关心起西南、西北地区来。10月12日蒋介石偕夫人宋美龄和张学良一起驾临西安。这是蒋历史上第一次到西安。他为了拉拢杨虎城，在到西安的第三天就专程到杨虎城家中，看望杨的母亲孙一莲。经过是这样的：刚到西安不久，蒋的侍从室就通知杨虎城，说委员长要到杨家谒见杨的母亲。杨虎城感到很突然，遂诚恳致谢，再三劝阻，但劝阻无效，只好通知红阜街家里做些准备。
杨虎城自1930年11月率领十七路军在中原大战中打回陕西就任陕西省主席，可谓荣归故里，但他始终与部队住在一起。当时他自己偕另一妻子谢葆真住在十七路军总指挥部的所在地新城里。而在西安城内的红阜街为其母亲、妻子张蕙兰偕长子长女、弟弟杨茂三一家租赁了一个院落居住。为了迎接蒋介石，杨家着实忙了一阵子，将院落、房间打扫清洁，正在上学的长子杨拯民、长女杨拯坤也都向学校请了假，等在家里候驾。
杨拯民回忆：蒋介石到西安后天气连阴，接着又下小雨。10月15日那天下午三点钟，在父亲和葆真娘的陪同下，蒋介石、宋美龄大驾光临舍下。在大厅里向我祖母行三鞠躬礼后，即延请至客房坐下。
蒋和祖母分别坐在方桌的两旁，宋美龄和新娘坐在床上，父亲坐在祖母旁边一把椅子上。后由叔父领着我和坤妹晋见。我们进客房后，先向蒋、宋行鞠躬礼，蒋笑问我们年龄、学级，我和坤妹一一作答。蒋介石说了一句客套话，夸我们聪明；宋美龄则奇怪地询问客房里为何设有床铺？父亲解释说，若有客来可以在此住宿，床是为备用而设。蒋连声说：“好！好！这样很好！”
蒋介石给我的印象是个子高，脸形瘦削，那天穿着长袍马褂，披着斗篷；宋美龄年轻美貌，穿着高雅，头发后边有一个小发结。蒋在我家前后待了约有一个小时。也许有人会认为蒋的莅临是父亲和家里人的殊荣。其实，蒋介石是个玩弄政治权术的高手，他到西安后就听说父亲是个孝子，于是才萌生了谒见祖母之举。他用这种方式向父亲示宠，进行拉拢，真正的目的是想让父亲拥护他的“先安内后攘外”的政策。
另外，蒋介石每次见到杨虎城都在金钱上施以恩惠，随手就给一个信封，里面装的不是5万就是10万元的支票，这就是蒋介石的为人之道。
尽管蒋介石对杨虎城是又打又拉，但终究未能改变杨虎城的基本政治立场。蒋、杨在抗日问题上的分歧与矛盾随着红军到达陕西和东北军入陕后日趋尖锐。
