明弘治十七年（1504年），陕西三边总制秦紘内迁为户部尚书，离开固原。陕西三边总制空缺，各镇总兵、巡官失去统一指挥，一时边备松弛。弘治十八年（1505年）一月，鞑靼小王子部3万余骑于花马池拆开边墙入境，围攻灵州，又遣骑兵攻掠韦州、环县，并攻入清水营（在今盐池县境内）。二月，小王子部久围灵州城不能下，撤围而去，转攻宁夏镇城。三月，又攻掠兴武营。十月和十二月，小王子部自花马池、清水营两处进入，由下马关直至固原、隆德、静宁等地，杀掠20 日。由于鞑靼大犯固原等地，正德元年（1506年），兵部尚书刘大夏请命杨一清总制陕西三边军务。正月，明廷以巡抚陕西都御史杨一清（弘治十八年正月杨一清曾巡抚陕西）总制延绥、宁夏、甘肃等处军务，兼督马政。是为杨一清第一次总制陕西三边。
由于杨一清在陕西数年，对西北边备体察于心，哪些地方防御欠疏，哪些地方可以凭借山河阻隔，以及北方少数民族入边的特点等均了如指掌。早在他担任陕西马政御史时，就发现鞑靼骑兵东线进入固原的必经之路是预望城（俗称预王城，今同心县预旺乡）。该地地势险要，易守难攻，于是他便在预望城设立平虏守御千户所（为与宁夏平虏守御千户所相区别，史书名曰“预望城平虏守御千户所”），调配2000名精兵据守，将这里建成遏制鞑靼东路入侵固原的屏障之一。为加强花马池防御力量，他奏请将花马池守御千户所升格为宁夏后卫，调西安、庆阳及宁夏招募的士兵充实其实力。他又立兴武营守御千户所，改灵州千户所为灵州守御千户所。通过增设卫所的措施来加强边备。杨一清还根据边境各段的地理环境，具体提出了每一段宜设墩台的座数、守军的人数以及招募兵员加强防守力量等建议，并一一付诸实施。杨一清积极主张在宁夏修筑边墙。他说，国初放弃阴山防线，筑东胜城（今内蒙古托克托），已失去一面险要之地；其后又丢掉东胜，退守榆林，遂使河套肥沃之地成为鞑靼的巢穴，宁夏形势一变而为三面临敌。他认为收复东胜，以河为固，东接大同，西连宁夏，使河套千里之地归我耕牧，这是上策。如若不能，就要增筑边墙，增强防御能力。正德二年（1507年），明武宗同意杨一清的建议，批拨国库银10万两，由杨一清负责修筑定边营至横城的150公里边墙。
杨一清调发陕西八府各卫丁夫9万人修筑边墙。在兴工修筑时，他考虑到民工长期劳作之苦，就把民工分为两批，每批筑墙3个月，到期轮换。为了保证民工的生活，杨一清规定每人每天保证供给口粮若干，他还动用官银购置药品和请医生。杨一清为筑长城四处奔走，积劳成疾。但把持朝纲的太监刘瑾，对不愿依附自己的杨一清十分恼怒，竟诬陷他浪费边防费用，罗织莫须有的罪名，将杨一清抓捕入狱。后在大学士李东阳、王鏊等人的大力营救下，才免罪释放回家。这道150公里的边墙仅完成20公里，被迫停止，他的边防计划未能得到实施。杨一清第一次总制三边就此宣告结束。
时隔3年，宁夏发生“安化王之乱”，明武宗令致仕在家的杨一清以原官改任兵部尚书兼都察院左都御史第二次总制陕西三边军务，与御用太监张永领兵3万共同指挥平叛事宜。五月，杨一清准备出发时，刘瑾矫诏改户部侍郎陈震为兵部侍郎兼佥都御史替代杨一清去讨叛，倚为心腹。因朝臣众推杨一清，刘瑾只好屈于公论。杨一清还未到达宁夏，其旧部将领仇钺已将朱寘鐇捕获，叛乱已经平定，但宁夏社会秩序还相当混乱，有人传言，京师3万大军要血洗宁夏。杨一清为了消除宁夏军民的恐慌心理，奏请朝廷撤回京营军队，自己和张永前往宁夏处理善后事务，恢复宁夏的社会秩序。
杨一清到达宁夏后，发现与兵变有关联的人，个个惶恐不安，大批人员准备逃走，官府的文件命令无法传达下去，局面十分混乱。安化王之乱的情况比较复杂，涉及王室成员、各级官吏、将官和大批士兵。杨一清的善后政策是：“只诛首恶，不究胁从，有功者录用。”五月二十三日，杨一清发布文告，向宁夏军民讲清政策，打消人们的顾虑，初步安定了人心。
因这次兵变而被捕的起事者和连坐者多达1000余人，宁夏地方官吏准备把大批人犯押解京城请功。杨一清知道，如果这些人都押到京城去，肯定要被处死，因此他阻止了这一做法。他决定进一步查证主犯，不要把胁从人员牵涉进去。当时，这1000多人都集中关押在灵武，由外地调来的6000名官兵看守。太监张永认为，宁夏的局面没有完全安定，要求把起事者斩尽杀绝，以除后患，并坚持把6000名外调官兵留下来以防不测。当时宁夏城镇人心惶惶，老人、孩子和妇女外出躲藏，青壮年在家里都拿起刀枪，形势依然很紧张。杨一清告诉张永，宁夏被迫参加兵变的人何止数千，在主犯已被擒获或杀死的情况下，再深入追究他人，势必会引起社会更加混乱。于是，他果断命令撤走调来的军队，缩小打击范围。杨一清亲自到犯人中间询问情况，监督审查，详细记录口供，调查核实，根据实际情况做出最后判定。对犯人的远亲、雇工、人役等先行释放回家，一律不予追究。
由于杨一清处理得当，政策对头，宁夏的社会秩序很快就安定下来，人们恢复了正常的生活，逃走的人也纷纷回家。
兵变平定后，张永回京复命，杨一清继续留驻宁夏，处理边防事务，做了大量有益于宁夏百姓的事情。经过兵变的动乱，加上宁夏各地严重的自然灾害，人民生活十分困难，官府收入也不足。杨一清奏请朝廷免除宁夏一年的赋税，还下令减少民众20誠的徭役，偿还以前官府所欠商人的银两，大大缓解了民众的负担。杨一清还清理了被宁夏镇守太监、总兵、游击将军等各级官吏私自占据的湖地草滩和为将官私人劳役的兵丁2000多人。湖地草滩全部收归官府，收入用于宁夏的边防事业。在当时朝廷上下政治一片腐朽黑暗的情况下，杨一清敢于打击地方官吏侵公肥私的行为，切实减轻军民负担，实在是非常难得的。其间，杨一清还与张永在叛乱平定后，合谋除掉刘瑾（下文专述）。不久，杨一清还朝，进户部尚书，又改吏部兼武英殿大学士。后因武官江彬擅权，杨一清辞官而去。
15年后，即嘉靖三年（1524年），由于西北边境不宁，朝廷因杨一清熟悉边务，又起用他为兵部尚书加左都御史，第三次总制陕西三边。这时的杨一清已是一位71岁的老人了。从表面上看，他第三次总制三边，是以兵部尚书、左都御史的身份出任，确为朝廷重臣，也是很得意的，但其内心却是凄凉伤感的。往事悠悠，触景生情，心情是矛盾的，一方面觉得年事已高，应该功成身退，不再涉足千里沙场；一方面又觉得皇恩浩荡，君臣之义这个无形的链条在牵制着他。
杨一清虽然因年老而伤感，但他并未因此而忘记实施自己的强国之策，富民之道。到任后他便向朝廷上疏，请求招徕陇右、关西居民到边地屯田，以期用商屯与民屯的方式来解决边军粮饷的问题。可惜此次在任仅1年时间，后任者虽“争言屯政”，但收效甚微。嘉靖四年（1525年）十一月，杨一清离开固原回京，改任吏部尚书和内阁首辅。嘉靖八年（1529年），被参落职。嘉靖九年（1530年）四月卒于家，享年77岁。追谥文襄。著有《关中奏议》《石淙类稿》《石淙诗集》等。
杨一清前后为官56年，历成化、弘治、正德、嘉靖四朝，正如翰林修撰杨慎所云：“四朝元老，三边总裁，出将入相，文德武功。”杨一清第一、第二次督边时，正是正德皇帝朱厚照在位期间。杨一清虽然忠于朱明王朝，致力于边防事业，但朱厚照并不是个好皇帝，他在位16年，始终重用宦官，喜好游玩作乐，不理朝政，以致正德前期，刘瑾窃权误国，民不聊生；正德后期，江彬得势，人心汹汹。在这种社会背景下，杨一清的宏图大志虽然不能完全实现，但他还是尽心尽力地为巩固明朝边防做出了贡献，为边疆百姓做了一些有益的事情。嘉靖三十六年（1557年），宁夏人民为了缅怀他在宁夏的功业，在灵武城北修建公祠，让世代祀颂这位致力于边防事业数十年的一代名臣。
