按照岳武庙会议部署，高士秀、高登云等人回到灵州后，即与马连第等灵州哥老会首领研究布置灵州民军起义。
1911年11月17日，高登云密令马连第（马是个屠户，在灵州城内开一座小杀坊）杀牛1头，秘密召集了20余名哥老会心腹骨干，深夜聚于灵州城内东大街王保子（哥老会人）的小商号内，以喝鸡冠血酒为盟，要求大家共举大事。会议由高士秀主持，首先传达了武昌、西安等地起义的情况和宁夏岳武庙会议关于举义宁夏的部署，然后分析研究了灵州地区清军的兵力和军事险要等情况，决定发动灵州武装起义。当众人群情激奋之时，高登云宣布：“我奉支那大元帅孙（即孙中山）来谕（诏令）和西安张都督（即张云山）的指令，要我革命起义，推翻清朝，建立民国。”他要求大家同心协力，不怕牺牲，大干一番。到会众人一致表示，愿意“干他一场”，听从命令，死也不怕，并一致推举高登云为灵州起义民军首领。会议决定当晚立即起事，具体部署是：高登云、马连第、杨忠厚率领起义民军攻占灵州城。行动方案是：先占领守备衙门，夺取武器，再攻占州署衙门，然后占领税局、鼓楼等处；朱邦科、孙学文率领部分起义民军攻取宁灵厅（金积堡）和董府等地；高士秀率领部分起义民军攻取横城，拔除援敌据点，与府城起义民军相呼应。最后，高登云向大家晓以革命大义，并申明军令：不准贪财好物，不准妄杀好人，严禁奸淫妇女，违者斩首！行动时不准狂呼怪叫，惊惶失措。规定夜间联络口令为“虎、豹”，双方相见，一方言“虎”，一方言“豹”，即为自己人。
会后，高登云、马连第率领民军100余人，首先攻打守备衙门。高登云手提仅有的一支毛瑟枪，率一部分人攻打前门，马连第率一部分人攻打后门。当时守备朱某也是哥老会人，高登云向其晓以大义，说明来意，朱守备诺诺听命，没做任何抵抗，就放下了武器。在朱守备的影响下，其部官兵主动放下武器投诚。起义民军未动一刀一枪，便顺利地占领了守备衙门，缴获了一批枪支弹药，收编了一部分清军官兵。当时灵州城内的平民百姓闻讯后，纷纷要求参加民军，顷刻间发展成为一支数百人的起义队伍，且大部分人都有了武器。起义民军稍事整编后，留杨忠厚率部分民军据守守备衙门，高登云与马连第各率一部民军直扑州署衙门。保卫州署的守备潘某见民军来势凶猛，不敢抵抗，遂弃城抛众，越墙逃遁。民军顺利冲进衙门，打开监狱，放出囚犯，火烧二堂。知州余重基惊惶失措，吓得瘫作一团，央求衙役崔喜贵从后门背逃，藏于聚义园商号。
起义民军占领州署衙门后，留马连第率部分民军在此镇守，高登云亲率余众攻打灵州税局。高登云走后，马连第侦知余重基的藏身之所，他没有向高登云报告，便私自派人将余重基秘密送往绅士徐相家中藏匿。高登云在灵州税局，杀死了民愤极大的杨姓局长，刀伤师爷王文炳，并缴获税局的一些财物，没收两三家豪绅当铺。起义民军一夜之间就顺利占领灵州城，起义一举成功，民军也迅速发展到1000多人。事后，灵州社会上流传着两句民谣：“高登云乱了灵州城，杀了个半人”。“个半人”，即一个半人，指杀死杨局长，刀伤王文炳。
18日夜间，高登云召集哥老会骨干人员，研究成立灵州军政府及义军名称、编组问题。19日，在灵文书院召开大会，到会者约100多人，大多是哥老会人。会上宣布成立灵州革命军政府，高登云被推举为大元帅，马连第为副元帅，杨忠厚为参军（相当于参谋长）。军政府下设政务、军务、参赞、军需四部。义军称“灵州复汉军”，军旗为白色，上写红字“顺南”，意为响应南方的武昌起义。所有义军由军政府统一领导，暂编为5个营，带兵官称管带；每营辖4哨，带兵官称哨官（相当于连长）。同时，由杨忠厚执笔，发布安民布告，内容大意为：“奉支那革命大元帅孙谕……各省起义，驱逐靼虏，上应天命，下顺民心，宗旨正大，切合国情……第一保商，第二护民，回汉等教，一视同仁。不准谣言惑众，不准抢掠奸淫。凡我军民，其各凛遵，倘敢故违，定予严惩。”军政府成立后，为防备清军顽固势力反扑，在稍事整顿社会秩序后，即积极招兵屯粮，征集民间武器，并整修城郭，分兵把守。当时报名投军者络绎不绝，尤以煤窑工人居多，义军人数猛增至二三千人。城乡社会秩序井然。在灵州举义的同时，负责攻取宁灵厅和董府的孙学文、朱邦科，由于贻误战机，让驻守清军有了准备，致使攻取宁灵厅和董府的计划失败。
灵州光复后，按照军政府的安排，高士秀于20日傍晚率义军进攻横城。横城，位于黄河东岸，是水陆交通要冲，也是灵州和宁夏府城的门户，隔河与府城相望。城内驻守着二三百名装备精良的清兵，由5位崔氏兄弟负责，人称“崔家五虎”。高士秀先派数名精干的哥老会人化装混入城内，与城内驻守清军中的哥老会取得联系，约为内应。当时驻守横城的清军都司（相当于营长）探悉起义民军来攻城，慌忙弃众携眷潜逃，高士秀率领义军里应外合，未动一刀一枪，轻取横城，收缴了清军1个营的武器和马匹，并收编了大部分清军。高士秀掌握了约300人的装备齐全的队伍。至此，宁夏义军在军事上形成了以灵州、横城、府城（11月20日光复）三处遥相呼应的犄角之势。
