明代官场上素有“命运低，得三西”之谚，“三西”是指山西、陕西和江西三省，其意是被派往这三处无油水可捞的穷地方做官，只能怨自己运道不佳。海瑞所到的兴国县，就是一个相当穷困的地方。他下车之始，正值兵荒马乱之余，户口稀少，百废待举。海瑞毫无怨言地又开始了救助黎民的行动。有了若干年的从政经验，海瑞到兴国后似有轻车熟路的感觉。他敏锐地发现当地居民贫困的主要原因在于各种名目的征派太多，便向南赣都御史吴尧山上陈“八议”，即8项治理的主要措施，这些措施切中时弊，言人所不敢言。他又亲自监督清丈土地，铲除当地恶霸，解决土地纠纷。海瑞的一系列举措大都得到了南赣巡抚吴尧山的支持，在短短一年多的时间里，做了不少兴利除弊之事。
嘉靖四十三年（1564年），海瑞携二仆北上，授户部云南司主事（正六品）。从此，海瑞开始在北京任职。当时在位的明世宗自15岁登基后，已在宝位上坐了四十多年。即位之后，面对明武宗留下的混乱局面，世宗求治之心甚锐，惩治奸佞，广施善政，天下忻然，出现了少有的太平景象。但是好景不长，这位世宗皇帝就闹出荒唐之事。其一，为“大礼之议”。他本人并非武宗之子，其父兴献王乃明宪宗之子。他即位后，一心想为生父弄一个光彩的名分。一些阿谀奉承的朝臣为满足世宗的要求，肆意改动皇帝世系，惹得众多大臣拼死抗争，世宗颇为恼怒地进行镇压，一大批官员被入狱，处死、流放数百人，一时震动天下。此事过后，庙堂之上敢与世宗对抗的极为罕见了。其二，是这位世宗皇帝特好方术，千方百计寻求长生不老之道，故而在皇宫内院日日斋醮，搞得乌烟瘴气。斋醮仪式上，需要“青词”，即写给天神的表章，一些无耻文人为讨世宗欢心，挖空心思，巧为制作，不少阁辅甚至因善此道而被称为“青词宰相”。虽然世宗专心于斋醮，但他素以刚愎自用著称，十分担心大权旁落，对内阁大臣疑心颇重，因而朝中大臣为争夺权力开始了复杂的斗争，先后担任首辅大臣的有杨廷和、费宏、杨一清、夏言等人，而世宗朝任期最长、影响最大的还要数严嵩。
严嵩以一意媚上而独擅大权，心计之奸猾一时罕有其匹，“移帝喜怒，往往不失”，借世宗之手诛除异己。独揽大权后，贪污受贿，作威作福。不少正直的官员奋不顾身弹劾严嵩，结果大多惨遭毒手，最出名的是杨继盛，于嘉靖三十二年（1553年）揭发严嵩十大罪和五大奸，严嵩恼怒至极，命亲信处杨继盛绞杀之刑，而世宗并不同意，在狱中关了两年之后，严嵩竟将其名混入其他卷宗，瞒过世宗，终使杨继盛含冤就戮。以后徐阶得到世宗的信任。严嵩因年迈智昏，握权太久而使世宗极为厌恶，一些乖巧的大臣乐得“墙倒众人推”，终于扳倒了严嵩父子，徐阶继任首辅。这是海瑞入京前两年的事情。
严嵩的破败丝毫没有影响世宗对方术、祥瑞、斋醮的迷恋，深居西苑，乐此不疲。有一次，世宗竟提出让太子监国，自己专心修炼，满朝文武惊愕之余，谁也不敢提出异议，只有太仆卿杨最抗疏上谏，指责世宗春秋方壮，尊为人主，竟妄想升仙。正在兴头上的世宗勃然大怒，立即将杨最打下锦衣卫诏狱，重用杖刑，杨最还未等杖刑完毕就已一命归西了。世宗在位期间，并不乏忠言上谏之人，然而都落得极其悲惨的下场，因而再也无人敢批鳞揭短，犯颜强谏了。
这便是海瑞进京后面对的严酷现实，一贯以守道尽节为己任的海瑞不能坐视黑暗污浊的泛滥。他开始酝酿，准备用自己的生命去作一次搏击。他与翰林王弘诲交往甚密，一日论文对酒之余，忽取出20两银子交给王翰林道：“我死必以此葬我。”海瑞这位铁骨铮铮的伟男子于嘉靖四十四年（1565年），冒死上《治安疏》。
在这篇惊世骇俗、震动天下的奏疏中，海瑞淋漓尽致、酣畅透彻地揭露了世宗即位以来的种种过失，措词相当激烈。指责世宗“专意修炼，竭民脂膏，滥兴土木，二十余年不视朝事，导致法纪废弛；数年滥封侯爵，名器贬值；与皇子不相见，薄于父子之情。以猜疑诽谤戮辱臣下，薄于君臣之恩；乐西苑而不返，薄于夫妇之德。吏贪官横，民不聊生，水旱无时，盗贼滋炽。”“且陛下之误多矣，其大端在于斋醮。”这种一针见血的指摘恐怕是任何一位惟我独尊的帝王所无法忍受的，一向专断护短的明世宗更不例外。嘉靖皇帝阅毕，大怒不已，将奏疏扔在地下，对左右近侍道：“赶快将此人抓来，不要让他跑掉。”在旁的宦官黄锦却不慌不忙地说：“此人素有痴名，听说他在上疏之时，知道所奏定会触怒圣上，所以预先安排好后事，买好一口棺材，与妻子诀别，正在朝房待罪，手下僮仆已全部遣散，因而臣等料定他是不会逃跑的。”这平静的一席话竟然使恼怒已极的世宗惊得目瞪口呆，半晌说不出话来。面对这样一位置生死于度外的刚直之士，他还能像处置杨最等人那样故伎重演吗？在群臣的众目睽睽之下，就是把海瑞抓来了，又能将他怎么样呢？况且海瑞之言句句是实，又如何反驳？想到这儿，他不得不又拿起海瑞的奏疏。
其实，海瑞奏疏的内容是多方面的，并非一味地“骂皇帝”。他首先对世宗皇帝有较多的肯定，如云：“陛下天质英断，睿识绝人，可以成为像尧、舜、禹那样的贤明君主，……即位初年，革除积弊，焕然与天下更始。”这些话自然是世宗所爱听的。其次，海瑞对天下臣子的阿谀媚上也进行了鞭挞，他明确指出，君王有过，正赖臣子匡救，而当时臣子争相媚上，例如世宗喜欢醮修，群臣相率进香；发现天桃天药，大臣相率表贺。皇帝想修建宫室，工部极力经营；皇帝命取香觅宝，户部立刻四处派出差役。可谓“陛下误举，诸臣误顺，无一人为陛下一正言焉”。“欺君之罪何如？”最后，海瑞对世宗的重新振作、翻然悔悟充满了希冀，如切盼世宗“一洗数十年君道之误，置身于尧、舜、禹、汤、文、武之上；也可使其臣洗雪数十年阿君之耻，……陛下何不为之？”可见，海瑞的论疏并不是片面的，而是相当全面合理的，既明确地披露了世宗政道之失，又批评了臣下的无耻媚上，同时对世宗的改正抱以厚望，这不能不说是海瑞《治安疏》的高明之处，《明实录》的著者们曾下按语道：“瑞疏言谠而意忠，非欲批逆鳞而沽直者。”故而世宗反复披阅后，也不得不在奏疏上批道：“这厮有比干之忠，只不过朕并不是暴虐无道的商纣王。”不过，愤怒难消的世宗还是把海瑞抓了起来。
嘉靖四十五年（1566年）十二月，世宗崩于内宫。其遗诏中有云：“见监者，即先释放复职。”海瑞赖此方才重见天日。当监狱主事得知世宗驾崩的消息，估计海瑞定会重新起用，便设盛馔款待海瑞，而海瑞却以为这是他“最后的晚餐”，按惯例。第二天处死的犯人必于前一日饱享一顿酒饭。海瑞豪饮狂啖，兴致极好，主事不免奇怪问道：“先生今日何欢之甚？”海瑞坦然道：“欲作饱死鬼耳！”主事连忙说：“别误会，别误会，适才闻听宫中人云皇上驾崩，先生可见大用矣！”海瑞闻听此言，大为震惊，问道：“消息可靠吗？”主事作了完全肯定的回答。没想到海瑞非但没有半点喜色，反而扑倒在地，嚎啕大恸，刚刚入口的酒菜一并呕出，绝而复苏，终夜痛哭不止。
“人生自古谁无死，留取丹心照汗青。”这大概是恪守儒家道德规范的传统士大夫所企盼的人生最高境界。“文死谏，武死战。”在以卫道士自命的海瑞看来。这是天经地义之事，也就是他敢于冒死强谏的思想基础。同样，也就在这一轰动全国的事件中，海瑞真正实现了他孜孜以求的道德理想，“一日而直声震天下，上及九重，下薄海内外，无不知有所谓海主事也。”可以说，海瑞本人的道德追求获得了极大的成功，然而，这并不能为其实现自己救国救民的政治理想开启绿灯。
新即位的穆宗皇帝早就听说了这位“海刚峰”的大名，因而海瑞很快官复原职，天下官民拍手称快。不久，海瑞又升迁为大理寺右丞，官居正五品，开始了一段较为平静的仕宦生涯。先后历任两京左、右通政（正四品）等职。隆庆三年（1569年）夏天，海瑞又升任都察院右佥都御史巡抚应天十府。到任之后，海瑞锐意兴革，整肃吏治，一切以黎民百姓的利益为重，力摧豪强，扶助贫弱。没想到由此掀起轩然大波，海瑞的抗争遭到失败，几乎完全断送了自己的仕宦之路。
应该说，海瑞过于乐观，错误地估计了局势。海瑞曾在浙江淳安、江西兴国大力整顿吏治，使当地面貌为之一新。虽然由于抵制朝廷高官，遭到报复，但他兴利除弊的行动并没有受到过多的阻力。这两地均属偏僻穷苦之地，没有多少官僚士绅的势力，海瑞在当地的政治改革的影响相当有限。而应天十府的情况就大相径庭，应天巡抚的辖区有应天（今南京）、苏州、常州、镇江、松江、徽州、太平、宁国、安庆、池州等地，是当时明朝人口最集中、经济最富庶的地区之一，大批闲居的官员麇居于此，号称“仕宦之渊薮”。海瑞的莅任本身就引起了当地士绅的惊慌。自忖有贪贿行为的官吏要求辞职或改到他处任职，原装有赭红色大门的豪强也连忙将门漆成黑色。名满天下的海瑞意气轩昂地“单车入官署”，“慨然以澄清天下自任”。
但海瑞没有认真分析应天当地的客观状况，却把他在淳安、兴国等地的施政经验照搬照抄，如他将《淳安政事》一书润色扩充为《督抚宪约》，宗旨仍然是“斥黜贪墨，搏击豪强，矫革浮淫，厘正宿弊”。海瑞的施政特征首先是“搏击豪强”，即专门跟称霸一方的豪绅之家作对。然而要在应天十府做到这一点，不啻于捅马蜂窝，引火烧身。当时有识之士就明确指出：“天下财货，皆聚于豪势之家。”应天一带正是官绅地主集团力量最集中的地区。赵翼《廿二史札记》中专有一节《明乡官虐民之害》，扼要地抨击了明代官绅横暴乡里、鱼肉细民的状况，这也就是应天一带情形的真实写照。其中最突出的便是土地兼并的矛盾。豪强田连阡陌，弱者无立锥之地，丧失土地的农民被迫四处流亡。一州一县之内，流徙之民，常居其半。这种状况不仅导致朝廷的税赋不足，更激化了社会矛盾。面对如此敏感而棘手的难题，海瑞竟“冒天下之大不韪”，从土地问题开刀，逼令侵夺民田的官绅之家退田。而当地占地最广的士绅之一竟是对海瑞有恩的退休首辅徐阶，产业之多，令人骇异，据说有田数十万亩。海瑞也一视同仁，责成徐阶退其田亩的半数以上。这使饱受势豪欺压的平民有了扬眉吐气、申诉冤屈的机会，却让徐阶处于十分难堪的境地。贫苦农民成群结队，沿街呼号，每日都有上千人在徐府门前示威哄闹。徐府家人无计可施，只得取来臭泥粪堆在院前，见有人闯入便用泥泼出。徐阶对海瑞可以说是恨之入骨。作为曾经叱咤风云的一代权臣，徐阶自然不会坐以待毙，他的暗中活动在很大程度上决定了海瑞的命运。
