于成龙在直隶时的《严禁奢靡檄》（《政书》卷5）中比较详细地说明了他寡欲清心、持操守廉的思想根源：“天地之生财，止有此数，过用则易竭，奢费必不可支，且暴殄狼藉，凶扎随之，必然之理也。”也就是说，天地所供给人们的物质是有限的，若不珍惜，肆意浪费，就会出现供不应求的局面，若是一旦供不应求，社会就要大乱。他主张生活节俭：衣遮体即可，食充饥足可，平时“能节一粒则节一粒，能节一分则节一分；日积不见多，而岁积则日盈，苟逢水旱灾荒，未必致捉襟而肘露也”。他不仅自己仔细过日子，而且通饬直隶全省吏民勤俭节约。在用饭方面，不许珍馐杂陈，网罗水陆禽兽，只需适口即可；在衣着方面，要遵循一般款式，适体则可，不许华丽斗奇。为了推行简朴之风，他牌令为民上者“躬先俭朴，谆谆劝导百姓，务使百姓咸知物力艰难。转相化勉，共返淳朴之风，移风易俗”。
康熙素知于成龙廉洁奉公。康熙二十年（1681）二月初五日，于成龙到京见驾。康熙命侍卫在午门外设席，并传谕于成龙：“巡抚年老不胜步，宜少坐。”于成龙在午门外缓了口气，步入太和殿拜见康熙，赐坐，赐茶。二十七岁的少年康熙，对六十五岁老态龙钟的于成龙说：“尔为今时天下第一廉吏，殊属难得。朕闻尔昔在黄州，土贼啸聚，尔往招之，即时投顺解散，何以致之？”
于成龙对曰：“臣惟宣布皇上威德，未有他能。”
康熙问：“尔所属吏员，亦有清廉者否？”
于成龙对曰：“知县谢锡衮、同知何如玉是清廉者。”
康熙曰：“尔前所劾知县赵履谦甚当。”
于成龙奏曰：“赵履谦过而不改，臣不得已而劾之。”
康熙曰：“为政之道，当知大体，小聪小察，不足为多，且人贵始终一节，尔其勉之。”
这之后，于成龙将自己任职的情况诉说一遍。君臣相谈甚久，赐食于御书房，君臣同餐。临别之时，康熙勉励于成龙持操不易，竭力督造沙河皇后梓宫。于成龙见过康熙之后，了却了多年的夙愿，到达沙河。
次日，康熙给于成龙作诗并写序。一星期后的二月十二日，翰林院掌院学士库勒纳、一等侍卫对亲到沙河传旨：“直隶巡抚于成龙：卿自外任小官，即闻有清廉之名，继历升巡抚，益励清节，自始至终并无改操。屡有亲友旧识私相请托者，概行拒却，绝不允从。及往沙河，所属人员及亲友一切馈遗拒而不纳，此等清节，朕闻之不胜嘉悦。卿历官廉洁，因致家计凉薄，兹特发内帑银一千两，朕亲乘内厩良马一匹连鞍，命库勒纳等亲赉赐卿，俟事毕再到京师谢恩。卿受此宠赉，想当益加砥励。朕尚亲制诗一章，嘉尔清廉，因装潢未就，俟到京日颁赐，一并谢恩。”
但是，还没等于成龙公事完毕到京，康熙就于十八日，命武英殿大学士明珠、翰林院掌院学士库勒纳、一等侍卫对亲到沙河赐给于成龙御制诗和序。
序曰：“直隶巡抚于成龙秉性淳朴，廉介夙闻，朕心嘉赖。俾典节钺，保厘畿辅，唯能激浊扬清，始终如一。清洁之操，白首弥励，真国家之可重，人所不能也。兹来陛见，爰赐以诗，用示鼓励之义，且以风有位焉。”
诗曰：
自昔崇廉治，勤思吏道澄。
郊圻王化始，销铭重臣膺。
政绩闻留牍，风期素饮冰。
勖哉贞晚节，褒命日钦承。
接二连三地受到康熙的嘉奖，这是于成龙一生中最难忘怀的黄金时期。康熙大张旗鼓地嘉奖于成龙的“清节”，显然是借于成龙之力，推行他的勤政廉政之策。
于成龙为官从北到南、从南到北二十余年，然所蓄家私寥寥无几。康熙亦知他“家计凉薄”，所以特赐一千两银子，然而于成龙并未将一千两银子用于改变其清贫凉薄的面貌，而是买成两万石粮食赈济了灾民。
在直隶巡抚任上，于成龙禁火耗，查劣员，整顿吏治，重才惜才，这些都是他清正廉明的表现。特别有趣的是，他举荐同名循吏通州知州于成龙的事。
康熙二十年秋，康熙在行宫召见于成龙时问他：
“爱卿所属官员有谁尤佳？”
他毫不犹豫地答道：“通州知州于成龙尤佳。”
康熙笑道：“老爱卿何故以同名同姓者荐之？”
于成龙道：“古人荐贤不避亲仇，庸才岂敢以同名同姓之嫌而避荐贤良。”
康熙点头道：“彼于成龙乃朕留任之吏也。”
原来，通州于成龙，字振甲，汉军镶黄旗人。时人称之为小于成龙，后也是有名的清官。康熙七年（1668），由荫生授直隶乐亭知县。八年（1669）署滦州知州，因为罪囚脱逃而又降调到乐亭。老百姓联名上疏吏部，列举他的功绩，要求留用。九年（1670）二月，县民再次向巡抚金世德请命，金世德查明百姓所列举的善政都是事实，因此恢复了于成龙的县官职务。十三年（1674）六月，因为捕盗超过了限定的期限，部议又要降调，金世德奏言：“乐亭旧为疲邑，成龙抚援调济，与民相宜，可否留任？”吏部因为于成龙出了两次差错，且盗案超期受处分是严例，因此不准金世德所请。金世德又向康熙请命，康熙降旨：“于成龙抚援疲邑，与民相宜，允其留任。”十八年（1679），擢通州知州。
“以爱卿之见，于成龙其人如何？”康熙又问。
于成龙道：“操守有余，不在庸才之下。惠政通变，足在庸才之上。才干超凡，庸才望尘莫及也。”
康熙一语双关地说：“成龙才品，朕已久知矣。”
谈话之时，于成龙不禁打了个寒战。康熙这才发现于成龙布衣单衫，于是顺手脱下自己的银鼠褂，披在于成龙身上。是日，康熙又赐给于成龙膳酒等食物。饭后，于成龙伏道送康熙，康熙见于成龙老迈非常，举步艰难，便勒马停蹄，等于成龙跪好才走出行宫。
康熙二十年（1681）十二月二十八日，于成龙升为两江总督。两江，指江南江西，其时江南已分为江苏、安徽两省，但统辖江苏、安徽、江西三省的总督仍称两江总督。康熙二十一年（1682）四月，在请假三个月为停柩五年的养母归葬后，于成龙单骑入府，就任两江总督。
位高权重的于成龙仍然不改清廉的作风。在黄州时有“于半鸭”“于糠粥”之谣，在江南亦有“于青菜”之传。于成龙在两江时，每天吃一盂糙米，一匙粥麋，一碟青菜，终年不知肉味，因此外号“于青菜”。也有的说，署院后有一株槐树，于成龙常以槐叶为菜，槐树被吃成光枝秃丫，所以叫他“于青菜”。
于成龙本来十分好酒，到两江后，酒量大减，再未醉过一次。有时工作到深夜，饥饿难忍，想熬碗稀饭打打尖，但苦于米罐空空而兴叹。幕僚笑他为“无米总督”。
为了能够使《严禁奢靡檄》不至成为一纸空文，于成龙在两江任上继续推行禁奢侈崇节俭的政策，指令州县之官和倡导士大夫从自己做起，力行简朴，将督促乡民俭办婚丧等事作为考查官吏称职与否的一条标准。并将不行节俭、不教化黎民的官员以渎职罪纠参。
据史书记载，于成龙在江南移风易俗很有成效，自于成龙上任后，两江人争穿布衣，一改昔日浮靡之风。
于成龙的清俭与他的民本思想紧密相连。作为深受儒学熏陶的汉人官员，他深知官清可减民困，可稳民心。他以清廉而深得民心，深受皇恩。康熙需要吸收汉人精英进入统治阶层，帮助建国不久的满族统治者收拢民心，集中精力对付尚未平定的四方。于成龙是康熙帝重用汉族官员的典型，始终恩恤有加，树为吏治楷模。
二施仁政
于成龙深通孔孟之道，他知道要维持一定的统治秩序必须以民为本，发展生产。在这一为官思想的指导下，他在23年为官生涯中体察民情，与民同忧，力施仁政，做出了斐然政绩，这是他深得民心的主要原因。
康熙十年（1671），黄州大旱。于成龙在“勿使一民饿死”的口号下开仓赈济，并召集黄州大户，温言巧劝，令其解囊相助。黄州大户素知于成龙秉性，悉听无违。他节省银米施舍于民，以致囊中悬罄，揭不开锅，还无可奈何地卖掉自己所乘骑的一头骡子。二府衙门外，有褴褛老人求赈，他都一一济粮。有老弱病残而行动不便者，他就亲自带人带粮到村镇去，查访赈济，不教一粒赈谷滥发。一天，有个妇女领赈谷，问她家境，她说，家有两子，长子二十岁，幼子十六岁，都已成人了。于成龙怒道：“有这么大的两个儿子，不能养母，还有脸让母亲来领赈谷吗！”于是将两子招来，各打二十大板。
有某主人饥寒交迫，勒令他的仆人自己赎身。仆人交了一半赎身钱而力已竭矣，不能全部偿还。其主人告到二府。于成龙审明情因后对主仆二人说：“仆人赎身非仆人本意，乃主人窘急勒令仆人赎身。今仆人不能全付，而主人又无力退半，本府代为之。”于是替仆人出了一半卖身钱，平息了一场官司。
康熙十三年（1674）八月，于成龙就任黄州知府伊始，因为军需困民已久，于成龙强打精神，到罗田、黄梅、英山、黄冈等县考查，毅然为民请命，写下《为黄州各属报灾请蠲详》（《政书》卷二），将春涝夏旱的灾情陈叙一番，申明正在吴三桂叛乱之秋，荆州岳州用兵之时，民困军需已成鸠形鹄面，不可再向州民征粮征赋。又说：“至于老弱沟壑，少壮流离，惨不忍言。饥寒切肤，群聚为盗，宜为后虑。……逆贼作战，人心共愤，指日授首。当事请协饷以济军需，暂宽此日灾民之命，将来百姓感恩，踊跃输赋报效者，正自无穷。诚有黄梅县革职知县王庭龙所详‘留此一邑灾黎，为日后种田输赋之民’，可谓痛哭流涕，实意为国为民者矣！成龙更有请焉。目前荆岳进剿，备办槽铡锅桶，起运草束谷米等项，无不赖民力以输，将若宽小民效顺之力，并可得小民效顺之心。成龙愚昧，不识忌讳，统祈宪截祥情题蠲……以救命，以培国脉……”
当时张朝珍最伤脑筋的就是征赋之事，而于成龙一到黄州，就请求蠲免粮赋，真是让人两头为难。张朝珍深思熟虑之后，请皇帝亲自裁处，康熙准之。
作为封建官吏的于成龙具有双重人格，一方面是封建主子的走卒，一方面是百姓的保护神，同时要充当两者之间的纽带和调节器。他既精忠报国，又呕血于民。之所以呕血于民，是因为“民为国本”；之所以体恤民众之疾苦，救民于水火，是因为“恤民者强国脉也”。因此，为民请命这条主线，自始至终贯穿于于成龙的官宦生涯。
康熙十二年（1673）三藩叛乱，大批清军蜂拥南下，双方在湖北与湖南边界地带筑成一道人墙，无论哪一方进退都要付出极大的代价。尽管吴三桂竭力抗衡，无奈清军死命抵抗。康熙十三年（1674）秋末冬初，战争陷入最惨烈的阶段，藩军和清军伤亡都相当惨重。湖北一带，惨状目不忍睹，若官方抚民恤民，民尚可在水火之中挣扎苟生；若是官方一意媚上，则百姓或卖儿鬻女，或流落他乡，或啸聚造反。
数次变乱的黄州，在于成龙的悉心治理下，犹如风浪中的一叶小舟，摇摇晃晃向前航行，掌舵的于成龙时时小心翼翼，不敢有丝毫懈怠。
黄州百姓在极苦之时，处极苦之地而苟延残喘。当时大批军饷从北方调来，堆积在黄州一带（黄州位于长江北岸，交通运输方便），但不能走水路，而是要用马、驴、骡驮运，运至荆州（今宜都至临川之间的长江流域）和彝州。于成龙为了“爱养百姓，培植国本之盛意”，不肯摊派民间，而是严饬雇驴，命官军及衙役做脚夫。如此运送了几批军饷，无奈檄令不断，属官和衙役苦疲不堪。于成龙采用雇佣的方式，筹集了六百只运军饷的骡子和驴子，抽调下属州县的二百四十名衙役作为运粮之夫。四名衙役分为一组，领驴十只，立小旗一面。每二十名衙役立为一队，领驮五十头，立一面大旗，以免混淆。驴尾巴上烙下印记。驴脖子上悬挂一块牌子，标明该驴的毛色及押驴者的姓名，以便辨认。驮粮用的口袋、雨布等都烙有记号，沿途设立运粮招待站，以保证军饷迅速到达荆州。
九月，一批属官和衙役组成的运饷队自荆州刚回到黄州，檄文又下来了，让再出驴子和役夫。衙役们一听黯然失色，向隅而泣。于成龙闻知后，深为不安，给张朝珍写了《请免彝运详》（《政书》卷2），陈述黄州之苦，要求体民力，养国本，不可使之过竭，为了“上不误公，下不病民”，他建议张朝珍在汉阳、武昌、荆州雇运夫和驴子。
张朝珍见到《请免彝运详》后，因恐延误军需而治罪，复命于成龙设法招募运夫和驴子。
九月十九日晚，于成龙渡过长江，向各驴店再三恳求，驴店哄抬运价，比官价高出四五倍。于成龙说了半天，要求降价，驴店的人竟然哭泣起来。于成龙没有办法，只好再写《上张抚台请免运夫禀》（《政书》卷2）：“黄属甫定之余，灾伤之际，何堪当此苦累？目前正饷虽完，南漕正在催比，转明岁钱粮又行开证，民穷莫措，委实难支……成龙计穷力竭，与士民密议，捐输夫价，以济一时之急，伏乞宪台恩怜成龙苦心，俯允捐输，恩免运夫，成龙幸甚，地方幸甚。”于成龙除为民诉苦外，也退了一步，那就是再捐些银子，运夫则请免掉。
张朝珍仍未准，即使捐献银子也不行，运军饷就是运军饷。并警告于成龙，如若再三推诿，延误军需，必遭军法处治。于成龙接到复札后彻夜难眠。
考虑再三，只好再退让一步，那就是运夫的费用四千八百七十两全由黄州府捐献，但是运夫和驴子，黄州府是万万出不成的。他围绕这个中心，写成《请捐输运价充役运夫详》（《政书》卷2）：
成龙考古度今，审其时势，权其机宜，有用民之力者，有用民之财者，名虽殊而实则相济，唯期有裨公事而已。如黄属者应用财力而免用人力之区也。……麻城、黄冈、罗田、圻水环绕崇山峻岭，接豫省之商城固始，连庐州之六安英霍，联络四十八寨，素称易于为乱，难与为治之地。去岁妖魔蠢动，人心叵测……黄属之时势如此，迄今妇子已宁，地方无警，然投诚向化之辈，虽云革面，难信革心，成龙何敢一刻置诸怀？则权其机宜，不得不为万全之计也。查派运米七千五百石，每夫运米五斗，计用夫一万五千名，呼之难猝至，聚之深可忧，是夫未至荆，而成龙胆先落矣！……成龙为军糈计，又为地方虑，情愿劝勉居民捐输银四千八百七十五两，为募夫之助，少省朝廷金钱，以伸黄民急公之义，以彰上宪恤下之仁。用民之财，宽民之力，妇子仍然以宁，地方仍然无警，于军糈民生，未必无裨益也。如捐输不前，成龙任迟误军需之罪。或恐成龙藉端分外苛派，甘心正法以谢州县；或恐州县藉端分外需索，成龙揭报以谢士民。此成龙穷极计生，忧心憔悴，权其机宜如此，否则运夫之催逼，中途之逃亡，运米之迟速，一日公事未竣，一日忧心莫展，成龙唯有愁闷绝命已耳！伏乞宪台迅饬司道各宪会议。成龙寝食俱废，昼夜望赐恩命以解倒悬之危。
话说绝了，黄州情形就是如此：民心不稳，人力困乏，出些钱尚可，若是一定要出人力牲口，成龙只好上吊自尽，民只好倒悬梁而饮命。
运送军饷是一个非常重要的问题，常人岂敢违抗！于成龙反复申报，几至咳血。他为民请命，处处维护百姓利益，并不能简单地概括为维护封建统治。
在于成龙的再三请命下，黄州府的运粮军差终于被减免。
