隋文帝初有天下，励精思政，妙简良能，出为牧宰（泛指州县长官。州官称牧，县官称宰）。宋元之际的史学家，注释《资治通鉴》的胡三省曾说过：“开皇之治，以赏良吏而成。”
古代官吏，上则效忠于皇帝，下则统治一方百姓，可谓是百姓与皇帝之间的桥梁和纽带。地方官吏的作风和治绩称为吏治。隋文帝注重整肃吏治，赏罚分明，现举几例为证。
房恭懿，字慎言。父亲房谟，北齐吏部尚书。房恭懿性格深沉，有器量，精于从政。出仕北齐，历任平恩县令、济阴太守，都博得能干的名声。后来，尉迟迥作乱，房恭懿也参与其中，尉迟迥败后，房恭懿赋闲于家。
开皇初，经吏部尚书苏威举荐，房恭懿授新丰县令，政绩为三辅（即京畿之地 ）之最。隋文帝听后嘉奖他，赐布匹四百段，恭懿将所得赏赐悉数分给贫穷人。未几，文帝又赐米三百石，恭懿又用来赈济穷人。
当时，雍州诸位县令每月初一朝谒天子，杨坚见到房恭懿，必将其呼至榻前，询问治理百姓的方略。后来，在苏威再度引荐之下，破格提拔房恭懿为泽州司马，因卓越政绩，赐布匹一百段，良马一匹。迁升为德州司马，在职一年多，卢恺进奏称房恭懿政绩为天下之最。
文帝十分惊异，又赐布百段，并对诸州朝集使（各州每年派遣进京报告政绩及财经的使者）说道：“如房恭懿这般一心体念国家，爱护黎民百姓的官吏，此乃上天宗庙佑助大隋，岂是朕寡薄能力可招致也！朕即刻拜他为刺史。不止一州，当今天下皆应以他为模范，卿等应向他学习。”
“臣等遵命！”朝集使们异口同声道。
“房恭懿所在之处，百姓视之如父母。朕若视而不见，不加奖赏，上天宗庙必当责备朕。内外官员宜知朕意。”文帝说道。
于是，下诏曰：“德州司马房恭懿出宰百里，辅佐二籓，善政能官，标映伦伍。班条按部，实允佥属，委以方岳，声实俱美。可使持节海州诸军事、海州刺史。”即任命房恭懿为海州刺史，使持节海州诸军事。”
隋朝还有一名官员有良好的操守，此人乃是河南洛阳人赵轨，其父赵肃，西魏廷尉卿、车骑大将军。宇文泰曾命赵肃撰定法律，他积思累年，遂染心疾而逝。赵轨少年好学，有操行。北周蔡王引荐他为记室，以清苦闻名，升迁为卫州治中。
杨坚受禅称帝后，赵轨转任齐州（今山东济南）别驾，是辅佐齐州刺史处理政务的佐官，有能干之名，为官清正廉洁，不谋取私利，且律己甚严，在细微之处更加彰显。东边邻居院子中有一棵桑树，春天桑树上结满了桑椹，树枝伸向赵轨家，桑葚成熟后紫红诱人，有些桑葚落入赵轨家的院子里。赵轨让仆人把桑椹一一捡拾起来，如数奉还给东邻，还告诫诸子道：“吾并非借此谋求虚名，只是非自己劳动所得之物，不愿侵占而已。汝等宜以此为诫。”这就是著名的《赵轨还椹》的故事。
赵轨在齐州四年，勤政为民，考核政绩连续最佳。他不置家产，修身自励，为人称道，深受百姓爱戴。持节使者郃阳公梁子恭上奏朝廷，隋文帝嘉奖他，赐布帛三百段，米三百石，征召赵轨入朝为官。
在赵轨进京赴任的路上，齐州父老乡亲夹道相送，送别者挥洒涕泪向他道别，一位长者捧着水杯说道：“别驾在此任官，从不受贿纳物，与百姓水火无交。如今别驾离开齐州，不敢以一壶酒相送。公清廉若水，请饮一杯清水，算是我等为别驾献上饯行。”
赵轨谢过老人，双手接过那杯清水，仰头一饮而尽，然后拜谢辞别父老乡亲而且。水，无色无味，清澈透明，在传统文化里却被赋予道德品格的内涵。《老子》有言：“上善若水，水善利万物而不争，处众人之所恶，故几于道。”
意思是说：“至高的品性像水一样，泽被万物而不争名利。不与世人一般见识，不与世人争一时之长短，做到至柔却能容天下的胸襟和气度。” 在百姓心中，水是至清至廉的象征。赵轨的清廉若水，正是达到了这种境界。
既至京师，隋文帝下诏令赵轨与牛弘撰定律令格式，深受朝廷器重。此时，杨坚第五弟、卫王杨爽为原州（今宁夏固原）总管，隋文帝担心杨爽年少气盛，经验不足，由于赵轨做官声名远播，特意授他为原州总管司马，襄助卫王处理政务。
赵轨不仅修身自洁，对部下也是严格约束。一次，赵轨率领部下出行，马不停蹄，日夜赶路。到了夜晚，视线昏暗，几位随从没有看管好马匹，马误入农田，踏坏了庄稼。赵轨随即下令停止前进，原地待命。天明后找见农田主人，赔偿了钱财后才启程离去。原州百姓官吏听闻此事非常感动，无不相约见贤思齐，注意矫正不良作风和操行，吏风民风为之一新。
其后数年，赵轨升迁为硖州（今湖北宜昌）刺史，安抚各族百姓，积极为民谋利，甚有恩惠。不久，调任寿州（今安徽寿县）总管长史。
寿州的芍陂先前有五门堰，相传为春秋时期楚相孙叔敖主持修建的水利工程，引淠入白芍亭东成湖，可灌田万顷，到了隋朝年久失修，几近荒芜废弃。
于是，赵轨鼓励督促百姓和官吏，亲自率领官民对其进行维修疏浚，又新开三十六门围堰，大大增强了灌溉能力，可灌溉田地五千余顷，周围的百姓受益无穷。
赵轨为官期满，告老还乡，卒于家，时年六十二岁。其子赵弘安、赵弘智受家风熏陶，皆知名于后世。
赵轨的清廉事迹不仅载入史册，被历史传颂，而且衍生出“ 水火无交”、“杯水之饯”等成语典故，流传于华夏大地。
隋朝历史上还有个阉人大臣，亦留名于青史，此人名叫樊叔略，陈留人。父亲樊欢，出仕东魏为南兗州刺史、阿阳侯。适逢高氏专权，樊欢与人密谋振兴朝纲之计，为高氏所诛，家人连坐，樊叔略时为幼童，身受腐刑，发配到宫廷做奴仆。
樊叔略成人后身长九尺，志向气度不凡，颇为高氏所忌惮。他内心惶恐不安，遂逃奔关西。西魏权臣宇文泰一见之下就格外赏识他，引置左右。不久，授都督之职，袭爵为侯。大冢宰宇文护执政后，引荐樊叔略为中尉。樊叔略多计数，通晓时事，宇文护逐渐信任他并委以重任，兼督察朝廷内外政务，累次升迁为骠骑大将军、开府仪同三司。
宇文护被诛杀后，齐王宇文宪引荐樊叔略为园苑监。此时，宇文宪素有吞并关东之志，樊叔略趁机数次进献用兵之策，宇文宪甚感惊奇。
北周建德五年，樊叔略追随周武帝讨伐北齐，他率领精锐，每战均身先士卒。以功加上开府，进封清乡县公，食邑一千四百户。拜为汴州（今河南开封）刺史，以英明果断著称。
周宣帝时，于洛阳营建东京，因为樊叔略有巧思，拜位营构监，宫室规模形式，皆樊叔略所定。尚未建成，宣帝驾崩而停工。
尉迟迥叛乱时，杨坚令樊叔略镇守大梁（今河南开封）。尉迟迥部将宇文威前来进犯，樊叔略击退了他。以功拜大将军，复为汴州刺史。杨坚受禅后，樊叔略加位上大将军，进爵安定郡公。在汴州任职数年，甚有声誉。
邺都原为北齐京师，还是尉迟迥作乱的大本营，此地民风不淳，风俗轻薄，号称最难教化，朝廷认为樊叔略以治绩著称，升迁他为相州刺史，政绩为当时第一。隋文帝降玺书褒奖他，赐布帛三百段，粟五百石，班示天下。百姓交口称赞道：“智无穷，清乡公。上下正，樊安定。”这清乡公和樊安定都是樊叔略的别称。
朝廷征拜樊叔略为司农卿，相州官吏庶人莫不流涕，相约立碑歌颂其德政。自从樊叔略为司农，凡有关农耕种植之事，他另外做出条例制度，皆出人意表。朝廷有迟疑不决的时候，或公卿未能决断的时候，樊叔略总是为他们评理。
樊叔略虽无学术，说话做事却能有所依据，且见解独特，暗中与事理相合。因此，深受皇帝信任，宰相高颎、杨素亦以礼相待，他虽为司农，往往参与九卿管理的政事。
由于樊叔略不能娶妻生子，又无什么嗜好享受，却是个贪吃的老饕，在对待“吃”的方面，颇为豪华奢侈，每顿饭必定方丈盈前（指吃饭时食物摆满一丈见方的地方），备齐各种山珍海味。
开皇十四年（594年），樊叔略随驾东巡祭祀泰山，行至洛阳，隋文帝令他审查囚徒。一番忙碌之后，他写好奏章准备上奏，早晨起来，骑马至监狱门口，竟从马上滚落，突然暴逝，时年五十九岁。杨坚哀痛惋惜良久，赠亳州刺史，谥曰“襄”。
周隋年间还出了“一代良牧”之称的著名官吏，这人复姓公孙，名景茂，字元蔚，河间阜城也。其容貌魁梧，年少好学，博涉经史。早在北魏年间，朝廷察孝廉，公孙景茂应试甲科，成为襄城王元旭的长史，兼行参军，又升迁为太常博士，掌管祭祀礼乐，对祭祀礼乐多有改革，时人称之为“书库”。后来在北齐历任高唐县令、大理正，俱有能干之名。北齐灭国后，周武帝闻其名而召见，一番交谈后十分器重他，授济北太守，后因母丧去职。
开皇初年，隋文帝下诏征召公孙景茂入朝，询问为政之道，拜为汝南太守。后来隋文帝下诏废郡，公孙景茂转任曹州司马。在职数年，以老病为由乞求告老还乡，杨坚下优诏不许。俄而，升迁为息州刺史，法令清明，善于抚恤百姓，以德政感化州民。
彼时正值平陈之役，伐陈大军沿路南下，途径息州境内。这数十万大军长途跋涉，风餐露宿，兵士们苦不堪言。其中无数士兵染病，或散落于途，或呻吟于道，重者竟倒毙于野。公孙景茂目睹此状，深感悲哀凄切，遂撤减自己的俸禄，派人熬煮稀饭汤药，赈济伤兵，数千名士兵因为公孙景茂才免于一死。隋文帝听说后下诏嘉奖，并将此事迹宣告天下。
开皇十五年（595年），隋文帝巡幸洛阳，公孙景茂前往谒见，杨坚命他升殿而坐，见他白发苍苍，老态龙钟，便问其年龄：“卿春秋几何？”
“托陛下洪福，臣已虚度七十七年光阴。”公孙景茂如实以对道。
“廉颇老矣！”杨坚哀叹其年老，嗟叹久之。
“吕望（姜子牙）八十而遇文王，臣逾七十而逢陛下。”公孙景茂再拜道，以示自己壮心不已。
隋文帝见公孙景茂以吕望自许，又将自己比作周文王，内心甚悦，赐布帛三百段，下诏曰：“景茂修身洁己，耆宿不亏，作牧化人，声绩显著。年终考校，独为称首，宜升戎秩，兼进籓条。可拜上仪同三司，伊州刺史。”
公孙景茂担任伊州刺史的第二年，因疾病征召入朝，伊州吏人号泣于道。待疾病痊愈，再度乞求告老还乡，文帝又不许，转任道州刺史。他拿出全部俸禄买来牛犊、鸡、猪等禽畜，分送给州里孤寡老弱无法自谋生计的人。
虽然年事已高，公孙景茂仍然喜欢单独骑马外出巡视，深入到各家各户，查看百姓的生产生活。见到善于料理家产、操持家务的人家，就在集会时当众褒扬称赞他们；遇到有过失罪恶的人，则随即加以训导，以善化恶，劝他们悔过自新，而不公诸于众。
在他的仁德感化下，人人行仁义、讲敬让，大家相互帮助，互通有无，男子相助耕耘，妇人一起纺织。有的大村庄多达数百户人家，却如一家人似的共同过日子，颇有“世外桃源”的画风。其后，凡是公孙景茂请事述职，隋文帝都优先诏见。
隋文帝后期的仁寿年间，上明公杨纪出使河北，见公孙景茂精力不衰，还京后上奏朝廷。于是，杨坚拜公孙景茂为淄州刺史，赐以马车，便道之官（指拜官或受命后不必入朝谢恩，直接赴任。）。
公孙景茂前后历职，皆有德政，论者称为良牧。隋炀帝大业初年（605年），卒于官任，享年八十七岁。谥曰“康”。其死讯传开，诸州人吏前去奔丧者达数千人，有人未赶上殡葬，只得望其坟而恸哭，在野外祭奠后方才离去，以此可以窥见公孙景茂为官为人之德。
古语云：“善为水者，引之使平，善化人者，抚之使静。”水平则无损于堤防，人静则不犯于宪章。”正如《隋书》所言：“古之善牧人者，养之以仁，使之以义，教之以礼，随其所便而处之，因其所欲而与之，从其所好而劝之。如父母之爱子，如兄之爱弟，闻其饥寒为之哀，见其劳苦为之悲，故人敬而悦之，爱而亲之。”
【小剧场之一】
这就是著名的《赵轨还椹》的故事。
东邻：“得了吧你！熟透了落在地上沾满泥土的桑葚，这还怎么吃呀？”
赵轨：“洗洗就能吃啦！好东西千万不可辜负。”
【小剧场之二】
“廉颇老矣！”杨坚哀叹其年老，嗟叹久之。
“吕望八十而遇文王，臣逾七十而逢陛下。”公孙景茂再拜道，以示自己壮心不已，其内心独白道，“虽然我曾多次奏请告老还乡，其实根本就不服老！”