晚清胜流中陈宝箴最服膺的人物是曾国藩，虽然终其一生受曾的赞赏却没有得到曾的保荐，但他对曾国藩有知己之感，敬仰信服至死不变，曾给予他的教益，变成了他深藏于自己心底的取之不竭的精神财富。右铭在席宝田的江西军道滞留一段时间之后，又回到了曾国藩的幕府，直到曾改督直隶方离开。论辈分陈当然在曾之后，但陈的立身行事多有曾的影子。只是右铭除了担任湖南巡抚的短时期，一生大部分时间没有曾公那样的可供调动的资源，时势局限了右铭的用武天地，才能并没有得到全方位的发挥。胡思敏《国闻备乘》“陈右铭服膺曾文正”条的记载，颇耐人寻味：
陈宝箴初以举人谒曾国藩，国藩曰：“江西人素尚节义，今顾颓丧至此，陈子鹤不得辞其责。转移风气将在公等，其勉图之。”子鹤者，新城陈孚恩也，附肃党，官至尚书，日营求入阁，故国藩及之。宝箴以资浅位卑，愕然莫知所对。国藩字而徐解之曰：“右铭疑吾言乎？人亦贵自立耳。转移之任，不必达而在上也。但汝数君子，若罗惺四、许仙屏者，沉潜味道，各存一不求富贵利达之心，一人唱之，百人和之，则风气转矣。”宝箴谨佩不忘，对江西人辄转述其言，且喜且惧。自谓平生未受文正荐达，知己之感，倍深于他人。[11]
曾国藩期待右铭“转移风气”，其所托之责任也大矣。而承担起此责的方法，则是“沉潜味道”“存一不求富贵利达之心”。就人才培植、风气转变而言，曾公之言不啻洞天雷音。但曾的话，只能是知者知之，不知者不知。所幸右铭正是文正所期待之人，这次面授之语，实际上成为陈宝箴一生的座右铭。后来陈宝箴居官之时，曾在自己的衙署贴一对联：“执法在持平，只权衡轻重低昂，无所谓用宽用猛；问心期自慊，不计较毁誉得失，乃能求公是公非。”[12]显然已经把文正公的“存一不求富贵利达之心”的嘱托，化作了为官律己的公开戒律。同治十一年（1872）曾国藩逝世，陈宝箴在写给曾的幕僚程恒生的信里，深情致慨：“湘乡溘逝，海宇苍茫，有四顾萧然之感。嘉、道以来，疆臣饬吏整军，皆任法而不任人，以驯至大乱莫之救。湘乡起而持之，简擢贤俊，阔疏节目，天下之气为之一振。山摧梁萎，故辙易循，岂但生存华屋，洒邱山泪也！”[13]陈之于曾，真可以说是生而有夙缘。
此时之右铭，虽然没有正式官职，但他已有极佳的声闻，其人品、胆识、魄力、谋略、治才，不仅为曾国藩也为当时其他各路铭公钜卿所深赏。江西的军事行动获得胜利后，席宝田曾多次保荐右铭出任知府，右铭辞而未就。直到同治末年，陈宝箴才希望有一个正式官职，一方面想通过仕途做一番事业，一方面为了奉养老母，因此在江西的邻省湖南以知府的身份候补，时间在同治九年八月。嗣后由于平苗民之乱有功，一度被安排在平苗善后局任事。不久王文韶代理湖南巡抚，赏识右铭的才能，复擢为道员。光绪元年（1875年）开始署理辰、永、沅、靖四县事。今天非常有名的沈从文的故乡湘西凤凰县，当年就在陈宝箴的治下。
光绪六年（1880年），改授河北道，治所在河南武陟。陈宝箴每到一地，每任一职，都有突出治绩。湘土民风刁悍，他恩威并施，惩办恶霸，打击豪族；对贫困的湘西苗民，则传授栽茶、种竹技术，学会如何以薯代粮，使百姓的生活得以维持。河北道治下的子民，性格质直、讲义气，但文教不够发达，他便创办学校，招募人才，推广教育。至于治河、兴修水利，更是他惠及一方人民的经常措施。河南、湖南等他所到之地，均深受其益。右铭母李太夫人也极力支持儿子为民造福，一次因治理佗江资金不足，右铭拿出自己的俸禄捐献给治河工程，得到母亲的体认，致使疏浚湘西佗江的计划得以顺利完成。[14]
郭嵩焘在《陈右铭观察赠别诗序》中，对陈宝箴治河治水的专长与功绩曾大书特书，其中写道：
