曾国藩凭着自己几十年的仕宦生涯，对官场的险恶看得最清楚，深知一入仕途人就毫无“自由”。但是，几千年学而优则仕的传统谁能改变得了?更何况，一个有抱负的人不借助权力可以说是毫无作为。因此，对官场是进是退，难以决断。
俗话说，伴君如伴虎，遇见圣明的君主尚保平安，如果遇见猜忌之君，脑袋不搬家就算最好的结局。因此，饱尝了世态炎凉的曾国藩临终立下遗训：后世子孙可以不做官，但不可废耕读。曾国藩对自己的进退虽然感到难以决断，但凭他的老道经验还是能够掌握火候。
曾国藩认为：凡遇事为公，应当强矫，而争名与逐利，应当诺退；开创家业时，应当强矫，而守成安乐，应当谦退；在外待人接物时，应当强矫，居家与妻儿享乐时，应当谦退。他还认为，如果一方面建功立业，在外声名赫赫，另一方面义求田问舍，以图家资厚实，这两方面都有盈满的迹象，完全没有一点谦退的意念，那样的人家断定是不能长久的。正所谓“鱼与熊掌不可兼得”，人要懂得知足常乐的道理。
曾国藩曾作一副对联：“战战兢兢，即生时不忘地狱；坦坦荡荡，虽逆境亦畅天怀。”这副对联集中反映了他精神世界的两重性，一方面战战兢兢，一方面坦坦荡荡；一方面悲观主义，一方面乐观主义。这表明他能生不忘死，居安思危，也使他能辱中求荣，挫时思奋斗。