隆安年间，广州地区贪腐之风盛行，前后任上的刺史皆贪赃枉法。朝廷想革除岭南的弊端，便命吴隐之为龙骧将军、广州刺史。在赴任广州行至离治所二十里处的石门时，他听说当地有一口泉，被称为“贪泉”，不管谁喝了这泉水，都会变得贪得无厌。吴隐之听后哈哈大笑，对随行人说:“我吴隐之就不信这个邪，如果心中压根没有贪污的欲望，就不会见钱眼开。说什么过了岭南就会丧失廉洁，纯属一派胡言。”于是，吴隐之就来到泉边，掬水而饮，并赋诗一首：“古人云此水，一歃（sha）怀千金。试使夷齐饮，终当不易心。”意思是说人们都说喝了这泉水，就会贪财爱宝，假若让伯夷、叔齐那样品行高洁的人喝了，也终究不会改变廉洁的本心。

 吴隐之在广州任上，始终不忘“贪泉”边的誓言，处处清廉自守，清操更励。一日三餐，仅食粗米糙饭，官衙陈设，更是力诫奢饰。起初，人们以为他故意做作，后见其始终不变，才折服其言行。吴隐之在广州多年，革旧布新，兴利除害，严惩了一大批贪官污吏，使当地社会风气日渐好转。

 朝廷为表彰吴隐之“革奢务啬，南域改观”的操行和政绩，于元兴元年升任吴隐之为前将军，并赐钱五十万、谷千斛。

 吴隐之从广州离任返乡时，小船上仍是初来时的简单行装，但唯有妻子买的一斤沉香不是原来的物件，吴隐之认为此物来路不明，立即夺过来丢到河水中。到家后，只有茅屋六间，篱笆围院。皇帝知道后，就赐给他牛车，还准备另为他盖一座宅院，他却坚辞不授。

 后升任度支尚书、太常，仍洁身自好，清俭不改，生活如平民，每得俸禄，留够口粮，其余的都散发给他人。史载：“弱冠而介立，有清操；虽居清显，禄赐皆班亲族，冬月无被，尝浣衣，乃被絮，勤苦同于贫庶”。

 义熙八年，吴隐之告老还乡，被朝廷授于光禄大夫，加金章紫绶，赐钱十万，米三百斛。次年病逝，朝廷追赠其为“左光禄大夫”，加“散骑常侍”。

 《晋书·吴隐之传》载：“隐之清操不渝，屡被褒饰，致事及于身没，常蒙优锡显赠，廉士以为荣。”

 有诗赞曰：

污泥浊水矗青莲，莲清何惧饮贪泉？