謝公在東山，朝命屢降而不動。後出為桓宣武司馬，將發新亭，朝士鹹出瞻送。高靈時為中丞，亦往相祖。先時，多少飲酒，因倚如醉，戲曰：“卿屢違朝旨，高臥東山，諸人每相與言：‘安石不肯出，將如蒼生何？’今亦蒼生將如卿何？”謝笑而不答。
桓公臥語曰：“作此寂寂，將為文、景所笑！”既而屈起坐曰：“既不能流芳後世，亦不足復遺臭萬載邪？”
王大將軍稱其兒雲：“其神候似欲可。”