辭去彭澤縣令歸隱，這是陶淵明人生中最重要的一件事，這一年是義熙元年。無論這一年淵明多少歲，辭去彭澤令對他還說都是人生的分水嶺，從此以后一直到死，就像古人說的那樣，淵明“死心塌地遁世無悶”，再也沒有出來做過官了。

　　而記載辭彭澤令歸隱最重要的文獻，就是沈約的《宋書·隱逸傳》(蕭統的《陶淵明傳》及《晉書》等都是來自沈約的記述)和陶淵明自己的《歸去來兮辭》。

　　《宋書·隱逸傳》是這樣記述的：

　　(陶潛)謂親朋曰：“聊欲弦歌以為三徑之資，可乎?”執事者聞之，以為彭澤令……郡遣督郵至縣，吏白應束帶見之。潛嘆曰：“我不能為五斗米，折腰向鄉里小人!”即日解印綬去職，賦《歸去來》。

　　這段記錄透露了這樣幾個信息：一、從淵明對親朋的話可以看出，他出來做官，是因為家境太窮，他想當“公務員”賺點工資，給以后隱居做做準備。二、當權者聽見淵明的話就讓他擔任彭澤縣令，說明當權者還是很賞識淵明的，看見他有做官的意向，馬上就成全他。三、淵明是受不了官場的束縛辭官的。事情是這樣：上級派督郵來彭澤縣視察工作，淵明手下的官吏告訴他，應該穿著官府，整冠束帶——按現在講就是穿著制服，或是西裝革履——去見特派員(督郵)。淵明說：“我不能為了五斗米的俸祿，向這些狐假虎威、頤指氣使的小人們鞠躬行禮。”您想，最起碼的官場禮節淵明都做不到，更不要說阿諛奉承了。四、淵明當天就辭職了，寫了《歸去來兮辭》。

　　當然，沈約的記述都是來自傳聞，總不如淵明自己的作品更為真實。現在一般選本只選《歸去來兮辭》的正文，沒選淵明寫歸隱緣由及過程的一大段序。序是這樣說的：