西漢宣帝劉病已（后改名劉詢）即位后，看到渤海（河北南皮縣）周圍相鄰的各郡，每當(dāng)遇到荒年，人民凱瑾時，總是盜偷并起，社會秩序混亂，連太守這一級官員也不能控制。劉病已便召集大臣們商議，物色賢能的人，去主持渤海郡政務(wù)。宰相和御史都認(rèn)為故昌邑國郎中令龔遂可擔(dān)當(dāng)此任。

　　原來，山陽（山東金鄉(xiāng)縣）人龔遂在昌邑國任郎中令時，忠厚剛毅，做人做事一向堅(jiān)持原則，對內(nèi)不斷規(guī)勸狂暴放蕩的昌邑王劉賀（漢武帝劉徹的孫子），對外要求封國宰相和昌邑王的老師加強(qiáng)輔導(dǎo)。他常常引經(jīng)據(jù)典，向劉賀分析禍福。有時流淚涕泣，當(dāng)面指出劉賀的過失，以致劉賀大不耐煩，每次都掩耳逃掉，說：“龔遂專門揭人瘡疤。”

　　劉賀喜愛跟他的侍從、奴仆以及廚師擠在一起大吃大喝，做各種游戲，賞賜沒有限度。龔遂便屈身下跪，用雙膝走到劉賀面前，哭泣規(guī)勸。后來漢昭帝病逝，因沒有兒子，便立劉賀為皇帝。劉賀即位二十七天，就做了一千一百二十七件不該做的事。為此，皇太后又下詔把他廢了。他從昌邑帶來的二百多人被誅殺。龔遂因忠心規(guī)勸，免除死刑，罰做苦工。

　　漢宣帝得知龔遂是個忠貞正直的人，即任命他當(dāng)渤海郡太守。并召見他問道：“你將用什么方法去治理地方，消滅賊盜？”龔遂回答說：“海濱遙遠(yuǎn)，沒有教化，人民被饑寒驅(qū)使，而官吏又行為兇暴，不知道憐憫。不知陛下是要我鎮(zhèn)壓他們，還是要我撫他們？”漢宣帝說：“當(dāng)然是用和平手段，使秩序恢復(fù)。”龔遂又說：“治理亂民，跟治理亂繩一樣，不能操之過急。只有先使緊張的形勢緩和下來，然后才能談到治理。我請求不要用嚴(yán)格的法令限制我，準(zhǔn)許我相機(jī)行事。”漢宣帝批準(zhǔn)，并增加賞賜的金額。

　　龔遂乘坐驛馬車去上任，走到渤海郡邊界時，遇到郡府派出的武裝部隊(duì)來迎接。龔遂拒絕武裝保護(hù)，叫他們回去。

　　當(dāng)時，龔遂就下了一道命令：撤銷所有負(fù)責(zé)捕捉盜賊的治安官員。指出：凡是攜帶鋤頭鐮刀的，都是善良的農(nóng)民，官員不準(zhǔn)打擾；只有攜帶武器的，才算盜賊。各縣盜賊幫派聽到新任太守的命令，紛紛解散，拋棄武器，拿起鋤頭鐮刀，于是盜賊消失。

　　龔遂還下令打開糧倉，把糧食借貸給貧民。又選用品德能力優(yōu)良的小吏跟治安官去辦理人民關(guān)心的事情，鼓勵人民畜牧養(yǎng)馬。

　　龔遂發(fā)現(xiàn)齊地（渤海郡地跨河北省與山東省）風(fēng)俗喜愛經(jīng)營工商，不喜愛耕田種桑，就親自去耕種，又到人民中去，規(guī)勸務(wù)農(nóng)養(yǎng)蠶。他還鼓勵人民都來種樹和飼養(yǎng)家畜。按各家人口多少，規(guī)定必須種植多少樹，豢養(yǎng)多少家畜，于是農(nóng)村綠樹成林，六畜興旺。

　　對百姓中仍舊攜刀帶劍的，龔遂就親自去勸導(dǎo)，說：“你為什么把壯牛佩到身上，把小牛帶到腰際？”教他們把刀劍賣掉買牛。由于龔遂辛苦勸勉，提倡生產(chǎn)，不時巡查，百姓們都有了積蓄，刑獄案件稀少，社會秩序安定，人民安居樂業(yè)。

　　西漢宣帝地節(jié)四年（公元前66年），龔遂擢升到朝廷當(dāng)水衡都尉。