文天祥對張世杰專制朝政極為不滿，又與陳宜中意見不合，于是離開南宋行朝，以同都督的身份在南劍州(治今福建南平)開府，指揮抗元。不久，文天祥又先后轉移到汀州(治今福建長汀)、漳州、龍巖、梅州等地，聯絡各地的抗元義軍，堅持斗爭。景炎二年(1277)夏，文天祥率軍由梅州出兵，進攻江西，在雩都(今江西于都)獲得大捷后，又以重兵進攻贛州，以偏師進攻吉州(治今江西吉安)，陸續收復了許多州縣。元江西宣慰使李恒在興國縣發動反攻，文天祥兵敗，收容殘部，退往循州(舊治在今廣東龍川西)。祥興元年(1278)夏，文天祥得知南宋行朝移駐厓山，為擺脫艱難處境，便要求率軍前往，與南宋行朝會合。由于張世杰堅決反對，文天祥只好作罷，率軍退往潮陽縣。同年冬，元軍大舉來攻，文天祥在率部向海豐撤退的途中遭到元將張弘范的攻擊，兵敗被俘。

　　文天祥服毒自殺未遂，被張弘范押往厓山，讓他寫信招降張世杰。文天祥說：“我不能保護父母，難道還能教別人背叛父母嗎?”張弘范不聽，一再強迫文天祥寫信。文天祥于是將自己前些日子所寫的《過零丁洋》一詩抄錄給張弘范。張弘范讀到“人生自古誰無死，留取丹心照汗青。”兩句時，不禁也受到感動，不再強逼文天祥了。

　　南宋在厓山滅亡后，張弘范向元世祖請示如何處理文天祥，元世祖說：「誰家無忠臣?」命令張弘范對文天祥以禮相待，將文天祥送到大都(今北京)，軟禁在會同館，決心勸降文天祥。

　　元世祖首先派降元的原南宋左丞相留夢炎對文天祥現身說法，進行勸降。文天祥一見留夢炎便怒不可遏，留夢炎只好悻悻而去。元世祖又讓降元的宋恭帝趙顯來勸降。文天祥北跪于地，痛哭流涕，對趙顯說：“圣駕請回!”趙顯無話可說，怏怏而去。元世祖大怒，于是下令將文天祥的雙手捆綁，戴上木枷。關進兵馬司的牢房。文天祥入獄十幾天，獄卒才給他松了手縛：又過了半月，才給他褪下木枷。