宋恭帝德佑元年(1275)正月，因元軍大舉進攻，宋軍的長江防線全線崩潰，朝廷下詔讓各地組織兵馬勤王。文天祥立即捐獻家資充當軍費，招募當地豪杰，組建了一支萬余人的義軍，開赴臨安。宋朝廷委任文天祥知平江府，命令他發兵援救常州，旋即又命令他馳援獨松關。由于元軍攻勢猛烈，江西義軍雖英勇作戰，但最終也未能擋住元軍兵鋒。

　　次年正月，元軍兵臨臨安，文武官員都紛紛出逃。謝太后任命文天祥為右丞相兼樞密使，派他出城與伯顏談判，企圖與元軍講和。文天祥到了元軍大營，卻被伯顏扣留。謝太后見大勢已去，只好獻城納土，向元軍投降。

　　元軍占領了臨安，但兩淮、江南、閩廣等地還未被元軍完全控制和占領。于是，伯顏企圖誘降文天祥，利用他的聲望來盡快收拾殘局。文天祥寧死不屈，伯顏只好將他押解北方。行至鎮江，文天祥冒險出逃，經過許多艱難險阻，于景炎元(1276)五月二十六日輾轉到達福州，被宋端宗趙昺任命為右丞相。

　　文天祥對張世杰專制朝政極為不滿，又與陳宜中意見不合，于是離開南宋行朝，以同都督的身分在南劍州(治今福建南平)開府，指揮抗元。不久，文天祥又先后轉移到汀州(治今福建長汀)、漳州、龍巖、梅州等地，聯絡各地的抗元義軍，堅持斗爭。景炎二年(1277)夏，文天祥率軍由梅州出兵，進攻江西，在雩都(今江西于都)獲得大捷后，又以重兵進攻贛州，以偏師進攻吉州(治今江西吉安)，陸續收復了許多州縣。元江西宣慰使李恒在興國縣發動反攻，文天祥兵敗，收容殘部，退往循州(舊治在今廣東龍川西)。

　　祥興元年(1278)夏，文天祥得知南宋行朝移駐新會崖山，為擺脫艱難處境，便要求率軍前往，與南宋行朝會合。由于張世杰堅決反對，文天祥只好作罷，率軍退往潮陽縣。同年冬，元軍大舉來攻，文天祥在率部向海豐撤退的途中遭到元將張弘范的攻擊，兵敗被俘。