文天祥建议上前线与元军决战，丞相陈宜中、刘梦炎却视敌如虎，积极谋划议和。文天祥提出把东南地域划分为4镇，给予地方官实权，鼓励各镇组织武装力量，奋起收复失地。陈宜中、刘梦炎不睬，文天祥只好率领勤王军开往平江前线，抵抗元兵。
元军统帅伯颜兵分三路发动攻势，一路沿长江入海，取溆浦、华亭（今上海松江县）；一路攻常州；另一路从建康经广德，取余杭县西北的独松关，这一路宋军防御薄弱，朝廷最为忧虑。陈宜中、刘梦炎调文天祥驻军余杭，把守独松关。当文天祥回师余杭州时，独松关却已经失守。
第二年12月，三路元军逼近京师，随时可能攻占临安。在强敌压境的形势下，南宋王朝与元军决一死战，投降。文天祥、张世杰请三宫入海避难，他们率军与元兵决一死战。陈宜中却一心议和，刘梦炎看见形势不妙，偷偷溜出临安，投降了元军。全太后召集大臣议事，只有6名官吏到朝，此时的南宋王朝已经陷入一片混乱之中。
当时，文天祥的勤王兵马有三四万，文天祥和张世杰商定，以战为守，如果坚守不了，可分两路到江西、两淮地区活动，继续抗元。全太后和陈宜中加紧议和，请求称臣纳贡，但伯颜拒绝了。
元军兵临城下，全太后任文天祥为右丞相兼枢密使，督统诸路兵马，要他维持残局。去伯颜军营谈和非去不可，但谁也不愿去。忠直的文天祥思想国事至此，再不能顾惜自身了。他想以正义凛然说服伯颜退兵，就决定铤而走险。全太后于是命令文天祥、吴坚、贾余庆等去伯颜营账。吴坚胆小怕事，不敢抗争；贾余庆是卑鄙小人，一味逢迎元军，想取得新朝饭碗。这场针锋相对地谈判斗争，自然该由文天祥当主角。他深感肩负重任，痛下决心：不为利诱，不怕威胁，不辱使命，斗争到底。
伯颜扎营在临安郊外明因寺。文天祥昂首阔步进伯颜军帐。元军刀枪森严，杀气腾腾，他却坦然自如。
文天祥胸怀坦诚，而且态度强硬，不卑不亢，使伯颜感到惊愕，他从未见过宋朝使节这样待元军统帅。但也不信文天祥不可折服，便声色俱厉地恫吓说，要把他置于死地。
文天祥无所畏惧，正义凛然地回答：“我是宋朝的状元宰相，唯有以死报国，刀锯油锅，也在所不惜。”
元军将帅目睹文天祥是一位顶天立地的男子汉，都非常惊奇而钦佩。伯颜劝南宋使节说，吴坚、贾余庆等人回临安面见太后，文丞相暂时留下，大家可以走了。这是伯颜拘押文天祥的阴谋诡计，伯颜没把吴坚和贾余庆等放在眼里，只怕文天祥的声威。如果他登高一呼，从者数万，而给元军极大的威胁，如果放他回去，便要率领勤王师抵抗元军。因此，伯颜决定把文天祥囚禁起来，防患于未然。
文天祥提出强烈的抗议，狡猾的伯颜却只笑不答。他把文天祥送到舍馆软禁起来。
次日凌晨，全太后派吴坚等献降书，南宋王朝正式投降。文天祥被邀至元军营帐，受降仪式已结束。文天祥闻说怒火中烧，他痛恨灭亡宋朝的元军，尤其憎恨那些想做元朝新贵的汉奸。在元军统帅伯颜的导演下，强迫宋朝一帮大臣做“祈请使”，往大都朝见元世祖忽必烈。文天祥也被迫随同。一路上，使团去见元军统帅阿术，一些宋朝大臣尽力献媚，文天祥却怒目而视，始终一言不发。当时，文天祥与随行官员，设法想从镇江逃脱。但元军防范甚严，全部船只被元军控制。有一船户，很敬佩文丞相，他拼死送文天祥等去真州（今江苏仪征），在一个月黑风急的深夜里，文天祥历尽千难万险，终于从镇江逃到真州。
当时，真州宋将苗再成忠心耿耿，一心想收复壮丽河山，文天祥的到来使他非常激动，如果文天祥以丞相、枢密使的名誉作号召，江淮宋朝将领都会痛恨元军，要挽回时局大有希望。苗再成将自己的设想告诉文天祥，江淮兵马足可振兴，只要两淮制置使李庭芝和夏贵能同心协力，西面佯攻建康，东面以泰州、通州兵攻打弯头，扬州宋军进攻瓜州，真州军队直捣镇江，两浙元军就断绝归路，成了无援孤军，伯颜就可以被活捉。
文天祥听了喜出望外，以为宋朝中兴在此一举。他立即写信给李庭芝、夏贵和州郡将领。这个战略是正确的，如能实施，就可以给元军以致命的痛击。但此法却已无法实现了，因为夏贵已经投敌，李庭芝不信任文天祥，认为文天祥是元军派来的奸细，并传书要苗再成杀文天祥。但苗再成怕杀错忠臣，只好让文天祥一行12人另找出路。当时，文天祥痛心疾首，“误把忠良按剑猜”，被自己人怀疑比仇敌侮辱更难忍受。他们想去扬州，同李庭芝辩说，但有人反对说，到扬州正好送上虎口。结果，他们历经千辛万苦，才辗转从高邮、泰州到达通州（今江苏南通）。
通州宋将杨师亮热情招待文天祥等，请他们到州衙好好休养。两个多月颠沛流徙，文天祥这时才有了安静日子。文天祥把他从临安到通州一路上所写一百多首诗，编成集子《指南录》，表示他心向南方，矢志不移。还写了一篇序言，记述他从平江到独松关、出使北朝和镇江脱险，历尽艰辛抵达通州的经过。这不仅是他的一篇传记，而且还是极其珍贵的历史资料。
到了通州，文天祥得知一个特大喜讯：吉王赵（同“是”）、信王赵在附马都尉杨镇等人的保护下，到达温州准备欲挽狂澜，扶大厦之将倾。张世杰、陆秀夫等也到温州。当文天祥从通州扬帆渡海的时候，他挺立船头，异常兴奋，口吟七绝一首：“几日随风北海游，回首扬子大江头。臣心一片磁针石，不指南方誓不休。”
在这首诗里表达了文天祥南行的赤胆忠诚和继续战斗的决心。
经历13天的波涛颠簸，船只到台州靠岸了。当文天祥到温州时，吉信二王把元帅府迁驻福州。文天祥写了奏疏，星夜兼程传递福州。主持朝政的陈宜中等欲立吉王荣登帝位。公元1276年，吉王赵即位，改元景炎，他就是宋端宗。陈宜中任左丞相兼都督，李庭芝为右丞相，张世杰任枢密副使，陆秀夫做签书枢密院事。
文天祥脱险到温州的消息传开后，在浙江、福建等地同僚、旧部，很多人到温州与他商量再举义旗。文天祥到福州，朝廷任命他为右丞相兼枢密使，督统诸路军马等职。为避开陈宜中的猜忌，文天祥上奏争辩，朝廷改任他为枢密使兼都督诸路军马。但狭隘的陈宜中以私心毁国事，置国家危难于不顾，朝臣不能同心同德，共同抗敌救国，这注定了他们的彻底垮台。
这时，元军分几路南下。一路进犯浙闽州县；一路攻占江西；另一路从鄂州南下犯潭州，而广州宋将已降元军，文天祥开督府于广州的北伐计划也成了泡影。
同年（端宗景炎元年）7月13日，文天祥到达福建的北大门，南剑州（今福建南平）。他立即组织督府军，投效的既有谋略的文学之士，也有善战的武将。
第二年2月，文天祥率督府军移驻梅州。5月，经整顿之后，主力部队跨越梅岭，展开收复江西州县的战役。勤王军旧部和各地义民纷纷与督府军呼应，掀起江西抗元斗争的新**。
乐安何时募集义军攻克崇仁县，文天祥的大妹夫吉州龙泉县令孙栗组织本县起事，收复了县城。另一个妹夫彭震龙收复了永新县城。攸县吴希等湘赣边起义，攻克袁州萍乡县。
在这有利形势下，文天祥一举攻克了赣州会昌县。分宁、武宁、建昌三县义军首领，要求听从文天祥指挥。临川、洪州、袁州、瑞州义兵也请求受督府节制，抗元声势一天比一天高涨。
这时，赣州属县已全部收复，元军被围困在赣州孤城中；吉州8县已收复4县，督府军已有席卷赣南之势。
但文天祥的督府军多步兵，元军以精骑冲袭，实在难以抵挡，数万军队，经几次激战，就已溃散大半。文天祥只有率部后退，李恒穷追不舍，文天祥且战且退，张汴、刘洙等将为国捐躯，督府军几乎全部覆没。
文天祥在江西退败的同时，南宋流亡政府从惠州甲子门转到浅湾（今广东饶平南澳岛），元军水师也追到浅湾，张世杰率部与元军恶战，未能击退元军的攻势。陈宜中、陆秀夫、张世杰护卫端宗逃往秀山（珠江虎门中的虎头山）和砜洲（今广州湾外海中）。左丞相陈宜中深感时局绝望，只身溜走占城（今越南境）。端宗在砜洲病逝，
公元1278年4月，张世杰、陆秀夫立8岁的卫王赵即位，帝是南宋王朝最后一个皇帝。文天祥率领督府军余部，到南岭越冬，四处寻访宋廷的消息，终于得知朝廷在山。宋帝封他为太保、信国公。文天祥先在海丰活动，而后把督府迁潮阳（今广东潮州）。此时，元将张弘范率军从福建水路直逼潮阳，在激烈的战斗中，文天祥部将刘子俊先被俘，为保护文天祥，他自称文天祥，被元军查明后，惨遭烹煮。但乡民无畏不惧，一日之内，元军俘虏三个“文天祥”。当不幸被俘的文天祥乘囚舟自潮阳经海口（今海门）时，潮阳义士陈梦龙劫囚舟未成，壮烈牺牲。张弘正把文天祥押到张弘范的军营，元军将士胁迫文天祥向张弘范跪拜。文天祥厉声答道：“宁死不跪！”张弘范见文天祥威武不屈的英雄气概，知道强迫他下跪是办不到的。此时有人说杀了文天祥，张弘范却说：“杀了他，倒成全他的忠义美名，以礼相待才显我宽宏大度，不能杀。”张弘范亲自给文天祥松绑，又好言慰藉，优礼倍尊。但文天祥只求给他一把剑，以自刎殉节。但张弘范防范甚严，把文天祥囚在一只船中，还派水师巡防。
同年3月，文天祥被押到广州，他等着元政府给予死刑，张弘范却待他更加优待，妄想着文天祥能变节投降。一次宴会上，张弘范向文天祥敬酒，佯装谦恭的样子，对文天祥说：“现在宋朝已亡了，你的一片忠心也尽到了，只要你像为宋朝那样待元朝，宰相照样由你当。”文天祥愤怒地回答：“我是宋朝臣子，眼看着国家亡了，我不能挽救，已是羞恨交集，怎么能像你一样，贪生怕死投降元鞑。”张弘范劝降没望，便向元世祖忽必烈上奏。忽必烈下诏，将文天祥押往大都。
到了大都后，元政府把文天祥安置在会馆，以美酒佳肴侍候，待为上宾。元世祖为了统治广大南方，一心想起用文天祥做丞相。因此，元统治者费尽心机，妄图招降文天祥。用第一个南宋状元宰相留梦炎出马，望图以状元宰相说服状元宰相。但这两个状元宰相的思想境界却有天渊之别。文天祥在《为惑人赋》一首中，以“黑头尔自夸江总，冷齿人能说褚公，龙首黄扉真一梦，梦回何面见江东”诗句，痛斥了留梦炎卖国求荣的丑恶行径，使留梦炎无地自容，狼狈而去
。元政府又派9岁的亡国小皇帝赵显劝降。文天祥见了赵显，跪下痛哭流涕，“北面号拜”行了臣礼之后，只说了一句话“圣驾请回。”亡君赵显也只好溜走。
元朝宰相阿合马登场，高居厅堂，命令文天祥下跪。而文天祥却昂首挺立，并义正词严地说：“南朝宰相见北朝宰相怎么能跪？”当遭到文天祥驳斥而无话可说时，便以威胁的口吻，对左右说：“这个人的生与死由我决定。”文天祥厉声回答：“亡国之人，要杀便杀，说啥由你不由你？”表现了文天祥视死如归的英雄气概。阿合马也只能没趣地走了。
当时，文天祥的欧阳夫人和两个女儿都沦为宫中女仆。元朝故意把她们的遭遇透露给文天祥，妄想诱使文天祥依附元朝，就可以同妻女团圆。文天祥知道家人受苦难，愤恨难忍，但他清楚地知道不能用投敌变节换取家庭幸福。同样，当惠州降元的弟弟文璧劝降时，文天祥吟出了“兄弟一囚一乘马，同父同母不同天”的诗句。文璧赠送的“鞑钞四百贯”，文天祥也拒收了，文璧满面羞愧地退出了。当轮换劝降无效时，元政府只好把文天祥押往兵马衙门监禁起来。
11月，丞相孛罗召见文天祥去枢密院，再次劝降，文天祥说：“我天祥忠于宋朝，宋既亡，我只求速死。”孛罗气愤地说：“你要死，我还不叫你死哩！”文天祥说：“金石的性质不能改变，我的毅志比金石还要坚硬，宁死也不会降你。”表现出文天祥的忠贞不贰。
元朝政府知文天祥是一位铁骨铮铮的大丈夫，不能改变他的志向，便以牢狱折磨他。但文天祥仍然安宁得像平日一样，在狱中编写自己的《指南后录》，还搜集杜甫诗200首，又作了题记，这些题记是南宋有价值的历史资料。元世祖忽必烈妄想凭借文天祥的声望巩固他在南方的统治，提出继续劝降。有人反对，以为文天祥不死，就是留下一个后患。但此时，元朝决策人还没下最后的决心。
公元1282年8月，忽必烈和大臣议事时，问道：“南方、北方宰相谁贤能？”群臣称赞说：“北人无如耶律楚材，南人无如文天祥。”于是，忽必烈下诏，给文天祥高官显位，令兵马衙门优待文天祥，给与他上等膳食。但文天祥拒绝享用元政府给予他的优厚待遇。
当时，北方传说中山府（今河北保定）聚集数千人，预计闯进大都抢走文丞相。元政府马上下令警戒。此时，处置文天祥，已到了最后决定的时刻。
公元1283年12月9日，大都狂风扬尘，黄沙蔽日，“咫尺不辨人”，京城戒严，四门紧闭，甲士登城，街对邻不得往来，行不得偶语。这一天，元政府派监斩官，率领士卒和乐队赶到兵马监狱，锣鼓齐鸣。文天祥就等着这一天，他神情自然地对狱卒说：“我事毕矣！”（我的事情完了！）被带上刑具，押往柴市（今北京府学胡同），且行且歌，到了刑场。临刑前，元朝官员问文天祥：“你有什么话，告诉了皇帝还可以免死。”他回答说：“死就死，还有什么话可说！”文天祥从容不迫地问身旁的市民：“哪边是南方？”身旁的人告诉了他，就向着南方，向着故国，向着饱受苦难的故国人民，庄重地行了两次跪拜礼，说：“我能够报国的机会，也已经完了！”然后，引颈受戮，慷慨就义，终年47岁。当时，观者达万人。文天祥被杀之后，燕人见者、闻者无不流涕。大都街市巷尾，时时传出哭泣之声。