陆征祥重掌外交部，面临的处境很不乐观。谈判从11月底开始，历时六个多月，最后于1913年5月20日双方草签了《中俄协约》。虽然草约挽回了一些权益，基本维持了晚清的外交格局，但本质上仍是一个不平等协约。7月8日，众议院通过了该草约，但参议院却于11日即国民党发动“二次革命”前日否决了该草约。陆征祥在谈判桌上忍辱负重，几经周折换来的成果，最终成为政治斗争的牺牲品。如果把它和其后11月5日签署的《中俄声明》作比较，会发现后者使中国在外蒙古的主权遭受到更严重的摧残。
　　沙俄政府原本就对草约规定俄国承认外蒙古为中国领土不可分割的一部分甚为不满，听说中国参议院否决了草约，马上通知中方推翻和否认5月20日拟定的草约。此种背信弃义的做法，使陆征祥深受刺激，他立即提出辞职要求，并表示要自杀以谢国人。9月4日，袁世凯接受了他的辞呈。
　　
　　签下人生罪案
　　
　　1914年8月14日，第一次世界大战爆发。日本立即以英日同盟（1912年签订）为借口，趁机向在中国胶州湾租借地的德军发动进攻。日军大肆在中国领土上烧杀抢掠，袁世凯政府忧虑异常，但无能为力，只得宣布中立，并划设了“交战区”。11月，日军占领青岛。
　　1915年1月18日，日本驻华公使日置益面见袁世凯，以取消中国“交战区”相要挟，抛出了蓄谋已久的“二十一条”要求。一个公使公然向驻在国元首提出外交要求，这是前所未有的蔑视行为。然而，袁世凯迫于日本继续霸占山东的军事压力，只好与日本展开谈判。
　　1月27日，袁世凯任命刚从欧洲回国的陆征祥三度出任外交总长，接办民国创立以来这一最为棘手的外交难题。谈判于1915年2月2日开始举行。一开始日置益就咄咄逼人，迫使中方接受其双方代表团成员各为三人、进行秘密谈判、不作谈判记录等无理要求。在谈判过程中，日置益更是蛮态毕露、盛气凌人，甚至不顾国际外交礼仪，拿起手杖敲打桌子，威胁陆征祥。日本政府为配合谈判，也频频调兵遣将，向中方施加压力。面对强盗似的对手，陆征祥以娴熟的技巧，软磨硬泡，未能使日本一夕而竞功。4月17日，“二十一条”前四号各条款的交涉接近尾声，日置益又提出了开议第五号内容的要求，但始终没有遂愿。26日，日置益遂向陆征祥提出了日本最后修正案。
　　5月7日，日置益向中国外交部递送了最后通牒书。在日方的强大军事政治压力下，北京决定向日方屈服以期缓和局势。25日，陆征祥代表中国政府和日本代表签署了《关于山东省条约》、《关于南满洲及东部内蒙古条约》以及福建问题等13项换文协定，通称为“中日民四条约”。“二十一条”签字后，全国民怨沸腾。
　　在中国积弱处贫的时代，办外交的人，内心是极为痛苦的，明知所谈者为丧权辱国，但不能不谈。于是，呕心沥血，折冲樽俎，希望国家少丧一分权，轻受一份辱，结果仍得不到国人的同情。陆征祥有自知之明，知道自己签署的“二十一条”出卖了国家权益，已成民族罪人。他向袁世凯提出补救建议：“只有参战，到和会时，再提出，请各国修改。”
　　
　　梦断巴黎和会
　　
　　“二十一条”交涉，让陆征祥心痛莫名。为改变这一“人生死案”，他积极参与推动中国参战的活动。但他异想天开地以为，只要中国对德宣战，在战后的和平会议上，由西方列强援手，既可帮助中国废除“二十一条”，收回山东权益，解除日本的威胁，又可为自己洗刷历史罪名。1917年8月14日，北京政府宣布正式对德、奥宣战。实际上，他并不知道，西方列强在积极利诱中国参战时，另一项肮脏的秘密交易也在进行。英、法、俄、意政府先后与日本签订密约，支持战后日本继承德国在中国山东的权益，从而种下了日后巴黎和会中国山东问题交涉失败的种子。
　　1918年11月11日，第一次世界大战结束。作为战胜国的中国政府收到了参加巴黎和会的通知。14日，北京政府派总长陆征祥为代表团团长。
　　以陆征祥为团长的中国代表团受美国总统威尔逊十四点宣言的鼓舞，对和会抱有很大期望，希望在帝国主义列强的帮助下，一扫近年来中国所受的屈辱，在外交上打个翻身仗，为此视巴黎和会为千载难逢的机会。
　　1月18日，举世瞩目的巴黎和会在凡尔赛宫召开。27日上午，操纵和会的英、法、美、意、日五大国组成的“十人会”讨论处置德国殖民地办法。日本代表提出临时动议，由日本承继德国在山东的权益。于是山东问题凸现。中日两国代表围绕着山东问题举行了激烈的辩论，由于顾维钧卓越的论辩，中国占了上风。但此后和会上五大国的利益冲突日益激烈，日渐暴露出分赃的本质。4月22日，在威尔逊住处举行的会议上，威尔逊向中国代表陆征祥和顾维钧宣读了解决山东问题的方案：日本获有山东胶州租借地和中德条约所规定的全部权利，然后再由日本把租借地归还中国，但归还后日本仍享有包括胶济铁路在内的全部经济权利。陆征祥当即拒绝了这一方案，但无济于事。美、英、法与日本代表经过讨价还价，最后将山东问题写入《对德和约》第156、157、158条。中国代表团围绕山东问题的交涉彻底失败，也使陆征祥通过和会“翻案”的梦想彻底被打碎。
　　山东问题交涉失败的消息传到国内，立即引发了声势浩大的五四爱国运动。北京政府因此陷入严重的政治危机中。对于对德和约应否签字，北京政府先是电令陆征祥签字，但又觉不妥，为逃避责任，竟想出一“绝招”：“令其审度情形自酌办理”，即把决定签字问题的球踢给陆征祥！
　　6月28日，对德和约签字仪式在巴黎富丽堂皇的凡尔赛宫举行。然而，留给中国代表的两个席位却一直空着。以陆征祥为首的中国代表团在国人的有力支持下，没有向蛮横霸道的西方列强低头！拒签对德和约，开创了自1840年鸦片战争以来中国外交史上前所未有的先例。被誉为“拒签英雄”的陆征祥，声望也获得了空前的提高。但巴黎和会上西方列强的强盗行径，使陆征祥深感失望和痛心。回到北京后，更令他痛心的是，山东省的“民众代表团”天天到外交部缠住他不放，说什么陆代表不签字，日本便报复山东人！陆征祥诚恳地说：“政府令我签字，我没有签，结果得罪了政府，也得罪了山东同胞。我若签了，则得罪了全国同胞。诸位想想我是否该签。请诸位回去对山东同胞说，我陆某愿和山东人民一起受苦！”此后，他闭门谢客，拒不到部办公。1920年2月13日，北京政府终于下令免去陆征祥外交总长职务。
　　
　　栖身异国修道院
　　
　　1926年4月，陆征祥感情笃深、给他极大助益的妻子——比利时皇族血统将军的女儿——培德去世。失去了感情依托的陆征祥，于1927年7月变卖家产，进入比利时布鲁日本笃会圣安德诺隐修院，做了一名修士。陆征祥自认为进隐修院是：“既承许景澄先师之训练指导，复许先室以残身献事上主，借以作补赎功夫，减轻我一身对世界、对祖国、对民众之罪恶帐目。”
　　清贫严格的隐修院生活，对陆征祥是一个巨大的挑战。然而，他以极大的毅力，克服体弱多病的困难，革心洗面，刻苦学习拉丁文、神学和哲学。1935年6月29日，功德圆满的陆征祥被晋升为司铎。1946年6月2日，罗马教皇为嘉奖陆征祥苦修的诚心，特委任陆征祥为比利时刚城圣伯多禄修道院名誉院长（相当于主教）。
　　此后，陆征祥曾计划回到祖国，建立隐修院，以公教神修之学陶淑国人，使中华早日复兴，屹立于世界之林。自近代以来，鼓吹“宗教救国论”者不在少数，身体力行者也不乏其人。但很少有人会像陆征祥这样，经过在异邦潜心苦修，誓志要将天主教的精髓带回自己的祖国。
　　1949年1月15日，陆征祥在比利时溘然长逝。去世前，他积自己一生的经验，用法文写成了《人道主义的会合》一书，作为留给祖国的遗言。