条顿骑士团在东方的拓展也并非一帆风顺,1241 利克尼茨战役,三大骑士团在内的德国与波兰联军五万人被蒙古军击溃;1242. 楚德湖战役,1.2万条顿骑士团在冰湖上损失惨重,被1.6万俄军击破;冰湖战役中的毁灭性失利使条顿骑士团元气大伤,向东方的继续扩张就此停止。
骑士团国南面的波兰原本四分五裂,根本不是骑士团的对手。但到14世纪上半叶,波兰在国Wladislaw I的领导下再次团结起来,跟骑士团的关系也变得紧张。1308年骑士团占领但泽和Pommerellen使两国之间的关系急剧恶化,即便在1343年的卡里施和约中波兰承认了骑士团国对Pommerellen的占领,双方的敌意仍未打消。波兰对骑士团国的仇恨是骑士团国重要的潜在威胁。不过尽管如此,骑士团国在14世纪下半叶在大团长克尼普罗德(Winrich von Kniprode,1351-1382)的领导下达到了最强盛的时期,在1370年他们击败了立陶宛—骑士团在东方主要的敌人。
面对着骑士团国的强大压力,立陶宛和波兰逐渐走到了一起。1386年,38岁的立陶宛大侯爵Jagiello与年仅13岁的波兰女王Hedwig结婚(这个小姑娘挺可怜的,据记载她很漂亮,而且很有天赋,会说5国语言—可惜不包括她丈夫会说的语言。她的丈夫不但老,而且粗野。26岁时这个可怜的女子就去世了。)婚后,立陶宛大侯爵加冕为波兰国王,立陶宛和波兰结成了统一战线,共同对付骑士团国。
1410年,骑士团国和波兰-立陶宛联盟在塔能堡附近爆发了一场大规模战役,这场战役是欧洲中世纪历史上规模最大的一次骑士战争。骑士团的兵力要少于联军。骑士团大团长荣金根在战斗中阵亡。骑士团陷入混乱,许多骑士逃离战场。联军抓住这一良机发动冲锋,将骑士团军队击溃。
塔能堡一战使骑士团遭受了毁灭性的打击,其意义类似于哈丁战役对于耶路撒冷王国的意义。骑士团国就此走上了衰亡的道路。
外战遭受惨败后,骑士团国从上到下又陷入了内乱。农民不满骑士团的横征暴敛,起来反抗;骑士团内部的权力斗争愈演愈烈;各城市和地方贵族因为缴纳高额赋税,要求参与决策。1440年,53位贵族和19个城市在马林堡建立了旨在反抗骑士团专横统治的普鲁士联盟。1453年,普鲁士联盟与波兰结成同盟,由此引发了连续13年的战争,直到1466年签订第二次托恩和约方才结束。这次和约使得骑士团国又损失了大量的领土,其中包括马林堡。在政治上,骑士团国要承认臣服于波兰,这一条在骑士团内部引起了极大的争议。德意志分团希望从神圣罗马帝国和教廷那儿获得支持,1494年,德意志分团长承认臣服于神圣罗马帝国皇帝马克西米连一世(Maximilians I.)。外患内忧之下,此时的骑士团国已经走到山穷水尽之处。
路德的宗教改革使骑士团再一次走上历史的分水岭。1511年,来自霍亨佐伦家族的年仅21岁的Albrecht被选为条顿骑士团第37任大团长,他也是作为一个军事修会的条顿骑士团最后一任大团长。1520年,由于Albrecht拒绝臣服于波兰,骑士团国与波兰之间爆发战争,骑士团国被击败。郁闷之下,Albrecht回到德意志。
当时的德意志境内正在进行着轰轰烈烈的宗教改革,Albrecht很快被路德新教所吸引,并结识了宗教改革的发起者马丁.路德。在路德的建议下,Albrecht辞去条顿骑士团大团长一职,将骑士团国世俗化,改为公国,在公国内进行宗教改革,对外则拒绝对波兰的臣属关系。骑士团内部的保守势力以及德意志的天主教贵族对于Albrecht的改宗十分不满,不过Albrecht在1527年娶了北方强国丹麦国王菲特列一世的女儿,反对派对他无可奈何。
Albrecht的改宗使条顿骑士团作为一个军事修会的历史走到了终点。原来属于骑士团国的普鲁士已经被Albrecht新教化,立窝尼亚被波兰占据,爱沙尼亚被瑞典吞并,骑士团国已经没有一块属于自己的领地。在这种形势下,条顿骑士团基本放弃了军事任务,把注意力集中到管理自己的产业上,此后它仅作为一个宗教组织而存在。

