后来，耶律普速完与驸马之弟萧朴古只沙里通奸，封驸马为东平王，又罗织罪名把驸马处死。驸马的父亲萧斡里刺是西辽的元老，官拜六院司大王，是一位权势人物。当耶律普速完处死驸马后，1178年，他发动宫廷政变，杀死耶律普速完和萧朴古只沙里，将仁宗次子耶律直鲁古立为汗，改元“天穆”。西辽在感天后和仁宗统治时期，基本上贯彻执行耶律大石制定的国策，对外派兵，对内生聚，到承天后统治时期国力已相当雄厚，耶律直鲁古继位后，西辽达到鼎盛时期。同时，西辽的统治集团奢侈，开始腐化，对外连年用兵，对内加重剥削。耶律直鲁古在位朗间，一味娱乐游猎，不理政务，致使政治腐败，社会矛盾激化。
在卡特万会战之后，塞尔柱王朝的势力不仅完全退出河中地区，而且在呼罗珊地区也日趋衰落，代之而起的是阿富汗古尔王朝。古尔王朝在12世纪末已是阿姆河以南的大国，它于1197年占领了巴里黑（阿富汗马扎里沙里夫之西北）。该城的统治者原来每年向西辽王朝送缴土地税，古尔王朝占领巴里黑后，停止了该城向西辽王朝缴纳贡赋。同时古尔王朝还与花刺子模发生冲突，花拉子模沙特克什向西辽王朝求援。使臣对耶律直鲁古说，西辽王朝应该出兵报复，不然古尔王朝将像夺取巴里黑一样夺取花刺子模，然后进攻西辽。
西辽派塔阳古为统帅带领大军出征，1198年春渡过阿姆河，进入呼罗珊地区，同时花刺子模沙特克什也率军到达图斯。西辽军队进入古尔王朝后，占领了许多地方，到处抢掠、杀戮。西辽军队向古尔王朝的巴里黑城长官发出最后通牒：或是放弃巴里黑城，或是送缴像从前一样的贡赋。巴里黑城长官拒绝了，联合呼罗珊的一些城堡袭击西辽军队。结果西辽军队溃败，被追逐至阿姆河，许多士兵被赶进河中淹死，共损失一万二千人。西辽军队惨败的消息传到巴拉沙衮，耶律直鲁古大为震惊，向花刺子模沙派出使臣索取损失赔偿。特克什拒绝。菊儿汗派兵伐花刺子模，失败而还；花刺子模军追至布哈拉，并攻下该城。
1203年古尔王朝与花刺子模又发生战争。特克什已死，他的继承人摩诃末沙向西辽派出使臣求救。菊儿汗派塔阳古率领一万军队救援，西部喀喇汗王朝苏丹苏丹•奥斯曼也率军参加。古尔王朝苏丹什哈布•丁听到消息后仓皇撤兵，在安都淮沙漠被西辽军队包围，双方展开激战。古尔军队有五万人死于战场，古尔苏丹逃脱，进入城堡。西辽军队又把城堡团团围困，经奥斯曼说合，古尔苏丹交出赎金，西辽军队释放了古尔苏丹。西辽军队虽然获得胜利，但是付出了很大的代价，对西辽并没有带来实际好处，相反却为花刺子模在呼罗珊的发展扫清了道路。
与此同时花剌子模也开始逐步兴起，显露出摆脱西辽统治，在中亚地区称霸的倾向。
随着花刺子模国力的增强，摩诃末沙不甘心于自己的附庸地位，便停止了给西辽的年贡。耶律直鲁古派宰相马赫穆德三依督责贡赋。当时摩诃末正准备对钦察发动战争，既怕西辽大兴问罪之师，又不愿以藩属的身份接待使臣，便请母亲图儿罕可敦来处置。图儿罕可敦以尊崇的礼节接待西辽的使臣，缴纳了所欠的年贡，并派出几名贵族随马赫穆德巴依朝见菊儿汗，表示迟纳年贡的歉意，保证今后洛守藩属的义务。但是，摩诃末沙征钦察胜利返回后，不仅停止了对西辽王朝的贡赋，而且开始征服整个河中地区。
1206年布哈拉爆发了桑贾尔领导的人民起义，摩诃末沙认为这是征服河中地区的大好时机，便率军进入河中地区，攻占布哈拉，镇压了人民起义。摩诃末同西部喀喇汗王朝的奥斯曼结成同盟，与西辽对抗，但被西辽打败。摩诃末沙退回花刺子模。奥斯曼转向西辽，并向菊儿汗的女儿求婚，但遭到拒绝，于是再转向花刺子模。
1210年，摩诃末沙再次出兵，进入河中地，受到奥斯曼的热烈欢迎；但他们再不是平权的盟友，而是宗主与附庸的关系。摩诃末沙为动员广大穆斯林支持自己，煽起他们的宗教狂热，宣布对西辽进行“圣战”。他在怛逻斯附近打败西辽军队，并俘虏了其主帅塔阳古。从此摩诃末沙威名大震。
西辽在对付帝国西部的花刺子模国和西部喀喇汗主朝的叛离而失败的同时，西辽在各个属国的官员也日趋腐化。东部的高昌回鹘王国于1209年杀死西辽王朝的监督官投靠蒙古国，1211年葛逻禄部首领阿儿斯兰汗也投奔成吉思汗。这样，西辽王朝只剩下东部喀喇汗王朝这一个附庸国。后来东部喀喇汗王朝也起兵造反，菊儿汗出兵镇压，并把喀喇汗王朝的穆罕默德俘虏，囚禁于巴拉沙衮，才稳定住局势。但是这时西辽王朝的直辖领地，情况也已与全盛之时不可同日而语。西辽王朝气数将尽，离灭亡已经不远了。
蒙古兴起后，乃蛮部被成吉思汗打垮，乃蛮部太阳汗子屈出律（又称古出鲁克）及大量部民逃脱。他们奔往别失八里，从那里又越过天山到达库车。屈出律带领部下在库车山里东游西荡，既无粮食又乏给养，而跟随他的那些人已作鸟兽散。
1208年冬，屈出律只好去投奔西辽王朝的菊儿汗。屈出律到巴拉沙衮后，有一段时间为菊儿汗供职。当花刺子模的沙摩诃末起兵反对西辽时，东方的属国、属部也起来造反，西辽处境困难。这时屈出律提出让他去纠集乃蛮旧部，以强大西辽的建议。耶律直鲁吉接受了他的建议，赏赐他许多财宝并封他为可汗。
屈出律到叶密立和海押立一带收集自己的族人，又同其他部落结成联盟。他率领这支军队进入西辽直辖领地，大肆杀戮和抢劫。他向花刺子模沙派出使臣，约定夹攻菊儿汗，瓜分西辽土地。屈出律出兵击败西辽军队，遂劫掠乌兹干，又进攻巴拉沙衮，但被菊儿汗打败，士兵大半被俘。屈出律北走，重新集结兵力，等待时机。
1210年怛逻斯战役后，花刺子模和西辽各自退兵。西辽军队纪律败坏，沿途烧杀抢劫，人民惊恐。当他们抵达巴拉沙衮时，居民们紧闭城门，拒绝他们入城。西辽军队的将领们告诉他们花刺子模已退兵。但居民们不相信，坚持战斗了十六天，最后被西辽军队用大象把城门攻毁。西辽军队入城后，屠杀三天三夜，有四万七千人被杀。西辽军队同时大肆抢劫，得到大量财物。但是这时菊儿汗财政困难，国库空空如洗。宰相马赫穆德巴依怕菊儿汗征收自己的财产，便建议把士兵抢劫的财物集中归国库。当将军们听到这一消息后，便各自带军队离开菊儿汗，煽动叛乱。
屈出律得知这一情况后，于1211年秋天趁直鲁古外出狩猎的时候将其带军队突袭菊儿汗，攫取了政权。《辽史》记载，“乃蛮王屈出律以伏兵八千擒之，而据其位。”屈出律攫取政权后，表面上对菊儿汗很礼敬“尊耶律直鲁古为太上皇，皇后为皇太后，朝夕问起居”，实际上是利用他来稳定自己的统治。耶律直鲁古在郁抑悲意中生活了两年，于1213年死去。耶律直鲁古史称末主。
屈出律为了取得契丹贵族的支持，娶了西辽王朝末代皇帝直鲁古之女忽浑公主，并依公主劝告，他由基督教改信佛教。由于花拉子摸国摩诃谟打着伊斯兰教旗号向东扩张，屈出律在全国大力推行佛教，打击伊斯兰教。屈出律要穆斯林改奉佛教，至少要穿戴契丹人的服装，并强制推行，引起人民群众的普遍不满。
更多文章：