不久之后，他便被李茂贞的亲信石简颙等人设计陷害，失去了手中的权力，被迫寓居在岐山脚下，过上了闭门不出的隐居生活。
那些年，刘知俊仿佛被世界遗忘，他默默地生活在岐山的脚下，日复一日，年复一年。他的心中或许有过不甘，有过愤怒，但更多的是无奈和悲凉。他深知，在这个乱世之中，权力和地位都是瞬息万变的，今日的风光可能转眼就成为明日的泡影。
然而，命运似乎并不打算让他就这样默默无闻地度过一生。李茂贞的侄子李继崇镇守秦州，一次探望李茂贞时，提到了刘知俊的境遇。李继崇说，刘知俊已经走到了绝境，他不应该因为一些谗言和嫉妒而被怀疑和冷落。李茂贞听了之后，心中颇有感触，于是杀了石简颙等人，以此来安抚刘知俊的心。
李继崇看到李茂贞对刘知俊的态度有所转变，便趁热打铁，请求让刘知俊带着家人居住在秦州，以便生活能够丰足一些。李茂贞念及旧情，也为了显示自己的宽容大度，便同意了李继崇的请求。于是，刘知俊带着家人离开了岐山，前往秦州，开始了新的生活。
在秦州的日子里，刘知俊虽然没有了昔日的权势，但生活却相对安稳。他感激李继崇的帮助，也感激李茂贞的宽容。然而，他深知，在这个乱世之中，安稳只是暂时的，随时都可能被打破。
不久之后，邠州发生了动乱。李茂贞为了平定叛乱，命令刘知俊去讨伐。刘知俊虽然心中有些不情愿，但无奈君命难违，只好率军前往。然而，当他到达邠州时，却发现情况远比想象中复杂。当时邠州都校李保衡已经向朝廷投降，末帝李从珂派遣霍彦威率兵先进入邠州。刘知俊面临着强大的敌人，围攻邠州城半年之久，却始终未能攻下。
就在刘知俊陷入困境之时，李继崇却以秦州投降了蜀国。这一消息如同晴天霹雳，让刘知俊措手不及。他的妻子儿女都被迁往成都，他陷入了进退两难的境地。无奈之下，他只好解除了对邠州的围攻，返回岐阳。
然而，回到岐阳之后，刘知俊的心中却充满了不安。他的全家都已经入了蜀地，他深知自己随时都可能被猜忌和陷害。于是，他决定带着一百多名亲信，在夜深人静之时，冲破关卡，投奔蜀国。
王建是蜀国的君主，他对待刘知俊非常优厚。他立即任命刘知俊为伪武信军节度使，并给予他丰厚的赏赐。不久之后，他又命令刘知俊率兵讨伐岐国。然而，这次讨伐并没有成功，刘知俊只好撤军回来。在撤军的过程中，他趁机围攻了陇州，俘虏了其主帅桑宏志并带回。
尽管刘知俊在蜀国得到了重用和赏识，但他的心中却始终无法安定下来。他深知自己在这个乱世之中的处境，也深知王建的猜忌和防范。因此，他时刻保持着警惕和谨慎，生怕自己一不小心就会陷入万劫不复的境地。
过了很久，刘知俊又被任命为都统，再次率军讨伐岐国。然而，这次讨伐同样没有成功。他的部将们都是王建的老部下，多不听从他的指挥。无奈之下，他只好撤军回来。然而，这次撤军却让他陷入了更大的困境。蜀人因此而诋毁他，说他无能、怯战。这些流言蜚语让刘知俊倍感压力，也让他更加担心自己的处境。
在此之前，王建虽然宠爱优待刘知俊，但内心深处却非常忌惮他。他曾对近侍说：“我渐渐衰老，总是考虑身后之事。刘知俊不是你们能驾驭的，不如早点除掉他。”这些话传到了刘知俊的耳朵里，让他更加感到不安和恐惧。
为了除掉刘知俊，王建开始在里巷间散布关于他的谣言。他说：“黑牛出圈棕绳断。”这句话意味深长，因为刘知俊肤色黑且相貌丑陋，“棕绳”者，又因为王氏子孙都以“宗”、“承”为名，所以用这个来构陷他，暗示他将会对王氏子孙构成威胁。这些谣言让刘知俊的处境更加艰难，也让他的心中充满了恐惧和不安。
伪蜀天汉元年（公元917年）冬天十二月，王建终于下定了决心，派人捉拿刘知俊。在成都府的炭市，刘知俊被斩首示众。他的生命就这样走到了尽头，结束在这个纷扰的乱世之中。
然而，刘知俊的故事并没有因此而结束。他的族子刘嗣彬，从小便跟随他征战沙场，屡次升迁为军校。当刘知俊反叛时，刘嗣彬并没有参与谋划，因此没有受到牵连。他继续留在军中，为蜀国效力。
贞明末年（公元921年左右），大军与晋王李存勖在德胜对峙。过了很久，刘嗣彬率领几名骑兵投奔了晋王。他详细地向晋王讲述了朝廷的军机得失，还表达了自己因为家族世代的仇怨而想要报复的决心。晋王非常信任他，立即赐给他丰厚的田宅和锦衣玉带，并在军中称他为“刘二哥”。
过了一年，刘嗣彬又来投奔晋王。当时晋人以为他是刺客，想要暗中动手除掉他。然而，晋王却念及旧情和恩泽，没有让手下人动手。这让刘嗣彬非常感动，也更加坚定了他为晋王效力的决心。
龙德三年（公元923年）冬天，刘嗣彬跟随王彦章在中都作战。然而，这次战斗却以失败告终。刘嗣彬被晋人擒获，成为了俘虏。当他被带到晋王面前时，晋王笑着对他说：“你可以把我的玉带还给我了。”这句话让刘嗣彬惶恐不已，他请求晋王处死自己。于是，晋王便下令杀了他。