刘知俊，字希贤，徐州沛县人也。姿貌雄杰，倜傥有大志。始事徐帅时溥，为列校，溥甚器之，后以勇略见忌。唐大顺二年冬，率所部二千人来降，即署为军校。知俊披甲上马，轮剑入敌，勇冠诸将。太祖命左右义胜两军隶之，寻用为左开道指挥使，故当时人谓之“刘开道”。后讨秦宗权及攻徐州，皆有功，寻补徐州马步军都指挥使。攻海州下之，遂奏授刺史。天复初，历典怀、郑二州，从平青州，以功奏授同州节度使。天祐三年冬，以兵五千破岐军六万于美原。自是连克鄜、延等五州，乃加检校太傅、平章事。开平二年春三月，命为潞州行营招讨使。知俊未至潞，夹寨已陷，晋人引军方攻泽州，闻知俊至，乃退。寻改西路招讨使。六月，大破岐军于幕谷，俘斩千计，李茂贞仅以身免。三年五月，加检校太尉、兼侍中，封大彭郡王。
时知俊威望益隆，太祖雄猜日甚，会佑国军节度使王重师无罪见诛，知俊居不自安，乃据同州叛，（《鉴戒录》云：彭城王刘知俊镇同州日，因筑营墙，掘得一物，重八十余斤，状若油囊，召宾幕将校问之。刘源曰：“此是冤气所结，古来囹圄之地或有焉。昔王充据洛阳，修河南府狱，亦获此物。源闻酒能忘忧，奠以醇醪，或可消释耳。然此物之出，亦非吉征也。”知俊命具酒馔祝酹，复瘗之。寻有叛城背主之事。）送款于李茂贞。又分兵以袭雍、华，雍州节度使刘捍被擒，送凤翔害之，华州蔡敬思被伤获免。太祖闻知俊叛，遣近臣谕之曰：“朕待卿甚厚，何相负耶？”知俊报曰：“臣非背德，但畏死耳！王重师不负陛下，而致族灭！”太祖复遣使谓知俊曰：“朕不料卿为此。昨重师得罪，盖刘捍言阴结邠、凤，终不为国家用。我今虽知枉滥，悔不可追，致卿如斯，我心恨恨，盖刘捍误予事也，捍一死固未塞责。”知俊不报，遂分兵以守潼关。太祖命刘鄩率兵进讨，攻潼关，下之。时知俊弟知浣为亲卫指挥使，闻知俊叛，自洛奔至潼关，为鄩所擒，害之。寻而王师继至，知俊乃举族奔于凤翔；李茂贞厚待之，伪加检校太尉、兼中书令，以土疆不广，无藩镇以处之，但厚给俸禄而已。寻命率兵攻围灵武，且图牧圉之地。灵武节度使韩逊遣使来告急，太祖令康怀英率师救之，师次邠州长城岭，为知俊邀击，怀英败归。（《九国志》云：李彦琦、刘知俊自灵武班师，涂经长城岭，梁师率精锐数万蹑其后，彦琦与知俊同设方略，击败之。）茂贞悦，署为泾州节度使。复命率众攻兴元，进围西县，会蜀军救至，乃退。（《九国志·王宗鐬传》云：岐将刘知俊等领大军分路来攻，由阶、成路夺固镇粮，王宗侃、唐袭等御之，至青泥岭，为知俊所败，退保西县。会大雨，汉江涨，宗鐬自罗村得乡导，缘山而行数百里，与宗播遇于铁谷，合军出汤头。时知俊自斜谷山南直抵兴州，围西县，军人散掠巴中，宗鐬与宗播袭之。会王建亦至，遂解西县之围。）
既而为茂贞左右石简颙等间之，免其军政，寓于岐下，掩关历年。茂贞犹子继崇镇秦州，因来宁觐，言知俊途穷至此，不宜以谗嫉见疑，茂贞乃诛简颙等以安其心。继崇又请令知俊挈家居秦州，以就丰给，茂贞从之。未几，邠州乱，茂贞命知俊讨之。时邠州都校李保衡纳款于朝廷，末帝遣霍彦威率众先入于邠，知俊遂围其城，半载不能下。会李继崇以秦州降于蜀，知俊妻孥皆迁于成都，遂解邠州之围而归岐阳。以举家入蜀，终虑猜忌，因与亲信百余人夜斩关奔蜀。王建待之甚至，即授伪武信军节度使，寻命将兵伐岐，不克，班师，因围陇州，获其帅桑宏志以归。久之，复命为都统，再领军伐岐。时部将皆王建旧人，多违节度，不成功而还，蜀人因而毁之。先是，王建虽加宠待，然亦忌之，尝谓近侍曰：“吾渐衰耗，恒思身后。刘知俊非尔辈能驾驭，不如早为之所。”又嫉其名者于里巷间作谣言云：“黑牛出圈棕绳断。”知俊色黔而丑生，棕绳者，王氏子孙皆以“宗”、“承”为名，故以此构之。伪蜀天汉元年冬十二月，建遣人捕知俊，斩于成都府之炭市。及王衍嗣伪位，以其子嗣禋尚伪峨眉长公主，拜驸马都尉。后唐同光末，随例迁于洛，卒。
知俊族子嗣彬，幼从知俊征行，累迁为军校。及知俊叛，以不预其谋，得不坐。贞明末，大军与晋王对垒于德胜，久之，嗣彬率数骑奔于晋，具言朝廷军机得失；又以家世仇怨，将以报之。晋王深信之，即厚给田宅，仍赐锦衣玉带，军中目为“刘二哥”。居一年，复来奔，当时晋人谓是刺客，以晋王恩泽之厚，故不窃发。龙德三年冬，从王彦章战于中都，军败，为晋人所擒。晋王见之，笑谓嗣彬曰：“尔可还予玉带。”嗣彬惶恐请死，遂诛之。