年十五，举茂才，明经对策，沈约、任昉见而异之。吏部尚书王瞻尝候任昉，遇之遴在坐，昉谓瞻曰："此南阳刘之遴，学优未仕，水镜所宜甄擢。"即调为太学博士。昉曰："为之美谈，不如面试。"时张稷新除尚书仆射，托昉为让表，昉令之遴代作，操笔立成。昉曰"荆南秀气，果有异才，后仕必当过仆。"御史中丞乐蔼，即之遴之舅，宪台奏弹，皆令之遴草焉。后为荆州中从事，梁简文临荆州，仍迁宣惠记室。之遴笃学明审，博览群籍，时刘显、韦棱并称强记，之遴每与讨论，咸不过也。累迁中书侍郎，后除南郡太守。武帝谓曰："卿母年德并高，故令卿衣锦还乡，尽荣养之理。"转西中郎湘东王绎长史，太守如故。初，之遴在荆府，常寄居南郡，忽梦前太守袁彖谓曰："卿后当为折臂太守，即居此中。"之遴后牛奔堕车折臂，右手偏直，不复得屈伸，书则以手就笔，叹曰："岂黥而王乎？"周舍尝戏之曰："虽复并坐可横，政恐陋巷无枕。"后连相两王，再为此郡，历秘书监。出为郢州行事，之遴意不愿出，固辞曰："去岁命绝离巽，不敢东下；今年所忌又在西方。"武帝手敕曰："朕闻妻子具孝衰于亲；爵禄具忠衰于君。卿既内足理，忘奉公之节。"遂为有司奏免。后为都官尚书、太常卿。
之遴好古爱奇，在荆州聚古器数十百种，有一器似瓯可容一斛，上有金错字，时人无能知者。又献古器四种于东宫。其第一种，镂铜鸱夷榼二枚，两耳有银镂，铭云："建平二年造。"其第二种，金银错镂古鐏二枚，有篆铭云："秦容成侯适楚之岁造。"其第三种，外国澡灌一口，有铭云："元封二年，龟兹国献。"其第四种，古制澡盘一枚，铭云："初平二年造。"时鄱阳嗣王范得班固所撰《汉书》真本献东宫，皇太子令之遴与张缵、到溉、陆襄等参校异同，之遴录其异状数十事，其大略云："案古本《汉书》称永平十六年五月二十一日己酉，郎班固；而今本无上书年月日子。又案古本《叙传》号为中篇，今本称为《叙传》，又今本《叙传》载班彪事行，而古本云'彪自有传'。又今本《纪》及《表》、《志》、《列传》不相合为次；而古本相合为次，总成三十八卷。又今本《外戚》在《西域》后；古本《外戚》次《帝纪》下。又今本《高五子》、《文三王》、《景十三王》、《孝武六子》、《宣元六王》杂在诸传表中；古本《诸王》悉次《外戚》下，在《陈项传》上。又今本《韩彭英庐吴述》云：'信惟饿隶，布实黥徒，越亦狗盗，芮尹江湖。云起龙骧，化为侯王。'古本述云：'淮阴毅毅，伏剑周章，邦之杰子，实惟彭、英。化为侯王，云起龙骧。'又古本第三十七卷解音释义，以助雅诂；而今本无此卷也。"
之遴好属文，多学古体，与河东裴子野、沛国刘显恒共讨论古籍，因为交好。时《周易》、《尚书》、《礼记》、《毛诗》并有武帝义疏，唯《左氏传》尚阙，之遴乃著《春秋大意》十科，《左氏》十科，《三传同异》十科。合三十事上之。帝大悦，诏答曰："省所撰《春秋》义，比事论书，辞微旨远，编年之教，言阐义繁。丘明传洙、泗之风，公羊宗西河之学，铎椒之解不追，瑕丘之说无取。继踵胡母，仲舒云盛，因循《谷梁》，千秋最笃。张苍之传《左氏》，贾谊之袭荀卿，源本分镳，指归殊致，详略纷然，其来旧矣。昔在弱年，久经研味，一从遗置，迄将五纪。兼晚秋晷促，机事罕暇，夜分求衣，未遑披括。须待夏景，试欲推寻，若温故可求，别酬所问也。"
始武帝于齐代为荆府谘议，时之遴父虬隐在百里洲，早相知闻。帝偶匮乏，遣就虬换谷百斛。之遴时在父侧，曰："萧谘议踬士，云何能得舂，愿与其米。"虬从之。及帝即位，常怀之。侯景初以萧正德为帝，之遴时落景所，将使授玺绂。之遴预知，仍剃发披法服乃免。先是，平昌伏挺出家，之遴为诗嘲之曰："《传》闻伏不斗，化为支道林。"及之遴遇乱，遂披染服，时人笑之。寻避难还乡，湘东王绎尝嫉其才学，闻其西上至夏口，乃密送药杀之。不欲使人知，乃自制志铭，厚其赙赠。前后文集五十卷。
子三达，字三善，数岁能清言及属文。州将湘东王绎闻之，盛集宾客，召而试之。说义属诗，皆有理致。年十二，听江陵令贺革讲《礼》还，仍覆述，不遗一句。年十八卒。之遴深怀悼恨，乃题墓曰"梁妙士"以旌之。之遴弟之亨。