元嘉二年，羡之与左光禄大夫傅亮上表归政，曰："臣闻元首司契，运枢成务；臣道代终，事尽宣翼。冕旒之道，理绝于上皇；拱己之事，不行于中古。故高宗不言，以三龄为断；冢宰听政，以再期为节。百王以降，罔或不然。陛下圣德绍兴，负荷洪业，忆兆颙颙，思陶盛化。而圣旨谦挹，委成群司。自大礼告终，钻燧三改，大明伫照，远迩倾属。臣等虽率诚屡闻，未能仰感，敢藉品物之情，谨因苍生之志。伏愿陛下远存周文日昃之道，近思皇室缔构之艰，时揽万机，躬亲朝政，广辟四聪，博询庶业，则雍熙可臻，有生幸甚。"上未许。羡之等重奏曰："近写下情，言为心罄，奉被还诏，鉴许未回。岂惟愚臣，秉心有在，询之朝野，人无异议。何者？形风四方，实系王德，一国之事，本之一人。虽世代不同，时殊风异，至于主运臣赞，古今一揆。未有浑心委任，而休明可期，此之非宜，布自遐迩。臣等荷遇二世，休戚以均，情为国至，岂容顺默。重披丹心，冒昧以请。"上犹辞。羡之等又固陈曰："比表披陈，辞诚俱尽，诏旨冲远，未垂听纳，三复屏营，伏增忧叹。臣闻克隆先构，干蛊之盛业；昧旦丕显，帝王之高义。自皇宋创运，英圣有造，殷忧未阙，艰患仍缠。赖天命有底，圣明承业，时屯国故，犹在民心。泰山之安，未易可保，昏明隆替，系在圣躬。斯诚周诗夙兴之辰，殷王待旦之日，岂得无为拱己，复玄古之风，逡巡虚挹，徇匹夫之事。伏愿以宗庙为重，百姓为心，弘大业以嗣先轨，隆圣道以增前烈。愚瞽所献，情尽于此。"上乃许之。羡之仍逊位退还私第，兄子佩之及侍中程道惠、吴兴太守王韶之等并谓非宜，敦劝甚苦，复奉诏摄任。
三年正月，诏曰："民生于三，事之如一，爱敬同极，岂惟名教，况乃施侔造物，义在加隆者乎！徐羡之、傅亮、谢晦，皆因缘之才，荷恩在昔，擢自无闻，超居要重，卵翼而长，未足以譬。永初之季，天祸横流，大明倾曜，四海遏密，实受顾托，任同负图。而不能竭其股肱，尽其心力，送往无复言之节，事居阙忠贞之效，将顺靡记，匡救蔑闻，怀宠取容，顺成失德。虽末因惧祸，以建大策，而逞其悖心，不畏不义。播迁之始，谋肆鸩毒，至止未几，显行怨杀，穷凶极虐，荼酷备加，颠沛皂隶之手，告尽逆旅之馆，都鄙哀愕，行路饮涕。故庐陵王英秀明远，徽风夙播，鲁卫之寄，朝野属情。羡之等暴蔑求专，忌贤畏逼，造构贝锦，成此无端，罔主蒙上，横加流屏，矫诬朝旨，致兹祸害。寄以国命，而翦为仇雠，旬月之间，再肆鸩毒，痛感三灵，怨结人鬼。自书契以来，弃常安忍，反易天明，未有如斯之甚者也。昔子家从弑，郑人致讨；宋肥无辜，荡泽为戮。况逆乱倍于往衅，情痛深于国家，此而可容，孰不可忍！即宜诛殛，告谢存亡。而于时大事甫尔，异同纷结，匡国之勋实著，莫大之罪未彰。是以远酌民心，近听舆讼，虽欲讨乱，虑或难图，故忍戚含哀，怀耻累载。每念人生实难，情事未展，何尝不顾影恸心，伏枕泣血。今逆臣之衅，彰暴遐迩，君子悲情，义徒思奋，家仇国耻，可得而雪，便命司寇，肃明典刑。晦据有上流，或不即罪，朕当亲率六师，为其遏防。可遣中领军到彦之即日电发，征北将军檀道济络驿继路，符卫军府州以时收翦。已命征虏将军刘粹断其走伏。罪止元凶，余无所问。感惟永往，心情崩绝。氛雾既袪，庶几治道。"
尔日诏召羡之。行至西明门外，时谢晦弟爵(子肖反)为黄门郎，正直，报亮云："殿内有异处分。"亮驰报羡之。羡之回还西州，乘内人问讯车出郭，步走至新林，入陶灶中自刭死，时年六十三。羡之初不应召，上遣中领军到彦之、右卫将军王华追讨。羡之死，野人以告，载尸付廷尉。子乔之，尚高祖第六女富阳公主，官至竟陵王文学。乔之及弟乞奴从诛。
初，羡之年少时，尝有一人来，谓之曰："我是汝祖。"羡之因起拜之。此人曰："汝有贵相，而有大厄，可以钱二十八文埋宅四角，可以免灾。过此可位极人臣。"后羡之随亲之县，住在县内，尝暂出，而贼自后破县；县内人无免者，鸡犬亦尽，唯羡之在外获全。随从兄履之为临海乐安县，尝行经山中，见黑龙长丈余，头有角，前两足皆具，无后足，曳尾而行。及拜司空，守关将入，彗星晨见危南。又当拜时，双鹤集太极东鸱尾鸣唤。
兄子佩之，轻薄好利，高祖以其姻戚，累加宠任，为丹阳尹，吴郡太守。景平初，以羡之秉权，颇豫政事。与王韶之、程道惠、中书舍人邢安泰、潘盛相结党与。时谢晦久病，连灸，不堪见客。佩之等疑其托疾有异图，与韶之、道惠同载诣傅亮，称羡之意，欲令亮作诏诛之。亮答以为："己等三人，同受顾命，岂可相残戮！若诸君果行此事，便当角巾步出掖门耳。"佩之等乃止。羡之既诛，太祖特宥佩之，免官而已。其年冬，佩之又结殿中监茅亨谋反，并告前宁州刺史应袭，以亨为兖州，袭为豫州。亨密以闻，袭亦告司徒王弘。佩之聚党百余人，杀牛犒赐，条牒时人，并相署置，期明年正会，于殿中作乱。未及数日，收斩之。