谢晦，字宣明，陈郡阳夏人也。祖朗，东阳太守。父重，会稽王道子骠骑长史。兄绚，高祖镇军长史，蚤卒。晦初为孟昶建威府中兵参军。昶死，高祖问刘穆之："孟昶参佐，谁堪入我府？"穆之举晦，即命为太尉参军。高祖尝讯囚，其旦刑狱参军有疾，札晦代之，于车中一鉴讯牒，催促便下。相府多事，狱繁殷积，晦随问酬辩，曾无违谬。高祖奇之，即日署刑狱贼曹，转豫州治中从事。义熙八年，土断侨流郡县，使晦分判扬、豫民户，以平允见称。入为太尉主簿，从征司马休之。时徐逵之战败见杀，高祖怒，将自被甲登岸，诸将谏，不从，怒愈甚。晦前抱持高祖，高祖曰："我斩卿！"晦曰："天下可无晦，不可无公，晦死何有！"会胡藩已得登岸，贼退走，乃止。
晦美风姿，善言笑，眉目分明，鬓发如点漆。涉猎文义，朗赡多通，高祖深加爱赏，群僚莫及。从征关、洛，内外要任悉委之。刘穆之遣使陈事，晦往往措异同，穆之怒曰："公复有还时否？"高祖欲以为从事中郎，以访穆之，坚执不与。终穆之世，不迁。穆之丧问至，高祖哭之甚恸。晦时正直，喜甚，自入阁内参审穆之死问。其日教出，转晦从事中郎。
宋台初建，为右卫将军，寻加侍中。高祖受命，于石头登坛，备法驾入宫。晦领游军为警备，迁中领军，侍中如故。以佐命功，封武昌县公，食邑二千户。二年，坐行玺封镇西司马、南郡太守王华大封，而误封北海太守球，版免晦侍中。寻转领军将军、散骑常侍，依晋中军羊祜故事，入直殿省，总统宿卫。三月，高祖不豫，给班剑二十人，与徐羡之、傅亮、檀道济并侍医药。少帝即位，加领中书令，与羡之，亮共辅朝政。少帝既废，司空徐羡之录诏命，以晦行都督荆湘雍益宁南北秦七州诸军事、抚军将军、领护南蛮校尉、荆州刺史，欲令居外为援，虑太祖至或别用人，故遽有此授。精兵旧将，悉以配之，器仗军资甚盛。太祖即位，加使持节，依本位除授。晦虑不得去，甚忧惶，及发新亭，顾望石头城，喜曰："今得脱矣。"寻进号卫将军，加散骑常侍，进封建平郡公，食邑四千户，固让进封。又给鼓吹一部。
初为荆州，甚有自矜之色，将之镇，诣从叔光禄大夫澹别。澹问晦年，晦答曰："三十五。"澹笑曰："昔荀中郎年二十七为北府都督，卿比之，已为老矣。"晦有愧色。至江陵，深结侍中王华，冀以免祸。二女当配彭城王义康、新野侯义宾。元嘉二年，遣妻曹及长子世休送女还京邑。先是景平中，索虏为寇，覆没河南。至是上欲诛羡之等，并讨晦。声言北伐，又言拜京陵，治装舟舰。傅亮与晦书曰："薄伐河朔，事犹未已，朝野之虑，忧惧者多。"又言："朝士多谏北征，上当遣外监万幼宗往相咨访。"时朝廷处分异常，其谋颇泄。三年正月，晦弟黄门侍郎爵驰使告晦，晦犹谓不然，呼咨议参军何承天，示以亮书，曰："计幼宗一二日必至，傅公虑我好事，故先遣此书。"承天曰："外间所闻，咸谓西讨已定，幼宗岂有上理。"晦尚谓虚妄，使承天豫立答诏启草，伐虏宜须明年。江夏内史程道惠得寻阳人书，言："朝廷将有大处分，其事已审。"使其辅国府中兵参军乐冏封以示晦。晦又谓承天曰："幼宗尚未至，若复二三日无消息，便是不复来邪？"承天答曰："诏使本无来理，如程所说，其事已判，岂容复疑。"
晦欲焚南蛮兵籍，率见力决战。士人多劝发兵，乃立幡戒严，谓司马庾登之曰："今当自下，欲屈卿以三千人守城，备御刘粹。"登之曰："下官亲老在都，又素无旅，情计二三，不敢受此旨。"晦仍问诸佐："战士三千，足守城不？"南蛮司马周超对曰："非徒守城而已，若有外寇，可以立勋。"登之乃曰："超必能办，下官请解司马、南郡以授。"即于坐命超为司马、建威将军、南义阳太守，转登之为长史，南郡如故。
太祖诛羡之等及晦子新除秘书郎世休，收爵、爵子世平、兄子著作佐郎绍等。乐冏又遣使告晦："徐、傅二公及爵等并已诛。"晦先举羡之、亮哀，次发子弟凶问。既而自出射堂，配衣军旅。数从高祖征讨，备睹经略，至是指麾处分，莫不曲尽其宜。二三日中，四远投集，得精兵三万人。乃奉表曰：