谢晦，字宣明，陈郡阳夏人也。祖朗，东阳太守。父重，会稽王道子骠骑长史。
兄绚，高祖镇军长史，蚤卒。晦初为孟昶建威府中兵参军。昶死，高祖问刘穆之：“孟昶参佐，谁堪入我府？”穆之举晦，即命为太尉参军。高祖尝讯囚，其旦刑狱参军有疾，札晦代之，于车中一鉴讯牒，催促便下。相府多事，狱繁殷积，晦随问酬辩，曾无违谬。高祖奇之，即日署刑狱贼曹，转豫州治中从事。义熙八年，土断侨流郡县，使晦分判扬、豫民户，以平允见称。入为太尉主簿，从征司马休之。时徐逵之战败见杀，高祖怒，将自被甲登岸，诸将谏，不从，怒愈甚。晦前抱持高祖，高祖曰：“我斩卿！”晦曰：“天下可无晦，不可无公，晦死何有！”会胡籓已得登岸，贼退走，乃止。
晦美风姿，善言笑，眉目分明，鬓发如点漆。涉猎文义，朗赡多通，高祖深加爱赏，群僚莫及。从征关、洛，内外要任悉委之。刘穆之遣使陈事，晦往往措异同，穆之怒曰：“公复有还时否？”高祖欲以为从事中郎，以访穆之，坚执不与。终穆之世，不迁。穆之丧问至，高祖哭之甚恸。晦时正直，喜甚，自入阁内参审穆之死问。其日教出，转晦从事中郎。

宋台初建，为右卫将军，寻加侍中。高祖受命，于石头登坛，备法驾入宫。晦领游军为警备，迁中领军，侍中如故。以佐命功，封武昌县公，食邑二千户。二年，坐行玺封镇西司马、南郡太守王华大封，而误封北海太守球，版免晦侍中。寻转领军将军、散骑常侍，依晋中军羊祜故事，入直殿省，总统宿卫。三月，高祖不豫，给班剑二十人，与徐羡之、傅亮、檀道济并侍医药。少帝即位，加领中书令，与羡之，亮共辅朝政。少帝既废，司空徐羡之录诏命，以晦行都督荆湘雍益宁南北秦七州诸军事、抚军将军、领护南蛮校尉、荆州刺史，欲令居外为援，虑太祖至或别用人，故遽有此授。精兵旧将，悉以配之，器仗军资甚盛。太祖即位，加使持节，依本位除授。晦虑不得去，甚忧惶，及发新亭，顾望石头城，喜曰：“今得脱矣。”

寻进号卫将军，加散骑常侍，进封建平郡公，食邑四千户，固让进封。又给鼓吹一部。
初为荆州，甚有自矜之色，将之镇，诣从叔光禄大夫澹别。澹问晦年，晦答曰：“三十五。”澹笑曰：“昔荀中郎年二十七为北府都督，卿比之，已为老矣。”晦有愧色。至江陵，深结侍中王华，冀以免祸。二女当配彭城王义康、新野侯义宾。

元嘉二年，遣妻曹及长子世休送女还京邑。先是景平中，索虏为寇，覆没河南。至是上欲诛羡之等，并讨晦。声言北伐，又言拜京陵，治装舟舰。傅亮与晦书曰：“薄伐河朔，事犹未已，朝野之虑，忧惧者多。”又言：“朝士多谏北征，上当遣外监万幼宗往相咨访。”时朝廷处分异常，其谋颇泄。三年正月，晦弟黄门侍郎