徐羡之，字宗文，东海郯人也。祖宁，尚书吏部郎，江州刺史，未拜卒。父祚之，上虞令。羡之少为王雅太子少傅主簿，刘牢之镇北功曹，尚书祠部郎，不拜，桓修抚军中兵曹参军。与高祖同府，深相亲结。义旗建，高祖版为镇军参军，尚书库部郎，领军司马。与谢混共事，混甚知之。补琅邪王大司马参军，司徒左西属，徐州别驾从事史，太尉咨议参军。义熙十一年，除鹰扬将军、琅邪内史，仍为大司马从事中郎，将军如故。高祖北伐，转太尉左司马，掌留任，以副贰刘穆之。
初，高祖议欲北伐，朝士多谏，唯羡之默然。或问何独不言，羡之曰：“吾位至二品，官为二千石，志愿久充。今二方已平，拓地万里，唯有小羌未定，而公寝食不忘。意量乖殊，何可轻豫。”刘穆之卒，高祖命以羡之为吏部尚书、建威将军、丹阳尹，总知留任，甲仗二十人出入。转尚书仆射，将军、尹如故。
十四年，大司马府军人硃兴妻周坐息男道扶年三岁，先得痫病，周因其病发，掘地生埋之，为道扶姑女所告，正周弃市刑。羡之议曰：“自然之爱，虎狼犹仁。
周之凶忍，宜加显戮。臣以为法律之外，故尚弘物之理。母之即刑，由子明法，为子之道，焉有自容之地。虽伏法者当罪，而在宥者靡容。愚谓可特申之遐裔。”从之。
高祖践阼，进号镇军将军，加散骑常侍。上初即位，思佐命之功，诏曰：“散骑常侍、尚书仆射、镇军将军、丹阳尹徐羡之，监江州豫州之西阳新蔡诸军事、抚军将军、江州刺史华容侯王弘，散骑常侍、护军将军作唐男檀道济，中书令、领太子詹事傅亮，侍中、中领军谢晦，前左将军、江州刺史宜阳侯檀韶，使持节、雍梁南北秦四州荆州之河北诸军事、后将军、雍州刺史关中侯赵伦之，使持节、督北徐兗青三州诸军事、征虏将军、北徐州刺史南城男刘怀慎，散骑常侍、领太子左卫率新淦侯王仲德，前冠军将军、北青州刺史安南男向弥，左卫将军滠阳男刘粹，使持节、南蛮校尉佷山子到彦之，西中郎司马南郡宜阳侯张邵，参西中郎将军事、建威将军、河东太守资中侯沈林子等，或忠规远谋，扶赞洪业；或肆勤树绩，弘济艰难。
经始图终，勋烈惟茂，并宜与国同休，飨兹大赉。羡之可封南昌县公，弘可华容县公，道济可改封永修县公，亮可建城县公，晦可武昌县公，食邑各二千户；韶可更增邑二千五百户，仲德可增邑二千二百户；怀慎、彦之各进爵为侯，粹改封建安县侯，并增邑为千户；伦之可封霄城县侯，食邑千户；邵可封临沮县伯，林子可封汉寿县伯，食邑六百户。开国之制，率遵旧章。”
羡之迁尚书令、扬州刺史，加散骑常侍。进位司空、录尚书事，常侍、刺史如故。羡之起布衣，又无术学，直以志力局度，一旦居廊庙，朝野推服，咸谓有宰臣之望。沈密寡言，不以忧喜见色。颇工弈棋，观戏常若未解，当世倍以此推之。傅亮、蔡廓常言：“徐公晓万事，安异同。”
高祖不豫，加班剑三十人。宫车晏驾，与中书令傅亮、领军将军谢晦、镇北将军檀道济同被顾命。少帝诏曰：“平理狱讼，政道所先。朕哀荒在疚，未堪亲览。
司空、尚书令可率众官月一决狱。”
帝后失德，羡之等将谋废立，而庐陵王义真轻动多过，不任四海，乃先废义真，然后废帝。时谢晦为领军，以府舍内屋败应治，悉移家人出宅，聚将士于府内。镇北将军、南兗州刺史檀道济先朝旧将，威服殿省，且有兵众，召使入朝，告之以谋。
事将发，道济入宿领军府。中书舍人邢安泰、潘盛为内应，其日守关。道济领兵居前，羡之等继其后，由东掖门云龙门入，宿卫先受处分，莫有动者。先是帝于华林园为列肆，亲自酤卖，又开渎聚土，以像破岗，率左右唱呼引船为乐。是夕，寝于龙舟，在天渊池。兵士进杀二人，又伤帝指。扶帝出东阁，收玺绶。群臣拜辞，卫送故太子宫，迁于吴郡。侍中程道惠劝立第五皇弟义恭，羡之不许。遣使杀义真于新安，杀帝于吴县。时为帝筑宫未成，权居金昌亭，帝突走出昌门，追者以门关击之倒地，然后加害。
太祖即阼，进羡之司徒，余如故，改封南平郡公，食邑四千户，固让加封。有司奏车驾依旧临华林园听讼，诏曰：“政刑多所未悉，可如先二公推讯。”元嘉二年，羡之与左光禄大夫傅亮上表归政，曰：“臣闻元首司契，运枢成务；臣道代终，事尽宣翼。冕旒之道，理绝于上皇；拱己之事，不行于中古。故高宗不言，以三龄为断；冢宰听政，以再期为节。百王以降，罔或不然。陛下圣德绍兴，负荷洪业，忆兆颙颙，思陶盛化。而圣旨谦挹，委成群司。自大礼告终，钻燧三改，大明伫照，远迩倾属。臣等虽率诚屡闻，未能仰感，敢藉品物之情，谨因苍生之志。
伏愿陛下远存 周文 (《宋书》人物)日昃之道，近思皇室缔构之艰，时揽万机，躬亲朝政，广辟四聪，博询庶业，则雍熙可臻，有生幸甚。”上未许。羡之等重奏曰：“近写下情，言为心罄，奉被还诏，鉴许未回。岂惟愚臣，秉心有在，询之朝野，人无异议。何者？形风四方，实系王德，一国之事，本之一人。虽世代不同，时殊风异，至于主运臣赞，古今一揆。未有浑心委任，而休明可期，此之非宜，布自遐迩。臣等荷遇二世，休戚以均，情为国至，岂容顺默。重披丹心，冒昧以请。”上犹辞。羡之等又固陈曰：“比表披陈，辞诚俱尽，诏旨冲远，未垂听纳，三复屏营，伏增忧叹。臣闻克隆先构，干蛊之盛业；昧旦丕显，帝王之高义。自皇宋创运，英圣有造，殷忧未阙，艰患仍缠。赖天命有底，圣明承业，时屯国故，犹在民心。泰山之安，未易可保，昏明隆替，系在圣躬。斯诚周诗夙兴之辰，殷王待旦之日，岂得无为拱己，复玄古之风，逡巡虚挹，徇匹夫之事。伏愿以宗庙为重，百姓为心，弘大业以嗣先轨，隆圣道以增前烈。愚瞽所献，情尽于此。”上乃许之。羡之仍逊位退还私第，兄子佩之及侍中程道惠、吴兴太守王韶之等并谓非宜，敦劝甚苦，复奉诏摄任。
三年正月，诏曰：“民生于三，事之如一，爱敬同极，岂惟名教，况乃施侔造物，义在加隆者乎！徐羡之、傅亮、谢晦，皆因缘之才，荷恩在昔，擢自无闻，超居要重，卵翼而长，未足以譬。永初之季，天祸横流，大明倾曜，四海遏密，实受顾托，任同负图。而不能竭其股肱，尽其心力，送往无复言之节，事居阙忠贞之效，将顺靡记，匡救蔑闻，怀宠取容，顺成失德。虽末因惧祸，以建大策，而逞其悖心，不畏不义。播迁之始，谋肆鸩毒，至止未几，显行怨杀，穷凶极虐，荼酷备加，颠沛皁隶之手，告尽逆旅之馆，都鄙哀愕，行路饮涕。故庐陵王英秀明远，徽风夙播，鲁卫之寄，朝野属情。羡之等暴蔑求专，忌贤畏逼，造构贝锦，成此无端，罔主蒙上，横加流屏，矫诬朝旨，致兹祸害。寄以国命，而翦为仇雠，旬月之间，再肆鸩毒，痛感三灵，怨结人鬼。自书契以来，弃常安忍，反易天明，未有如斯之甚者也。
昔子家从弑，郑人致讨；宋肥无辜，荡泽为戮。况逆乱倍于往衅，情痛深于国家，此而可容，孰不可忍！即宜诛殛，告谢存亡。而于时大事甫尔，异同纷结，匡国之勋实著，莫大之罪未彰。是以远酌民心，近听舆讼，虽欲讨乱，虑或难图，故忍戚含哀，怀耻累载。每念人生实难，情事未展，何尝不顾影恸心，伏枕泣血。今逆臣之衅，彰暴遐迩，君子悲情，义徒思奋，家仇国耻，可得而雪，便命司寇，肃明典刑。晦据有上流，或不即罪，朕当亲率六师，为其遏防。可遣中领军到彦之即日电发，征北将军檀道济络驿继路，符卫军府州以时收翦。已命征虏将军刘粹断其走伏。
罪止元凶，余无所问。感惟永往，心情崩绝。氛雾既袪，庶几治道。”
尔日诏召羡之。行至西明门外，时谢晦弟