西晋灭亡后，琅琊王司马睿于建武元年（317）在江南称帝，以建康（今江苏南京市）为都城，史称东晋。司马睿立国江东之时，黄河流域正处在战乱之中。当时，北方汉族人对少数民族军事贵族的统治十分仇恨，希望东晋政权北伐。晋室南渡之初，晋元帝司马睿忙于巩固自己统治，无心北伐。政局稍稳后，统治阶级内部又开始争权夺利，再加上士族热衷于江南的庄园经营，很少有人顾及北伐之事。但也有个别人物是主张北伐的，因而东晋前期，也曾出现了几次北伐。
祖逖北伐
祖逖（266～321），字士稚，是北方范阳世家大族。西晋永嘉之乱后，祖逖率亲党数百家渡江，居于京口（今江苏镇江市）。祖逖素有报国之心，以恢复中原为己任，建议元帝司马睿北伐，被任为镇西将军、豫州刺史。司马睿本无心北伐，所以只拨给祖逖千人粮饷，三千布匹，而不给一兵一卒、一刀一枪。祖逖对此毫无怨言，于建兴元年（313）率部曲百家渡江，船到中流，他拍击船楫发誓说：“我祖逖立志北伐，如果不能扫清中原而凯旋归来，就让我如同这浩浩荡荡的江水一样，有去无还吧！”
当时中原地区郡县系统已崩溃，到处都是坞堡。祖逖北进后，击斩与他敌对的坞主张平，降服另一坞主樊雅。与此同时，祖逖又遣使为互相争斗的坞主李矩、魏浚、郭默等人讲和，并使他们都归于自己麾下，壮大了自己的力量。在随后4年多的时间里，祖逖率领北伐军同拥有绝对优势的敌人进行了艰苦的战斗，终于收复黄河以南的大片土地，使“石勒不敢窥兵河南”，北伐形势非常好。就在祖逖练兵积谷，为进军河北做准备之时，晋元帝担心祖逖势力发展对他不利，就任命戴渊为征西将军，都督北方六州诸军事，节制祖逖。祖逖眼见北伐大业难成，又虑东晋内乱将至，忧愤成疾，死于军中。祖逖死后，朝廷忙于内乱，无暇北顾，黄河以南广大地区又陷入北方少数民族之手，此次北伐遂以失败告终。
庾亮兄弟北伐
庾亮（289～340），字元规，是东晋著名大族颖川庾氏的代表人物，其妹为晋明帝皇后。成帝（336～342在位）时，他以帝舅辅政，有志北伐。咸康五年（339）三月，庾亮开始北伐。他的北伐目标是北方的后赵和蜀地的成汉。庾亮的北伐遭到大多数朝臣的反对。正在这时，邾州突然被后赵攻陷，守将毛宝、樊峻和突围而出的6000将士全部被淹死在江中，此次北伐宣告破产。庾亮忧闷成疾，第二年病死。
庾亮死后，其弟庾翼代任其职。庾翼很有才干，常以“灭胡平蜀为己任”。建元元年（343），庾翼率将士4万多移镇襄阳，誓师北伐。但不久前锋梁州刺史桓宣战败，随后晋康帝和北伐主将之一庾水相继病死，北伐又告中止。不久，庾翼发病死去，庾氏兄弟的北伐随之宣告结束。
桓温北伐
桓温（312～373），字元子，是东晋著名大族谯国桓氏的代表人物。永和三年（347），桓温率军入蜀，灭成汉，威望大著。桓温屡次要求北伐中原，晋室怕桓温北伐成功后更加无法控制，就对桓温的请求置之不理，反而相继派褚裒、殷浩北伐，以图抑制桓温。及至褚、殷二人相继大败而回后，晋廷再也无法阻止桓温北伐。自永和十年（354）至太和四年（369），桓温接连进行了3次北伐。
永和十年二月，桓温亲率兵骑4万，一直打到关中，进驻长安附近的灞上。关中百姓闻晋军至，皆持牛酒来迎，耆老感激而泣，说：“不图今日复见官军。”隐居关中的王猛披褐来见，与桓温谈当世之务，旁若无人。王猛看出桓温北伐旨在立威，以功名镇服江东，并非真想收复中原。不久，晋军粮草匮乏，继而又被前秦丞相苻雄击败，将士死伤万余人。于是，桓温被迫回师，迁徙关中3000余户返回襄阳。第一次北伐无功而返。
永和十二年（356）年，桓温进行第二次北伐，目标是占据许昌的姚襄。八月，桓温率军与姚襄接战于伊水（今河南洛阳南），大败姚襄，杀伤其将士数千人，姚襄败走平阳（今山西临汾西南）。据守洛阳的周成率众出降，晋军收复洛阳。桓温进入洛阳后，留颍川太守毛穆之、督护陈午、河南太守戴施率将士2000人戍守洛阳，自己率军返回江陵。桓温的第二次北伐击走姚襄，收复洛阳，有一定的成果，但洛阳后又被前燕攻占，得而复失。
桓温自第二次北伐后，权势更重，中外军政大权集于一身，其诸弟皆身居要职，桓氏势力一时甚盛。桓温为了再以胜利提高自己威望，于太和四年（369）发动第三次北伐，进攻目标是鲜卑慕容氏所建的前燕。当年四月，桓温率5万大军北伐。七月，晋军进至枋头（今河南浚县西南），距前秦首都邺城（今河北临漳西南）仅200余里。然而桓温没有乘敌军慌乱之时直捣邺城，反而顿兵枋头，徘徊于河岸不进，意欲不战而胜。这就给了前燕以喘息之机。前燕派吴王慕容垂率领5万燕军迎击晋军，同时遣使向前秦求救。八月，前秦主苻坚派大将苟池率军2万东出救燕。桓温打算打通石门（今河南颍阳北）水道运粮，慕容垂派兵1.5万人屯石门，又派军5000断绝晋军粮道。水运不通，军粮匮乏，晋军几次与燕军交战都未取胜，又听说前秦援军将至，于是桓温决定焚毁舟船、丢弃辎重，从陆路退兵。桓温退至襄邑（今河南雎县西），遭到慕容垂的伏击，晋军大败，损失3万余人。此后，前秦援兵苟池又于路邀击桓温，晋军又死伤万余人。桓温的第三次北伐遂以惨败告终。
东晋前期的这几次北伐，其出发点颇不一致，祖逖志在恢复中原；褚裒、殷浩的北伐在于抵制桓温势力的增长；而桓温的三次北伐，其真正目的并不是想收复中原，而是志在立威，欲以功名镇江东，伺机取晋室而代之。因此，桓温在作战中务求持重，在大好形势下常常观望不进，贻误战机。这就使本不集中的力量互相牵制、抵销，屡次北伐而屡次无成。
东晋最高统治者所实行的不图进取、偏安一隅的传统国策是北伐失败的最主要原因。在这种国策之下，东晋的历次北伐不仅得不到起码的支持，反而无一例外地受到朝廷上下的反对，遭到王公大臣的掣肘和刁难。在这种情况下，北伐的接连失败就是势所必然的了。
后期北伐
太和八年（383），东晋在淝水之战中以少胜多，大破秦军。淝水之战后，东晋获得了乘胜北伐，收复中原的绝好机会。然而，东晋的统治阶级仍完全满足于偏安的局面，没有了恢复土地的要求和决心。并且随着外部威胁的相对缓和后，东晋内部争权夺利的斗争也越演越烈。元兴元年（402），割据江、荆的桓温之子桓玄利用孙恩起义的机会，攻下建康，次年自立为帝，改国号为楚。出身寒门的北府将领刘裕起兵赶走桓玄，恢复晋室，掌握了东晋大权，开始了东晋后期的北伐战争。
刘裕（363～422），字德舆，出身寒门。刘裕在掌握东晋大权后，实行了打击豪强、整顿吏治、减轻人民负担等一系列改革措施，使东晋末年的政治经济较前有所改善。在此基础上，刘裕先后发动了两次北伐战争并获得成功，威望大增，为后来代晋称帝扫清了道路。当时与东晋相邻的北有南燕，西有后秦，因此刘裕德北伐目标也即是南燕和后秦。
义熙五年（409）四月，刘裕亲率10万大军北伐南燕。南燕闻知晋军将至，大将公孙五楼建议南燕主慕容超扼守大岘（今山东省中部沂山），刈除禾苗，坚壁清野，使晋军求战不得，又无法补充给养。慕容超对此不以为然，认为晋军“远来疲劳，势不能久，但当引令过岘，我以铁骑践之，不忧不破”。慕容超的狂妄自大，导致了南燕军的失败。晋军顺利越过大岘，进入了平原地带。为了防止南燕军的突袭，刘裕将战车4000辆分成左右两翼，车上一律都用布遮挡，步兵夹于战车之间，又以骑兵作为游军，缓缓而行。还没等晋军到临朐城时，南燕军铁骑万余，前后交至。刘裕指挥众将迎敌，双方展开激战。与此同时，刘裕还派参军胡藩等率军潜出燕军之后，偷袭、克复临朐（今属山东），尽获燕军辎重。慕容超听说临朐已被晋军攻下，只好率残部逃走，退据广固小城（内城），并派遣尚书郎张纲向前秦求救。刘裕命士卒修筑长围，以断绝广固内外交通。刘裕听说张纲善于制造攻城器械，便命将士在张纲返回广固时将其擒获，并命他修造各种攻城器械。十月，晋军攻具齐备，向广固发动猛攻。燕军处境日益困难，出降者络绎不绝。义熙六年二月，广固城终于被晋军攻下。
刘裕攻灭南燕之战不仅计划周密。同时，刘裕善于听取他人意见和吸取敌人的人才为己用，参军胡藩偷袭临朐的建议以及前南燕尚书郎张纲的攻城器械对伐燕战争胜利的取得起到了重要作用。以上所有一切都是刘裕一战成功的重要因素。当然，刘裕的北伐顺应了民心，得到了广大民众的拥护和援助。民心所向对于这次击败南燕起了很大作用。而南燕主慕容超骄傲轻敌，不善于以己之长攻敌之短，屡次失去战机，再加上政治腐败，民心尽失，这些都是其迅速败亡的原因。
义熙十二年（416）八月，刘裕又一次率军北伐，攻打后秦。这次北伐，兵分五路。各路大军进展顺利，史称“望风降服”。十月，晋军到达洛阳，后秦主姚泓的弟弟平南将军姚归降。晋军进占洛阳后，后秦内部生变。义熙十三年二月，晋军前锋诸军在王镇恶、檀道济等人率领下，乘胜挥师西进，与后秦东平王姚绍军相持于潼关（今陕西潼关县北）、定城（在潼关西30里）一线达5个月之久。刘裕亲率水军于二月从彭城（今江苏徐州市）
出发，三月进入黄河，准备西进。北魏派10万大军屯于黄河北岸监视晋军。晋水军顺利西进，七月到达陕城。八月，扶风太守沈田子大破姚泓于蓝田，王镇恶率军经过激烈的战斗，终于攻入了长安。姚泓出降，后秦灭亡。
这次北伐是东晋历次北伐中战果最大的一次。本来，刘裕完全可以乘胜前进，平定陇右，恢复晋室疆域，可是刘裕为了急于回建康篡夺皇位，只留下12岁的次子刘义真为安西将军，率兵1万坐镇长安。不久，关中就被匈奴赫连勃勃攻占了。
刘裕回到江南，受封为宋王，公元420年代晋称帝，国号宋。东晋王朝完结，历史进入了南朝时期，东晋北伐至此结束。
