西晋攻灭吴国，实现了短暂的统一。晋恵帝时，丑陋皇后贾南风专权，引发“八王之乱”。北方和西方的少数民族上层分子，趁机入侵中原，分疆裂土，统一的河山又变得支离破碎。黄河流域的汉族世家豪门，纷纷逃至江南避难，其中包括司马宗室成员琅邪王司马睿等。这些人到了江南，一门心思偏安享乐，很少再关心风雨飘摇中的朝廷、丢失的国土和苦难的人民。这时出了一位忠勇之士祖逖，心怀国家，情系百姓，自己组织军队北伐，抗击入侵之敌，在历史上留下了美名。
祖逖（公元266～321年）字士稚，范阳遒县（今河北涞水北）人。出身世家。父亲祖武常官上谷太守。自小父母双亡，性格豁荡，不修仪检，十四五岁时仍不识字，然轻财好侠，富于气节，经常用自家钱财，救济贫民。后来，他发奋读书，博览典籍，多次到京师洛阳，向名家请教匡时济世之道，见者皆称他具有“赞世才具”。期间，他结识了好友刘琨，同为司州主簿，“情好绸缪，共被同寝”。祖、刘有着共同的理想与志趣，互相勉励，随时准备报效国家。每天黎明时分，金鸡报晓，二人便会起床，到庭院中舞剑习武。这产生了“闻鸡起舞”的成语，用以形容有志者，应当及早奋发，磨砺意志，掌握本领。
祖逖、刘琨并有英气，每语世事，经常半夜起坐，讨论各种问题。一天，他俩讨论起忠道来。祖逖说：“人生在世，忠、孝两大品行最为重要。人之行，莫大于孝。用孝心事君事国则是忠。《左传》云：‘忠为令（善、美）德。’《管子》云：‘忠者，臣下之高行。’《东汉观记》云：‘仁者百行之宗，忠者礼义之宗。’忠的重要，好像不亚于孝。”
刘琨说：“是啊！忠的本义是‘一’，一心一意，全心全意。作为人子，居家当尽孝；作为人臣，居公当尽忠。尽忠的对象是君王，是国家，是百姓，是民族，这次序不好摆呀！”
祖逖说：“好摆！《孟子》云：‘民为贵，社稷次之，君为轻。’尽忠，首先是对百姓对民族尽忠，次是对国家尽忠，最后是对君王尽忠。”
刘琨说：“话可以这样说，但真正明白这道理的能有几人？”
祖逖说：“不管别人明不明白，反正我决心这样做，尽忠，首先要对百姓、民族尽忠，次是对国家尽忠，再次是对君王尽忠。”
当时的时局是“四海鼎沸，豪杰并起”。“八王”中的齐王司马冏、长沙王司马乂、东海王司马越等，都曾出以重金，聘请祖逖、刘琨为之效力。祖、刘考虑他们代表的只是分裂国家的邪恶势力，严词拒绝。公元304年，匈奴人刘渊建立汉国，兵马强悍，基本控制了黄河中下游地区，洛阳受到严重威胁。祖逖不得不告别刘琨，带领乡亲数百家，南迁避难。途中，他把车马让给老人、妇女和小孩乘坐，自己步行。因此，乡亲们一致推选他为“行主”（头领）。晋惠帝被人毒死，晋怀帝司马炽继位。刘渊大军攻破洛阳，晋怀帝成了俘虏。司马邺随即在长安继位（晋愍帝），可怜兮兮地苦撑着司马氏的朝廷。
司马睿南迁到了建业（今江苏南京），发现祖逖有勇有谋，任命他为名义上的徐州刺史。祖逖住在京口（今江苏镇江），密切关注着中原的局势。他听说刘琨自与自己分手以后，招募数千饥民，编成军队，抗击匈奴人，一直打到晋阳（今山西太原），受封为大将军，名声远扬。祖逖受到好友功业的鼓舞，心情激动，决定也到北方去收复失地，建功立业。可是，一没有人，二没有钱，凭什么实现抱负？他思量再三，就到建业去找司马睿，说：“晋室之乱，非上无道而下怨叛也。由藩王争权，自相诛灭，遂使戎狄（匈奴等少数民族）乘隙，毒流中原。今遗黎既被残酷，人有奋击之志。大王诚能发威命将，使我祖逖为之统主，则邦国豪杰必因风向赴，沉溺之士欣于来苏，庶几国耻可雪，愿大王图之。”司马睿到江南后，正打着小算盘，谋划自己的事情，根本不想什么北伐雪耻。祖逖再说：“大王若要收复中原，我祖逖愿为先锋！”
司马睿说：“北方，朝廷那么多军队，尚且不敌戎狄，我有多大能耐，收复中原？”不过，他觉得倒是应该做做姿态，遂说：“是不是这样？我可以任命你为奋威将军、豫州刺史，给一千人的粮饷和三百丈布匹，由你自行招募士兵，打造兵器，去和戎狄作战，可好？”
祖逖非常失望，但想到粮、布虽少，总还有点用场，可以先干起来再说。所以也就答应，回到京口，用那点粮食、布匹做资本，把家族成员和朋友组织起来，共有百余名壮士。随后乘船开赴江北，走上前线。船行至江心，水流浩荡。祖逖回望江南，看到京口的北固山、金山和焦山，天然形胜；再遥望江北，苍苍茫茫，雾气蔼蔼。他渴望即将投入的战斗，心里充满豪情，从船工手中接过船楫，使劲敲击着船头，发誓说：“我祖逖不能清中原而复济者，有如大江！”辞色壮烈，众皆慨叹。这又产生了“中流击楫”的成语，用以比喻慷慨御侮，收复失地的决心。
祖逖到了江北，一面打造兵器，一面招兵买马。很快组建起二千多人的军队，经过严格训练，人人英勇善战。祖逖统领这支队伍，向北挺进，连打胜仗，一举攻克谯县（今安徽亳县），进驻陈留（今河南陈留）。祖逖所攻击的敌人，主要是汉国大将石勒。陈留一带，驻扎着好几支晋军，却因内讧，各怀鬼胎，一盘散沙，无法形成合力。陈留太守陈川，竟无耻地投降了石勒。祖逖精于兵法，设奇兵大破石勒五万兵马，声威大振。这时，陈留出现了一个有趣的现象：石勒的军队占据西城，祖逖的军队占据东城，双方对垒，相持一月有余。祖逖为了赶走敌人，想出一个妙法。他命士兵把黄土装在布袋里，源源不断地运进东城；再命士兵挑几担大米，走走歇歇，装出很疲惫的样子。石勒部将桃豹，派出士兵，抢去米担子，一看，全是白花花的大米。他们联想到晋军运送的黄土，议论说：“瞧人家那边，米多得运都运不过来；而我们这边，连饭也吃不上，成天饿肚子。我们跟人家打仗，不是白白送死吗？”这样一议论，军心涣散了。数天后，石勒派人押着千头毛驴，给西城送来粮食。祖逖侦察到情报，亲率士兵截住毛驴，把军粮全都抢了过来。桃豹军中断粮，连夜逃走。这样，祖逖兵不血刃，就占领了陈留，再追击敌人，又攻占了七八座城邑。
石勒恼羞成怒，派出万余骑兵，进攻祖逖，复为祖逖所破。石勒的部下纷纷投降。祖逖对于降者，以礼相待，编进自己的队伍，一视同仁。石勒节节败退。没多久，黄河以南的广大地区，几乎全被收复了。
祖逖为将，“躬自俭约，劝督农桑，克己务施，不蓄资产，子弟耕耘，负担樵薪，又收葬枯骨，为之祭奠，百姓感悦”。祖逖曾经设宴，招待父老。父老座中流涕，感动地说：“吾等老矣，更得父母，死将何恨！”他们还编了歌谣，唱道：“幸哉遗黎免俘虏，三辰（日、月、星）既期遇慈父。玄酒忘劳甘瓠脯（一种干菜），何以咏恩歌且舞。”中原父老把祖逖当做“父母”、“慈父”，使他热泪盈眶，越发感到了肩负的义务和责任。
祖逖收复失地、深受百姓拥戴的消息远近传播，人们欢欣鼓舞。刘琨听到消息，更是兴奋，说：“吾枕戈待旦，志枭逆虏，常恐祖逖先吾着鞭。尽管如此，他还是领先了。”
祖逖浴血奋战，西晋还是无可挽回地灭亡了。公元318年，司马睿在江南王导、王敦家族的扶持下即皇帝位，是为东晋元帝。他从来也没有支持过祖逖北伐，这时却任命祖逖为镇西将军，而且派了戴若思为都督兖、豫、雍、冀、并、司六州军事，节制祖逖的军事行动。祖逖驻军北方，以战养战，开展与少数民族的互市，收利十倍，“公私丰赡，士马日滋”，准备越过黄河作战。戴若思的到来，处处掣肘，打乱了他的部署，使他心甚怏怏。东晋朝廷又起纷争，司马睿起用刘隗，企图削弱王氏家族的势力。王敦蠢蠢欲动，祸乱将起。祖逖“虑有内难，大功不遂”，忧愤而发病。他在病中，仍命在洛阳一带修建工事，以防御黄河以北的戎狄南侵。公元321年，祖逖病死，死前说：“方平河北，而天欲杀我，此乃不祐国也！”祖逖死后，东晋朝廷追赠他为车骑将军。
祖逖的北伐，是中国历史上最早的北伐战争。他的可贵之处在于，在得不到任何外力支持的情况下，出于一腔忠心和爱国热忱，自己组建军队，以战养战，收复了大片沦丧的国土。他的思想与行动带有民族偏见成分，但并不妨碍他成为一位忠于国家、受人尊敬的英雄。《晋书》本传评价他是“思中原之燎火，幸天步之多艰”，“世乱识忠良，益斯之谓矣”，并用《赞》称颂说：“祖生烈烈，夙怀奇节。扣楫中流，誓清凶孽。邻丑景附，遗萌载悦。天妖是征，国耻奚雪！”“闻鸡起舞”和“中流击楫”两句成语，广泛流传，激励了无数忠烈人物前赴后继，义无反顾地献身于国家统一和民族振兴的伟大事业。
