祖逖今河北涞水县人。东晋名将。
公元317年，晋朝皇族司马睿在江南建立政权，建都建康（今江苏南京），史称东晋。东晋统治集团只想偏安江南，不图收复中原。南渡的人民思念故土，要求同留在北方的人民一起抗击外来侵略者。祖逖就是当时主张北伐恢复中原的代表人物。
祖逖有一位极为知己的好朋友，名叫刘琨，祖逖和刘琨同为司州主簿，两人志同道合，感情也特别好。有一段时间，他们同睡在一张床上，共用一条被子，谈论国家大事，有时通宵达旦而不知疲倦。
每天雄鸡报晓，他们就起床在庭院里舞剑，来锻炼体魄和意志，练习武艺，准备随时好报效国家。有一天，刚到半夜鸡就叫了，祖逖照样把刘琨叫醒，说“此非恶声也！”
意思是说，半夜里鸡把我们叫醒正是促成我们干一番事业，这不是什么坏声音啊！于是两人就乘着月光舞剑到天亮。经过长期的、艰苦的锻炼，不仅强壮了他们的身体，也提高了武艺，因而进一步增强了他们干一番大事业的决心。
公元311年，匈奴贵族刘聪攻陷了西晋的京城洛阳。祖逖和当时许多北方人一样，扶老携幼到南方避难。在长途跋涉的路途中，他主动指挥群众，将自己的车马让给老弱病幼的人，还将自己的粮食分给缺粮的人，所以一到泗口（今江苏境内），大家都推选他为首领。
后来他们渡江到京口（今江苏镇江）定居下来。这时江南暂时没有战争，生活上比较安定，但北方各族统治者争夺地盘，互相作战，这对西晋收复中原是一个极好的有利时机。
祖逖抓住这个时机向当时的琅琊王司马睿建议：“国家的动乱，胡人的入侵，完全是由于王室争权而引起的。现在百姓虽然遭受战争的痛苦，可人人都怀着奋起杀敌的决心。如能让我率领一支军队北伐，各地的英雄豪杰一定会起来响应，国家的耻辱可洗雪，中原的故土可恢复。”
司马睿安于现状，不想北伐，可又不好说反对，就给祖逖以奋威将军、豫州刺史的官衔，只给他千人口粮，3 000匹麻布，无一兵一卒，一刀一枪，让他自行招兵买马，出师北伐。
公元313年，祖逖带领随从他流亡到江南的亲族和同乡百余家，渡江北上，准备收复失地。当祖逖率领船队行驶到长江中流的时候，他击楫并郑重严肃地向着江水、向着部属发誓说：“长江可以作证，我祖逖如不能收复中原，誓不回江东！”
过江以后，他在淮阴屯驻，一面打造兵器，一面招兵买马。淮河流域的农民纷纷参加，很快就组成了一支2 000多人的队伍，得到了各地人民的积极响应。
祖逖收复北方后，还在这个地区发展农业生产，招收从匈奴和羯族统治地区逃亡出来的人民，改善军民生活，受到了人民的称赞。
