祖逖，字士稚，晋武帝泰始二年（266年）生于范阳郡遒县（今河北深水之北）的一个官宦家庭，祖上世代做二千石的官职，是当地的名门大姓。父亲祖武曾担任过晋王掾、上谷太守，但不幸在祖逖幼年的时候去世。祖逖兄弟六人中，兄长祖该、祖纳等都比较有才干。
祖逖生活的时代恰好是两晋之际。他生于西晋建国的第二年。少年时代，他被古代活动于燕、赵一带的慷慨悲歌之土所吸引，深深爱慕他们浑厚、粗扩的秉性。他为人豪爽豁达，喜欢结交朋友，不愿受各种繁琐的封建礼仪的约束。到14岁还对读书作文不感兴趣。兄长们为他的前途担心忧虑，他自己却超然洒脱，一身侠气。他还常常以兄长的名义，拿出家中积存的布帛和粮食，接济那些穷苦的乡邻。因此，受到乡亲们的称赞和敬重。
祖逖的青年时代是在动荡不安的时局中度过的。这时，代表门阀土族利益的司马氏政权更加腐败堕落。皇帝荒淫颓靡，公开卖官鬻爵。有一次，晋武帝问大臣刘毅，说你看我像汉代的哪个皇帝？刘毅说像桓帝和灵帝。司马炎说，我灭了东吴，统一厂天下，你把我比喻成桓帝、灵帝，不太过分了吗？刘毅说，桓帝、灵帝卖官，钱入国库，而陛下卖官，钱入私囊，如此说来，你连桓帝和灵帝都不如。皇帝荒唐卖官，权贵们更是贪婪豪奢，空虚堕落一此士大大们甚至通宵达旦地裸体酗酒。一边喝酒，一边狂欢乱叫。西晋王朝在荒淫腐败中虚耗着国力。
西晋永熙元年（290年），晋惠帝司马衷即位，这是历史上有名的白痴皇帝。有一次，晋惠帝在华林国听到了青蛙的叫声，就问左右的大臣，这只鸣叫的青蛙是公家的，还是私人的？大臣们面面相觑，不知怎么回答。其中，善于应对的人告诉他，在官田里的就是公家的，在私人地里的就是私人的。这么一位白痴皇帝，不可能驾驭那么混乱的局面。于是，在惠帝即位的第一年，由贾皇后专权开始，引发了一场皇室诸王之间长达16年的自相残杀。历史上叫“八王之乱”。战乱使几十万人被杀，上百万人流落街头。北方一些昔日繁华的地区变成一片瓦砾。
就在中央朝廷失去了应有的控制力和威慑力的时候，我国北方民族关系史上出现了一种新的现象，各民族的居住布局发生了变化。汉魏以来居住于北部和西北边境地区的匈奴。鲜卑、羯、氏、羌等少数民族纷纷向内地集聚，迁居中原地区。这是我国古代民族关系的新发展，有利于内迁胡族的进步和民族之间的融合、但是，汉人地主歧视少数民族，让他们当佃客、奴隶，还逼着胡人去当兵打仗。因此，引起了少数民族的反抗，爆发了李特、张昌、石冰、王如等流民起义。与此同时，少数民族上层分子刘渊、石勒等又趁机起兵，反抗西晋。阶级矛盾和民族矛盾交织在一起，错综复杂。西晋王朝摇摇欲坠。
祖逖生活在这样一个动乱的年月，作为一个具有强烈爱国豪情的热血男儿，他为日益深重的社会危机感到忧虑。目睹时局的危难。百姓的痛苦，他萌生了救国救民、济世匡时的志向。他不像过去那样任侠不羁，开始读书，从史籍中探求古往今来的历史变迁，寻找定国安邦的出路。他还经常去京师洛阳，实地考察社会现实，从历史和现实中汲取了有益的经验和知识，开阔了视野。也因此引起了人们的注意，称赞他有“赞世才具”。
西晋太康十年（289年），祖逖24岁。这一年，他侨居在阳平，被当地辟察为孝廉。不久，又再次被举荐为秀才。汉晋时，选官用人采用察举、征辟制，所谓察举，是指由朝中要员或地方长官推举，经过考核，任以官职。征辟是指朝廷或三公以下召举布衣之士，授以官职。孝廉和秀才都是举荐人才的科目。祖逖被举荐后不久，和一个叫刘琨的好朋友一起在司州做主簿，成为主管文书簿籍的官吏。刘琨，字越石，中山魏昌人（今河北无极），后来做并州刺史。祖逖和刘琨朝夕相处，两人情投意合，都满怀济世报国的志向，结成莫逆之交。晚上，他们同床睡在一起，常常深更半夜坐起来，忧心忡忡地谈论着国家大事。一天夜里，祖逖听到一阵鸡叫声。他马上起来，蹬醒身边的刘琨，说：“越石，你听听，这半夜的鸡叫声，虽然把人们从睡梦中惊醒了，但是，我们不应该感到厌恶。这不是坏声音，是在提醒和催促我们抓紧时间了一番事业。”于是，他们再也躺不住了，拿下挂在墙壁上的刀剑，走出屋子，借着明亮的月光，你来我挡地舞练着。刀光剑影在万籁俱寂的寒夜中格外明晰。这就是民间广为流传的、人们常常借以励志的“闻鸡起舞”的故事。从此以后，无论严寒酷暑，鸡叫第一遍，他们就起床舞剑。两个人还经常互相鼓励说，如果天下大乱，我们都要挺身而出，好好干一番事业。后来，他们分别用实际行动，实践了自己当年的诺言。
