当时全国武装力量基本掌握在司马氏手中，只有镇东将军丘俭掌握了一部分兵力。丘俭平时和夏侯玄、李丰关系友好，夏侯玄等人被杀后，丘俭对司马师深 感不满，对自己的处境也常感不安。扬州刺史文钦英勇善战，武艺绝伦，他和曹爽是同乡，以前很得曹爽厚爱，就依仗曹爽威势欺压别人，曹爽被杀，失去靠山的文 钦经常受司马师打压，因此而生怨恨之心。丘俭与文钦一拍即合，决定反抗司马师，这次的行动也是历史上所谓“淮南三叛”之一。
丘 俭、文钦发布起兵檄文，历数司马师的十一条罪状：其一，“盛年在职，无疾托病，坐拥强兵，无有臣礼，朝臣非之，义士讥之，天下所闻”；其二，“懿造计取 贼，多舂军粮，克期有日。师为大臣，当除国难，又为人子，当卒父业。哀声未绝而便罢息，为臣不忠，为子不孝”；其三，“贼退过东关，坐自起众，三征同进， 丧众败绩，历年军实，一旦而尽，致使贼来，天下骚动，死伤流离”；其四，“师遂意自由，不论封赏，权势自在，无所领录”；其五，诛杀李丰；其六，不顾大 义；其七，杀张缉，逼走张皇后；其八，不奉法度；其九，“领军许允当为镇北，以厨钱给赐，而师举奏加辟，虽云流徙，道路饿杀，天下闻之，莫不哀伤”；其 十，“三方之守，一朝阙废，多选精兵，以自营卫，五营领兵，阙而不补，多载器杖，充聚本营，天下所闻，人怀愤怨，讹言盈路，以疑海内”；其十一，“合聚诸 藩王公以著邺，欲悉诛之，一旦举事废主”。
魏正元二年（公元255年）春正月，丘俭、文钦举兵作乱，并把自己的四个儿子当成人质送 到东吴，向孙亮讨好，希望东吴给予支持，却事与愿反，却并未得到东吴的大力支援。二月，丘俭、文钦集合了五六万人渡过淮河由寿春向西进发，没有办法直捣 洛阳，也不能占领许昌，走到了河南项城被迫停住了。
毋丘俭、文钦兴兵作乱的消息传到洛阳，司马师召集百官公卿商议退敌之法，“朝议多 谓可遣诸将击之”，大部分的大臣建议派遣可靠的将领引兵出击，但是王肃及尚书傅嘏、中书侍郎钟会“劝帝自行”，觉得司马师亲自挂帅更为妥当。司马师最终听 取了王肃等人的建议，“统中军步骑十余万以征之”。他“倍道兼行，召三方兵，大会于陈许之郊”。多年前关羽在汉水之滨水淹七军，生擒于禁，蜀国取得如此大 胜，大有向北争夺曹魏天下之势。后来关羽被吕蒙算计，东吴夺取荆州时，攻击蜀军将士家属，蜀军因此变得不堪一击，瞬间被东吴瓦解。王肃引用关羽的例子向司 马师建议，下令淮南地区将士的父母妻子禁止与母丘俭、文钦军中的一切联系，失去骨肉至亲消息的叛军自然新生厌战，也会很快像关羽一样迅速瓦解。
司马师率大军到达隐桥，毋丘俭、文钦军中的将领史招、李绩相次来降。司马师派遣荆州刺史王基进据南顿，占领战略高地。之后司马师屯兵汝阳，采用光禄勋郑 袤计策，“帝深壁高垒，以待东军之集”，并不着急用兵。“诸将请进军攻其城”，司马师手下的人很是心急，纷纷劝司马师用兵出击。然而对此，司马师分析到： “诸君得其一，未知其二。淮南将士本无反志。且俭、钦欲蹈纵横之迹，乏仪秦之说，谓远近必应。而事起之日，淮北不从，史招、李绩前后瓦解。内乖外叛，自知 必败，困兽思斗，速战更合其志。虽云必克，伤人亦多。且俭等欺诳将士，诡变万端，小与持久，诈情自露，此不战而克之也。”司马师希望时间可以让丘俭、文 钦军中自生内乱，之后一举荡平。同时派出“诸葛诞督豫州诸军自安凤向寿春，征东将军胡遵督青、徐诸军出谯宋之间，绝其归路。”
丘俭、文钦已身处司马师军战略包围之中，进攻，不能取胜；退兵，害怕寿春被攻击，陷人了进退两难无计可施的境地。加上淮南将士家属大多在北地，现两相隔绝，军中人心涣散，全无斗志，联络投降司马师的络绎不绝。
另外，司马师“遣竞州刺史邓艾督太山诸军进屯乐嘉，示弱以诱之”，另外，邓艾带了一万多名“泰山诸军”，故意做出不堪一击的样子，引诱毋丘俭、文钦出 击，一面架设浮桥迎接司马师大军。丘俭果然中计，派文钦率军争夺乐嘉，当文钦部队向乐嘉疯狂扑来时，却发现司马师大军早已“潜军衔枚，轻造乐嘉”，隐秘 赶到，文钦军顿时惊慌失措。
文钦之子文鸯此时刚满十八岁，血气方刚，“勇冠三军”，主动请战趁夜暗偷袭敌营，跟文钦说：“及其未定， 请登城鼓噪，击之可破也”。文鸳击鼓三噪，文钦却未能看准时机发兵出击，文鸳只能退走东去。之前司马师“目有瘤疾，使医割之”，出兵之前刚刚做了肿瘤切除 手术，这时又目疾发作，头痛如裂，正在帐中痛苦煎熬，得知敌人突然来袭，一惊之下眼球怦然突出，他为了不乱军心，强忍住剧痛，用被子蒙住头，牙齿紧紧咬住 被子一角，被子都他咬破，“啮被败而左右莫知焉”。
获悉文鸳退兵，司马师抓住时机，对诸将说：“钦走矣。”下令派遣精锐部队乘胜追 击。诸将却说：“钦旧将，鸯少而锐，引军内人，未有失利，必不走也。”显然担心文鸳有诈，劝说司马师不要追击，以免中计。司马师不以为然，说：“一鼓作 气，再而衰，三而竭。鸯三鼓，钦不应，其势已屈，不走何待？”文钦果然准备率军逃跑，文鸯不服，跟父亲说：“不先折其势，不得去也。”“乃与骁骑十余摧锋 陷阵”，文鸳亲自率数十名骁骑回头冲击魏兵，“所向皆披靡”，所到之处，魏兵无人能敌，“遂引去”，只能纷纷向后避退。司马师派勇将“左长史司马琏督骁骑 八千翼而追之，使将军乐林等督步兵继其后”，“频陷钦阵，弩矢雨下，钦蒙盾而驰，大破其军，众皆投戈而降。”文钦、文鸳夫子“与麾下走保项”。“俭闻钦 败，弃众宵遁淮南”。
丘俭听到文钦战败的消息大为惊恐，丢弃部队连夜逃走，随行的兵马并没有多少，一路上众叛亲离，最后只得孤身一 人躲在路边水草中，被随后赶上的魏安丰津都尉张属搜出来，杀死。文钦父子走投无路，被迫投奔东吴。吴国授予文钦幽州牧，又封他为谯侯，号“镇北大将军”。 丘俭的弟弟毋丘秀，也逃去了东吴。而留在魏国的毋丘氏与文氏两家的人，毫无例外被司马师屠杀，并被灭三族，淮南之乱至此得到平息。司马师班师，“闰月疾 笃，使文帝总统诸军”，将军队大权交给了他的弟弟司马昭。至许昌，病卒，时年四十八岁。
