南朝刘宋初创时，北方黄河流域存在都于平城（今山西大同市）的拓跋鲜卑北魏、都于龙城（今辽宁朝阳市）的北燕、都于统万（今内蒙古杭锦旗西南）的匈奴族夏、都于罕（今甘肃临夏东北）的鲜卑乞伏部西秦及都于姑臧（今甘肃武威）的卢水胡北凉等五个民族政权。在消灭慕容鲜卑南燕及羌族后秦政权后建立起来的刘宋政权，东面以黄河为界，同北魏对垒，西边据有汉中，遏止关陇各族政权。势力强于北方各政权。
宋永初三年（公元422年），北魏明元帝拓跋嗣趁宋武帝死后刘宋政乱之机，亲自督军越过黄河，于次年攻占洛阳、滑台、虎牢、许昌等城，夺取宋青、兖二州，宋虽随即收复青、兖，但北魏仍据有洛阳等城。宋文帝刘义隆积极联络北凉、夏、北燕等与北魏敌对的政权，同时远交今青海地区的吐谷浑、辽东及朝鲜半岛北部的高丽及横跨蒙古草原的柔然汗国，牵制北魏，而柔然南进的势头更使北魏无暇南顾。元嘉七年（公元430年），宋文帝令到彦之等率军收复河南失地，事先遣使告诉北魏太武帝拓跋焘说： 河南旧是宋土，中为彼所侵，今当修复旧境，不关河北。 承认南北对峙，自动放弃东晋以来自居中华正统而兴兵北伐的旗号。但拓跋焘对这一说法并不认可，他大怒说： 我生头发未燥，便闻河南是我家地，必进军，今权当敛戍相避，须冬行地尽，河冰合，自更取之。①及宋军北进北魏河南戍军全部撤到黄河以北，但到这年冬天，又大举反攻，再次夺取河南等城，在河南占据一块不大的地盘。
元嘉十六年，北魏业已击败柔然，兼并北燕、北凉，统一北方，南北对峙局面最终形成。元嘉二十七年，宋文帝不顾劝阻，大发民丁补充军队，命沈庆之、王玄谟率军北伐，指向河南，又令雍州刺史刘诞遣部将柳元景、侯安都等自汉水流域北上，以相策应。王玄谟久攻滑台城不下。这年冬天，拓跋焘自率大军南下，号称百万，反击宋军，王玄谟仓惶退军，已攻占潼关的柳元景等部也被迫撤退。十二月，拓跋焘兵临瓜步（今江苏六合东南），扬言渡江进攻建康，宋内外戒严，沿江设防。由于北魏内部民族矛盾还十分尖锐；北魏当时还定都平城，战争以掠夺为目的，并不重视对农业地区的长期占领；北边柔然的威胁仍然存在；而且魏军虽攻到长江北岸，但黄河以南及江淮地区还有许多刘宋军队据城坚守，拓跋焘不敢贸然渡江，于次年初退回，北魏仍只据有河南一小块地区。由于北魏军在战争及撤退中大肆烧杀掠夺，对其所到地区造成严重破坏。史称： 自江、淮至于清、济，户口数十万，自免湖泽者，百不一焉。村井空荒，无复鸣鸡吠犬。 ①刘宋从此无力北进，两国和谈，使臣往来不绝。江南人观察南北形势，遂产生一种地理环境决定论，认为北魏作战仰仗马匹，适于平原作战，南方依靠舟楫，易于水乡争斗，南不能胜北，北亦不能胜南。在此种议论中，沈约的一段话可作为代表： 夫地势有便习，用兵有短长，胡负骏足，而平原悉车骑之地，南习水斗，江湖固舟楫之乡；代马胡驹，出自冀北，豫章。植乎中土；盖天所以分区域也。若谓毡裘之民，可以决胜于荆、越，必不可也；而曰楼船之夫，可以争锋于燕、冀，岂或可乎。……因此而推胜负，殆可一言以蔽之。 ②但事实证明这种论调站不住脚。
