，但四年后被北燕所杀，社仑的堂弟大檀，即纥升盖可汗继位。大檀继位后，继续和北魏开战，并放弃前嫌，实行联合北燕和后秦的策略，使北魏十分被动。双方多年战争，互有胜负。大檀这次率六万骑兵先攻陷了北魏故都盛乐，再包围云中城，北魏的北方边境一时吃紧。
拓跋焘早在十二岁时就在河套参加过抗击柔然的战争，所以对柔然的战术也颇为熟悉。他力排众议，亲自率三万骑兵急赴云中救援。柔然依仗人多，重重包围赶来救援的北魏太武帝拓跋焘及所部。拓跋焘命令所有弓箭手集中射向柔然大将于陟斤。于陟斤被北魏军射杀后，拓跋焘趁势率军大纵深地向前穿插突破，北魏将士气势大振，奋力突击柔然军。柔然军顿时被搅得一片混乱，大败而逃，一直逃到漠北才敢停下。北魏军遂解平城之围，并趁势收复盛乐。
第二年，赫连勃勃病逝。因为长子赫连与父亲赫连勃勃曾发生矛盾，赫连勃勃要废掉太子，赫连先行兵变，但被其弟赫连昌所杀，所以次子赫连昌成为太子，继承了帝位。拓跋焘决定趁机讨伐胡夏，但一些将臣认为，如果柔然趁北魏西征，国内空虚时进攻北魏本土，那是很危险的。建议先进攻柔然，把柔然灭掉或赶到沙漠的北部才能保证安全。崔浩道：“胡夏的统治很残暴，早就不得民心，赫连昌又是个愚蠢的人，胡夏国土也不大，此次进攻胡夏一定会迅速胜利。等柔然南攻时，我们早就已经班师回来了。”
拓跋焘遂派奚斤率五万骑兵向南袭击蒲阪，将军周几向西南袭击陕城，河东太守薛谨为先锋，拓跋焘亲领大军，向西进攻统万城。恰好遇到天气突然降温，黄河结冰，拓跋焘临时又做出决定，亲率两万骑兵，迅速过河，以急行军速度进兵到统万城下。赫连昌没想到拓跋焘来得这么快，根本就没有时间调集部队，也没有准备长期守城的储备，只能把城中的军队集合起来仓促应战。
双方大战不久，夏军即败，退回城中。魏将豆代田带一支小部队紧跟着杀入。夏军借助复杂城防，拼命抵抗，豆代田所带的魏军竟又被挡出城外。因为统万城十分坚固，城墙高大坚固，拓跋焘没有强行攻城，在城外劫掠一番，退兵回国。这时，周几攻破了弘农关（即函谷关），但不久在弘农病死。奚斤暂时接管周几的军队，继续进攻蒲阪。蒲阪被魏军攻破后，夏将乙斗逃往长安。长安守将为赫连助兴，是胡夏皇帝赫连昌的弟弟，他听说奚斤带八万大军来攻长安，弃长安，退守安定。关中险地竟不战而弃，被奚斤轻易得到。
北魏得关中后，便与凉州接壤。北凉王沮渠蒙逊，氐王杨玄，为了避免魏军乘胜灭了他们，都主动向北魏纳贡称藩。拓跋焘接受了两国的称藩后，继续操演士兵，准备攻城器具，打算对胡夏进行最后的一击。
不久，赫连昌派弟弟平原公赫连定，率两万骑兵南下，要收复长安。奚斤带兵与之激战，数月不分胜负。拓跋焘遂乘统万城空虚再次出兵西征。这次仍是率轻骑三万，全速前进，迅速到达统万城下。
拓跋焘这次先派三千士兵进攻统万城，其余士兵埋伏在深谷两旁。赫连昌见魏军人少，便出城迎战。魏军且退且战，一直退到深谷，伏兵四起，大败夏军。赫连昌想逃回统万城，但归路被切断，只得逃往上邽。魏司徒长孙翰率八千轻骑一路追击，但赫连昌实在是逃跑得太快了，还是没能追上。
拓跋焘乘胜攻城。统万城的城池虽然坚固，但由于主力在城外全部溃散，主将和皇帝都跑光了，城内既没有高级将领指挥，也没有足够的兵力，剩下的夏兵也全部逃散，所以魏兵很快攻入城中。胡夏的文武官吏以及后妃公主，全部被俘，只有赫连昌的母亲，被一些亲信侍卫护着拼命杀出，得以逃脱。
拓跋焘攻下夏都之后，把所有财物分给将士，留常山王拓跋素镇守统万城，自己率军回到平城。这时柔然则聚集起兵力来准备南征北魏，见魏军主力回师，只好作罢。拓跋焘又命令奚斤带兵北还。奚斤则上书称，这正是消灭胡夏国的时机，决不可放过。拓跋焘便命令宗正娥清，太仆邱堆，各率一万军队去支援奚斤。又调给奚斤精兵一万，良马三千匹。
在陕南与奚斤对峙的赫连定听说统万城失守，又见魏军不断有援兵到来，只好放弃与奚斤的对峙，退守上邽。奚斤打算先进军安定，与娥清、邱堆合兵后，再攻取上邽。但营中突然流行起马瘟来，许多马都病死了，由于缺马，行军速度和后勤补给都受到严重影响。奚斤只好停兵不进，并且派出小股部队四处寻粮。赫连昌趁机掩杀这些小股部队。魏军不但人马受到损失，粮草也难以为继，大家都是吃了上顿没下顿，整天靠喝稀饭度日。
监军侍御史安颉劝说奚斤与夏军决战，奚斤因为军中少粮而不敢出击，安颉道：“像你这样拖下去，只能是粮食越来越少，最后断顿。大军无粮，早晚会被夏军攻破。不如出兵，决一死战。奚斤仍是不听，只是等待援军。安颉干脆和将军尉眷私下挑选了一些精兵，把几天的口粮一齐领来，饱饱地吃了两顿。第二天安颉、尉眷带兵与赫连昌决战，正巧遇到了沙尘暴，魏军处于上风向，夏军只好纷纷撤退，夏军由于撤退得比较及时，兵力方面的损失并不大，但最惨的是赫连昌在混乱的撤退中被安颉给活捉了。胡夏的皇帝被活捉，这给胡夏以相当大的震动。
赫连昌长得很英俊，说话也谦和，而且善于骑射，因此被押到平城后，拓跋焘对赫连昌很喜欢，对他非常优待，封他为会稽公，又把妹妹始平公主嫁给他为妻。平时打猎什么的都带着他。
安颉则因功被封为建威将军，兼西平公，尉眷被封为宁北将军，兼渔阳公。奚斤没想到自己的裨将立下大功，将自己比了下去，深以为己耻。这时赫连昌的弟弟赫连定从上邽又转移到平凉并称帝。奚斤便把所有的军粮拿出来，率兵急速行军，去进攻平凉。没想到赫连定早在路上设下伏兵，大败魏军，并擒获奚斤、娥清、刘拔三将。这时太仆邱堆正好押着粮草来到安定，听说奚斤大败，连粮草也不要了，赶紧带兵赶回长安守城。赫连定乘胜进逼长安，邱堆所带士兵不多，不敢守城，又弃长安退到蒲阪。
拓跋焘听说邱堆不但把粮草都送给了敌人，还轻易放弃长安，立刻派安颉带兵去蒲阪，先将邱堆斩首，再带领所有士兵阻击夏军。拓跋焘为了彻底摆脱北面柔然的不断袭扰，以便专心对付南边的宋国并统一北方，于是决心集中力量打击柔然。
公元429年4月，拓跋焘与崔浩制定了一套非常严密的消灭柔然的战略计划。柔然是游牧民族，春夏的时候部族们各自放牧，秋冬的时候则集中起来向南进攻。拓跋焘利用柔然的这个规律，在他们放牧的时候，兵分两路，一路由司徒长孙翰领兵由西道通过大娥山，另一路拓跋焘亲自率军由东道通过黑山（今内蒙古巴林右旗北罕山），越过大漠，在可汗庭（今蒙古国哈尔和林西北）合击柔然。两路军队全部为轻骑兼马（每一骑兼有副马，副马为一到两匹），不带辎重，在栗水（今翁金河）时遇到柔然主力后迅速出击。柔然一点儿防备都没有，被杀得落花流水。大檀向西逃窜，大檀的弟弟匹黎一部在反击中被长孙翰的骑兵全部杀死。
六月，拓跋焘领军沿栗水西进至菟园水（今图音河），分兵搜捕大檀及其部众，在东西宽约五千里，南北纵深约三千里的广大土地上，魏军不断消灭逃散的小股柔然部队。原来被柔然征服的高车等部众三十余万人也乘机倒戈，归附北魏，帮助魏军对付柔然。拓跋焘一直追到涿邪山（约今阿尔泰山脉东南部）才引兵东还。大檀因为遭遇到几乎灭国的惨败，悒悒而亡。他的儿子吴提继位后，向魏国称藩乞和，拓跋焘遂以柔然为北藩。
这时宋国的刘义隆已经几次三番去信要求北魏还给宋国黄河南岸的地方，见北魏毫不理睬，便命右将军到彦之，安北将军王仲德，兖州刺史竺灵秀，共率五万精兵北伐。又命骁骑将军段宏，率骑兵一万，主攻虎牢，豫州刺史刘德武，领兵一万人作为后援，从弟长沙王刘义率兵三万，坐镇彭城，为总指挥。又派殿前将军田奇再一次去北魏告诫拓跋焘，宋国只是收复黄河南岸的地方，并没有打算去争夺黄河北岸领土，希望北魏能够主动让出来。
拓跋焘让田奇告诉刘义隆：“我刚生下来的时候就听说河南之地是属于北魏的，你们这是侵略行为而不是收复失地行为。宋国要来尽管来，看你们有没有本事夺得这片地方。”
因为北军不惯水战，而且拓跋焘怕任用河南之地的司马楚之、鲁轧、韩延之等人会激起宋国同仇敌忾，于是把所有军队都撤到黄河北岸，并调集北方军队在河北集结。宋军一路北上，先到础x，再西进滑台，再到洛阳，再到虎牢，一路都是城门大开，魏兵尽退。到彦之见进兵这么顺利，以为魏军总算是想明白了，所以主动让出了地盘，遂命诸将分守各地城池。王仲德告诫到彦之说：“到冬天河水枯干，黄河结冰时，魏军一定会南侵。我们要做好准备。”但到彦之并没有放在心上。果然到了这年冬天，魏军突然南下，宋军仓促集结应战，结果大败。魏国冠军将军安颉乘胜进攻洛阳，而洛阳竟然还没有备足粮食。宋将杜冀守了几日，吃光了粮食就弃城逃走了。魏军又直攻虎牢关。虎牢关的守将尹冲向到彦之求援。到彦之派裨将王蟠龙率军增援。但王蟠龙在七女津被魏将杜超伏击，宋军战败，王蟠龙战死。尹冲本来就兵少，听说援军被击败，便不死守，和荥阳太守崔模一起投降了魏军。
到彦之一看这个阵势，便退守东平，并请朝廷速派援军。刘义隆赶紧命征南将军檀道济带兵北上。魏国也再次增兵，派寿