统一北方
解决了北方柔然的骚扰后，太武帝拓跋焘的目光转向大夏。
高高的统万城（今内蒙古乌审旗南白城子）素有固若金汤之称。北魏永兴五年（413年），大夏主赫连勃勃任命叱干阿利为将作大匠，征集胡汉10万人民修筑都城。叱干阿利令以蒸土筑城，并立下苛刻的规矩：用锥刺城土，若刺进一寸，就杀掉筑城的人，将他活活地砌进城墙里。统万城坚可磨石，泛着冷酷的光芒，不知有多少人葬身于这冰冷的城墙之内。叱干阿利还是一名能工巧匠，所铸兵器精锐异常。部下工匠献上铸好的兵器时，必有死者：以箭射铠甲不入杀制造弓矢的匠人，射入则杀制造铠甲的匠人。他锻造了一柄百炼钢刀，柄上铸有龙雀图案的大环，名“大夏龙雀”。刀背上刻有铭文：“古之利器，吴楚湛卢。大夏龙雀，名冠神都。可以怀远，可以柔逋。如风靡草，威服九区。”在统万宫殿前，还有他铸造的大鼓、飞廉、翁仲、铜驼、龙兽等大量铜器，它们都用黄金为饰，金光熠熠，辉煌灿烂。
大夏国主赫连勃勃就是当年引苻坚军灭代的刘卫辰的第三子，而刘卫辰终又死于道武帝拓跋珪之手，这样，两国之间早已结下不共戴天之仇。在游牧民族那里，报仇雪耻几乎是每一个民族成员神圣的义务与责任。这些年来，两国之间的敌意又日益加深。魏天赐四年（407年）六月，勃勃称帝后，仰仗有一支精锐的骑兵，遂四出劫掠，给周边各国造成了极大损害。拓跋焘知道，赫连勃勃内外均不得人心，他曾背叛后秦，被姚兴父子骂为“无信之徒”，而西秦王乞伏炽磐则多次向自己提供灭夏方略。恰逢这时，赫连勃勃病死，诸子为争夺继承权展开内战，这正是“取乱侮亡”的好机会。
始光三年（426年），太武帝次出兵西伐大夏。他用兵极为谨慎，乘黄河冰冻之机，遣大将奚斤等率5万余众，袭取蒲坂，进据长安；自己亲率精骑2万，渡河袭统万城，掠得牛羊数十万头。不过，这只是一次“军事演习”。第二年，夏主赫连昌派兵2万至长安与奚斤相持，太武帝于是调集10万大军，乘势袭击统万城。太武帝这次出兵，显示出他杰出的军事战略眼光。大军渡过黄河后，他断然决定舍弃辎重，以3万精骑为先锋，倍道兼程。大臣们觉得不可思议，纷纷劝告道：“统万城池坚固，不是10天时间就能攻拔的，倘若轻军前往，进不可攻，退无凭借，不如带上步兵及攻城器具，一时俱往。”太武帝却有独到见解，他认为：“用兵之术，攻城乃下策，是不得已而用之。倘若步骑一时俱往，对方必定恐惧而坚守。攻城不下则粮尽兵疲，实非上策。但倘我以轻骑前往，对方则必定轻敌。这时以弱兵诱敌，就能有所擒获。我们的兵士离家千里，后有黄河阻隔，这正是置之死地而后生的情况，宜攻却不宜守。”事情的发展果如太武帝所料，夏主赫连昌轻敌出战，仓皇败逃，魏军攻占了统万城。
攻克大夏，是太武帝取得的个辉煌胜利。
延和元年（432年）至太延二年（436年），太武帝又掉转兵锋，开始了东伐北燕的战争。
北燕乃后燕余绪之一。后燕遭道武帝拓跋珪打击后，内部分裂。至皇始三年（398年），一分为二：在南者，先以滑台、后以广固为都城，占据青州，史称南燕；在北者，后来发展为北燕，以和龙（今辽宁朝阳）为都，占据了幽燕之地。北燕国主冯跋是汉人，原为后燕中卫将军，后来凭借手中的军权登上了北燕皇帝的宝座。他即位后，政治比较清明，轻徭薄赋，劝课农桑，深得国人拥护。但北燕局促于东北一隅，势单力薄，雄心勃勃的北魏太武帝是绝不会轻易放过它的。北魏明元帝在神瑞元年（414年）时，派使者于什门出使北燕。于什门以上国使者自居，要求燕主亲自出门迎接。见燕主后，又拒绝跪拜，态度十分倨傲。冯跋盛怒之下，扣留了于什门。于是北魏出兵伐燕有了口实。或许于什门出使就是北魏设下的一个圈套，当时北燕大臣中有人正是这样看的，太史令张穆因此力劝冯跋释放魏使，奉修职贡，但冯跋没有听从。当然，北魏即使没有这个借口，还会找到另外的借口的。
太武帝继承了其父用兵北燕的方针，但由于受北方柔然和大夏的牵制，一直未能全力以赴。当这两个问题解决后，北燕的亡国之日也就不远了。这时，冯跋已死，其弟冯弘即位。冯弘深知单凭一己之力迎战北魏，无异于以卵击石。于是，他向南方刘宋遣使通好，希望在关键时刻获得对方援助。冯弘的外交不过是一种病急乱投医的举措，宋燕南北睽隔，刘宋不必要、也不可能泛海远渡，派大军支援一个势力孤弱的小国。北燕的败亡只是时间问题了。
延和元年（432年），太武帝亲率大军东征，对北燕志在必得。魏军连连告捷，获得北燕营丘、辽东、成周、乐浪等6郡几万人口，冯弘子冯朗、冯崇、冯邈等先后降魏。此后，魏军不断以大军压境，冯弘无奈，只得遣使上表称藩，而太武帝则提出以太子为质的严苛条件，终被冯弘拒绝。太延元年（435年）太武帝再次派大将娥清、古弼伐燕，冯弘火烧和龙城后，逃到高句丽，北燕灭亡。
太武帝拓跋焘是个目光远大的军事家，他考虑事情能通观全局。北方统一战争的整个进程仿佛一盘缜密的棋局，每个棋子都落到了适当的位置，环环相扣，步步呼应。伐燕的同时，他又开始思考对北方后一个割据政权——北凉的对策。
关于北魏进攻北凉时北凉的情况，前面我们已经讲过，这里讲讲北魏一方。
太武帝出兵前，事先征询了大臣崔浩的意见。是时崔浩任侍中、特进、抚军大将军、右光禄大夫，深得太武帝信任。太武帝曾经指着崔浩对众人说：“你们别看他清癯瘦弱，手不能弯弓持矛，可是他胸中谋略，过于甲兵。”又对尚书们说：“凡军国大计，卿诸人不能决断的，都要先问问崔浩，然后再施行。”崔浩对太武帝说：“牧犍逆心昭著，不可不诛。我军即使不能一举攻克，损失也不会太大。国家所用战马30万匹，途中死伤估计不满8000,而平常每年减耗也不少于万匹。况且远方传言我军虚耗，便有轻敌之意，我出其不意，乘其不备，一定可以获胜。”太武帝又召集群臣商议，不料，反对的意见竟是前所未有地激烈。以弘农王奚斤为首的30余人异口同声地说：“牧犍是西方小国，自他即位以来，虽对我不是心悦诚服，但也职贡不乏。朝廷既待之以藩臣，妻之以公主，那么在他的罪恶没有完全暴露时，就应该宽容。我军新征柔然，士兵疲弊，不可再次举兵。而且听说河西土地贫瘠，没有水草，大军一到，对方若关城固守，我们就要陷入危险了。”奚斤等人虽然振振有辞，但不难看出众将领畏难厌战的心理，太武帝不禁感到失望，更令他吃惊的是，多次出使北凉的尚书李顺竟以不容置疑的口吻说凉州城百里内赤地无草，太武帝犹豫了。就在这时，只见崔浩站出来，他情绪激动，引经据典，侃侃而谈，他说：“《汉书?地理志》上讲凉州之畜为天下饶，倘若没有水草，又如何能畜牧？汉人又怎会在没有水草的地方修筑城郭，设立郡县？”他毫不留情地指出李顺肯定是接受北凉贿赂而欺君罔上。太武帝听完这些话，心中主意已定，群臣退出后，振威将军伊馥留下来，悄悄对他说：“凉州若无水草，怎能建立国家？众人的话皆不可信。还是应该听从崔浩之言。”
崔浩与伊馥的话坚定了太武帝伐凉的决心。太延五年（439年）七月，西征大军冒着酷暑由平城出发了，将姑臧城团团围住。在这里，太武帝亲眼看到城外泉水汩汩而流，四野绿草如茵。他感慨地对崔浩说：“你讲过的话，得到验证了。”他心里对李顺的欺诳行为更加痛恨，后来下诏赐死李顺。
太武帝消灭了北凉，终完成了统一黄河流域的大业，结束了北方自十六国以来130余年的分裂割据局面。这是北魏历史发展上的一个里程碑，在整个中华民族发展史上也有着重要意义。在此之前，前秦苻坚虽然也统一了整个黄河流域，但由于统一时间短暂，未能引导北方各族人民走上民族融合的道路。太武帝统一北方后，这一伟大使命历史地落在了北魏皇朝的身上。