这样一来，宋朝成功地解决了藩镇割据问题，为宋王朝的长治久安打下坚实的基础，这是中国传统社会发展到一定历史阶段在政治上走向成熟的又一个重要标志。但由于对兵权问题的高度重视，在集中兵权与整顿军队后，军权完全集中到了皇帝手中，但同时也造成了兵不知将，将不知兵，军队作战要依皇帝钦定作战方案来进行等等一系列弊端。在后来宋军对辽、西夏的作战中，兵权高度集中的弊端显现出来，使得宋军屡遭败绩，形成了积弱局面。这又是赵匡胤、赵普当初在定计安天下时所始料不及的。
雪夜定策南征北战
五代十国末期，人们要求结束分裂战乱、实现安定统一的呼声越来越高，统一的历史趋势已经形成。早在后周时期，赵匡胤作为周世宗的最得力助手，就曾协助周世宗在推进统一的军事斗争中做出了很大的贡献。现在，当他代周自立，并巩固了自己的统治之后，自然就把完成中国统一的任务提到议事日程上来了。
从当时的客观形势看，刚刚立国不久的宋王朝周围存在着几个由外族所建立的敌对国家和许多由汉族所建立的割据政权。在北方有契丹族所建立的辽国，在西北有党项族的强大势力，夹在二者之间的则是割据山西一带的北汉。北汉受到契丹的支持，与以前的后周和现在的宋王朝一直处于公开敌对的状态。在江淮以南，则存在着南唐、吴越、后蜀、荆南、湖南、南汉、南平、漳泉等八个割据政权。虽然这些割据政权处于物产丰富、生产相对发达的地区，但由于其各自疆域狭小，又互不联合，因而大都国力不武，软弱怯懦，不得不向以前的后周和刚刚建立的宋王朝表示名义上的臣服或通好。
在这种形势下，摆在赵匡胤面前有两条路，一是乘南方诸国名义上已表示臣服的时机，继续周世宗的政策，进行北伐，收复被辽所占领的燕云十六州领土，割断辽与北汉的联系，进而消灭北汉这一公开的敌对势力，然后统一南方诸国；另一条道路则是南征，在完全征服了南方八个割据势力以后，再来灭亡北汉，攻取燕云十六州，将契丹赶回长城以北。赵匡胤想了几天，还是决定不下来。
一天夜里，风雪交加，赵普正在家里烤火取暖，忽然听得门外一阵敲门声。赵普心里奇怪，这么寒冷的夜里，还有谁会来找他？他打开门一看，只见一个人披着斗篷，在雪地里站着。赵普定睛一看，大吃一惊，原来竟是赵匡胤。
赵普连忙把赵匡胤请进屋里，拨红了炭火，在炭火上炖上肉，叫他家人拿出酒来招待。
赵普问：“雪下得这么大，陛下为什么还要出来？”赵匡胤说：“卧榻之侧，岂容他人鼾睡？而现在一榻之外，尽是他人地盘，我如何能够安眠？反正睡不着，就来找你商量一下。”
赵普说：“陛下现在的还是小天下，南征北战，统一中国，时机已成熟了。不知陛下打算怎么办？”赵匡胤显出犹豫不定的样子说：“我想先收复北汉太原。”赵普沉默片刻说：“这不是我所预料的。”赵匡胤忙问赵普所料为何，赵普想了一会儿，说：“太原地处南北之间，如果占为己有，那么，辽兵南下之患就要由宋来独挡了。如果暂留太原作北方屏障，等平定南方诸国之后，再回过头来打北汉，太原就会不攻自破。小小北汉，不过像弹丸一样大，晚一点收拾也跑不了。”赵匡胤听完，长吁了一口气说：“朕早有此意，只是未敢轻决，此来专为听听你的意见啊！”
后来，又经过君臣之间的反复论证，赵匡胤集思广益，最后终于在建隆三年确立了“先南后北”的统一方针。
公元962年，割据湖南的周行逢病死了，他的儿子周保权继位。大将张文表不服周保权，起兵反抗，割据潭州（今湖南长沙）。周保权派人向宋朝求援。乾德元年（公元963年），赵匡胤任命慕容延钊为湖南道行营都部署，李处耘为都监，率安、复等10州的州兵出兵荆湖。临行前，他对慕容延钊和李处耘说：“出征湖南，必然要借道于南平，南平国势卑弱，可顺便将其攻灭。”慕容延钊等依计而行，于同年二月出兵湖南途中攻破江陵（今湖北江陵），高继冲遂以3州17县、142300户归降。1个月后，湖南亦被平定，又得14州1监66县，97380户。
平定荆湖以后，“水陆皆可趋蜀”，后蜀这一雄踞川中的南方大国已处于坐以待毙的境地了。乾德二年（公元964年）十一月，赵匡胤派大将王全斌、曹彬兵分两路向蜀地进攻。这月汴梁大雪，赵匡胤在讲武堂设坛帐，穿着紫貂裘帽视事，忽对左右说：“朕被服如此体尚觉寒，念西征将士，冲犯霜霰，何以堪此？”于是解下紫貂裘帽，遣太监飞骑赶往蜀地赐给王全斌，且传谕全军，以不能遍赏为憾事。于是宋军人人奋勇，十四万守成都的蜀兵竟不战而溃。仅用66天的时间就灭亡了后蜀，取得了46州、240县的广大领土。
平定后蜀不久，赵匡胤先后派遣了侯霸荣、惠磷等人为间谍，打进了北汉内部。侯、惠等人积极活动，很快买通了当时北汉宰相郭无为。在郭无为的安排下，侯、惠等人都成了北汉的宫廷供奉官，可以方便地出入宫禁。
开宝元年（公元968年）八月，赵匡胤发兵进攻北汉。同时又密令侯、惠等人相机行事，里应外合，“迎接”宋军。九月，宋军突破了北汉的团柏谷防线，越过汾河桥，进逼太原城下。在宋军进逼太原城下的同时，侯霸荣在郭无为的支持下，发动了宫廷政变，刺杀了北汉国主刘继恩。但意想不到的是，郭无为此时却又突然变卦。就在侯霸荣率人刺杀刘继恩时，他却悄悄调动部队包围了刺杀现场，将侯霸荣和其同党全部杀死。郭无为的临阵变卦，搅乱了赵匡胤精心布置的一招妙棋，宋军的失败也在眼前。果然，宋兵围困太原不久，契丹即来兵支援北汉，围城的宋军腹背受敌，大败而归。北汉乘机反攻，宋朝方面自八月进军以来所占领的州县不但全部丢失，还被北汉军队打进了晋、绛二州，大掠而去。
本来，此次开战前，赵匡胤已将北汉君臣投降后的官职提前封好了，没想到最后的结局却是这样。次年（公元969年）二月，为雪年前之耻，他决定亲率大军征讨北汉。战事一开始北宋方面很顺利，三月，赵匡胤即率大军突破了北汉的数道防线，进抵太原城下，将其团团围住。但此后战事即进入胶着状态，宋军发起的几次强攻都被北汉名将刘继业击退。强攻不行，赵匡胤又采取了长期围困的政策，但三个多月过去了，仍没能将太原攻克。这年的闰五月，宋兵正式从太原撤兵。北汉军队又一次乘势追击，宋军丢失了大批粮草，损失比上一次还要严重。
北宋自建隆三年（公元962年）九月首次对外用兵起，至乾德三年（公元965年）正月，不足三年的时间，就平定了南平高氏、湖南周氏、后蜀孟氏三个割据政权，统一了63州大片领土。但可惜的是，自平蜀后，几乎完全是由于赵匡胤个人的举措失当，导致了一系列意外的变故，先是蜀中动荡不已，紧接着又是两次北征太原损失惨重，“先南后北”的统一大业因此而停滞。
自太原班师后，经过一年多的休整，开宝三年（公元970年）九月，宋太祖决定攻取南汉，继续实施“先南后北”的统一方略。
南汉以广州为中心，割据岭南两广地区达60年之久。北宋平定后蜀之后，潘美等宋将也攻取了南汉的郴州，形成了良好的进攻态势。现在，潘美等接到赵匡胤灭亡南汉的指示后，马上就攻陷了贺州，随之连克昭、杜、连、韶四州，大败南汉军10余万于莲花峰下。至次年二月，即攻克广州，南汉灭亡。宋王朝又得了60州214县的领土。
南汉灭亡之后，南方剩下的最后三个割据政权个个自危，震恐异常。吴越和漳泉急忙上表称臣，接受宋朝的官职。南唐是“十国”中最大的一个割据政权，那里土地肥沃，没有像中原那样遭到战争的破坏，所以经济繁荣，国力富裕。但是，南唐的国主都是政治上十分昏庸无能的人，后来弄得国力渐渐衰弱下来。最后的一个国主李煜，史称南唐后主，是一个着名的词人，对诗词、音乐、书画，十分精通，可就是不懂得处理国事。北宋建国后，李煜每年向北宋进贡大量金银财宝，想维持他的地位。后来，他看到宋太祖接连消灭了周围三个小国，才着慌起来，赶快派使者给赵匡胤送去一封信，表示愿意取消南唐国号，自己改称“江南国主”。但是这一点小小让步，怎么能改变赵匡胤统一中国的决心呢？
经过三年的准备，开宝七年（公元974年）十月，赵匡胤令曹彬为统帅、潘美为都监，率水、步、骑兵在采石一线强行渡江，进围金陵（今南京）；同时令吴越国主钱俶统帅吴越军5万，由宋将丁德裕监军，从东面攻取常州（今江苏常州），然后会师金陵。令王明为西路军，向武昌方向进击，牵制屯驻在江西的南唐军队，使其无法东下援救金陵。
十一月中旬，宋军依照樊若冰的图示用在采石矶预先造好的战舰架设浮桥获得成功，其主力部队通过浮桥，顺利跨过了长江天险，大败南唐水陆兵十余万于秦淮，直逼金陵城下。与此同时，钱俶率兵攻克了常州、江阴（今江苏江阴）、润州（今江苏镇江），形成了对金陵的外线包围，金陵成了一座孤城。
那时候，李后主还正在宫里跟一批和尚道士诵经讲道，宋军到了城外，他还蒙在鼓里呢。有一天，他到城头上巡视，发现城外到处飘扬着宋军旗帜，这才大吃一惊，回宫以后，派大臣徐铉到东京去求和。
徐铉见了赵匡胤说：“李煜待陛下，就像儿子待父亲一样孝顺，为什么还要讨伐他？”赵匡胤反问说：“那么你倒说说，父亲和儿子能分成两家吗？”徐铉没话说，回到金陵向李后主回报。过了一个月，宋军围城越来越紧，李后主又派徐铉到东京去。
徐铉苦苦恳求赵匡胤不要进攻金陵，赵匡胤听得不耐烦，一手按住利剑，怒气冲冲地说：“你不要多说了。李煜并没有什么罪，但是现在天下一家，我的床边，怎么能让别人睡着打呼噜呢！”
徐铉眼看再恳求也没用，只好再回到金陵。李后主听了回报，知道求和没有希望，连忙调动驻守上江的十五万大军来救，刚到皖口，就受到宋军两路夹攻。南唐军放火烧宋军，哪知正碰到刮北风，火反烧了自己。南唐全军覆没。
第二天，都城被攻破了。曹彬率领宋军整队进城，秩序井然。李后主叫人在宫里堆了柴草，准备放火自杀，但是毕竟没有这个勇气。最后还是带着大臣出宫门，向曹彬投降。
李后主被押到东京，赵匡胤对他还比较优待。但是李后主从一个尽情享乐的国君变成一个亡国的俘虏，心里十分辛酸，每天流着眼泪过日子。他本来是写词的能手，在这段时期里，写了一些感情忧伤的词，“问君能有几多愁，恰似一江春水向东流”，就是他这段时期词作中的名句。
灭南唐是宋太祖统一南方的最后一仗，也是当时最大的一次江河作战。这次战争中的“浮桥渡江”、“围城打援”，是赵匡胤战略部署中的得意之举，也是古代战争史上的创举。
占据现在浙江、江苏一带的吴越国主钱俶不断向宋朝进贡。南唐灭亡以后，赵匡胤让钱俶到开封来，钱俶连忙去朝见。过了两个月，钱俶要回杭州了，就在他动身的时候，赵匡胤送给他一个黄包袱，钱俶打开一看，里面都是宋朝大臣请求赵匡胤扣留他的奏疏。他非常恐惧，回国后又派人送去大批财物。
公元967年，赵匡胤死去。按照既定方针，赵光义继续对吴越和漳泉施加压力，终于不动干戈，迫使钱俶和陈洪纳表献土，以两浙和福建地区的15州1军（与州平行的一级组织）100县归降北宋。南方完全统一。
在此基础上，赵光义一鼓作气，灭亡了北汉，延续数十年之久的分裂割据局面终于结束，除辽所控制的燕云十六州以外，汉族聚居的中原地区和南方的广大区域重新获得了统一。这时，离赵匡胤逝世刚刚三年。
重文抑武中央集权
宋初南北用兵、统一全国的同时，宋太祖赵匡胤还采取了一系列措施，巩固和加强了专制主义中央集权，进而创立了一整套为其后代奉若圭臬的“祖宗家法”。
首先是“稍夺其权”，即削弱地方势力。乾德元年（公元963年），平定了荆湖以后，赵匡胤做出废除荆湖地区“支郡”的规定。赵匡胤宣布，新征服地区仍保留节度使，但节度使驻地以外的州郡“直属京师”。随着南方诸国逐渐被平定，罢除“支郡”的范围也越来越大，到宋太宗时，就在全国范围内废除了支郡制度。同时，赵匡胤逐渐向这些地方派遣文臣出任“知州”，以取代原来掌管州务的防御使等武将。赵匡胤在很短的时间里就选派出上百名文臣，分治原为各大藩所辖的支郡，最终形成了宋代的“以文臣知州事”的制度。
废罢支郡和“以文臣知州事”，使位尊权重、声势喧赫的节度使的权力受到极大削弱，其实际权力仅等于某一州郡的长官，有时甚至徒具空名，仅是一种荣誉称号。
