宋朝雖然已經建立起來，但是原先各地的一些割據勢力仍還存在。當時除契丹建立的遼國以外，五代時期的十國，北方有占據太原的北漢，南方有南唐、吳越、后蜀、南漢、南平（荊南）等國。在湖南等地，也有人割據。

　　宋太祖穩定了內部以后，開始考慮怎樣消滅這些割據勢力。究竟先解決北方呢，還是先解決南方？宋太祖日夜盤算這個問題。他想先南后北，但一時拿不定主意。

　　一天，風雪交加，眼看天色已晚，鵝毛大雪還下個不停，宋太祖顧不得下雪，去趙普家中，跟趙普商議這樁大事。他跑到趙府門口，敲起門來。趙普開門一看，只見宋太祖正立在風雪之中。趙普惶恐不安，連忙拜了下去，請他進門。

　　宋太祖到了廳堂，趙普命人燒紅炭火，在火上燒肉，同時讓妻子出來倒酒招待。

　　宋太祖說：“大嫂，不必客氣。”

　　飲過數杯以后，宋太祖故意試探地說：“我想削平諸國，先出兵太原，你看怎樣？”

　　對這問題，趙普也早有考慮。他說：“北漢的西北，就是遼國。如果我們攻下太原，就會受到遼國的威脅。我看不如先削平南方諸國，再去對付北漢。那時候，像彈子那么大的一個北漢，能向哪里逃呢？”

　　宋太祖大笑說：“其實我正是這個主意，剛才不過故意試探一下你的意見罷了。”

　　趙普也跟著笑了起來。兩人再商議了一番，宋太祖先南后北的方針終于確定下來了。

　　接著，宋太祖就用武力陸續平定了南平、后蜀、南漢。南方諸國已經只剩下南唐和吳越了。

　　南唐是江南的一個大國，但又是一個弱國。宋朝建立后，南唐國主唐元宗李璟自知不是宋朝的對手，便向宋朝屈服，派使臣送金銀財寶前去，祝賀宋太祖即位。