平定薛举后，李唐的第二个对手是刘武周。
与薛举相比，刘武周的实力还算弱的，刘背后的主子——突厥人，却是李唐的心腹大患。
619年，李渊再次让李世民率关中主力征伐刘武周。李世民率军自龙门关东渡，驻军柏壁。绛州自古就是兵家必争之地，而柏壁南依峨嵋，北控汾河，沟壑纵横。李世民驻军的“秦王堡”，更是形同铁壁，易守难攻。这时的河东，由于连年战乱，官库已被掠空，军粮是个问题。于是，李世民发布安民告示，并愿出高价购粮。附近的老百姓见唐军纪律严明，纷纷归附，粮送草，解决了军粮的燃眉之急。不久，后勤部队才从永丰仓调运粮食送到，唐军稳住了阵脚。
时值隆冬，宋金刚亲率大军冒雪直逼柏壁，而李世民采取“休兵秣马，紧壁挫锐”的战术，每天只派出小股侦察兵，没有较大的军事行动。
两军在柏壁相持不下，谁也不敢贸然出击，逐渐演变成后勤补给的较量：谁能保证自己的后勤补给跟上，又能控制对方的后勤通道，谁就赢了。
宋金刚立即召开军事会议，首先发言：“李世民企图依靠充足的粮食供应与我军长期相持，这对我们十分不利。我军的粮草全靠晋阳供应，两地相距千里，道路崎岖，更为严重的是，处于我军粮道上的浩州城(山西汾阳)至今未能攻下，一旦粮道被唐军截断，我军的处境将会非常危险。”
尉迟敬德说：“柏壁以南现有两路反唐兵马，一个是夏县的吕崇茂，一个是蒲坂(山西永济)的王行本。我率军去增援二人，让他们袭扰唐军粮道。只要李世民军心动摇，我军就有机会取胜。”
宋金刚允许。
不料，李渊施反间计，封吕崇茂为夏王，命他袭击宋金刚。
尉迟敬德果然中计，不管三七二十一就除掉吕崇茂，接着又出兵攻打蒲坂，但才到半途，就听说老王已被李渊歼灭。
老宋想偷袭唐军粮道彻底失败了，只能寄于主公刘武周也能像李渊一样拔除自己身后的钉子。不过刘武周毕竟与李渊相差甚远，屡次出兵浩州，全都大败而回。
翌年4月，李世民的大将刘弘基率精兵绕道成功驰援浩州，宋金刚的后勤供给线彻底地断了。
老宋最不愿意看到的事情发生了—军粮无法补给，于4月13日深夜悄悄撤退。
次日早上，李世民发现敌军逃跑，随即亲率八万大军追击。打得宋金刚措手不及，只好撤入介休城内。
介休城哪里养活得了那么多军队？老宋坚守十天后，实在没有办法，只好下令出城与唐军决战，结果大败。老宋逃向晋阳，尉迟敬德归降。
老宋想退入晋阳，凭借充足的粮草和坚固的城防与李世民对持。没想到他的运气用完了，驻守晋阳的刘武周比李元吉跑得还快，听说老宋败了就投奔突厥“干爹”去了。宋金刚也只好带领残兵投向突厥。
李世民收复河东，李唐江山稳定下来。