当时易州叛军领袖宋金刚，原与魏刀儿联合，因被窦建德打败，引4000余众投奔了刘武周。刘武周素闻宋金刚善于用兵，得之甚喜，封宋金刚为宋王，委以军事，并分一半家产给他。宋金刚休去原妻，聘刘武周的妹妹为妻。

公元619年(唐武德二年)三月，刘武周接受宋金刚“入图晋阳(今山西太原)，南向以争天下”的建议，让宋金刚率兵2万南侵并州(治所晋阳)。

四月，刘武周、宋金刚联合突厥，率领大军南下驻扎在黄蛇岭(今山西榆次北)，兵锋甚盛。

李元吉突发奇想，派遣车骑将军张达带领一百名步兵先去试探。张达嫌人太少，坚决要求不去。李元吉强行派遣，一到黄蛇岭就被杀光。

张达愤恨恼怒，就投降了刘武周，为刘武周大军当向导攻克了榆次县城，进逼并州。

刘武周于是袭破榆次(今山西榆次)。五月，刘武周攻陷平遥。六月，占领介州(今山西介休)。李渊立即派遣太常少卿李仲文为行营总管，与左武卫大将军姜宝谊率兵救援并州。

刘武周派手下将领黄子英往来雀鼠谷，数以轻兵挑战，两支军队刚开始交战，子英就佯装不胜败走，多次这样，宝谊、仲文就放松了警惕，带领大军追击，结果遭到对方的伏击，唐兵大败，宝谊、仲文都被俘虏。后来找机会都逃归唐朝，李渊仍然让他们带兵进攻刘武周。

在初期对付刘武周、宋金刚的问题上，可以看出来李渊进退失据，用人不当，致使唐军受到了很多的挫折，损兵折将，军威大挫。

这时候他的脑子已经成了一盆浆糊，又一次用人失察，他竟然选择自己的老朋友裴寂出马，对付刘武周。当然这一次裴寂是主动请缨。

裴寂此人，本来就是个文臣，懂得是溜须拍马，察言观色，揣测皇上的心意，讨皇上的喜欢，是个令人很舒服，又善于谄媚的臣子，但这样的人哪里懂得领兵打仗。把几万人马的生杀予夺的大权交到这样的一个人手里，可见李渊在用人方面是个多么糊涂的人，视几万人的生命为草芥。

而裴寂此人呢，这一次也暴露了自己是一个缺乏自知之明的人，本来对于行军打仗完全就是个门外汉，但就是因为和李渊的关系好 ，他才主动请缨，目的无非是妄图再捞取些军功作为自己的政治资本，为了当更大的官，发更大的财。

但事实会证明，这是一次非常愚蠢的尝试，说明了李渊缺乏知人之明，裴寂缺乏自知之明，他们的脸被现实打得生疼。

李渊派遣右仆射裴寂为晋州道(今山西临汾)行军总管，为了表示对裴寂非同一般的信任，李渊特意授予他便宜行事的特权，那基本上是想干什么就可以干什么，军中的大将想杀谁就可以杀谁，不用汇报，这个待遇甚至超过了秦王李世民出征时的待遇。

裴寂带领三万大军于九月气势汹汹地到达介休城下。

宋金刚听说唐朝大军到来，势不可挡，一时看不清对付的底细，于是就坚守不出，凭借坚固的城防抵御唐军。

唐军求战不得，只能驻军度索原(今山西介休东南介山下)。

宋金刚探明了唐军的营地缺水，于是就派人把上游山涧的水路全部掘断，逼迫唐军移动营地。

裴寂没办法，只好移营，以寻求新的水源。

宋金刚大军趁此时发动突然袭击，唐军大败，死伤惨重。裴寂疾驰一昼夜，方才逃回晋州(今山西临汾)，唐朝晋州以东的城镇全部丢失。

宋金刚又进逼绛州(今山西新绛)，裴寂只得上表请罪。

李渊这个时候不仅不处罚裴寂，相反还下召对他进行抚慰，大意是没事没事，都是自家兄弟，只要你活着就好，又让他镇抚河东。

当年刘文静兵败，立即被贬为庶民，后来还因为莫须有的谋反被杀。相比裴寂，可以看出来李渊此人实在是赏罚不公，缺乏人君的德行和才能。

同年十月，宋金刚攻陷浍州(今山西翼城)，军威大振。

裴寂这个人生性怯懦，没有将帅之才，根本不懂得怎么对付宋金刚，只是命令虞、泰二州的百姓进入城堡，又将他们的房子、庄稼焚毁，实行坚壁清野的政策，妄图为宋金刚大军制造麻烦，让他们不战而退。

但是，裴寂所实行的政策让老百姓遭受了很大损失，民怨沸腾，人心思乱。

十月，夏县居民吕崇茂聚众自称魏王，响应刘武周。裴寂派兵前去讨伐，结果被吕崇茂打得大败。

李渊又下诏命永安王李孝基、工部尚书独孤怀恩、陕州总管于筠、内史侍郎唐俭等人带兵讨伐吕崇茂。双方对峙于夏县。

至此，整个黄河东岸，唐军一败涂地，从战略上完全处于下风，仅凭几座坚城据守。

李渊此时脸上也是灰头土脸，于是就将裴寂召回朝中，指责道：“起兵初期，你有辅佐之功，官爵已到极点。此番抵御刘武周，兵力足以破敌，却败亡至此，难道你就不感到有愧吗？”于是将他下狱，但不久便将他释放，对他更加优宠。此后，唐高祖每逢出巡，都要命裴寂留守长安。

看来当初裴寂献给李渊的晋阳宫那五百个宫女，确实起了非凡的作用。李渊这个人一辈子沉湎酒色，所以对于裴寂的贡献念念不忘。

两个人对于军国大事，如此儿戏，白白牺牲了多少将士的生命。

唐军一败再败，而刘武周、宋金刚大军势如破竹，进逼晋阳。

李元吉一看大势已去，心里非常恐慌，就欺骗刘德威说：“刘司马，我们兵分两路，您带着年老体弱的人守城，我带上身强力壮的将士出城作战。”