没想到这一次捅了马蜂窝，把李建成和李世民都“惊动”了，他们分别兵出豳州道和蒲州道迎击，其后部又被右武卫将军李子和掩杀。害怕碰到李世民的颉利可汗，在汾东被干掉五百多人、损失两千匹马，在汾州损失了五千人马，在弘州损失几千马匹、骆驼后，听说李世民要来，慌忙溜之大吉。
老实了不到一年，武德六年，颉利可汗就与刘黑闼、苑君璋等人一起，再次侵扰唐朝定、匡、原、朔等州。虽未造成大麻烦，但边境总是被骚扰，李渊烦得要命，做什么都静不下心来，更无法集中精力搞建设，迫使他不得不“舍”出两个最能干的儿子李建成和李世民，屯守北部边陲。
这两位的厉害，颉利可汗心中是相当有数的。虽然没有迹象显示他们有反攻突厥的打算，但为了避免这个可能，他又向唐朝请和，并把刚夺走的马邑还给了唐朝。正当李渊以为可以松口气时，没想到第二年这家伙又来了，先是亲自带兵攻打原、朔二州，又与苑君璋沆瀣一气，合攻陇州以及阴般城，并州也遭攻击。