公元616年，屡立战功的李渊被提升为右骁卫将军、太原守备。太原地理位置险要，是军事重镇。李渊据此重镇，在朝廷中的地位与日俱增。
由于魏刀儿领导的农民起义军在河北、山西一带活动异常频繁，隋炀帝就命令李渊消灭这股武装力量。李渊的部队与魏刀儿的起义军在西河（今山西汾阳）展开了殊死搏斗。李世民跟随军中。
李渊率部在西河郡雀鼠谷与魏刀儿部将甄（zhen）翟（zhai）儿数万人马遭遇。
当时李渊与副留守王威仅带了前军的五千骑兵，而敌军数倍于己，前后相续十余里。王威与众将皆失色，心惊胆战，以为必败无疑。
李渊胸有成竹，从容地问身旁的次子李世民：“二郎，你看此仗该怎么打？”
李世民道：“请父亲与王大人率大军居中，吸引敌人的注意。您另拨五百精兵给孩儿带领，作为奇兵，乘敌不备，直捣其中心，搅其阵势，敌军遭到突袭，指挥失灵，前后不能相顾，自然溃败。”
“喂，”李渊赞许道，“二郎果然熟知兵法，为父带你来太原，正是为了要你增加历练，将来有用武之地。”
于是依计挑选五百精锐由李世民率领，暗中由小道迂回至敌侧翼埋伏。
李渊与王威领四千多军兵结大阵，辎重居中，旌旗招展。
甄翟儿军向大阵发起进攻，势如山洪暴发，排山倒海般冲杀过来。大阵被冲垮。王威惊慌落马，幸亏被一旁士兵奋力抢回。李渊箭无虚发，敌十几骑皆应弦而倒。无奈敌军众多，李渊与少数亲兵被敌重重包围，情势危急。此时李世民率轻骑突然杀出，他已观察良久，蓄势而发，所向披靡，直冲敌之指挥中心。敌军果然大乱，李渊乘机出击。时逢副留守高君雅带大队步兵赶到。李渊率军合击，大破甄翟儿军。
李渊率众凯旋，晋阳县令刘文静率全城官民夹道欢迎。十九岁的李世民全副披挂，紧随其父后，英姿勃发，神采飞扬。
刘文静善于相面，他认定世民公子乃旷代奇才，千年一遇，于是引为知己，结忘年之交。二人常常把盏对饮，指点江山，慨叹时局艰危，君上昏庸，臣子奸佞，民不聊生。
刘文静明白李世民心忧天下，有呑吐宇宙之志！于是心照不宣，为之引见地方豪杰，世民亦礼贤下士，推财散客，广结英俊。
自围袭雁门以来，突厥就不断侵掠边境。此时杨广诏李渊率太原道兵马与马邑太守王仁恭合击突厥。当时突厥兵力强大，而李渊除了太原辖境必须留有的守军，与王仁恭在马邑仅率五千余兵马。王仁恭心中畏惧。李渊道：“突厥游牧民族，居无定所，逐草而居，以羊马为粮，部落之间联系松散，他们打仗只为求财，见利则进，遇难则走。我军可挑选精锐，装扮成突厥人，饮食起居与突厥等同，对方不辨真伪，我军再伺机进攻，必获全胜。”
于是挑选出两千骑兵，游弋于边境草原，每遇突厥部落，则表现出旁若无人的样子，飞马驰骋，左右射猎，以炫耀武威。突厥人见状，不明就里，以为他们是突厥另一部族，不敢贸然出战。如此再三，突厥骑兵渐渐失去警惕，不以为意，而李渊所部将士则知己知彼，信心大增，士气高涨。
一天，李渊率军与一队突厥骑兵相遇，他立即下令发起进攻。将士们如离弦之箭，奋勇当先，风驰电掣般向敌军冲去，杀声震天，刀光闪闪，大破突厥骑兵。自此，突厥闻风丧胆，佩服李渊的用兵才能，一时不敢南下侵扰。