一、李渊醉酒反隋
生性耽于佚乐的隋炀帝，在全国各地设了多处行宫，宫中充以嫔妃佳丽，一应陈设，如同长安和东都，只是规模略小，以便游到哪里都有佳人侍候。宫中设有外监，正、副各一人，一般由当地军政长官挂名兼任正监，实际宫中事务则由副监全权处理。晋阳宫就是设在太原的行宫，因而李渊兼任正监，裴寂为副。
一日，裴寂在晋阳宫设宴，恭请李渊赴席。李渊见是好友设宴相邀，自己名义上又是正监，便不假思索，欣然赴宴。等到了晋阳宫时，裴寂已在宫门处甬道上等候多时。两人入席坐定，佳酿珍馐，早已罗列。只听裴寂说道：“今日设宴，别无他事。一为答谢唐公向日盛情，一为思念旧友。故望唐公开怀畅饮，不醉勿归。”李渊欣然允诺。二人推杯换盏，且饮且叙，一直喝到掌灯时分。
此时，李渊已喝到七八分醉。裴寂又说道：“良辰美酒，不可无佳人歌舞助兴。”不等李渊再说，裴寂已令一队宫女舞将起来，又令两个绝色佳人分坐李渊左右劝酒。这李渊本就是酒色中人，见裴寂说的不无道理，眼前两个丽人又秀色可餐，善解人意，便放开肚子，吃一杯左边美人的，再吃一杯右边佳丽的。如此反复，毕竟经受不起。喝着喝着，眼中的两个佳丽已变成四个、六个、八个……最后吃完一杯，竟然歪倒在左边佳丽的怀中……
就这样，一直到日上三竿，李渊才醒过来。揉揉眼睛一看，自己赤条条地躺在龙床之上，仿佛宫中情形。这一惊，才觉得不是在梦中，便连忙询问两位的姓名出身。一听说一位姓尹，一位姓张，都是宫中嫔妃，吓得一身冷汗。
正在这时，只见一个小宫女进来禀告：“裴宫监在外厅恭候唐公。”
裴寂进来后笑着说道：“唐公息怒，还是让我直说了吧！当今皇上失德，百姓离心，四方盗贼不断，连太原周围都被群贼据守。唐公将应童谣，皇上素来猜忌，想必也深受其害。明公手握重兵，乘时而动，事业不可限量，帝业未必不得。况且，您家二郎世民，早已私练人马，欲趁时高举义旗。因担心事发被诛，才出此下策，让我以宫人侍奉明公。如今明公若拘于小节，危亡只在旦夕。如果明公高举义兵，必得天助。眼下众人，已同心协力，打算辅佐明公。不知明公意下如何？”
李渊长叹一声，说道：“唉！我不是没有这个想法。然而我身为朝廷大员，又是帝室姻亲，怎忍心为此不忠不义之事？然二郎确实有此等筹划，事态已经到了这种地步，我也奈何不得，那就只好依了他去……”
话音未毕，忽见留守府信使前来禀告说：“突厥骑兵进犯马邑，副留守王威等，请留守回府定夺！”李渊不敢停留，急忙打道回府，临走又嘱咐裴寂道：“起兵大事，还须从长计议。”
回到留守府，副留守王威、高君雅已等候多时。李渊与他们议定，由高君雅率兵一万，驰援马邑。因军情紧急，起兵之事，不再提起。
不几日，信使人禀，马邑太守王仁恭战败，其部下鹰扬府校尉刘武周与仁恭侍儿私通，恐事泄被杀，遂于大业十三年2月中起兵作乱，杀死王仁恭投靠突厥，举兵大寇马邑。接着，高君雅也战败逃回。李渊连连听到兵败的坏消息，担心因此被炀帝治罪，整日闷闷不乐，不理府事。
此时，李世民从裴寂处探知父亲的态度，便找个机会屏退李渊左右侍从，劝说父亲道：“当今主上无道，百姓穷困，盗贼并起，太原城外都已成为战场。眼看杨氏天下朝不保夕，父亲大人若再谨守小节，给这等荒淫之主尽忠，下有盗寇劫掠，上有皇上严刑相逼，危亡已到了最紧急的关头。以小儿愚见，不如下顺民心，上应天时，兴起义兵，转祸为福，建立功业。这是上天给予的绝好时机！”
李渊决定即日起兵。于是一面命令李世民私下传令，部署兵马；一面让裴寂去稳住江都来使，待来日杀之，祭奠义旗。
李渊令世民、文静开局募兵，又让长孙顺德、刘弘基二人作为副手，分赴太原各处募兵。远近壮士，闻知消息，纷纷应募入军，十几天时间就征召近万人。李渊又密派使者，再去河东接应建成、元吉等。
王威、高君雅二人，本来是炀帝派来临督和制约李渊的，如今见李渊竟然起用亡命待罪的长孙顺德、刘弘基去募兵，而且募来的士兵统归他们带领，并不派属其他将官，便心生疑忌，怀疑李渊有二心，便和行军司铠武士彟商量。
王威说道：“长孙顺德、刘弘基是朝廷逃犯，怎么能够让他俩带兵。我等打算把他们抓起来治罪。”
偏偏这武士彟是李渊亲信，便替二人辩解道：“这两人都是留守大人的门客，如果不经留守同意把他俩抓起来，这不是公然和上司作对么？这样对阁下不利。”
王威一听，觉得有理，便隐忍作罢，另寻计策。
留守司兵田德平，想劝王威等将李渊招募兵勇的详细情况写成密件送往江都。武士彟劝道：“讨贼之兵，全归留守节制。王威、高君雅名为副手，实质上形同摆设，他们又能有什么作为！阁下不要自讨没趣！”田德平这才作罢。
开春以来，太原一直干旱少雨，到5月初仍然滴雨未下。李渊应城中百姓之请，沐浴斋戒后，打算于5月十5日在晋祠祈雨。
王威和高君雅觉得这是天赐良机：可借李渊在晋祠祈雨时，人群杂乱之际，伏兵杀掉他。但苦于无人可使，便召来晋阳乡长刘世龙，威胁利诱，命他在祈雨日，率乡兵埋伏祠中，趁机除掉李渊。
这刘世龙虽经常与王威、高君雅来往，但早在李渊初任留守时，就被裴寂举荐给李渊，成为心腹。刘世龙表面上应允，暗中将这一消息密告李渊。
李世民愤愤说道：“此二人名为副留守，实际上是皇上派来的耳目。欲举义旗，本应早早除掉这两个绊脚石，苦于时机不成熟。想不到他二人却自投罗网。父亲大人不必忧虑，孩儿自有妙策！只需晋阳府司马刘政会安排一番，便可成功。”
5月14日夜，李世民率精锐之兵，埋伏于晋阳宫城之外。15日早晨，李渊照常一并邀请王威、高君雅同坐议事。
正议论间，忽见刘文静引着刘政会立于厅堂之中，称有密状供留守阅看。李渊请王威接过密状察看，刘政会却不给王威，并且说：“密状中所告之事，与副留守大有干系。惟有留守大人才能察看。”
李渊假装惊诧道：“哪有这样的事情？”便接过供状察看，并读道：“王威、高君雅暗中勾结突厥人，图谋攻打太原。”看完便递给王、高。高君雅不等看完，便拂袖而起，高声骂道：“这只是造反的想趁机杀掉我而找的借口！”边说边拉着王威往外走，厅中卫兵便挡住二人去路。此时，李世民也已令伏兵将议事堂周围街区戒严。李渊命刘文静、刘弘基、长孙顺德将王威、高君雅拘禁起来，囚在狱中，在举兵时再杀他祭旗。
5月17日，数万突厥骑兵突然入侵太原，先头部队从太原外郭北门袭入，一番扰掠，又从东门退出。李渊命裴寂等人部署兵马，严加防守；又命士兵，将城中各门大开。突厥骑兵掠至城门下，见各城门大开，城中悄无声息。不知城中到底有多少伏兵，便不敢贸然轻进，慌忙撤退。
城中军民见突厥骑兵果然入侵，又悄然撤退到城外，都以为确实是王威、高君雅暗中勾结来的，只因内应被抓才又退兵，于是都大骂王、高罪该万死，不杀不足以平民愤。
李渊便借机将王、高二人斩首示众，以安抚民众情绪，同时命部将王康达率千人出城交战。结果寡不敌众，全军覆没，王康达战死。消息传入城中，百姓惊恐不安，李渊忙叫世民商议退敌之策。
李世民用疑兵之计，令军士夜间潜出城外，白天大张旗帜，鼓声不绝，扮作援军，从远处向城池方向进军。突厥以为援兵到来，始终不敢轻举妄动，在城外逗留了两天，然后大掠一番撤兵。
此时，河东的李建成、李元吉接到父亲密令后，便赶紧收拾行装，护送家眷，准备向太原进发。不料当地守官已知李渊反情，四处搜捕李渊家属。情急之下，建成、元吉独撇下五弟智云，逃离河东。半路上，建成、元吉又遇到从关中抄小路赶来的妹夫柴绍，便一同赶往太原。几经风险，终于于5月30日赶到太原。
李渊听说家眷已至，欣喜不已，忙召李建成详细询问。得知除夫人窦氏先已亡故，妾万氏以下均安全抵达太原，唯独不见万氏所生的五子智云，生死未卜，心又转忧。
众人都以“吉人自有天相”相安慰，李渊这才稍稍放心。又见女婿柴绍也一同前来，却不见女儿在内，便问柴绍原因。
柴绍答道：“我本寄寓京师，以观时变。后接世民兄密信，遂与令爱商议，一同赶赴太原。怎奈令爱称她要回户县，尚有重要安排，让我先行报信。我这才星夜兼程，赶到河东。路遇建成、元吉兄，故而偕行。令爱虽未明言，但定有脱身之计，岳父大人尽管放心！”
李渊素知女儿谋事谨密，胆略过人，便不再挂怀。唯独于智云放心不下，遂一面派人密赴河东，打探消息，一面安顿家眷休息。
李世民又进言道：“如今家眷已到，王威之徒已除，举兵之事不可再拖。迟则生变，请父亲大人决断！”李渊乃令三子及裴寂、文静等入堂，共商起兵事宜。
二、初战告捷
6月5日，李渊令建成、世民率兵攻打西河，命太原令温大有与之同行，参谋军事。并嘱咐温大有说：“我儿年少，阅历战阵不多，所以请你参谋军事。兴兵举义，大业成败与否，就靠此次出征来决定。望足下用心辅佐！”
当时，士兵刚刚募集，未经训练，建成、世民一边行军，一边训练，和士兵同甘共苦，遇敌临战，身先士卒；严明军纪，行军途中，遇到瓜果蔬菜，一律出资购买，禁止士兵擅自摘取。士兵如果偷窃了瓜果，便令找到其主人按价赔偿，完了后也不追究行窃士兵的责任。因此，士兵和百姓都非常感激。
义军所到之处，将士英勇赴死，百姓夹道欢迎，所向披靡。很快就攻到西河城下，将孤城团团包围起来。城外百姓有想进城的，世民等不加禁止，任其进入。
西河郡丞高德儒闭城固守，拒不投降。李建成率部围城，李世民带兵从正门强攻。守城军士和百姓风闻义军的德行，便无心抵抗。
6月10日，世民令敢死队冒险登城，很快就拿下城门。世民率先驰入城中，抓住高德儒，斥责道：“你身为父母官，为邀功请赏，假造祥瑞，指野鸟为凤凰，劳民伤财，欺上罔下，捞取高官厚禄。我如今大兴义兵，就是为了诛灭你这等奸佞之徒！”遂即斩首示众。除此之外，再未滥杀一人，秋毫无犯。
接着，建成、世民发布号令，命军士回营驻扎，扰民者立斩。投诚官员，继续留任，百姓各复旧业。远近城池，听到义军的善举，无不欢欣鼓舞。
6月14日，建成、世民安排好西河的防务后，率部返回太原，往返只用了九天。
李渊得到捷报后，拍案大喜道：“像这样行军打仗，定能横行天下，扫清六合。”最终下了西入关中、夺取天下的决心。
西河大捷后，义军声势益盛，前来投军者不断。李渊决定开仓赈济贫民，同时又招募一批壮丁入伍。李渊命将新兵分为左、右各三军，统称为义士。
裴寂等上表尊奉李渊，号为大将军。李渊设大将军府，开府置官：任命裴寂为大将军长史，刘文静为大将军府司马，唐俭和温大雅为记室，大雅之弟大有掌机密，武士彟为铠曹，刘政会、崔善为、张道源为户曹，姜蹇为司功参军，殷开山为府掾，长孙顺德、刘弘基、窦琮及王长谐、姜宝谊、阳屯为左右统军。其余文武各属，量才任用。
立长子建成为世子，封建成为陇西公，兼左领军大都督，左三军受其节制；封次子李世民为敦煌公，兼右领军大都督，右三军受其节制，均可辟制官属。柴绍为右领军府长史，刘瞻领西河郡守。
长史裴寂封存晋阳宫府库，将宫内积粟九百万斛、杂彩布帛五万匹、铠甲头盔四十万副，一齐移送大将军府；宫内张、尹二妃入侍将军，其余宫女五百余名，尽遣至军府内服役。所有将佐僚属，各司其职，只待突厥援兵到来，即可择日誓师，举兵南下。
始毕可汗接到李渊的回书后，派其柱国康鞘利等护送良马千匹，南下谒见李渊，请求设互市，进行交易，并答应发兵护送李渊西入关中，需要多少兵马，由李渊决定。
6月20日，李渊召见康鞘利等突厥使者，接受了始毕的信函，礼节极其恭敬，设盛宴款待康鞘利，向他馈赠了非常贵重和丰厚的礼物，以结其心。在千匹马中，选择一半买下。其余请康鞘利带回。
军中义士不解，以为李渊缺钱，便向李渊请求，让他们用自己的钱买下剩余的一半，送到军中。
李渊解释道：“感谢众义士的好意。突厥盛产良马，而贪财好利。他们如果将马来卖，就会源源不断，恐怕那时咱们想买多少都买不完。我之所以只买一半，就是为了向他们表明我很穷，并且也不急需战马。众义士的战马，就算我先赊欠着。诸位不必破费自己的积蓄！”
6月26日，康鞘利要回国复命，李渊命刘文静出使突厥，请求援兵。
临行前，李渊私下嘱咐刘文静说：“突厥骑兵进入中原地区，历来都是国家和百姓的大患。我之所以想请他们南下相助，主要是担心刘武周和他们勾结起来，扰乱北部边境，使我后方不稳。另外，突厥战马边行边牧，不需专门准备粮草，比较省事。我佯借他们兵马，以壮声势，这也是不得已的办法。所以，马匹可以多些，突厥兵几百人就足够了。希望司马此行马到成功。”
刘文静告辞后，便和康鞘利同行北上。
就在突厥使者刚刚离开时，又有好消息传到大将军府。灵寿贼首郗士陵，率部下数千人前来投靠。李渊大喜，拜郗士陵为镇东将军，封燕郡公，置镇东府，允许郗士陵补充僚属，并招抚太行山东各郡县。
时值初秋，金风送爽。
7月4日，李渊任命元吉为太原太守，留守晋阳宫，全权处理太原军政事务。
7月5日，李渊率精兵三万在辕门誓师，正式宣布兴起义兵，拥立代王侑为皇上，传檄郡县。大军从太原浩浩荡荡出发，终于正式踏上举兵反隋、逐鹿天下之路。
同日，突厥人阿史那大奈，率众投奔李渊。
这期间，李渊是由儿子和部下推着走上反隋之路的。而二公子李世民，在首倡义举的决策中，具有决定性的影响。他是李渊起兵时智囊团中关键的一员。因为此时长子建成、三子元吉并不在李渊身边，这也就自然决定了他在未来军事决策和战术运用中的地位，实际上就成了李渊军事决策的参与者和主要执行者。
李建成赴太原后，长子的天然优势抵消了一部分李世民的影响力。但同时，兄弟二人的矛盾从起兵之日起，已经潜藏，它将随着每一次胜利的获得而逐渐明朗化。
初秋的这场雨，没想到竟转成连绵的阴雨。贾胡堡一带，地势险峻，沟壑不断，随时都有可能爆发山洪。这使得义军进退不得，临时驻扎竟变成了短期驻防。
大军随行所备粮草并不能足月，原本打算攻下霍邑，就地补给粮草。但贾胡堡地险人稀，无从筹措；道路泥泞，从别处运输又十分艰难。李渊只好派府佐沈叔安率领老弱兵卒，回太原去押运一个月的粮草，大军则原地休整。
然而，秋雨连下十多日，仍然不止。军中粮食日见匮乏，兵士人心不稳，回太原运粮的部队还未到来。刘文静未返回，突厥援兵不见踪影。从后方传来谣言，称突厥与刘武周勾结起来，准备乘虚袭取太原。情急之下，李渊召集众幕僚和将领商量北返太原。