大业十三年（617年），李渊父子在晋阳起兵，攻占长安，并于武德元年（618年）建立了中国历史上有名的大唐王朝。
隋文帝仁寿四年（604年），太子杨广为了夺取帝位，残忍地杀害了自己的父亲隋文帝杨坚，自立为隋炀帝。杨广称帝之后，为了显示自己的功绩屡次北伐突厥，东征高丽，而且大兴土木，修建宫殿，动辄征夫，搞得民不聊生、民怨沸腾，国内政治日渐混乱，各地纷纷涌现起义军。
李渊字叔德，甘肃临洮人，出身名门望族，他的先祖本是凉武昭王李暠的七代孙，其祖父李虎是西魏的陇西郡公，为威望最重的功臣“八柱国”之一，李渊七岁袭唐国公。
李渊与隋炀帝不仅是君臣，还是兄弟，因为李渊的姨母是隋文帝皇后独孤氏，李渊又年长于杨广，所以说起来他还是隋炀帝的表兄。隋炀帝大业初年，杨广很信任李渊，把他由文官转任武职，掌管宫廷禁卫事。
公元615年，山西农民大乱，杨广任表兄李渊为山西河东慰抚大使，去镇压乱民。李渊领命之后，直接奔赴山西，顺利地收服了农民起义军。隋炀帝闻讯甚是高兴，当即拜李渊为太原留守，这样李渊就掌握了山西的军政大权。这个职位大大地增强了李渊的实力，从此之后他不仅握有太原、雁门、马邑、楼烦、两河“五郡之兵”，而且“四战之地”的太原，更是“天下精兵处”，特别是隋朝以来，晋阳城的军需物资已是“府库盈积”，“太原粮饷可支十年”。
封了李渊之后，隋炀帝就后悔了，尤其看到李渊的兵力不断壮大，杨广逐渐对李渊不放心了。一天他召李渊议事，李渊因病未到，隋炀帝疑心顿生，立马召见李渊的外甥女——妃子王氏，问道：“你舅舅生病了，病死了没有？”
李渊知道这事之后，明白杨广不再信任自己，想到隋炀帝不知从哪里听到一句“李氏当为天子”的谶语，就一次杀掉了手握重权的郕国公李浑一家三十二人的旧事，李渊打了个冷战。为了使杨广减少对自己的猜忌，李渊极力装作胸无大志的样子，每天沉湎酒色，不理政事，杨广信以为真。实际上，李渊是和隋炀帝玩起了明修栈道暗度陈仓的游戏。他暗中授意长子李建成在河东地区广交才俊，命次子李世民在晋阳拉拢农民起义军首领。在镇压起义军的过程中，李渊招降纳叛，广结豪杰之士，网罗各种人才，不断壮大自己的实力。
就在李渊军棋不定的时候，对李渊建业有重要作用的刘文静出现了。刘文静雄才大略，时任晋阳令，后来因亲家李密造反而被捕入狱。李渊知道之后，设法将他营救出来。刘文静深知李渊的雄才大略，苦于没有找到起义的合适机会，为报李渊的知遇之恩，他建议李渊挟天子以令诸侯，他这样坚定了李渊反隋自立的决心。
大业十二年（616年）初，李渊被任命为太原道安抚大使，拥有了征发河东兵马的特权。李渊很高兴分析了国内的形势之后，对李世民说：“唐固吾国，太原即其地焉。今我来斯，是为天与，与而不取，祸将斯及。”同年七月，隋炀帝南下江都（今江苏扬州市）前，任命李渊为太原留守，同时派亲信王威、高君雅为副留守，目的就是监视李渊的一举一动。
李渊早就想举事，但是起兵的时机始终不成熟。隋朝有法律规定，凡是私自招兵1000人就会被治罪，除非有外敌来犯，或者是有叛军作乱，可以一边上报皇帝，一边招募士兵以拒来犯敌军。
大业十三年初，机会来了。正当李渊父子与刘文静等人密谋起义之事没有机会的时候，驻马邑隋军将领刘武周发动了兵变，抢占汾阳宫，自称天子。刘武周军队距离太原只有300里，而山西距离江都有3000里，禀报隋炀帝显然来不及，于是他就把隋炀帝的亲信王威、高君雅叫到跟前，分析了当前的形势，两人一听立即表示应该招募军队抵抗刘武周叛军。这样李渊名正言顺的把部队招募到了太原，准备秘密起兵。其心腹武士彟、唐宪、刘文静、裴寂等，也都督促李渊举事，于是，李渊借口防备刘武周和突厥南下，积极准备起兵。但是，意外情况发生了，王威和高君雅是参加过诸多场战斗的军人，可是此次抵抗刘武周，他们没有任何兵权，兵权反而紧紧把握在李世民和长孙顺德（此人是逃兵，可以说是有罪之身，来到李渊出寻庇护）的等人的手中，两人感觉不对，碍于李渊是唐公，所以事情也就暂时搁置下来。随着事态的发展，两人发现太原已经紧紧的被李渊父子控制，两人突然醒悟李渊正在策划起义，商量之后，决定埋伏军队刺杀李渊。不想此事暴露，反被李渊设计以勾结突厥进犯的罪名，把其诛杀。与此同时，李渊召回其子李建成和李元吉。
本想秘密起兵，但是经过诛杀两名副将，或者说诛杀隋炀帝亲信之后，已经闹得满城风雨。正当李渊不知如何向百姓解释的时候，两万突厥人突然来犯太原，这样诛杀两名副官的事情顺理成章的解决。
一波刚平，一波又起，怎么处理和突厥人的关系成了当务之急，商议之后，李渊派刘文静去突厥求援，实际上是结好突厥，并做政治交易，向突厥人称臣。另一方面，李渊致信李密，信中吹捧李密是当今天下大乱之际唯一能宁世安民的英雄，对他表示拥戴并且表示自己胸无大志，来迷惑自视甚高的李密。就这样李渊完成了“北结突厥”，“东和李密”的策略。
一切准备就绪之后，大业十三年（617年）七月初四日，李渊安排李元吉为镇北将军、太原留守。初五日，李渊领兵3万，即从太原出发，挥师南下。经过离石、龙泉（今隰县）、文城（今吉县）、霍邑（今霍州市）等诸多战役，一路降服义军，实力不断增强，至十月初四日，李渊大军已攻至长安市西北郊的长乐宫，十月初九攻克长安。
占领长安之后，李渊并没有马上称帝，而是未经隋炀帝的同意，于九月十六日，册立年仅13岁的炀帝之孙——代王杨侑为皇帝，隋炀帝也就为了太上皇，并改元义宁。这样就达到了挟天子以令诸侯的目的，自己由唐国公晋升为唐王，未敢称帝。
称帝时机还不成熟，一方面，一旦李渊称帝，必然成为众矢之的。古代的爵位分为：公、侯、伯、子、男，也就是说“帝”只有一个，但是其他的爵位不限定。“王”也要向“帝”称臣，所以，当时的“王”很多，比方说当时山东（太行山以东，也就是今天的河南）的李密，自称魏国公；江南的领导人萧铣，称梁王；当时河北地区实力最大的窦建德自称长乐王，大家都不敢称帝。另一方面，古代的忠君思想是当时政治的道德底线，当时有很多人忠于隋王朝。李渊很明白这个道理，所以就藏起自己的野心，摆出忠君的面孔，等待时机。
就在多方割据势力，等待称帝机会的时候，众人都没有想到机会能这么快来。义宁二年（618年）三月二十日，隋炀帝在江都被右屯卫将军宇文化及杀死，立秦王杨浩为帝。当时的隋炀帝已经表现出虎落平川被犬欺，当年意气奋发，立志超过文帝不惜穷兵黩武的一代皇帝，被沿路的起义军吓的不敢回长安，最后被身边最信任的禁卫军杀害。
此时，李渊已平定关中，同时占据灵武、盐川（治今陕西定边）、岩渠（治今四川渠县）、武都（治今甘肃武都）、五原（内蒙古五原县南）等郡及巴蜀之地。隋朝旧臣见大势已去，也就让杨侑把皇帝让给李渊，李渊作了一番“辞让”后，忠于于五月二十日，正式即位，即唐高祖，改隋义宁二年为武德元年，国号为“唐”。