杨广的死给长安的李渊势力带来了不大不小的震动。隋炀帝死后，杨侑做皇帝对抗隋炀帝法统的作为降低了；但另一方面，杨侑又名正言顺地成为了天下的君主。只是现在，杨侑的第二方面作用不一定非要由他来承担：他姓之人也可以称帝号令天下。隋炀帝刚死，杨侑进封李渊为相国，总百揆，备九锡之礼。这又是之前篡位者的一贯步骤。唐朝置丞相以下，立李渊高祖以下四庙于长安通义里第。李渊已经开始了新王朝世系的建设工作。在攻入长安后，绝大多数臣民就已经默认李渊的统治地位。3月，杨侑就以李渊“功德日隆，天历有归”的理由想禅让天下给李渊。李渊没有答应。5月，杨侑又一次要禅位给李渊。他派使持节、兼太保、邢部尚书、光禄大夫、梁郡公萧造，兼太尉、司农少卿裴之隐奉皇帝玺授于高祖。两人带去了禅让诏书。这一回李渊决定接受帝位。
5月20日，甲子日。李渊选择登基称帝。他改大兴殿为太极殿，即皇帝位。重新被称为代王的杨侑又一次回到皇宫，亲手将皇帝的宝玺交付李渊。因为李渊封爵是唐王，新的王朝定国号为“唐”，仍然定都长安；李渊就是唐高祖。为了庆祝自己在不到一年内完成了从太原留守到皇帝的变化，李渊下令自己起兵经过的州县全部给复三年。
当月，李渊封杨侑为酅国公。与之前的逊帝一样，杨侑没有被允许前往封地，而是闲居长安。第二年，也就是武德二年5月（《新唐书》为8月）杨侑薨，年仅15岁。正史没有记载杨侑的死因，因此野史就认定他是被李渊毒死的。杨侑在位没有任何建树，主要举动就是一再给李渊加官进爵，还多次下诏要求让位。因此死后给他上谥号就有一定的难度，最后唐朝称杨侑为“恭帝”。
二
唐朝建立时，还只是一个偏居关中的地方政权。
当时天下的大部依然被农民起义军占领着。最强大的农民起义军瓦岗军在唐朝建立前后，仍然耗在洛阳东边和王世充激战。李密是和洛阳城杠上了，结果把实力都拖了进去，丧失了宝贵的发展机遇。当东南方向的宇文化及率军北上的时候，李密的瓦岗军处境就很危险了。李密下了一步臭棋，投向了王世充，与宇文化及作战。宇文化及是被打败了，瓦岗军也彻底被拖垮了。王世充翻脸相向，李密只好向西投降了李渊。做了唐朝的臣子后，李密才发现自己还是想当皇帝，叛变唐朝想东山再起，事败被杀。瓦岗军的余部融入了唐朝军队中。
洛阳的王世充在瓦岗军失败后，个人感觉良好，称帝过起了皇帝瘾。平定西北的唐朝大军这时讨伐王世充来了。王世充打不过，向河北的农民造反者窦建德求援，窦建德亲自帅兵十万西援王世充。河北部队在虎牢关一战被唐军打败，窦建德被俘遇害。王世充势力随即失败。而河北农民起义军余部在刘黑闼的统率下，起兵反唐。武德六年，刘黑闼遭部将出卖，被唐军杀害，余部被消灭。至此，山东河北的确长达十二年的农民起义军全被唐朝消灭了。
剩下来的江淮地区的农民起义军情况比较特殊。杜伏威在宇文化及杀炀帝于江都的时候，没有抓住时机向东南的隋朝残余发起进攻。他先是坐视宇文化及等人北上，接着又莫名其妙地向洛阳的隋朝残余上表称臣，后来又遣使长安向李渊投降。天知道杜伏威是怎么想的？他的部下也百思不得其解，士气大挫。实事求是地讲，李渊对杜伏威相当好，任命他为淮南安抚大使、和州总管，封楚王，让他主宰东南半壁军事。杜伏威迅速异化为镇压农民起义军的刽子手，不遗余力地消灭江南的确的其他农民起义军。
杜伏威打着唐朝的旗号，帮助李渊平定了东南各地，自己也壮大成为江淮一带最大的势力。兔死狗烹的命运随即降临在他头上。打败刘黑闼后，唐朝大军向江淮移动，威胁杜伏威入朝。杜伏威不得不前往长安朝见李渊。这一去，杜伏威就失去了实权，被任命为太保在长安做起了寓公。杜伏威走后，部下辅公祏积极活动，在武德六年（623年）夺取兵权，在丹阳称帝，建立了宋国，与唐朝对抗。实力壮大的唐王朝一点也不含糊，水陆俱进，分南、西、北三面进攻辅公祏。不到半年，辅公祏兵败被杀。宋国灭亡，唐朝真正统一了中国。
三
上阵不离父子兵。李渊在建立唐朝的过程中就带着大儿子李建成和二儿子李世民冲锋陷阵。李建成和李世民都是非常杰出的孩子，为唐朝的建立立下了汗马功劳。
二儿子李世民天生聪颖，小时候就在隋朝贵族圈子里很有名气，给李渊赚了不少面子。李渊出任晋阳留守时，将李世民带在身边。长子李建成则带着母亲、弟弟和家人在河东地区居住避祸，为李渊解除后顾之忧。李世民在晋阳参赞军务，招兵买马，是李渊策动太原起兵反隋的核心参与者。在决定造反争夺天下后，李渊紧急将李建成、李元吉等儿子都秘密召到晋阳共同起事。起兵之初，李渊以长子李建成为陇西公、左领军大都督，统率左三军；以李世民为敦煌公、右领军都督，统率右三军。兄弟两人各尽所长，也各有分工。李世民因为出色的军事谋划和冲锋陷阵的能力，逐渐成为了李唐阵营的重要战将，领兵在外，不断立功；李建成则一直跟随李渊身边，负责军中行政和后方事务。
唐朝建立后，李渊立李建成为皇太子，封李世民为秦王，任尚书令。李建成被确立为皇太子一方面是因为他是嫡长子，是宗法制上的第一继承人；另一方面，李建成经过长期的政治考验，多有功勋，表现出了未来皇帝应有的素质。对于李世民，李渊以高官厚禄和军事实权来补偿，继续让二儿子常年在外征战。李渊虽然是政治上的强手，但对儿子们却很宽容。儿子们一旦有什么过错，他也不进行实质惩罚，责备几句了事。但皇子们没有像李渊希望的那样和衷共济，和睦相处。他们为然皇权展开了争夺。唐朝一建立就因为李渊在父子关系问题上的一厢情愿和无所作为而产生了太子李建成和秦王李世民之间的权力之争。
经常出征的李世民逐步消灭各地割据势力，威震天下。唐朝建立后，王朝的势力范围被局限在关中地区。秦王李世民破李轨，平定陇西割据势力薛仁杲，将唐王朝疆界拓展西北方面的威胁；败宋金刚、刘武周，收复并汾失地，恢复了李元吉丧送的失地。李世民还亲自指挥了虎牢战役，一举翦灭中原两大割据势力——王世充和窦建德军事集团，取得了唐朝统一战争决定性的胜利。毫不夸张的说，李渊的大半个天下都是李世民打下来的。李世民的威望直线上升，尤其是在虎牢之战后进入长安时，受到部分军民以皇帝的礼仪迎接。以洛阳为中心，潼关以东地区几乎只听李世民的号令。太子李建成长期经营政治中枢，在以长安为中心的关中地区构造自己的势力范围。在长安，文武官员基本被太子网罗在自己周围。因此，尽管在全国范围内，李建成的势力不如弟弟李世民；但在关中局部，在京都长安，李建成完全拥有对李世民的实力优势。李渊的三儿子、齐王李元吉则和李建成结成政治联盟，共同对付李世民。
长安城中表面上捷报频传，暗地里波涛汹涌。不同派别的官员们党同伐异，争斗不休。据传太子府中不断有人（包括李元吉）建议李建成对李世民采取“非常手段”，李世民也爆发出“中毒得救”的大新闻。李渊对此都充耳不闻。
武德九年（626年）6月3日夜里，李世民突然进宫向李渊哭诉大哥李建成和弟弟李元吉处心积虑要谋害他。李世民还“检举”哥哥弟弟两个人在后宫奸淫后妃、宫女。李渊措不及防，只是吩咐宫人召太子、齐王和几位重臣明天一早来临湖殿解决这件事情。出了这样的“丑闻”，李渊的心情自然不好。第二天清晨，在儿子们和大臣们到来之前，李渊在宫中北海池上泛舟，舒缓心情。隐隐约约的，临湖殿方向先传来了盔甲相撞的声音，越来越清晰。李渊迟疑未定，直到大将尉迟敬德手持长矛、全副戎装地带着一队士兵匆匆赶来，才明白发生了什么事情。当时发生了著名的“玄武门之变”，李世民杀死了李建成和李元吉。李渊则被尉迟敬德“护驾”到临湖殿上。政变后的第三天，李渊下诏立李世民为皇太子，并在两个月后传位于李世民，自己做了太上皇。中国历史翻开了贞观盛世的一页。
贞观九年（635年）5月，李渊在太安宫垂拱前殿逝世，终年七十。唐朝为他上谥号为“太武皇帝”，庙号高祖。
纵观李渊建唐和统一天下的过程，农民起义军是他最大的帮手。没有农民起义军动摇隋朝统治根基，没有农民起义军目光短浅、相互残杀，李渊这个前朝的贵族是没有机会触摸龙椅的。