除了引导、整合，汉高祖也采取铁腕手段打击权臣，巩固皇权。刘邦感到相权太重，对皇权已构成威胁。公元前195年，高祖平定英布叛乱回到长安不久，萧何对他建议说：“长安地方狭小，而上林苑中空地很多，已经废弃。希望陛下能下令允许百姓进去耕作，不要把它变成了养兽的场所。”高祖听了大怒，认为对萧何下手的机会来了，于是，说他是受了商贾的贿赂，才来为他们请求开放上林苑的。因而不顾多年交情，下令把萧何逮捕，关进监狱。过了几天有人问他相国犯了什么大罪。高祖解释说：“我听说李斯做秦始皇的相国，有功都归于秦始皇，有坏事都算在自己头上。现在相国不仅接受商贾的许多贿赂，还请求开放我的上林苑，讨好百姓。所以我把他关进监狱治罪。”通过整治萧何，高祖打击了相权，进一步提高了皇帝的权威。
公元前196年，刘邦平定英布叛乱时被流矢射中，在回长安的路上开始发病，回到长安后病情已经很严重。吕后找来太医，刘邦问他自己的病情如何，太医说能治。刘邦听了太医的口气，知道自己不会活得太久了，就对太医说：“我出身百姓，手提三尺剑得到天下，此乃天命。现在天要我死，就是神医扁鹊来了也没有用！”说完赏赐太医50金打发他走了。吕后看着弥留中的刘邦，问他死后人事的安排：“萧相国死后，由谁来接替呢？”刘邦说曹参。吕后问曹参之后又由谁接替，刘邦说：“王陵可以在曹参之后接任，但王陵智谋不足，可以由陈平辅佐。陈平虽然有智谋，但不能断大事。周勃虽然不擅言谈，但为人忠厚，日后安定刘氏江山为国立功的肯定是他，用他做太尉吧。”吕后又追问多年之后怎么办，刘邦有气无力地说：“以后的事就不知道了。”刘邦死于公元前195年，葬于长陵，谥号为高皇帝，庙号是高祖。
李渊：被动地登上帝位，被动地退下帝位
李渊最初是隋朝的边将，当时为了稳住突厥，他不惜委曲求全。后来的起兵也是迫不得已的事。为了建立盛大的唐朝，他将割据势力一个一个消灭掉。而最后，围绕皇位而展开的你死我活的争夺战，他却无能为力，只能睁一只眼闭一只眼，因为，这时的历史，已经不在他的把握之中了……
为稳住突厥，不惜委曲求全
李渊祖籍陇西成纪，祖父李虎，是后魏左仆射，封陇西郡公，官至太尉，成为著名的八柱国之一，位极尊贵，死后被追封唐国公。父亲李昞，袭封唐国公，北周时任安州总管、柱国大将军。公元566年，李渊出生于长安，不久世袭唐国公。
青年李渊，倜傥豁达，任性真率，宽仁容众，在当时的人们心目中有很高的威望。李渊的妻子窦氏，是京兆平陵人，父亲窦毅在北周是上柱国，母亲是北周武帝的姐姐襄阳长公主，所以窦氏就是武帝的外甥女。窦氏从小就很聪明伶俐，深受武帝喜爱，被留在宫中。武帝当时的皇后是突厥女，是不得已与其成婚的，对此很不满意。窦氏却劝说舅舅隐忍，保持与突厥的婚姻可以消除北方的威胁，然后全力对付南陈和北齐。
在杨坚取代北周时，窦氏说：“我恨自己不是男子，无法为舅舅家扫除祸患。”吓得父亲赶紧捂住她的嘴：“不要胡说！这是灭门之罪！”
窦毅认为自己的女儿不是等闲之辈，在选女婿时想了一个办法：让人在门屏上画了两只孔雀，凡是两箭各射中一只孔雀眼睛的，就招为女婿。前边有几十人都没有射中，轮到李渊之时，两箭都射中孔雀的眼睛。窦毅十分高兴，便把女儿嫁给了李渊。
隋初，李渊为荥阳、楼烦二郡太守，不久，又被任命为殿内少监。公元613年，升为卫尉少卿。这一年，杨广发动了侵略高句丽的战争，李渊受命在怀远镇负责督运粮草。当时，民不堪苦，怨声沸腾，大贵族杨玄感利用人民的不满情绪，起兵反隋。李渊飞书奏闻，杨广命李渊镇守弘化郡兼知关右诸军事，以备御杨玄感。杨玄感兵败，李渊留守如故。在这期间，李渊广积恩德，结纳豪杰。
公元617年，李渊被任命担任太原留守。太原是军事重镇，不仅兵源充沛，而且饷粮丰厚，军粮可供10年之用，因此李渊十分高兴，意欲在太原发展自己的势力，以图大举。
李渊刚到太原之初，有“历山飞”农民起义军结营于太原之南，上党、西河、京都道路都被断绝。李渊出兵击败义军，巩固了自己在太原的统治地位。晋阳一带的官僚、地主、豪绅也纷纷投靠李渊。李渊又命次子李世民在晋阳密招豪杰，倾财赈施，广泛结纳贤能之士。其长子李建成也在河东暗中交结英俊，发展势力，而此时的杨广又远在江都，沉湎酒色，鞭长莫及。李渊在太原韬光养晦等待时机。
隋炀帝杨广即位后就大兴土木，建东都、修长城、开运河、筑驰道，弄得民不聊生。隋朝末年，其残暴的统治使得阶级矛盾更加尖锐。
杨广好大喜功，巡游江南，北上榆林，以夸耀自己的武力；出兵边塞，侵略高句丽，以显耀自己的威风。结果徭役深重，战争频繁，社会生产遭到严重破坏，人民生活痛苦不堪。广大群众无法生活下去，不得不铤而走险，以武力反抗隋炀帝杨广的残暴统治。
公元611年，各地农民起义风起云涌，有的隋军将领也割据一方。天下沸腾，群雄割据，全国有一百多支反隋大军。
在反隋斗争中起义军逐渐走向联合，形成了以李密、翟让领导的瓦岗军，杜伏威领导的江淮起义军，窦建德领导的河北起义军三支主要力量。在农民起义的冲击下，隋炀帝杨广的统治已岌岌可危，处在风雨飘摇之中。
在农民起义风起云涌的同时，隋朝内部也分崩离析。李渊目睹动荡不安的天下局势，从中看到了举兵起事的时机。
公元617年二月，马邑人刘武周起兵，杀太守王仁恭，自称天子，国号定阳。李渊遂以讨伐刘武周为名，积极募兵。李渊以维护隋朝统治者的身份出现，所以远近的武装纷纷云集，不几天就有近万人成为李渊直接控制的军队。
李渊的行动，引起忠于隋炀帝的副留守王威和高君雅的怀疑。公元617年五月十四日的夜里，李渊命李世民在晋阳宫城外埋下伏兵。第二天早晨，李渊和王威、高君雅议事。刘文静领开阳府的司马刘政会到庭中，说有密状给李渊。李渊便让他交上来，但刘政会却不交，说要告的是副留守，只有李渊才能看。李渊假装吃惊地说：“怎么会有这种事？”李渊看后便对大家说：“王威、高君雅要勾结突厥入侵。”于是命人逮捕了他们二人。第二天，果然有突厥兵几万人围攻太原，人们都信以为真了。李渊趁机将王威和高君雅二人处死。
杀掉王威和高君雅消除了内患之后，李渊便和将士严密防守，对付突厥。他命裴寂和刘文静坚守城防，同时又将城门洞开，城墙上也不树旗帜，守城士兵不许张望、喧哗。这使突厥军队不明底细，不敢入城。李渊又在夜里派兵出城，早晨改道进城，使突厥误以为是援兵到达。突厥军队不敢恋战，只好退兵。突厥兵虽然退去了，但难保不再来，为了从根本上解决问题，李渊给突厥可汗送去书信：“若能从我，不侵百姓，征伐所得，子女玉帛，皆可汗有之。”为了稳住突厥，李渊委曲求全地用了臣下的语气，这样做也是为了给南下用兵扫除后顾之忧。事实证明，李渊对付突厥的策略收到了预期的效果。
公元617年七月，李渊率军三万誓师，正式起兵。在发布的伐隋檄文里斥责隋炀帝杨广听信谗言，杀害忠良，穷兵黩武，致使民怨沸腾。
李渊在太原起兵之后，便以进军关中拿下长安为最终目标。西进的第一个障碍便是西河郡。李建成和李世民兄弟仅用了九天便得胜而归，使得李渊喜出望外。
然后，李渊建立了自己的军事和政权机构：设置大将军府，自称大将军。长子李建成为陇西公、左领军大都督，统领左三军。李世民为敦煌公、右领军大都督，统领右三军。裴寂和刘文静为长史司马。
李渊起兵后第二战是决战霍邑。在霍邑的西北有个贾胡堡，是霍邑的门户，但守卫霍邑的宋老生却没有派兵把守，李渊由此断定宋老生是个无能之辈。
李渊害怕宋老生守城不出，打成持久战对自己不利。李世民却认为可以挑战引他出来决战。于是李渊让两个儿子领几十名骑兵近城观察，自己将部队分成十几队，从城东南到西南，摆出一副安营攻城的架势。宋老生果然中计，以为李渊要攻城，便领兵三万出战。李渊领兵假装后退，让李建成和李世民领兵抢占了东门和南门，切断了宋老生的退路。在交战中李渊又散布宋老生已经战死的谣言，动摇了军心。隋军大败，宋老生在被守军用绳子往城墙上提时，被李渊的军队杀死。李渊顺利占领了霍邑。
此后，李渊便听从了李世民直接入关中的建议，分兵攻打长安。在招降长安失败后，李渊下令攻城，占领之后又下令禁止掳掠百姓，受到百姓们的夹道欢迎。公元617年十一月，李渊拥立隋代王杨侑为帝，即隋恭帝，改元义宁，尊在江都的隋炀帝为太上皇，李渊为大丞相，封唐王，以武德殿为丞相府，李世民为秦王。这实际是以后称帝的一个过渡。
到公元618年五月，隋炀帝杨广的右屯卫将军宇文化及在江都发动兵变，勒死了隋炀帝杨广。然后立隋秦王杨浩为帝，自己做大丞相。随后领兵十万北上，但被李密打败，宇文化及败走魏县，毒死杨浩，自己称帝，建立许国。第二年，过了皇帝瘾的宇文化及在聊城被窦建德杀死。隋炀帝杨广一死，李渊便废掉隋恭帝，在公元618年杨侑被迫禅位，李渊在李世民等人的要求下，自称帝，建立唐朝，改年号为武德，定都长安。
剪除割据势力
李渊称帝长安时，许多地方还在分裂之中，许多隋将割据称雄，农民起义军亦称霸一方，全国处在四分五裂的状态。李渊在长安安定之后便开始了长达10年的统一战争。
薛举曾是隋朝金城郡的豪绅，公元617年，先称西秦霸王，后来又称皇帝，占据了陇西全境，兵力有十多万人。薛举起兵也想取代隋朝，自己做皇帝。李世民第一次出击将薛举打败，但第二次却失利。薛举想一举攻下长安，却在这时病死。他的儿子薛仁杲继续威胁长安，李渊命李世民为元帅再次出征，这次将薛仁杲彻底击溃，薛仁杲也投降了唐朝，陇西也收归唐朝。
平了薛举父子之后，李渊又开始对付割据河西的李轨。在李渊建立唐朝之际，李轨称帝。开始时，李轨还能宽容待人，注意分化隋朝官吏，壮大自己的势力，但后来他逐渐开始猜疑众将，内部矛盾激化，这给李渊提供了机会。
公元618年，李渊为了进攻薛举，曾派人和李轨联系，李轨非常高兴，主动让弟弟到长安做人质，李渊封李轨为凉王。但册封使节到达时，李轨的下属对是否接受产生分歧，李轨没有听信部下的话，又不肯屈居李渊之下，便对李渊自称“大凉皇帝臣轨”。虽然用了“臣”，但李渊并不领情，他不能允许还有一个皇帝的存在，于是加紧了对李轨的行动。
李渊派安兴贵去劝说李轨，安兴贵是李轨户部尚书安修仁的哥哥。李轨听了安兴贵的劝说后，没有改变主意，反而说安兴贵是为了报答李渊的恩情才来劝说他的。安兴贵害怕李轨加害自己，便和哥哥一起谋划，最后发动兵变，俘虏了李轨。河西于是平定。
刘武周也是李渊的一个劲敌，他起兵较早，和突厥勾结。但由于起兵时李渊便采取了联合突厥的策略，所以，刘武周对李渊也没有构成大的威胁。公元619年，刘武周联合突厥南下占领了并州，唐朝的并州总管、齐王李元吉无力抵抗，弃城而逃。李渊先派裴寂出击，结果大败而归。李渊这时想放弃这个地区，遭到李世民的反对。最后李世民领兵出征，用坚壁清野消耗对方的战术，全面击溃了刘武周的部队，刘武周逃到突厥，后来被杀。唐朝又恢复了原来在河东地区的统治。消灭周围的三个劲敌之后，李渊便把注意力投向了中原。
在中原的主要对手是王世充，他原是隋朝的江都通守，隋炀帝杨广被杀之后，他拥立杨侗为帝，又打败瓦岗军，除了李密和部分军队外，其余的都被王世充收编。到公元619年，王世充踢开杨侗，自己称帝，建立郑国，定都洛阳。
李渊派李世民东征王世充，最后将王世充包围在了洛阳的一座孤城里。王世充向北边的窦建德求援，结果，窦建德被李世民击败成了阶下囚。王世充绝望之下只好献城投降。至此，李渊统一了黄河流域地区。但窦建德在押送到长安后却被李渊杀死了，其部将刘黑闼又举兵反唐。不到半年就又恢复了原来窦建德的领地。
李世民又奉命征讨，和刘黑闼所部两万人激战，从中午到黄昏不分胜负。李世民便命唐军决堤水攻，刘黑闼败退投奔突厥，然后又卷土重来。李渊命李元吉征讨，被刘黑闼击败。太子李建成又亲自出征，他采纳了谋士魏征的策略，安抚民心，最终瓦解了刘黑闼的部下，刘黑闼最后败退时被杀。河北和山东地区终于平定。
在隋朝末年，萧铣趁乱割据在江陵一带。他占领的地区非常广阔，南到交趾，北到汉水，西达三峡，东及九江。萧铣和其他割据者一样只是想偏安一地。萧铣是原来南朝梁宣帝的曾孙，祖父萧岩在梁被隋灭时逃到了陈朝。后来，陈朝也被隋攻灭，萧岩被押到长安斩首。在隋炀帝杨广时，因为萧铣和隋炀帝的皇后萧氏同是南朝梁的后裔，所以被任为罗县令。隋末各地起义不断，萧铣被地方将校推为首领，割据反隋，他声称要恢复梁的疆土。隋炀帝杨广死后，一些隋朝的将领也投靠了他，其地盘不断扩大，成了南方最大的割据势力。
李渊在派李世民东征王世充南下的同时，命大将李靖领兵南下攻取长江中游的萧铣。萧铣这时为了控制众将夺其兵权，竟说要罢兵经营农业，导致自己和部将矛盾加深，许多将领离他而去。面对富有军事韬略的李靖的大举进攻，萧铣虽然由于部将的离去力量有所削弱，但也只得硬着头皮应战。李靖出奇制胜，在长江水涨萧铣认为他不能用兵时，李靖却说服众将趁机进军，大败萧铣军。萧铣最后听从了中书侍郎岑文本的劝告，投降了唐军。李靖也以仁义回报，对曾经进行抵抗的萧铣将士不予治罪，这一举措也加快了其他州县的归顺步伐。后来，萧铣原来的领地全部归入唐朝版图。
杜伏威割据江淮一带，他占据历阳，自称总管。在唐军围攻洛阳时，李渊派人招降他，杜伏威便投降了唐朝，被李渊封为吴王。等刘黑闼因兵败被杀后，杜伏威让属将辅公石留下统领兵将，自己请求入朝，留在了长安，等于是做了人质。几年后，辅公石称帝起兵反唐，李渊将杜伏威杀死，派大将李靖前去讨伐。不久，辅公石被当地武装抓获，送唐军营中处死，江淮地区得以平定。
李渊称帝后，百废待举。他一面组织力量进行统一全国的战争，一面注意加强政权建设。唐朝前期的政治、经济、军事制度，在李渊时期基本上初具规模。