起义大军西上贾胡堡，隋将宋老生率领精兵二万屯驻霍邑（今山西霍县），以抵挡义军。正遇上连天阴雨，军粮用尽，高祖与裴寂商议，暂且领兵回太原，再谋划以后的行动。太宗说：“原本兴立大义是为了拯救百姓，应当先攻入咸阳，号令天下；遇到小敌就回师，恐怕随从起义的人将会一朝解体。回去守太原一城之地，这不过是贼寇罢了，怎么能保全自己！”高祖不接受，催促他带兵出发。太宗于是在营帐外啼哭，声音传入营帐中。高祖召太宗进帐，询问原因，回答说：“现在部队凭借正义而出动，前进就必定胜利，退回就一定会散伙。大家散伙于前，敌人趁机追击于后，死亡将顷刻而至，因此悲伤。”高祖醒悟，停止退兵。八月己卯，雨过天晴，高祖领兵直趋霍邑。太宗怕宋老生不出战，于是率领数名骑兵先到霍邑城下，拿着马鞭指点比画，好像要围城的样子，以激怒宋老生。宋老生果然发怒，开门出兵，背城列阵。高祖与李建成一起列阵于城东，太宗和柴绍列阵于城南。宋老生指挥兵士迅速前进，先逼近高祖，这时建成忽然坠马，宋老生趁机进攻，高祖与建成的部队都往后退。太宗自城南高地率领两名骑兵急驰而下，冲断了老生的部队，又领兵奋力进击，敌军大败，各扔掉兵器逃跑。城上的闸门放下，老生手拉绳子想上城，被砍死，霍邑平定。
部队到河东，关中豪杰争着跑来参加义军。太宗请求进兵入关，夺取永丰仓用来救济穷苦百姓，收编各路盗贼以便谋取京师，高祖认为这个建议很好。太宗带领先锋部队渡过黄河，先平定渭北。三辅的官吏百姓以及各式强宗豪族，到营门请求让自己效力的每日有上千人，扶老携幼，拥挤于将旗之下。太宗收纳优秀人才，用以充任朝廷官吏，远近听到消息的人，无不自求托身于此。部队在泾阳宿营，有优秀兵士九万名，击破贼寇胡人刘鹞子，兼并了他的部下。留下殷开山、刘弘基屯驻长安旧城。太宗自己奔赴司竹、盗贼首领李仲文、何潘仁、向善志等都来相见，停留于阿城，获得兵士十三万人。长安父老牵牛担酒到营门劳军的不可胜数，太宗都加以慰问，然后送走他们，东西一概不收。军令严肃，秋毫无犯。接着与大军一起平定京城。高祖任宰相时，太宗当唐国内史，改封秦国公。恰巧薛举率精壮的士兵十万逼近渭水边，太宗亲自迎击，大破敌兵，追杀万余人，夺取土地一直到陇坻。
义宁元年十二月，太宗又任右元帅，统兵十万前去夺取东都洛阳。到了准备回师的时候，对部下说：“贼寇见我回去，必定会追赶。”设三处埋伏等待敌军。没多久隋将段达率领一万多人尾随而至，走过三王陵，伏兵出击，段达大败，太宗的部队追击逃敌一直到了东都城下。于是在宜阳、新安设置熊、谷两州，派兵防守而后回京。太宗改封赵国公。高祖接受隋帝禅让，太宗拜尚书令、右武侯大将军，晋封秦王，加授雍州牧。
武德元年七年，薛举死亡，他的儿子薛仁杲继位。太宗又任元帅带兵攻打仁杲，双方相持于折墌城，各挖深沟筑高垒，对抗六十余日。贼寇有十多万人，军队的锋芒甚锐，多次来挑战，太宗按兵不动以挫折它的锐气。贼寇的粮食用完，他们的将领牟君才、梁胡郎前来投降。太宗对手下的将军们说：“敌军已经气衰，我应该征服它了。”派将军庞玉先在浅水原南列阵以引诱敌人，敌将宗罗率全军出战，庞玉的部队几乎被打败。接着太宗亲自统领大军，忽然从浅水原北出现，出敌不意。罗望见后，又回师抵抗。太宗率领数十名骁勇的骑兵冲入贼阵，于是朝廷的军队里外一起奋战，罗溃不成军，斩敌兵首级数千，落入涧谷而死的人更多得没法统计。太宗率领左右二十多名骑兵追击逃敌，直趋折城下以便乘机破城。仁杲非常害怕，环城固守。快到傍晚的时候，大军到达，四面合围。第二天早晨，仁杲请求投降，俘获精兵一万多人，随军男女五万名。
接着将领们向太宗表示祝贺，问道：“开始大王在野外击破贼寇，他们的主子还保有坚固的城池，大王没有攻城的器具，靠轻骑兵奔驰追逐，不等候步兵，直逼城下，大家都怀疑不能攻克这个城，却竟然攻下了，这是为什么呢？”太宗说：“这是用随机应变的方法逼迫敌人，使他们的计谋来不及形成，所以能攻克。罗依恃往年的胜利，加上养精蓄锐的日子很长，见我们不出战，便有相轻之意。现在高兴我们出战，于是率领全部人马迎击，我们虽然击破敌人，但擒获、杀死的人不多。如不急追，使敌人还跑回城里，仁杲收聚、安抚这些败卒，那我们就得不到这个城了。而且罗的部下都是陇西人，一打败仗，溃散后退，来不及回头，便逃归陇西，那么折墌城自然空虚，我军随着逼近它，所以就害怕而投降。这可说是既定的计划，诸位都没看到吗？”将领们说：“这不是我们这些凡人所能赶得上的。”获得敌军精壮的骑兵甚多，还让仁杲兄弟及敌军首领宗罗、翟长孙等统领。太宗和他们一起骑马打猎，没有什么隔阂。这帮贼寇蒙受恩惠，屏息丧气，全愿舍命效力。当时李密刚归附朝廷，高祖命他乘驿车到幽州迎接太宗。李密见太宗容貌精明而威武，军威严肃，惊畏叹服，私下对殷开山说：“真是英明的主子。不像这样，怎么能平定祸乱呢？”太宗凯旋回京，到太庙进献战利品。拜为太尉、陕东道行台尚书令，坐镇长春宫，关东的兵马都归他指挥调度。接着加授左武候大将军、凉州总管。
宋金刚攻陷浍州的时候，军队的锋芒甚锐。高祖因为王行本还占据蒲州，吕崇茂在夏县反叛，晋州、浍州相继陷落，关中震惊，就亲自给太宗写诏书说：“贼寇的势力像这样，难以同他们争斗以决胜负，应该放弃河东，谨慎防守关西。”太宗进上奏章说：“太原是王业的奠基之地，国家的根本，河东富足，京城依托于它。如果攻下而又放弃它们，臣私下感到愤恨。愿陛下借给精兵三万，必定能消灭刘武周，克复汾州、晋州。”高祖于是全部征调关中的军队以增强太宗的兵力，又亲临长春宫送太宗。
武德二年十一月，太宗率领部队奔赴龙门关，踩着冰过河，进驻柏壁，与贼将宋金刚相持。接着永安王李孝基在夏县打了败仗，于筠、独孤怀恩、唐俭都被贼将寻相、尉迟敬德抓获。敌军将回浍州，太宗派殷开山、秦叔宝在美良川拦击，大破敌军，只寻相只独自逃脱，他们的部下全被俘虏，殷开山、秦叔宝又回到柏壁。于是将领们全来请战，太宗说：“宋金刚孤军千里，深入我们的地方，精兵骁将，都集中在这里。刘武周据有太原，专依靠金宋刚保卫自己。敌人士卒虽多，内实空虚，意在速战。我们加固营垒，养精蓄锐以挫折敌人的锋芒，一朝粮尽计穷，敌人自当逃走。”
武德三年七月，太宗总领各军往洛邑攻打王世充，武德四年二月，太宗又进驻青城宫。营垒还没有建立起来，王世充的部队二万人即出方诸门临谷水列阵。太宗率精壮骑兵在北邙山列阵，命令屈突通率步兵五千渡过谷水攻击敌军，告诫屈突通说：“等两军交战就放烟为号，我当率骑兵南下。”军队刚交战，太宗率骑兵冲击敌人，挺身走在队伍前方，与屈突通里外相应。贼军拼死战斗，多次散而复合。自辰时到午时，敌人才开始后退。太宗趁势纵兵追击，俘虏和杀死敌军八千人，部队前进到洛阳城下扎营。王世充不敢再出来，只环城固守，以等待窦建德的援兵。太宗派各部队在营外挖壕沟，营四周布满长围子以利防守。
正好窦建德领兵十多万前来援救世充，到了酸枣。萧瑀、屈突通、封彝德都认为腹背受敌，恐怕不是万全之策，要求退兵到谷州以观察敌情。太宗说：“王世充粮尽，内外离心，我们不用费力攻击，坐等他自己破败而得利。窦建德新破孟海公，将骄兵惰，我们应该进兵据守虎牢，扼制要害之地。贼寇如果冒险与我们决战，击破他们是必然的。如果贼寇不战，十日间王世充当自崩溃。如果不迅速进兵，贼寇一入虎牢，各城新归附我们，必定无法守住。那时王世充、窦建德两贼协力，我们将怎么办呢？”屈突通又要求解东都之围移军险要之地以等待敌军的变化，太宗不允许。于是留下屈突通辅助齐王李元吉包围世充，亲自率领步、骑兵三千五百人奔赴虎牢。
窦建德由荥阳西上，筑营垒于板渚，太宗驻虎牢，双方相持二十余日。间谍报告说：“窦建德等候官军草料用尽，侦察到官军在黄河北岸放马，就将袭击虎牢。”太宗知道敌人的计划，于是在黄河北岸放马以引诱敌人。
第二天早晨，窦建德果然倾巢出动，列军汜水，王世充的将领郭士衡也列阵于窦建德之南，绵延数里，击鼓呼叫，将领们非常害怕。双方激战多时，窦军溃败太宗追击逃兵跑了三十里地，斩敌军首级三千余，俘获敌兵五万名，在阵中活捉了窦建德。太宗责备他说：“我兴师问罪，目标本在王世充。得失存亡，不干你事，为什么越过自己的境域，触犯我军的锋芒？”窦建德吓得两腿发抖说道：“我如果不来，怕还要有劳您到远方去拿我。”高祖听到胜利的消息非常高兴，亲自给太宗写诏书说：“隋朝分崩离析，崤山函谷关隔绝不通。两个豪杰势力相联，一时就把他们清除。军队既打胜仗，又没有死伤。无愧是臣子的表率，不让自己的父亲忧虑，这些都是你的功劳。”
太宗于是带着窦建德到东都城下。王世充害怕，率领他的部属二千多人到营门要求投降，山东全部平定。太宗进驻东都宫城，命令萧瑀、窦轨等封闭和防守仓库，一无所取，命令记室房玄龄收集隋朝的地图和户籍。于是诛杀和窦、王一起作恶的段达等五十余人，无辜被囚禁的人一律释放，无罪被杀害的人都加以祭奠并作悼词。大宴将士，分等级颁赏。高祖派尚书左仆射裴寂到军中慰问。
当时海内逐渐平定，太宗于是专心研读经籍，开设文学馆以接待四方的士人。行台司勋郎中杜如晦等十八人任学士，常轮流在馆里值班，太宗和颜悦色，同他们讨论经义，有时到夜半才休息。
武德九年，皇太子建成、齐王元吉图谋杀害太宗。六月四日，太宗率领长孙无忌、尉迟敬德、房玄龄、杜如晦、宇文士及、高士廉、侯君集、程知节、秦叔宝、段志玄、屈突通、张士贵等在玄武门杀建成、元吉。甲子，太宗立为皇太子，政务都由他裁定。太宗于是放走禁苑中所养的鹰犬，并命各地停止进献珍异之物，政治崇尚简约严肃，天下人非常高兴。又命令百官和上密封的奏章，细述安民治国的要旨。
八月癸亥，高祖传位给皇太子，太宗在东宫显德殿即位。派司空、魏国公裴寂在南郊烧柴祭告上天。大赦天下的罪人。武德元年以来被流放到边远地区的人全部放回。文武官五品以下原先无爵的赐给最低一等爵，六品以上各加勋官一级。天下免除徭役一年。癸酉，放走后宫宫女三千多人。甲戌，突厥颉利、突利可汗侵犯泾州。乙亥，突厥进犯武功，京师戒严。丙子，立妃子长孙氏为皇后。突厥颉利可汗到了渭水便桥北边，派他的酋长执失思力入朝窥探，擅自察看地形，太宗下令囚禁他。太宗亲自出玄武门，乘六匹马驾的车疾驱到渭水上，与颉利隔着河谈话，指责他负约。一会儿各个部队接着开到，颉利见军容壮盛，又知道思力被囚禁，因此很害怕，要求讲和，太宗允许。当日回宫。乙酉，又亲临便桥，与颉利杀白马订盟，突厥退兵。
九月丙戌，颉利献马三千匹、羊一万头，皇帝不收，让颉利送回所掠夺的中国户口。
贞观元年，太宗对随侍左右的臣子说：“神仙的事本来虚妄，不过空有其名。秦始皇不安本分地爱好神仙，于是被方士欺骗，便派童男童女数千人随徐福入海求仙药。方士为躲避秦朝暴政，留在那里不回来，始皇还在海边徘徊等待他们，后来回到沙丘便死了。汉武帝为求神仙，就把女儿嫁给有道术的人，后来事情既无效验，便杀掉方士。根据这两件事，神仙是不必劳神去妄求的。”
贞观二年，派御史大夫杜淹巡视关内各州。取出皇宫府库里的黄金和宝物，赎回自己卖身为奴的男女，送还给他们的父母。大赦天下的罪人。
贞观三年，户部报告：中国人自塞外归来和突厥人前后归附中国以及开辟四境异族地区而建立的州县所增加的人口，合计共有男女一百二十多万。
贞观四年，定襄道行军总管李靖大破突厥，俘获隋朝皇后萧氏和炀帝的孙子杨正道，送到京师。二月李靖又在阴山击败突厥，颉利可汗轻装骑马远逃。这一年的四月，皇上临顺天门，军中的官吏押解颉利向天子献战利品。自这以后西北各藩属都请求皇上用“天可汗”的尊号，于是皇上下诏书册封各藩属的君长，就兼用这个称号。
秋七月甲子初一，日食。皇上对房玄龄、萧瑀说：“隋文帝是个怎么样的君主？”回答说：“约束自己，使言行符合于礼，辛勤思考政事，每次一坐到朝廷上，有时直到太阳偏西。领着五品以上官吏议论政事，皇宫的卫士不能下岗，站着传递干粮而食。虽然不能说品性仁爱、贤明，也可算是一个励精图治的君主了。”皇上说：“你们看到他的一个方面，而不了解他的另一个方面。这人本性极其明察而内心并不贤明。内心昏昧那么览察事理就不能都通达，极其明察就会临事多疑。自己靠欺骗孤儿寡母得到天下，认为众臣不可信任，凡事都自己决定，虽然精神劳累、身体受苦，处事却未能都符合道理。朝廷的臣子既然了解皇上的这种心理，也就不敢直言，自宰相以下，接受皇帝的命令罢了。朕的意思不认为这样做对。以天下事物之广，难道可以凭一个人的思考独自决断？朕将选用天下的人才，治理天下的事务，信任人才，要求他们完成任务，使他们各尽其用，这样做也许可以达到政治的清明安定。”因此命令官吏：“天子的诏令如果不适合于时世，就应当坚持上报，不得顺旨施行。”
太宗非常重视儒学的教化作用，贞观七年亲自到国子学，参与祭奠先师孔子，赦免大理寺、万年县在押的囚犯，国子祭酒以下学官及在学生徒成绩优异学习勤奋的，提升一级，赐给丝织品，多少不等。庚辰，左骁卫将军、淮阳王李道明送弘化公主远嫁吐谷浑。壬午，天子到温泉。辛卯，自温泉回到长安。乙未，发布诏令说梁皇侃、褚仲都，周熊安生、沈重，陈沈文阿、周弘正、张讥，隋何妥、刘焯、刘炫等前代名儒，他们的学生多能实行老师的道义，命令寻找这些名儒的后代。
贞观十五年春正月丁卯，吐蕃派他的国相禄东赞前来迎亲。丁丑，礼部尚书、江夏王李道宗送文成公主远嫁吐蕃。
玄武门之变
隋末，太原留守李渊父子借助农民起义的声势，在晋阳起兵（今山西太原），不久即夺取长安（今陕西西安），建立了唐政权。在助父起兵及统一全国的战争中，李世民建立了功业。他曾先后打败了薛举、薛仁杲父子，及刘武周、宋金刚、窦建德、王世充等割据势力，为唐朝的统一奠定了基础。