唐太宗在加强立法工作的同时，在行政管理和军事改革方面的功绩也十分卓著。
唐太宗要求各行政职能部门能够秉公办事，并注意调整各部门之间的关系，特别是中书省和门下省的关系，要求他们互相监督。
唐太宗认为，一支精简高效的官吏队伍是国家管理的最大财富。隋朝末年，为了反抗隋炀帝的残暴统治，许多人招兵买马，割据一方，占地为王。唐朝建立以后，唐高祖李渊设置州府、县衙，封他们为官。因此，唐初州、县的数目，比隋文帝时期大约要多一倍。唐太宗即位以后，立即着手革除这种官吏过多的弊病。他精简机构，人尽其用，于是就出现对官吏如何选拔的问题。他以“四善”作为考核的标准，即：品德高尚、政绩卓著、办事公道、勤奋认真。符合“四善”的人才可以被提拔作为政府的官员。这种随时注意考核、择优任用官吏的政策，调动了官吏的积极性。
唐朝所辖地域产大，仅仅靠中央政府治理国家显然不切实际。中央政府只能就国家事务做一个原则上的规定，具体政策还是要依靠地方官吏去施行。因此，地方官员队伍的建设就显得尤其重要。
早在贞观二年（公元628年），唐太宗就曾对大臣们说：“我朝地域广大，国家的长治久安依赖地方官吏的秉公行政。我身处皇宫之中，对天下事无法事必躬亲，地方上的都督、刺史就是我的左膀右臂，我最担心的是都督、刺史是否胜任安抚百姓的重任，能否让百姓们安居乐业。我特意在我卧室的屏风上记下他们的姓名，无论坐着还是躺着都经常看他们，谁做了好事，我就记录在他的名字下边。这些人决定着国家的安危，必须要称职。”唐太宗对地方官吏的选拔、任用非常上心，但是缺少切实可行的办法去对他们进行很好的管理。
博州荏平有个名叫马周的人，虽然满腹经纶，很有才干，却赋闲在家无事可做。贞观五年，马周来到京城长安，暂时居住在中郎将常何家中，做了他的门客。一天，唐太宗诏令百官，要求大家上书议论政事得失。第二天，常何带着自己的奏折，将它交给了唐太宗。唐太宗看了常何的奏折之后，不禁暗暗称奇，因为奏折上所言的都是针对当今情况的真知灼见，这二十多条治国安民的具体措施样样都合自己的心意。要知道，这常何出身行伍，对文字以及国家治理一窍不通。大家对这件事情感到奇怪，都惊奇常何为什么一夜之间就得出这么多的好主意。唐太宗知道这些建议一定不是常何所提，其后必有高人。于是，就问常何提出这些建议的人到底是谁，常何就老老实实地说是家里的门客马周的主意。
唐太宗一听此话，断定马周是个人才。他望才心切，当天就召见马周。但是，马周平常闲云野鹤惯了，不愿受官府的束縛，所以就借故推辞，迟迟不到。唐太宗求贤若渴，如刘备一般三顾茅庐，四次派人前去催促。马周见唐太宗情真意切，被深深打动，于是就同意见太宗。到马周谒见时，唐太宗同他就国家大事彻夜长谈，相见恨晚，相谈甚欢。马周知识渊博，才思机敏，善于辩论，而且分析问题能够抓住根本，入木三分，这让唐太宗非常高兴，不久就提升他做监察御史。
贞观十一年（公元637年），侍御史马周向太宗上疏说：“治理天下要把百姓看做根本。想让百姓安居乐业，关键在于任用合适的刺史和县令。假若每州能有一个好的刺史，那全州都能得到好处。如果天下各州刺史都能使陛下称心如意，那么全天下的老百姓也就能过上好日子了。自古以来，郡守、县令很多，不可能每个都是贤人，所以要精心选拔那些贤良有德的人来担任；如果朝廷打算提拔某人来做大将、丞相，一定要先让他们试做地方官；或者直接从郡守中挑选人才担任丞相、司徒及太尉的人选。老百姓能否过上好日子，全看刺史、县令是否称职。现在皇上只重视对京城官员的选用，轻视对地方官员的任用，对边远地方的官吏任用就更不认真，那里的老百姓至今尚未安居乐业，大概就是由于这个原因。”
唐太宗看了马周的奏折后，对侍臣说：“各州郡守、刺史的人选，由我亲自选拔；县令的人选，请在京任职的五品以上官员各自推举一人，以备选用。”
唐太宗接受马周的意见，谨慎选择地方官吏，在地方上广用有才能的人，为地方上的百姓办了不少实事，也使唐朝的统治更加稳固。由于马周功绩卓著，圆满地完成了很多唐太宗交给他的任务，贞观十八年（公元644年），他被提升为中书令，兼作太子左庶子，不久又任礼部尚书，深受唐太宗重用和喜爱。贞观二十一年，唐太宗赠给马周一幅题词：“鸾凤凌云，必资羽翼。股肱（gong）之寄，诚在忠良。”对马周的辅佐和忠良深表赞扬。后来人们为了纪念他，在陕西省渭南县官路村南边，修建了一座马周庙，供后人凭吊。
唐太宗在善于治吏的同时，也善于治兵。唐朝时期，中央政府拥有大量的军队，而且训练有素，战斗力极强，为开拓唐朝广大的疆域立下了汗马功劳。如此强劲有力的军队的组建，与唐太宗李世民积极推行的“府兵”制度紧密相关。
这些士兵们全部都是农民出身，平时为农民，战时为将士，国家不用给他们军饷，他们也不用去服兵役，这样既不耽误农业生产，也壮大了国家的军事储备力量，可以说是个“双赢”的策略。唐太宗常常身先士卒，和府兵们共同比武习战，对激励军心、鼓励万民起到了很好的作用。唐朝借助这一强大的军事力量，拓展了自己的疆土。
虽然重视军队建设，但是唐太宗并不自恃武力强大而随便出兵，他对“武力”也有自己独特的看法。他认为，“武力”是一个“双刃剑”。如果过分崇尚武力，频频发动战争，百姓生活就会困苦；国家虽然安宁富裕，但是忘记了战备，如果受到意想不到的入侵，就会手足无措，甚至会国破家亡。
因此，武力不能经常使用，但也不可全部废除，所以，农闲时应该讲习武艺，保证国家常备军队的建设，这样才会有备无患。