唐代法律分为律、令、格、式四种形式。律是法律条文，令是有关国家组织制度方面的规定，格是皇帝临时颁布的敕令，式是国家机关的公文程式。唐高祖李渊曾经组织一批大臣，以隋文帝时代制定的《开皇律》为基础制定了《武德律》。唐太宗李世民即位后，就指示长孙无忌、房玄龄等人对《武德律》进行修订，形成了后来成为《唐律》基础的《贞观律》。同时，还编纂和颁布了《贞观令》、《贞观格》和《贞观式》。这些法律规定对促进当时社会和经济的发展起到了一定的推动作用，同时也对后世法律的制定、法治的统一起到了积极的作用。
唐太宗强调立法必须慎重，而且法律条文必须要简明扼要，同时，表述一定要准确，不能同罪异罚，不能同样一种罪，却有不同的惩罚条例。因为如果法律文字模棱两可，含混不清，一罪不同刑，官吏就有了活动的余地，就很容易产生欺诈违法的事。例如，想开脱罪恶就按从轻判处的条款办；要想罗织罪名，就引用刑重的条文。同时，法律规定不稳定也对国家的治理没有什么好处。因此，法律规定一定要一致和稳定。
古语说：刑乱世，用重典。也就是说，只有乱世的时候，皇帝才会用重刑对违法犯罪的人进行处罚，以此来保证自己的统治。中国历史上缺乏详细规定维护公民权利的“法”，却有很多详尽规定如何惩罚公民不尽某种“义务”的刑法，历代不但多严刑酷律，而且对某人犯“法”的量刑常依帝王的好恶喜怒随意减轻或加重。唐朝刚刚建立时，民心尚不十分稳定，国家经济发展也十分缓慢。因此，此时更应当采用“放任”的疗法，使国家的政治经济生活环境宽松、使人民身上的压力减轻，用严刑峻法来治理百姓显然是行不通的。所以，唐太宗认为运用法律应当去重从轻，以宽大为怀。
唐初制定《武德律》时，曾对隋朝大业年间烦琐苛刻的法律作了大量删削。即便如比，唐太宗还嫌处刑太重，又对《武德律》作了重大修改。长孙无忌等人制定法律时，把原先规定的绞刑改为断趾法，即砍掉右脚。唐太宗仍嫌这种刑罚太残酷，于是就接纳司法官裴弘献建议，将断趾法改为流刑，即加重徭役，流放到三千里以外，做三年苦力。
贞观元年（公元627年），郝县县令裴仁轨，因个人私事而派公堂中的门夫服差役。唐太宗知道以后大发雷霆，要对他处以死刑。殿中侍御史李乾佑劝阻说：“法律是陛下同天下人所共同遵守的，而不是陛下自己一个人的。今天裴仁轨犯的是轻罪而被陛下重判死刑，我恐怕从此以后，天下百姓会惊恐万状，执法的人也不知道该怎样执行法律了。”李世民非常高兴地接受了李乾佑的意见，马上纠正了判处裴仁轨死刑的错误决定。
贞观五年（631年），张蕴古任大理寺丞。唐朝相州地方有个叫李好德的人，曾经患过癫狂病，整天胡说八道，自称是天星下凡，将来必成大器，君临天下。唐太宗命人把他关进监狱，指示大理丞张蕴古调查处理这个案件。张蕴古汇报说：“李好德患疯病有证据，按照法律规定，这种人犯不应当追究刑事责任。”唐太宗采纳了张蕴古的意见，打算宽恕赦免。
但是，张蕴古却私下把唐太宗的旨意告诉了李好德，又和李好德一起下棋。持书侍御史权万纪和张蕴古有私仇，一直在寻找机会陷害蕴古，现在乘机向唐太宗弹劾张蕴古，说：“张蕴古是相州人，李好德的哥哥李厚德在相州当刺史，他为了讨好李厚德，便假说李好德有精神病”。唐太宗大怒，下令将张蕴古斩于东市。
但刚刚杀掉，李世民就后悔了，于是召来房玄龄责备说：“你们接受君主给的俸禄，就应当替我考虑问题。事无巨细，都当留意。现在我有事不问你们，你们就不说，看到不合理的事情你们也不劝阻，你们这样下去还怎么辅助我呢？像张蕴古身为司法官吏，却和囚犯嬉戏，泄漏我的话，这样的罪行非常严重，应当受到惩罚。但按照正常的法律，他还不至于被处死。我当时大怒，下令处决，你们竟不说一句劝阻的话，主管的官署也不按照规定予以复奏，便立即把他处决了。这难道是治国之道？”房玄龄点头称是。
因此，唐太宗下了一道命令：“自今以后犯了死罪的，即使命令马上处决，也要复审三次，请示三次，然后再执行。”这个规定使得对死刑的处决比较慎重一些，但并没有解决为无辜人犯申诉的问题。张蕴古被斩首以后，司法官吏为了免遭谗言陷害，都不敢从轻处理囚犯。有时有治罪偏重的，上级也不予以查究。这样，被冤屈的人就很多。
唐太宗觉察到这种情况以后，问大理卿刘德威道：“近来法网甚密，许多不该网入的人都网入了，是什么原因呢？”
刘德威回答说：“这个原因在陛下身上，不在群臣那里。陛下喜爱宽大就会宽大，喜爱严苛就会严苛。现在国家法律条文规定，官吏对犯人治罪偏重者，官职降低三等；偏轻者降低五等。但是现在，错抓了人可以不负责任，而错放了人却要获大罪。大家心怀畏惧，为了自己免遭祸患，宁肯把无罪说成有罪。这样，刑网自然就密了。”
唐太宗生气地质问刘德威：“法律已经制定好了，你们为什么不按照法律来办事呢？你们这不是执法犯法吗？”
刘德威说：“张蕴古就是为了替李好德说话而被陛下处死的。且不说他说得对，即使他属错误放人，也远不该处以死刑。只要陛下下令今后一律按法律办事，这种风气立即就会变过来的。”李世民同意了刘德威的意见。
为了改变这种状况，唐太宗一方面调整那些不宜从事法律工作的人，一方面采取措施完善法律程序，从制度上堵塞司法工作中的漏洞。张蕴古之死使唐太宗认识到所谓“复奏”制度实际上已经流于形式。于是，唐太宗修改了原来的“三复奏”制度。重新规定，凡判处死刑的，京城内要“五复奏”（“五复奏”制度，即行刑前一日、二日复奏，行刑之日又三复奏），其他各州仍旧坚持“三复奏”。对于擅自处决人犯和虽经批准又提前处决人犯的人，要追究刑事责任，严加惩处。
但是，严格依条文定罪，有时也难免有冤案。所以，唐太宗还规定门下省复审案件，如果发现有按照法令应该判死刑而情有可原的，应该记录下来上奏。即使依法应处死刑而又情有可原的，仍有获得免死从宽的机会。对证据确凿确系犯法并被判刑的罪犯，决不心慈手软加以姑息。张蕴古事件之后，由于完善了法律制度，办案合乎公允，很少出现冤情，有时甚至连判处死刑的人也没有怨言。
四、慎选地方官
唐太宗在加强立法工作的同时，在行政管理和军事改革方面的功绩也十分卓着。
唐太宗要求各行政职能部门能够秉公办事，并注意调整各部门之间的关系，特别是中书省和门下省的关系，要求他们互相监督。
贞观元年（627年），他对黄门侍郎王硅说：“国家设置中书、门下两个机构是为了能够互相监督检察，中书省发出的文书如有错误，门下省应当进行校正。人们的意见想法不尽相同，这是正常现象。如果经过互相辩论，能够把意见统一到正确的方向上来，工作就能做得更好。可是一旦有人袒护自己的短处，忌讳听到自己的过失，不肯听从正确的意见；或者为了不得罪人，互相照顾脸面，明知事情不正当，也不纠正，这样只会使百姓遭殃、国家危亡。隋炀帝的时候，大臣们自作聪明，处理事情都是模棱两可，随波逐流，都顺着隋炀帝的意思行事，以为这样做自己就吃不了亏。到了天下大乱，家国双亡时，即使有个别幸免苟活下来的，也遭到社会舆论的谴责嘲笑，永远被人唾弃。你们一定要吸取教训，应当奉公忘私，处理各种事情互相启发，不要轻易同意别人的意见，人云亦云。”
唐太宗认为，一支精简高效的官吏队伍是国家管理的最大财富。一国行政管理的高效运转，不是看它有多少官员在管理行政事务，而是看它的官员的办事效率如何。因此，以官员的实际才能为评价标准，任用有德行和办事能力的人，使他们各尽其用；将每个人安排在他最适合的岗位上，使他们各自担负起所任的职责，这样才能做到精简机构，防止出现臃肿庞大的行政机构，避免出现办事拖沓、互相推诿的情况，从而真正为民办实事，为国办实事。
隋朝末年，为了反抗隋炀帝的残暴统治，许多人招兵买马，割据一方，占地为王。唐朝建立以后，唐高祖李渊设置州府、县衙，封他们为官。因此，唐初州、县的数目，比隋文帝时期大约要多一倍。唐太宗即位以后，立即着手革除这种官吏过多的弊病。他根据具体的地理环境，将全国分为十道，即关中、河南、河东、河北、山南、陇右、淮南、江南、剑南和岭南。唐太宗还命房玄龄等人精简国家机构，总共仅设置文武官员六百四十三人。
要求精简机构，要求人尽其用，必然就出现对官吏如何选拔的问题。因此，唐太宗坚持对官吏进行考核，要求房玄龄和王硅负责对官吏每年进行考核。他以“四善”作为考核的标准，即：品德高尚、政绩卓着、办事公道、勤奋认真。符合“四善”的人才可以被提拔作为政府的官员。此外，还要求官员们做到“二十七最”。比如，善于发现才学兼备的人，擢拔人才，是最好的选官；审理案件符合法律规定，合乎情理，处断公允，是最好的法官；重视调查研究，反映和揭发问题准确，是最好的监察官；等等。在具体考核时，还将官吏的成绩分为五个等级。这种随时注意考核，择优任用官吏的政策，调动了官吏的积极性。
唐朝所辖地域广大，仅仅靠中央政府治理国家显然不切实际。中央政府只能就国家事务做一个原则上的规定，具体政策还是要依靠地方官吏去施行。因此，地方官员队伍的建设就显得尤其重要。
早在贞观二年（628年），唐太宗就曾对大臣们说：“我朝地域广大，国家的长治久安依赖地方官吏的秉公行政。我身处皇宫之中，对天下事无法事必躬亲，地方上的都督、刺史就是我的左膀右臂，我最担心的是都督、刺史是否胜任安抚百姓的重任，能否让百姓们安居乐业。我特意在我卧室的屏风上记下他们的姓名，无论坐着还是躺着都经常看他们，谁做了好事，我就记录在他的名字下边。这些人决定着国家的安危，必须要称职。”唐太宗对地方官吏的选拔、任用非常上心，但是缺少切实可行的办法去对他们进行很好的管理。
博州荏平有个名叫马周的人，虽然满腹经纶，很有才干，却赋闲在家无事可做。贞观五年，马周来到京城长安，暂时居住在中郎将常何家中，做了他的门客。一天，唐太宗诏令百官，要求大家上书议论政事得失。第二天，常何带着自己的奏折，将它交给了唐太宗。唐太宗看了常何的奏折之后，不禁暗暗称奇，因为奏折上所言的都是针对当今情况的真知灼见，这二十多条治国安民的具体措施样样都合自己的心意。要知道，这常何出身行伍，对文字以及国家治理一窍不通。大家对这件事情感到奇怪，都惊奇常何为什么一夜之间就得出这么多的好主意。唐太宗知道这些建议一定不是常何所提，其后必有高人。于是，就问常何提出这些建议的人到底是谁，常何就老老实实地说是家里的门客马周的主意。
唐太宗一听此话，断定马周是个人才。他望才心切，当天就召见马周。但是，马周平常闲云野鹤惯了，不愿受官府的束缚，所以就借故推辞，迟迟不到。唐太宗求贤若渴，如刘备一般三顾茅庐，四次派人前去催促。马周见唐太宗情真意切，被深深打动，于是就同意见太宗。到马周谒见时，唐太宗同他就国家大事彻夜长谈，相见恨晚，相谈甚欢。马周知识渊博，才思机敏，善于辩论，而且分析问题能够抓住根本，入木三分，这让唐太宗非常高兴，不久就提升他做监察御史。
贞观11年（公元637年），侍御史马周向太宗上疏说：“治理天下要把百姓看做根本。想让百姓安居乐业，关键在于任用合适的刺史和县令。假若每州能有一个好的刺史，那全州都能得到好处。如果天下各州刺史都能使陛下称心如意，那么全天下的老百姓也就能过上好日子了。自古以来，郡守、县令很多，不可能每个都是贤人，所以要精心选拔那些贤良有德的人来担任；如果朝廷打算提拔某人来做大将、丞相，一定要先让他们试做地方官；或者直接从郡守中挑选人才担任丞相、司徒及太尉的人选。老百姓能否过上好日子，全看刺史、县令是否称职。现在皇上只重视对京城官员的选用，轻视对地方官员的任用，对边远地方的官吏任用就更不认真，那里的老百姓至今尚未安居乐业，大概就是由于这个原因。”
唐太宗看了马周的奏折后，对侍臣说：“各州郡守、刺史的人选，由我亲自选拔；县令的人选，请在京任职的五品以上官员各自推举一人，以备选用。”
唐太宗接受马周的意见，谨慎选择地方官吏，在地方上广用有才能的人，为地方上的百姓办了不少实事，也使唐朝的统治更加稳固。由于马周功绩卓着，圆满地完成了很多唐太宗交给他的任务，贞观十八年（公元644年），他被提升为中书令，兼作太子左庶子，不久又任礼部尚书，深受唐太宗重用和喜爱。贞观二一一年，唐太宗赠给马周一幅题词：“鸾凤凌云，必资羽翼。股肱之寄，诚在忠良。”对马周的辅佐和忠良深表赞扬。后来人们为了纪念他，在陕西省渭南县官路村南边，修建了一座马周庙，供后人凭吊。