由于收买秦府猛将不成，建成、元吉用计使秦府左一马军总管程知节被放外任康州刺史，房玄龄、杜如晦也被诬告逐出秦王府，眼看秦王重要谋臣武将一个个被调走，情势日益严重。长孙无忌、高士廉和右候车骑将军侯君集以及尉迟敬德等人，每日劝李世民及时动手除掉太子建成和齐王元吉。房玄龄、杜如晦和段志玄等人也拖延留居京师。双方的斗争已进入白热化阶段。
这时，突厥郁射设率数万骑屯黄河之南，进关南攻。在此以前，凡有突厥进扰，皆由秦王督军出战。这次，李建成推荐元吉代秦王世民统军前往作战，高祖一口应允。元吉向李渊提出调秦府尉迟敬德、程知节、段志玄及秦叔宝等同行，想乘此机会全部统领秦府的骁骑猛将，彻底解除秦府的武装力量。同时，太子建成与齐王元吉秘密商议说：“今汝得秦王骁将精兵，拥数万之众，吾与秦王饯于昆明池，使壮士拉杀之于幕下，奏之暴卒，主上宜无不信。吾当使人进说，令授吾国事。敬德等既人汝手，宜悉坑之，孰敢不服！”一场大屠杀眼看就要降临秦王世民的头上，而秦王还蒙在鼓中。
正在这紧要关头，太子率更丞王晊向李世民秘密知告太子、齐王的阴谋，秦王急忙找长孙无忌、尉迟敬德等人商量对策。大家一致劝世民抢先下手，李世民深忧骨肉相残，将给人留下话柄，因而犹豫不决，说：“吾诚知祸在朝夕，欲俟其发，然后以义讨之，不亦可乎！”尉迟敬德见秦王面临大祸，仍迟疑不定，急得大嚷道：“祸机垂发，而王犹晏然不以为忧。大王不用敬德之言，敬德将窜身草泽，不能留居大王左右，交手受戮也！”长孙无忌也接着道：“不从敬德之言，事今败矣。敬德等必不为王有，无忌亦当相随而去，不能复事大王矣！”李世民见两人都说要离去，自然不同意，忙说：“吾所言亦未可全弃，公更图之。”尉迟敬德进一步说道：“王今处事有疑，非智也；临难不决，非勇也。且大王素所畜养勇士八百余人，在外者今已入宫，擐甲执兵，事势已成，大王安得已乎！”其实当时李世民的顾虑，主要还不在“骨肉相残”的问题上，而在于当时的力量对比上。其时秦王府在京师的兵力远不如太子和齐王，而且太子、齐王分居两宫，一旦交兵，秦王府两面受敌，必然陷入险境。但事已如此，也只有硬着头皮干。想到这次风险太大，胜负难以预料，李世民心里很不踏实，于是命取龟占卜，以决凶吉。正在这时，幕僚张公谨从外面进来，见状大声反对道：今大事已定，不能再犹疑，有什么可卜的？假如卜而不吉，那又怎么办？说完取龟掷到地下。由于秦府的文武臣僚态度坚决，促使李世民终于打定了主意。
当然，事情非同小可，以弱势而制强敌，必须有一个严密、周到的行动方案。于是秦王遣长孙无忌密召房玄龄、杜如晦入王府商议决策。房玄龄、杜如晦以前曾建议过李世民诛杀建成、元吉，但没有被采纳。现被贬在家，深恐秦王仍然疑而不决，半途变卦，便想用激将法再激他一下。他们对长孙无忌说：“敕旨不听复事王；今若私谒，必坐死，不敢奉教！”长孙无忌如实向李世民报告，秦王听了果然大怒，说：“玄龄、如晦岂叛我邪！”接着取下佩刀授尉迟敬德说：“公往观之，若无来心，可断其首以来。”尉迟敬德与长孙无忌一起重新找到房、杜说：“王已决计，公宜速入共谋之。”这时房玄龄、杜如晦才穿上道士服，化装后与长孙无忌潜入秦王府内，尉迟敬德则由另一条道进入。经过一夜商议，大计终定，于是分头布置行动。这一天是武德九年六月初二。
第二天，太白复经天，太史令傅奕密奏高祖：“太白见秦分，秦王当有天下。”高祖正在疑惑，秦王又密奏太子建成、元吉与尹德妃、张婕妤淫乱，说：“臣于兄弟无丝毫负，今欲杀臣，似为世充、建德报仇。臣今枉死，永违君亲，魂归地下，实耻见诸贼！”高祖虽然感到愕然，但也不敢轻信，便说：“明言鞫问，汝宜早参。”说完下令通知太子、齐王明天早朝，由诸大臣公断曲直。
六月初四一早，高祖上朝，裴寂、肖瑀、陈叔达、封德彝、宇文士及、窦埏、颜师古等也已到齐，专等建成、世民、元吉兄弟到达。而这时李世民却正带领尉迟敬德、侯君集、张公瑾、刘师立、公孙武达、独孤秀云、杜君绰、郑仁泰、李孟尝等九人，伏于玄武门内。玄武门是宫城北门，是内廷警卫驻扎重地，是出入内宫必经之路。建成、元吉得到张婕妤关于秦王向高祖告密的情况后，元吉有些担忧，提出“宜勒宫府兵，托疾不朝，以观形势。”建成却说：“兵备已严，当与弟人参，自问消息。”原来这天值班守宫门的北军将领是常何。常何本是建成的亲信，所以十分放心，他根本没有想到，常何已将李世民等人引入玄武门内，埋伏好了。两人行至临湖殿才觉有变。想掉头回马，李世民已骑马迎面而来，元吉仓惶张弓，连射三矢，因控弦不开，皆未射中。李世民取弓还射，建成当即中箭而死。这时尉迟敬德带领七十骑赶来，左右射中元吉坐骑，元吉弃马往树林中逃。世民纵马追去，不巧被树枝挂住衣服，坠马落地，元吉趁机跳过来，压在世民身上，元吉力大，眼看世民将倾刻亡命，正好尉迟敬德跃马而至，元吉立即往武德殿奔逃，敬德引箭便射，将元吉杀死。
这时，太子东宫翊卫车骑将军冯立，与副护军薛万彻、齐王府车骑谢叔方等率东宫、齐府精兵二千余人赶来攻玄武门。在玄武门的秦府兵不多，加上常何少量禁军宿卫兵，也难以抵挡，情势十分危急。云麾将军敬君弘、中郎将吕世衡领兵出战，皆战死。张公谨赶忙紧闭宫门抵抗，薛万彻力攻很久，不得入，遂鼓□进攻秦府。正在这紧要关头，尉迟敬德持建成、元吉首级赶到，东宫、齐府将领和士兵见主子已被杀，无心恋战，遂溃逃而去。薛万彻与数十骑逃入终南山，冯立则解散部众，逃出宫城。双方血战，终算告一段落。
随即，李世民派尉迟敬德前往海池舟上面见李渊，说：“秦王以太子、齐王作乱，举兵诛之，恐惊动陛下，遣臣宿卫。”李渊见事已如此，也无可奈何，改立秦王为太子，军国庶事，无大小悉委其处决。八月，高祖李渊退为太上皇，传位于世民，是为太宗。
李渊对秦王与太子、齐王之间的斗争，早已察觉，但始终没有采取有力的措施加以解决，这是有着十分复杂的原因的。李渊从关陇军事贵族起家，本具有强烈的宗法观念。唐王朝建立后，他大封宗室，由儿子、叔侄诸王掌握重权，以维护和巩固初建的王朝。二儿世民军功卓著，按功行赏，其地位自然要上升。何况世民德才兼备，让他身居要职，完全是捍卫皇室所必需的。以后秦王集团与太子、元吉势力产生矛盾，李渊从封建正统观念出发，首先要维护长子太子的地位。从武德五年（公元622年）起，李渊采取了一些措施来节制秦王的地位和势力。如关东未平，即命秦王班师；在后宫的挑唆下，训斥过秦王，在背后常有不满的表示；甚至将房玄龄、杜如晦等人逐出秦王府，将秦府的武将纷纷调离等等。但是，另一方面李渊也舍不得轻易革除秦王，因为李世民在巩固初建的唐政权中，无疑是一大支柱。况当时突厥问题尚未解决，统兵抵挡突厥的侵扰也少不了秦王。加上秦王与太子、齐王双方各自集结了强大的势力，朝廷中大部分官僚事实上也分别依附一方，李渊自己又未直接掌管兵权，无论去掉哪一方面，都非易事。所以，李渊对此事一直拖延不决，遇事各打五十大板，一碗水摆平，力图大事化小，小事化了。他有时偏袒太子建成，但以不伤害秦王为限。他的打算是既要维持太子地位，抑制秦王势力，又想保住秦王的地位，以捍卫初建立的王朝。在这种矛盾的心理状态支配下，高祖就不能不左右为难，而当秦王成功地除掉太子、齐王，解决了东宫、齐府兵力，局势已明朗，秦王的储君地位已确定，他也无力加以改变了。同时，玄武门这场喋血政变，并没有引起朝中大乱，朝廷中大多官员立即表态拥立李世民为太子，这也符合维护李唐皇室的根本利益，所以李渊也是顺水推舟，拱手让出帝位了事。
秦王李世民在玄武门之变中，一举战胜太子、齐王的宫府集团，既有其必然因素，同时又有着很大的偶然性。东宫、齐府在京师的精兵有二千以上，秦府只有八百人，在兵力方面相差悬殊。要不是李世民收买了玄武门卫队首领常何等人，胜负是难以预料的。
秦王集团是否反映了山东集团，宫府集团是否反映了关陇集团或庶族与贵族地主的不同政治要求呢？
所谓的山东地区在当时来说，包括今河北、山西、河南一部分地区在内，加上山东省本身，范围相当广泛。李渊建立唐王朝后，官吏是关陇和山东、贵族和庶族并用的，秦府和太子、齐府的用人也承袭了这一政策。李世民集团中，属于关陇者有：长孙无忌、杜如晦、长孙顺德、候君集、刘弘基、公孙武达、屈突通、杜淹、李安远等。在文学馆十八学士中，也有相当一部分是关陇人，如姚思廉、李元度、颜相时、于志宁、苏世长等。其中有些人是江南人，如虞世南、褚亮、蔡允恭、陆德明、孔颖达、许敬宗人等。
在东宫集团中，也有魏征、王珪，属于山东人。此外，太子建成利用镇压刘黑闼的机会，在山东地区也培植有很强的势力。
至于各集团成员的成份，秦府中长孙无忌、房玄龄、杜如晦、高士廉、屈突通、杜淹以及东宫、齐府中的王珪、韦挺、薛万彻等，都是贵族或世族地主子弟。而秦府的尉迟敬德、候君集、张公瑾、刘师立、秦叔宝、程知节、公孙武达、李孟尝、段志玄、庞卿恽、张亮、元仲文、李安远等，以及东宫、齐府的官员魏征、冯立、谢叔方等都是庶族地主。
可见，秦王李世民集团与建成、元吉集团成员的成分基本相同，他们之间的斗争并不是或者不完全是山东集团与关陇集团之间，或是贵族势力与庶族地主势力之间的斗争。当然这样说，并不是两大集团间就没有什么区别，事实上秦王集团联系的社会面较宽，宫府集团则较窄，在人才的数量方面秦府集团占有绝对的优势，因而在斗争的策略方面，秦府集团也要强得多。但是论其双方斗争的实质，应该说基本上是统治集团内部权力分配的斗争，也包括一些不同政治倾向集团间的矛盾。