公元626年，李世民和父亲兄弟的矛盾到了白热化的地步。李世民深知李建成、李元吉决不会放过自己，也积极准备对策。他考虑洛阳形势险要，若将洛阳控制在手，则可控制整个东部地区，因此在同突厥订立盟约返回长安途经洛阳时，留下自己的亲信温大雅镇守洛阳，并遣派秦王府中的亲信张亮等一千多人到洛阳，替李世民结交中原（河南山东等地）的英雄豪杰。为的是一旦发生事变，可以占据洛阳，然后以图进取。
洛阳本是中原的政治文化中心，李世民以洛阳为根据地稳固扩大自己势力的做法使李建成、李元吉更加不安，遂向李渊告发张亮图谋不轨，想以此株连李世民。李渊下令把张亮逮捕，严加审讯。但张亮在狱中宁死不屈，守口如瓶。因为没有证据，李渊只好把张亮放回洛阳。
李建成为了除去李世民，一天晚上便派人来请李世民赴宴。李世民心里疑虑，但又不好不去，稍做准备后就应邀而去。李建成显得非常热情，一再劝李世民饮酒。李世民不太会喝酒，喝下几口以后就心口暴痛，吐血好几升，众人大惊失色。李世民这才知道李建成在酒中下了毒药。他的亲信淮安王李神通护送他回到自己的住处。幸亏李世民不胜酒力，毒酒喝的不多，李世民中毒并不太深，因此很快就平复了。
李渊听说这件事情后，意识到两个儿子已经到了势不两立、水火不容的地步，对这件事发生的原因也猜着了几分。于是就敕令李建成：“秦王向来不能饮酒，从今以后不得请他晚上喝酒。”
李渊又对李世民说：“在晋阳时，你首先提出起兵，之后又平定天下，消灭各派割据势力，统一帝国，这全是你的谋划和功劳。我想立你为太子，你坚持不肯，我便立了建成。况且建成比你年纪大，当太子又很久了，我不忍心废掉他。你们兄弟之间已经水火不容了，同住在长安，一定还会生事。我准备让你到洛阳去，自陕西以东的地盘都归你管，你府中的一切礼节制度都按天子的规格办理。仍让李建成立天子旗号，而你虽为臣子，却同天子无异。”
李世民听了不禁伤心落泪，推说离开父亲无法尽孝，不想去洛阳。李渊说：“天下一家。长安洛阳两地相距不远，我要想你时即到洛阳看你，你不必悲伤。”李世民流着泪答应了。也不再推辞，就准备回到自己的地盘洛阳去。
李世民将去洛阳的消息很快传到了东宫，李建成得知，急得如热锅上的蚂蚁，立刻找人来商量。李元吉说：“秦王若到洛阳，真是如虎添翼。有地盘，有百姓，又有军队，再想控制他就不可能了。不如把他留在长安，长安毕竟是我们的势力范围，李世民掌握在我们手心里，要对付他就省事多了。”
于是就让亲信们上密信给李渊，说：“秦王府中的亲信听说要去洛阳，无不欢喜跳跃，个个喜形于色，看他们那样子，恐怕再不愿回长安了，一定是另有打算。”两个人又唆使李渊的宠臣劝李渊说：“陛下既已立李建成为太子，现在又叫李世民去洛阳，陕西以东全由他做主，这样，天下不成了两个君主了吗？古人有言，天无二日，民无二主。陛下安排两个君主，不是人为地制造祸端吗？只怕陛下千秋万岁以后，天下难以太平了。”李渊对李世民本来也有所顾忌，于是又改变了主意，索性让李世民继续留在长安。
李建成、李元吉和李渊的宠妃们日夜在李渊面前毁谤李世民，李渊对李世民的成见越来越深，终于想处罚李世民。但陈叔达等大臣反对，劝谏说：“秦王曾经跟随您南征北战，功绩卓著，有大功于天下，不能加罪于他。他性情刚烈，如果受委屈太过分，一旦忧愤过度，气急攻心，有个三长两短的话，皇上您后悔都来不及了。”李渊于是作罢。李元吉又密奏李渊，说李世民私下结交豪杰，扩充自己的实力，膨胀自己的权力，意在谋反；而且又自恃劳苦功高，看不起别人，连李渊的话都听不进去，还屡屡得罪李渊的宠妃。所以，让李渊尽早把他杀掉，李渊犹豫不决。
李世民府中的官员们眼见李渊不信任李世民，李建成和李元吉又夜以继日地在李渊面前诋毁李世民，个个惶恐不安，不知怎样办才好。李世民府中的房玄龄、长孙无忌、杜如悔都是对李世民忠心耿耿、满腹韬略的人物。
房玄龄博览群书，聪明过人，是李世民身边重要的谋士，得到李世民的重用。房玄龄也深感李世民的知遇之恩，他为李世民广罗人才，为李世民出谋划策。长孙无忌自幼便与李世民交好，他的妹妹嫁给李世民，这就是后来有名的长孙皇后。他文武双全，一直跟随李世民南征北战，功绩卓著。杜如悔好读文史，随机应变，有王佐之才。
房玄龄看到李世民身陷父兄的猜忌当中，就对长孙无忌说：“如今李渊父子兄弟之间相互结怨，仇恨日深。一旦发生突然事变，岂止是秦王府的灾难，我们跟随李世民成为阶下囚，国家也要遭受莫大损失。我们不如劝秦王以天下为重，除掉太子、齐王。否则，非但我们家破人亡，整个大唐江山也会化为乌有。存亡在此关头，现在就该下决心。”长孙无忌也同意这个意见，于是一起去见李世民。
李世民也正在焦虑之际，听说他们二人求见，就立刻让他们进来。房玄龄对李世民说：“大王您功盖天下，理当继承王位。如今太子、齐王反而企图加害。望大王早下决心，马上行动除掉李建成、李元吉。”
李世民听后却有几分犹豫，他说道：“太子、齐王都是我的亲兄弟，我这么做实在是于心不忍啊！”
房玄龄说：“秦王你把他们当亲兄弟，但他们把你当亲兄弟吗？他们一而再，再而三地想置你于死地，还能算得上是你的亲兄弟吗？大王若不动手，他们可就要下手了，那时候大王您就是后悔也晚了。”
李世民的另一亲信杜如晦也极力赞同，在一旁鼓动李世民尽快杀掉李建成、李元吉。李世民虽然仍在犹豫，但理智告诉他，他们兄弟之间的夺权斗争已经到了水火不相容的地步，再也没有缓和的余地了。他必须有所决定才行。