公元617年六月五日，李渊正式向下属各郡县发布文告，宣布起兵，目的尊隋，号召各郡县服从行动，听从指挥。接到文告，下属的郡县全部表示唯李渊马首是瞻，唯独西河郡除外，于是西河郡就撞到了枪口上，他们成为李渊杀鸡儆猴的鸡。同一天，李建成、李世民率军出征，开始为自己的家族事业打拼，这次出兵是李唐王朝的第一次出兵，这次出兵也是李唐王朝争夺江山的开始。行军路上的李建成、李世民一路上兴奋不已，在他们看来，父子同心、兄弟齐心，天下大事，半年可成。然而哥俩谁也没有意识到，仅仅几年之后，他们就要为当初一起夺得的江山兵戎相见，兄弟也要变为仇敌，如果知道是这样的结局，当初的他们是否也会有犹豫呢？行军路上的李家军士气高涨、人心整齐，一支仁义之师呼之而出。一路上秋毫无犯，百姓无伤，即使偶有损耗，李建成与李世民马上自己掏钱补贴百姓，然而补贴完后却从不追查肇事者，仅此一举，人心收齐。
李渊的两个儿子算是得到了李渊的真传，收买人心的功力让皇帝杨广只有给他俩提鞋的份，其实，收买人心也是一种能力，皇帝杨广却偏偏并不具备。气势高昂的李家军没有费太多周折，仅仅五天，固守的西河郡就被攻破。西河郡人人自危，大家最担心的就是屠城，因为隋末起义的一些起义军首领有一个很不好的习惯，一旦攻下固守的城市，屠城就成了他们的第一选择。那么李家军会不会也拿出屠城的手段来杀鸡儆猴呢？进入西河郡，李世民派人抓住了固守的西河郡郡丞高德儒（两年前报告鸾凤祥瑞的那家伙），一下子人心惶惶，连郡丞都抓了，何况平头百姓呢？西河郡的人们在等待李世民的下一步棋。看到被捆绑的高德儒，李世民变了脸色，指着高德儒的鼻子痛骂：“你把野鸡当鸾凤，欺骗皇上，骗取官位，道德极其败坏。我等起义军就是要消灭你这等马屁精！”言罢，李世民下令处斩，悬首三天！可怜的高德儒因为两年前的一次谎话，换来了两年后的灾祸，他的经历也在告诉我们：好孩子不能说谎。杀了高德儒，西河郡的百姓还在疑惑，下一个倒霉的会是谁呢？大家瞪大眼睛看着李世民。
而李世民呢，向民众挥一挥手，都散了吧，该干吗干吗去！农民种地，商人开张，学生上学，老人晒太阳，总之原来干啥，现在就干啥！惊愕了半天的人们终于明白，原来李家军不是来屠城的，而只是来拯救天下苍生的。早知道这样，防守个什么劲呢！无疑，李世民是聪明的，只用一个人的人头就起了数重作用。第一重，宣告李氏起兵是义军，以诚信为本；第二重，宣告李氏起兵只诛杀害群之马，不扰一般百姓；第三重，宣告李氏起兵是为皇帝清理害群之马，李氏的目的是“清君侧”。一个人头，三重宣告，善于经营的李世民收到了奇效。此次出征西河郡，来回只用了九天，只杀了一个人，却得到了一个城市，真可谓锻炼了队伍，扩大了影响，连一向稳重的李渊都兴奋地说：“以此行兵，虽横行天下可也。”公元617年六月十四日，对于李渊来说是值得纪念的一天，李唐王朝的草台班子于这一天正式成立了。
虽然成立之初条件有点简陋，待遇有些寒酸，然而却从此打下了武德年间高层政治结构的基本框架，几乎可以肯定地说，能够进入这个草台班子的人，日后都能算作开国元勋，也就是说，这些人持有的是李唐王朝的原始股，一年之后，李唐王朝上市，持有原始股的人们也成了最幸福的暴发户。这一天，李渊设置了大将军府，死党裴寂出任秘书长（长史），鬼精灵刘文静出任军政官（司马），唐俭（日后讽谏李世民不能马上治天下的那位）和前长安尉温大雅出任记录官，武士彟出任铠曹（军械军事参议官），刘政会等人为户曹（民政军事参议官）。上阵亲兄弟，打虎父子兵，同刘邦依靠汉初三杰不同，李渊在军事上依靠的主要是自己的儿子和女婿。世子李建成封陇西公，左领军大都督，指挥左翼三军；次子李世民封敦煌公，右领军大都督，指挥右翼三军，女婿柴绍为右领军府长史（秘书长）。从这个配置来看，李唐王朝初期的军事体系可以概括为：李渊自任总司令，李建成和李世民为排名不分先后的副总司令，各自率领一支方面军。
女婿柴绍为李世民方面军的总参谋长，这个体系就是一个家族体系，明白人知道这是李氏义军的军事指挥体系，不明白的还以为是李家狩猎的人员分配图。梳理好军事指挥体系，安顿好大将军府的草台班子，李渊的精力又转到了东突厥身上，因为东突厥是李氏起兵胜负的关键，处理好是锦上添花，处理不好则是雪上加霜。有些人一再强调晋阳起兵是李世民一个人的功劳，其实失之片面。以晋阳起兵形势的复杂性，年轻的李世民是应付不了的。李世民不缺锐气，不缺信心，然而他缺的是人生的经验和岁月的历练，因此在晋阳起兵的时候，把握全局的是李渊，运筹帷幄的是李渊，忽悠突厥的是李渊，招降纳叛的是李渊，收买人心的是李渊，掩耳盗铃的主角也是李渊，这一点容不得别人的抹杀。草台班子成立四天之后，李渊接见了一个特殊的客人，这个客人的名字叫康鞘利，官职是东突厥的柱国，身份是东突厥始毕可汗的使节。康鞘利此行带来了一千匹战马，始毕可汗传话说随便挑，随便选，买多买少李渊自便，另外如果有需要，东突厥愿意出兵护送李渊入关。看着康鞘利带来的战马，听着始毕可汗的承诺，李渊的大脑开始高速旋转。
五十年来的人生经历告诉他，天下没有免费的午餐，天上掉馅饼的事情也许会有，但那样的馅饼要么是陈化粮做的，要么馅饼里面埋着鱼钩。老到的李渊没有被战马扰乱了思绪，也没有被始毕可汗的承诺冲昏头脑，他很清楚自己的实力，也很清楚突厥人的真实目的。眼下借重突厥人的实力看起来很轻松，然而借人家的是要还的，今天的借贷必然会成为未来的包袱，甚至还会是李唐王朝永久的包袱，因此这个包袱决不能轻易背。中国象棋里有一个评价棋手水平的简便方法：如果一个人下棋的时候能够看到随后的一步棋，那么这个人不算个臭手；如果一个人能看到随后的三步棋，那么这个人算个高手；如果一个人能看到随后十步以上的棋，那么这个人是个天才。按照这个方法算，李渊就是能够看透十步以上棋的天才。李渊态度谦卑地接见了康鞘利，然后从一千匹战马中挑出了五百匹，剩下的五百匹就以囊中羞涩为由拒收了。将领们一看李渊哭穷，不知道李渊葫芦里卖的什么药，纷纷给李渊使眼色：“我们哥几个自己凑份子，把剩下那五百匹买了吧！”将领们把眉毛都快挤掉了，而李渊那边却好像死机了，压根没收到将领们的短信息。
打发走康鞘利，将领们开始跟李渊抱怨，为什么不要那五百匹马呢？我们宁愿自己埋单。李渊看着诚恳的将领们，缓缓地解释了自己的做法：“突厥人有的是马，而且贪财，如果我们这次买了他们一千匹马，他们必定马上送来两千匹、三千匹，到那时候我们就不用打仗了，天天就跟他们贩马玩了。我说我们囊中羞涩，这就绝了他们的念想。
另外那五百匹马你们也不用担心了，肯定还是咱们的，我跟康鞘利商量过了，那五百匹马可以分期付款，咱们不用给钱，马先骑着，等有了钱再给！”听完李渊的话，将领们纷纷在心里竖起了大拇指：“还是你奸诈，你称天下第二，谁敢称天下第一？”处理完一千匹马的交易，李渊又安排民间外交家刘文静上路了，此行的目的是忽悠东突厥出人，不过人不需要多，五百就够，多了一个都不要。此时的东突厥人就是给李渊看门的印度阿三，就是用来充个门面，另外向刘武周那些加盟商表明：李渊跟东突厥的关系好着呢，就别打晋阳根据地的主意了。事实证明，李渊的策略相当成功。经过李渊和刘文静的累次忽悠，总计从东突厥那里忽悠来五百个人，一千匹马，同时消除了晋阳根据地的后顾之忧，又装饰了李氏义军的门面。说一箭双雕那是谦虚，一箭多雕才是事情的本质。万事已经俱备，东风也从不缺少，李渊义军箭上弦，剑出鞘，大事已在眼前，天下谁与争锋！