晋军于是收复了潞州。戊申，朱温知道大势已去，在庭堂上责罚各位将领打了败仗的罪过，斩杀了李谠、李重胤，然后退兵返回了洛阳。
此战后李克用封康君立为昭义留后，李存孝为汾州刺史，李存孝自认为擒获孙揆功劳最大，应当由他充任昭义留后，可是却被康君立抢去这一官职，气愤怨恨，连续几天不思饭食，随意刑罚斩杀属下士卒，开始产生了背叛李克用的意图。《资治通鉴》中记载：存孝自谓擒孙揆功大，当镇昭义，而君立得之，愤恚不食者数日，纵意刑杀，始有叛克用之志。
十月张统领的官军从阴地关开出，游击的军队到达汾州。李克用派遣薛阿檀、李承嗣带领骑兵三千在洪洞安设营寨，李存孝带领军队五千在赵城安设营寨。镇国节度使韩建派出强壮士卒三百人要在夜间去袭击李存孝的军营，李存孝事先知道了，便设下埋伏等待韩建人马的到来，韩建派去的人一个没活，都交代了。而静难军和凤翔军听说李存孝来了，惧于李存孝的威名，未经交战就后撤，李存孝遂率领晋军乘胜追击，直达晋州城的西门；张带领军队出城交战，再次打了败仗，官军被斩杀的将近三千名。静难、凤翔、保大、定难各路军队吓得如惊弓之鸟，争抢着渡过黄河往西回奔，张只剩下长安禁军和宣武军总共一万人，与韩建一起关闭晋州城门固守，从此不敢再出城。李存孝带领军队先去攻打绛州，十一月，刺史张行恭放弃绛州城逃跑。李存孝再次回兵进攻晋州，围攻了三天，他与属下商议说：“张身为宰相，我们俘获他也没有什么好处，天子手下的京师禁军，我们不应当斩杀。”于是，李存孝率领军队后退五十里驻扎。张、韩建从含口逃走。李存孝攻取了晋州、绛州，大肆抢掠慈州、隰州一带。而张和韩建经过王屋山到达河阳，拆除民房做成木筏才渡过黄河，军中士卒失踪死亡几乎没剩下多少。
晋军连年攻进赵王王控制的常山，李存孝常任先锋，攻下临城、元氏。王求救于幽州的李匡威，李匡威兵到，晋军撤走。
景福元年正月，王熔、李匡威合兵十余万攻尧山，李克用任命李存信为蕃、汉马步都指挥使，协同李存孝一同攻打王熔，李存孝、李存信二人互相猜疑忌恨，彼此逗留观望而不前进；李克用只有改派李嗣勋，大败幽州、镇州的军队，斩杀擒获三万人。李存信回到李克用那里，谗言说：“存孝有二心，常避赵不击。”李存孝心里不安，暗中联结梁朱温和赵，向朝廷上呈表章以邢州、州、磁州三州归顺朝廷，并请求赏赐给他节使度的旌旗节铽，以及会同各道军队讨伐李克用。昭宗颁发诏令，任命李存孝为邢州、州、磁州节度使，但不同意会合军队的举动，只命王前往救援。
景福二年，李克用亲领大军出井陉，逼迫真定，而这是李存孝却去见了王商讨军机。
李克用知道后大怒，七月出兵讨存孝，王熔先是遣兵救援邢州，被李克用在平山打败了，壬申，李克用进击镇州。王熔十分惧怕，临阵易帜，“乞盟，进币五十万，归粮二十万，请出兵助讨存孝”。李克用许可了王熔的请求。李克用在栾城整训军队，会合王熔军队总共三万人在邢州东南的任县驻扎，李存信则在邢州龙冈县的琉璃陂驻扎。
九月，李存孝夜犯李存信营，虏奉诚军使孙考老，存信军大乱。李克用亲自率兵前往，掘沟堑以围城。李存孝出兵冲击，晋军无法筑成沟堑。河东牙将袁奉韬派人对李存孝说：“您所畏惧的只是晋王。晋王待沟堑筑成，一定会留兵围城自己退去，他手下诸将都不是您的对手，筑好了沟堑又有什么用？”李存孝同意。于是任由晋军筑沟堑。沟堑筑成后，深沟高垒，无法靠近，李存孝非常被动。城中粮尽。
乾宁元年三月，存孝登上城楼，哭着对城下的李克用说道：“儿蒙王的大恩，位至将相，难道愿意舍父子的关系而投仇敌？这是由于存信诬陷的缘故。希望能活着见王，说一句话就死。”
李克用很感伤，派刘夫人入城慰谕。刘夫人带着李存孝回来，他磕头请罪道：“儿于晋有功而无过，所以至此，是存信的缘故！”李克用呵斥道：“你写给朱全忠、王熔的信，大肆毁谤我，这也是李存信逼你干的吗？”于是将他押回太原，以车裂之刑处死。对此，《新五代史义儿传》记曰：“缚载后车，至太原，车裂之以徇。”
其实李克用本不想杀他，希望诸将为他求情，就此顺势免了他的罪，谁知诸将都妒忌他，没一个为他求情。李克用为此深恨诸将但却没有谴责过李存信。李克用惋惜存孝，为之十多天不理政事，兵势也逐渐转弱，而朱温的势力则开始变得越来越强大。
李存孝死后，李克用每次和诸将赌博，谈到李存孝都流泪不止。乾宁元年十月，昭义节度使康君立前赴晋阳拜见李克用。已未，李克用会聚属下各位将领尽情饮酒，喝到兴头上，李克用谈起李存孝，泪水不停地往下流。康君立平时和李存信亲近友好，不慎一句话触怒了李克用，李克用拔出剑来就向康君立砍去，把他囚禁在马步司，不久将他毒杀。
历史评价存孝每临大敌，被重铠橐弓坐槊，仆人以二骑从，阵中易骑，轻捷如飞，独舞铁楇，挺身陷阵，万人辟易，盖古张辽、甘宁之比也。《旧五代史》中年汉子冷声笑道：“想不到这世上还有人识得敦煌刀法！”
来人冷哼了一声道：“想当年李存孝李将军是何等的英雄，想不到他的后人竟然如此卑鄙，投靠了严嵩这个狗贼，为虎作伥！”
中年汉子脸色一变，厉声道：“古人云，识时务者为俊杰，严大人如今一人之下万人之上，投靠他的确是上上之选，史帮主一代豪杰，只要投靠了严大人，我李存文保证史帮主一辈子荣华富贵享受不尽。”
史文俊厉声道：“住口，严嵩狗贼，清除异已，继杀曾铣、夏言之后，又在嘉靖三十四年杀杨继盛，使明朝首先开杀谏臣之恶侧，随后又杀沈鍊和王忬，命令虽然皆出皇帝“圣载”，主谋皆是严氏父子；李大人乃是大内一等一的高手，想不到竟然如此黑白不分！”
李存文冷笑了声，史帮主过奖，所谓贤才择木而栖，如今严大人权势如日中天，只要史帮主交出承露盘，我敢保证史帮主没事！“史文俊脸色变了变，许久才冷冷的道：“我要是不交出呢？”
李存文嘿嘿的笑了两声，道：“那今日李某就要给史帮主算上一卦了！”半响，李存文冷笑的摇头道：“已经算完了。”
史文俊面无表情：“怎样？”
李存文冷笑道“寿元已尽。”
史文俊冷笑道：“看相，史某也会一点。”
“是吗？”李存文面无表情。
史文俊望了李存文一眼，冷笑道：“要不要史某替李大人算一算？”
李存文点了点头道：“好极，好极，以你看怎样？”
“你的命比我还要短！”说罢，史文俊大喝一声，手中的长剑在剎那间一翻，数道寒光化成一道彩虹，飞射向李存文的胸前。
李存文冷哼了一声道：”找死！“说罢，身影一仰，躲过致命的一剑，接着身子腾空而起，化嚓一，他右手之中多了一柄短刀，寒光夺目，显然绝不是凡铁可比。
李存文冷笑了两声，身子忽然“簌”的一声，闪电一样射出，手中的短刀以无与伦比的速度砍向史文俊的胸口，史文俊吃了一惊，迎了一剑，身子便如同往上拔起来，也就剎那间，忽听的”噗嗤‘的一声，似有衣服划破的声响。