奉军公布吴佩孚阵亡的消息，给河南督军赵惆帮了倒忙，赵惆和他的弟弟、暂编第一师师长赵杰是支持奉系的。但是吴佩孚也在河南，对吴不敢得罪，并且和吴佩孚拜了把子，表示友好。1月，吴佩孚逼迫赵惆发表了反对梁士诒内阁的通电，赵倜又密电张作霖解释自己不得已发表通电，张作霖立即将这份电报转给曹锟，并附以按语：“你的部下强迫别人打电报反对我，如你不能制止，我代你制止。”曹锟又将张作霖的电报转给吴佩孚，叫他不要惹是生非，吴见到这份电报，知道赵惆暗中通奉，口是心非。直奉战争开始，张作霖暗中派人与赵联络，唆使赵惆当吴佩孚挥师北进，即宣告河南独立。吴对赵倜不放心，在他赴前线之前，急调冯玉祥部队监视赵惆兄弟的活动。5月4日，赵倜在北京的密探电告：“吴佩孚业已阵亡”，赵倜信以为真，以为直军必败，于是宣布武装中立。5月5日，河南暂编第一师师长赵杰、暂编第二师师长宝德全率部偷袭郑州，冯玉祥率他的第十一师来援，解除郑州之围。8日，赵倜下了停战令，冯不予理会，继续向中牟进攻。吴为表彰冯稳定后方之功，保举冯为河南督军。11日，北京政府发表正式任命，同时，对赵倜撤职查办。赵倜上了假情报的当，自知铸成大祸，被迫下台，并要暂编第二师师长宝德全维持开封治安，宝早已通款于吴佩孚，吴密令宝德全解散赵杰的暂编第一师，保举宝为河南军务帮办，赵杰闻风先逃。14日，冯玉祥进开封，宝德全到车站迎接，冯立即将宝杀掉，这是直奉战争中的一个插曲。
5月4日，直奉两军在永清激战九个多小时，奉军伤亡过重，弃城而走。这时西路前线长辛店大败，战局逆转。张作相下令撤退。直军张锡元旅乘胜攻杨村，下落垡，只是迟了一步，奉军总司令部已撤到军粮城。张作霖晚7时到达天津，即下达总退命令。5月5日退到滦州，电令李景林，部队在天津集中，退回关外，李景林率本部人马退到杨柳青、掩护奉军撤退，大批奉军乘火车退往滦州，杨宇霆忙令先头部队在滦河搭起浮桥，要部队顺利过河。
5月6日，张作霖下令组织设防，以开平为第一道防线，由李景林扼守，古冶为第二道防线，由张作相防守，滦州为第三道线，张作霖自己坐镇，昌黎为第四道防线，由孙烈臣扼守。
奉军战败后，大总统徐世昌于5月5日下令饬奉军退出关外，称“以前直隶、奉天等处军队移调近畿一带，迭经令饬分别撤退，乃延不遵行，竟至激成战斗。近数日来，枪炮之声不问昼夜，难民伤兵，络绎于道，闾阎震惊，生灵涂炭，兵凶战危，言之痛心，特再申令，着即严饬所部，停止攻击，奉天军队即日撤出关外，直隶各军亦应退回原驻各地点，均候中央命令解决，务各凛遵。”
同日，徐世昌又发布一道命令，查办罪魁祸首，称“此次近畿发生战事，残害生灵，折伤将士，皆由于叶恭绰、梁士诒、张弧等构煽酝酿而成，实属罪无可逭。叶恭绰、梁士诒、张弧均着即行褫职，并褫夺勋位、勋章，逮交法庭，依法讯办！”7日，梁士诒、叶恭绰等人离开天津赴日本，逃避吴佩孚的追缉。
徐世昌不愿得罪张作霖，迟不下令免去他的本兼各职。吴佩孚一再督促，北京政府才于5月10日下令裁撤东三省巡阅使，免去张作霖本兼各职，听候查办。11日，北京政府再令裁撤蒙疆经略使。并根据直系的意见，公布吴俊升为奉天督军，冯德麟为黑龙江督军，袁金铠为奉天省长，史纪常为黑龙江省长。这是吴佩孚分化瓦解奉系的阴谋，想借此离间张作霖的旧部，迫其下野。
5月12日，张作霖得知徐世昌下令免除其本兼各职后，立即在滦州宣布独立，改称奉军总司令，实行东北自治，并发表对外宣言：称“……对于友邦人民生命财产力加保护，所有前清及民国时期所订各项条约，一概承认，此后如有交涉事件，请逞行照会滦州本总司令行辕。自本月一日起，所有北京政府订立关于东三省、内外蒙、热河、察哈尔之条约，未得本总司令允许者，概不承认。”
吴俊升、冯德麟、袁金铠、史纪常等人深知张作霖在东三省的势力是牢固的，也都知道北京政府的任命是吴佩孚玩的诡计，5月15日发出通电：“北庭乱命，免去张巡阅使本兼各职，并调任德麟等署理督军等话。……德麟等对此乱命，拒不承认，合电奉闻。”吴俊升早于1921年3月即升任黑龙江督军兼省长，吴虽墨水不多，但为人机灵，善观风向，乘专车到山海关去见张作霖，此刻张住在山海关天泰栈收容部队。未等吴俊升说话，张作霖一本正经地说，“兴权（吴俊升字）！你怎么这时才来，我正等你，好办交待，你干不比别人干强吗？我交待完，你叫我住在哪里，我就住在哪里！”吴俊升说：“大帅，咱们不提这个，我在江省有熟地多垧，够我过几辈子了。再说北京政府尽闹把戏，咱们斗不过，北京对付广东还不是这一套，今天撤掉陆荣廷（原两广巡阅使）、明天撤掉陈炳馄（原广东督军）。结果，大家谁都干不成。大帅！你的肩膀比我宽，甚么都能担当得起，叫我在黑龙江剿匪、放马、开垦荒地我会，把我搁在奉天，外国交涉各省代表，文的武的，我…样也应付不来，我一天也干不了。我这时才来，我把家都安置好了，你往大连，我跟你往大连，你到哪里，我到哪里！”吴俊升的一席话把张作霖说乐了，说：“他们怎么不来？”吴说：“大帅生气，谁敢来，打电报叫他们来，他们就来了，大家捧柴火焰高，咱们还是干哪！”张作霖对吴俊升在他危难中，仍然忠于他心里很感激，从此，对吴俊升更加敬重。
5月30日，张作霖返回奉天。6月上旬，杨宇霆策动奉天省议会和吉、黑两省的代表会议，推选张作霖为东三省保安司令，孙烈臣、吴俊升为副司令，杨宇霆为参谋长。
从6月8日到13日，直奉两军在山海关一带又发生战斗。张作霖为防止直军出关追击，派孙烈臣为前敌总司令，由第三、十一两个混成混旅及由前方搜集的残余部队约三万余人，编为第一路军，委张学良为司令；由第一师及收编的部队约二万余人，编为第二路军，委李景林为司令，这两路军布置在山海关一带。当奉军配置就绪时，由王承斌率领的直军约七、八万人追击到山海关。两军又发生战斗，互有胜负。13日，奉天的各国领事联合向张作霖提出警告，认为榆关战事，影响国际列车的安全。张作霖接受各国领事的警告，由英国传教士德康脱尔·扬克，奉天青年会干事，美国传教士普赖德为中间人进行停战调停，直奉双方同意停战。
6月18日，直军全权代表王承斌、彭寿宰，奉军全权代表孙烈臣、张学良在秦皇岛海面英国克尔富号军舰上签订了停战和约。
第一次直奉战争在北洋军阀统治时期是一次大规模的内战。这场战争是军阀之间的争夺权力和争夺地盘的战争。吴佩孚奉行武力统一政策，把奉系当做他武力统一的主要障碍，而张作霖也把吴佩孚当做他扩张势力的阻力，因此，爆发了第一次直奉战争。张作霖在这场战争中遭到惨败。奉军伤亡了万余人，被俘4万余人，军费损失3000余万元。直军所以能打赢这场战争，除了吴佩孚的指挥才能外，主要是破坏了反直联盟，冯玉祥及时解决赵惆的亲奉势力，稳定了后方，张锡元的中央第四旅在直军疲惫不堪的时候，西出潼关，赶赴前线，投入战争，为直军的胜利立下了汗马功劳。曹锟为报答客军的支援，张锡元被提升为察哈尔都统。
奉军在这次战争中失败的原因，主要有：
一、张作霖丧失了战略主动权。在吴佩孚速战速决的战略面前，处于被动挨打的状态。张为争夺地盘、争权势是决心要和吴佩孚争个高低，但是在反直联盟瓦解、面临孤军作战的不利情况下，想暂时推迟战争。而吴佩孚步步紧逼，猛攻梁内阁，联合六省督军通电宣战，在这种情况下，应当避其锋芒，以柔克刚，而张作霖没有识破吴的战略意图，被吴的宣传战所激怒，而仓促应战，上了吴的圈套。
二、张作霖的反直联盟被吴佩孚所瓦解。本来奉系与孙中山、段祺瑞三角同盟已初步形成。但直奉战争前夕，由于吴佩孚勾结陈炯明发动叛乱，使孙中山无力进行北伐。皖系与奉系关系虽有改善，但是不肯出力。河南督军赵惆是亲奉的，直奉战争一开始，就被冯玉祥部队监视起来，赵倜不敢行动。湖北督军王占元与张作霖关系很好，被吴发觉，把王撵下台。安徽督军张文生是辫帅张勋的部下，也是亲奉的，但是他孤掌难鸣，不敢行动。张作霖也积极做分化曹吴的工作，曹也确实不想和亲家翻脸，但是出于直系的利益，还是部下亲，吴佩孚要打，曹只好支持，分化工作也没有产生效果，因此，形成奉系孤军作战的不利局面。
三、张作霖在挑选主要将领上考虑不周。张作相、张景惠虽然是他的老班底，忠诚可靠，但是这两个人在直奉战争问题上都是主和派，他们同吴佩孚作战缺乏信心，而张偏偏要这两个人担任东、西两路司令，特别是张景惠，在直奉合作期间，同曹吴关系相处很好，不想和直系作战。4月28日，直军已经发动进攻，张景惠还未到前线。第十六师是冯国璋部队改编的，原是直系，这个部队和直军打仗，反戈是预料到的。王永江在1922年给杨宇霆的信中说：“西路之十六师不可靠原在意料中”，张作霖把第十六师摆在前线是个失误，导致全局溃败。
四、奉军在装备、数量上都超过直军，但是在作战经验和官兵素质上比不上直军，直军在衡阳战役、直皖战争都积累了正规作战经验，官兵英勇善战。而奉军则没有正规作战的经验，大规模作战这是第一次，无论是战略部署、作战指挥都跟不上局势的发展。在官兵素质上，奉军军事训练十分薄弱，纪律不好，如团长齐大有在作战时，向上级呼吁军情紧急，张作相派参谋前往督饬，齐在阵地上正在吸鸦片。奉军下级军官，缺乏军事知识，生活优越，经不起敌人的强大攻势，战事不利就纷纷退却，这样的部队是难于打胜仗的。
第一次直奉战争以直胜奉败而结束，但是奉系军事实力没有被消灭，直奉危机进一步加剧，还有更激烈的较量。
脱胎换骨的大整顿
直奉战争中奉军的失败是惨重的：派往前线的十余万部众中，第1师和第16师大多投降或被俘，所剩寥寥无几；第28师只有三分之一，也就是说只有1个旅的兵员逃回了东北。直奉战结束后，回归东北的仅有3万余人。惨重的损失既使张作霖感到悲伤，同时却又使他清醒。他深深地认识到，以他的绿林班底为基础组成的奉军——这帮纪律松弛，素质低劣，缺乏训练而又指挥不灵的乌合之众，实难肩负起称霸中原，统一中国的重任。
他决定对奉军来一次脱胎换骨的大整顿。
然而，当张作霖作出这样的决定时，他又有些犯难。他是一个有头脑、有野心的人，但毕竞从来没有接受过正规的军事教育，对于怎样才能把军队整顿好，他心中并无大的把握。那么，究竟让谁来协助自己完成这一艰巨而又重大的任务呢？
他首先想到了杨宇霆。杨宇霆既是新派的代表人物，同时又是自己多年重用的“活智囊”，他不仅具有丰富的军事理论知识，同时更具有对奉军各阶层的透彻了解，用他来整顿奉军，应该再合适不过。
可是，张作霖始终下不了决心。因为，杨宇霆仅有的一次越轨行为始终萦绕在他的脑海，使他想忘也忘不了。
在经过反复周密的考虑之后，张作霖还是取消了由杨宇霆来整顿奉军的打算。他决定把这一任务交给自己的亲生儿子，年仅21岁的张学良。
张学良刚出生的时候，张作霖还是个很不起眼的绿林之王，但正是张学良出生的那一年，即1901年，张作霖打了投身绿林以来的第一次大胜仗，所以，张学良被他视为“千金之子”，一生下来便得到了他特别的疼爱。
张学良，字汉卿。他长大成人的过程，也正是张作霖由匪成官，由绿林之王转为东北之王的过程。张学良长到十七八岁时，张作霖已在东北完全站稳了脚跟，可谓事业上的春风得意时期。所以，他在苦心经营自己的霸业时，也把莫大的希望寄托在张学良的身上，希望他能接受最好的教育，掌握最好的知识，以便将来能够继承自己为他创下的霸业。
但是很可惜，初长成人的张学良似乎对政治、军事并没有表现出多大的兴趣。相反，他的兴趣在学医，在出国留学。对此，张学良晚年在台北接受日本广播电视台记者访问时曾经提及：“当年我本人是想学医的。我非常喜欢日本当时的南满医科大学，我有很多那方面的关系。南满医科大学预科有我的一个很好的朋友，所以那里我常去。我很想进南满医科大学的。我本来是想学医的，我父亲也不说不答应，他就不吱声，不让我去，我就没法子了。当时我想到美国念书去，并不想当军人。所以我现在说笑话，我说我原来想学救人没成功，结果后来学会杀人了。”
很明显，由于张作霖的反对，张学良既未学医，也未去国外留学，而是留在国内做了一名他父亲希望他做的军人。
1919年，19岁的张学良在父亲的安排下，成为东三省讲武堂（奉天最有名的军官学校）的首届学员，这是他几十年戎马生涯的开端。
张学良本不想当军人，但一进入讲武堂，他便很快进入了角色，学习异常刻苦，成绩异常优秀。对此，他晚年的回忆曾这样记述：“我19岁在东北讲武堂念书，考试成绩最好。但有人认为是我父亲的关系，教习才给我好成绩。后来考试有严格监督，我仍得了第一。所以我在讲武堂很有名气。”
正因为在讲武堂崭露头角，张学良尚未毕业便担任了张作霖卫队营的营长，后来又担任了第3混成旅第2团团长，这虽然只是些挂名头衔，但对培养张学良的将帅意识无疑起了积极的作用。
1920年，加冠之年的张学良从东三省讲武堂毕业，张作霖立即任命他担任了东三省巡阅使署卫队旅旅长。张学良将自己在讲武堂的战术教官郭松龄调来自己身边担任参谋长。在郭的辅佐下，张学良在卫队旅旅长的职务上干得有声有色。张作霖看在眼里，喜在心上。为了使张学良进一步经受磨练，张作霖还特意安排他与郭松龄率部参加了吉林、黑龙江等地的剿匪战斗，张学良在剿匪战斗中表现不错，屡立大功，并从此在奉军中名声鹊起。
1921年5月，张学良被任命为奉军第3混成旅旅长，郭松龄也被任命为第8混成旅旅长，成为奉军中高级军官中的新生代。郭、张二人一上任，便采取讲武堂中的一整套选兵、练兵、教兵之法，对所辖部队进行了整编和严格的军事训练，短短的几个月之内便收到了奇佳的效果，这种效果随即便在直奉战争中得到了充分的检验。