刘秀怔了很久，终于下定了决心，不但不追究杀侄之事，还晋封祭遵为将军，统管全军上下的纪律。他还特地提醒手下那群剽悍的将领：“从今以后，你们凡事都要守规矩了，可要小心祭遵，他连我家的人都敢杀，更不会对大家客气。各位还是小心些好。”将领们从此对祭遵畏如虎蝎，祭遵啥都还没干，整支大军就肃然严整起来。
军队一路前行，势头越来越大。经过二十多天的围城，邯郸终于被攻破，在混战中，自称刘子舆的王郎被大将军王霸杀死。
进入邯郸后，刘秀搜出了许多书简，其中有相当一部分，是投靠之心不诚的部下暗中与王郎来往的信件。眼看行迹败露，骑墙派们忍不住心里打鼓。刘秀将将领都召集起来，将所有的信件不开封便当众烧毁。他笑着解释说：“让大家都睡个好觉。”从此就将这事丢到一边。
消灭王郎、刘林进入邯郸，刘秀手里已经掌握了比更始帝刘玄更大的地盘、更多的兵马，但是他仍然向刘玄定期汇报工作，并且在攻下邯郸后，接受了刘玄册封的萧王。他的部下们看见主公仍然安心地为玄汉王朝当牛做马，都忍不住了：他不想当皇帝，我们还想做开国功臣呢。于是，他们公推刘秀从小一起长大的玩伴朱佑去劝说。朱佑对刘秀说：“刘玄根本就不配做皇帝，主公您才是真正有帝王之相的人，何况早有预言天命所归，您不必再耽搁，赶紧称帝吧。”刘秀还没等朱佑说完，就笑着吓唬他：“再说下去，就叫祭遵将军，把你关押起来。”朱佑吓得魂飞天外，赶紧闭嘴。
不久，将军耿彪来到邯郸温明殿见刘秀，对他说：“王莽之败，是因为政令苛刻，如今刘玄政府尚未平定天下，苛刻无能便已经远超王莽，民怨沸腾，歌谣都唱：灶下养，中郎将，烂羊胃，骑都尉；烂羊头，关内侯。照此下去，玄汉灭亡也指日可待。而主公所到之处，声名卓着。如今您要得天下，只消发布一道榜文，就能得到民心归附。如果您再不起事，玄汉政府失尽民心之后，刘家天下还能再振兴吗？”
刘秀不出声。虎牙将军铫期在殿外听得心急，不等通报就跑了进去，附和耿彪，要求刘秀赶快拿定主意。刘秀被部下急不可耐的表情逗得哈哈大笑。从此，刘秀正式与刘玄决裂。但是他仍然不愿称帝。
正式割据一方的刘秀，河北是他的重要势力范围，因此他更进一步地讨伐河北境内的其他势力，并且很快将主要的铜马、高湖、重连收服，并且封他们的首领为王侯。
降人们都害怕刘秀日后加害自己，人心惶恐不安，刘秀明白降部的心境，于是不带任何护卫，单骑巡视降部军营。降人对刘秀感激涕零，纷纷表示说：“萧王推赤心置人腹中，安得不投死（以死相报）乎？”自此大家都对刘秀心悦诚服。刘秀将他们分配到各个军营中，人数达数十万。这下大大加强了刘秀的军事实力。
刘秀重整军队，再次势如破竹地攻下了很多城池。一路上，将领们轮着班儿地劝他做皇帝。将军耿纯对刘秀说：“人们抛开亲人和家乡，跟从大王出生入死，本来就是想攀龙附凤，实现封官拜爵的愿望，现在大王迟疑拖延，违背大家的心愿。我担心众人一旦对此失望，就会产生离去的想法。而人员一散，就难以再召集了。”刘秀由此相信了将领们要他当皇帝是出于真心实意，而且是出于个人利益，并非虚让。于是表示说：“我会考虑这个问题。”
来到棘城时，刘秀听到了更多消息：平陵方望立西汉废帝刘婴重新登基，不久被李松杀掉；蜀郡公孙述也自立为皇帝。这些消息令刘秀很是感叹，对冯异叹道：“他们怎么也一个个地都想当皇帝呢？”冯异趁机劝说：“他们怎么能比得上你？何况李松、公孙述都不姓刘，要想保住汉家宗庙，眼下只能靠您了。”
正当此时，有个名叫强华的儒生从关中来求见刘秀。强华将一本图谶《赤伏符》送给刘秀，上面第一页便写着：“刘秀发兵捕不道，四夷云集龙斗野，四七之际火为主。”“四七”是二十八，从公元前206年刘邦称帝至公元22年刘秀起兵是228年；火，指汉朝，按阴阳五行的说法汉朝属火德。这表明，刘秀乃“受命天子”，要再不为天当子，那不仅违背群望，也要违背天意了。借着这本谶文的东风，众将再一次集体请愿，于是刘秀终于在公元25年6月，在河北柏乡登基为帝。
就在刘秀称帝的当年，郭圣通为他生下了长子刘强。当上父亲这一年，刘秀已经32岁了。
坐胜赤眉力平割据
光武帝刘秀即位，却未定国都，定都何地呢？当时人们心目中的重心当然是长安，但长安不可能在短期内夺到手，刘秀在河内郡徘徊一月有余，最后确定了洛阳。
刘秀首先派兵占据了五社津（在今河南巩县北）等要塞，以防荥阳以东的割据势力前来争夺，然后下令包围洛阳。当初刘玄去长安时留李轶、朱鲔守洛阳，这两个人都曾劝刘玄杀掉刘演，是光武帝的仇人。李轶愿归降，刘秀说，他为人诡诈，反复无常，把李轶的信交给太守、郡尉一级官吏传阅，说对这种人要引起警惕。消息很快被朱鲔知道了，他觉得李轶的行为无疑是要出卖他，于是就派人刺杀了李轶。朱鲔刺杀李轶，引起洛阳军中的混乱。刘秀一箭双雕，既分化瓦解了敌军，又借刀除掉了仇人。
当洛阳被包围以后，刘秀派廷尉岑彭劝朱鲔投降，岑彭原是朱鲔的部下。朱鲔在城上回答说：“我知道自己的罪过太深，不敢投降。”刘秀对岑彭说：“干大事的人不计较小的怨恨。朱鲔要是现在投降，可以保住官爵，怎么会杀他的头呢？我对着面前的黄河发誓，绝不食言！”岑彭又去转达光武帝的话，朱鲔不相信，从城上放下一条绳索，对岑彭说：“你的话当真，就顺着绳索上来。”岑彭抓过绳子就上去了。朱鲔见无欺诈，就答应了投降。朱鲔把自己捆起来，要岑彭陪他去向刘秀请罪。刘秀见了朱鲔亲手给他解了绳子，要岑彭连夜把他送回洛阳。第二天一早，洛阳的守军就大开城门，全部投降。刘秀任命朱鲔为平狄将军，并封他为扶沟侯。
刘秀大军进城，定都洛阳。刘秀严禁军队进城后暴横抢掠。将军萧广违犯军纪，纵兵横暴，被处以死刑，于是洛阳很快安定下来。洛阳史称“东都”，刘秀开创的汉王朝，从此被称为“东汉”。
终于定下了都城，刘秀从此才算是安下了家。安家后，刘秀做的第一件事，就是派侍中傅俊前往新野迎接阴丽华。面对结发之妻和继娶之妻，刘秀左右为难——如果有得选择，他只愿意让阴丽华做皇后，可是郭圣通与自己也有夫妻情谊，而且她不但有儿子，背后还有舅父刘扬的十万大军。困窘之下，刘秀只得选择当蜗牛，先把她们都封为仅次于皇后的“贵人”，封后之事暂缓。
刘秀成事，或多或少、或明或暗地利用了赤眉起义军，即位后，二者从合作者变成敌人。赤眉军毕竟是一帮流寇，没有战略眼光，因而占了一城，吃光以后，即放弃再迁往别的地方。在流动过程中一路受到追击阻截，损失惨重。
建武三年（公元27）正月，赤眉军行至宜阳（在今河南西部、洛河中游），业已疲惫不堪，突然发现刘秀亲率大军早已等在那里，一时不知所措，就投降了，把在长安得到的传国玉玺也交给了刘秀。这时的赤眉军尚有十余万人，兵甲器械堆放在宜阳城西，高与山齐。刘秀下令给饥饿的投降士兵发放食物，第二天又把他们集合起来，排列在洛水岸边，让其首领观看，并对樊崇等人说：“是不是对投降后悔呀？现在放你们各回军营，指挥你们的军队，和我决个胜负。我不想强迫你们投降。”徐宣等人叩头说：“我们出了长安，君臣就商量归降听命，只是老百姓愚昧无知，不能事先告诉他们。现在能够投降，就像走出虎口，回到慈母的怀抱，诚心诚意地欢喜，一点也不后悔。”刘秀不无快意又不无蔑视地说：“你算是钝刀中的快刀、庸人中的能人了。”刘秀把樊崇等赤眉军将领及其妻子安排在洛阳居住，给了他们田宅。赤眉军所拥立的小皇帝刘盆子是皇族中的人，刘秀让他在叔父刘良的赵王府中当了个郎中（管理车马门户并内充侍卫的小官）。
赤眉军平定了，刘秀仍然面临着一个群雄割据、山头林立的局面：农民起义此起彼伏，而且经过两百多年的繁衍，刘邦的后代布满天下，在新莽乱世、“天下咸思汉德”的潮流中，凡是有些实力的，哪个不想继承他们祖宗的“大业”？因此力图争夺皇帝宝座或打算割据一方称王称霸的，大有人在。刘秀用了十几年的时间才基本除掉了这些对手，取得了当时所谓“天下”的大致统一。
柔道治国光武中兴
在总结前朝失政的基础上，光武帝刘秀确立了一套新的治国方略，其核心是好儒任文、以柔治国。
早在征战的时候，刘秀就认识到儒学的重要性，所以“未及下车，先访儒雅”。他想方设法把一些着名儒学人物拉到自己的身边，或任以官职，或冠以衔号。这样他身边很快就集中了如范升、陈元、郑兴、杜林、卫宏、刘昆、桓荣等一大批当时的着名学者。刘秀对他们以礼相待，或听取他们的策谋，或利用他们的名望和学识从心理上威服僚属，抑制他们居功自傲、自以为无所不能的情绪。
刘秀倡导儒学，不言兵事，为的是筹划着改造他的官吏队伍，以适应由取天下向守天下转变的这一根本需要。他本来的官吏队伍，多是在战争中凭军功提拔起来的，这批人善于斩将屠城，但也喜功放纵，对于治理地方、安集百姓均不相适宜。即使他们有些不服领导、不听使唤，甚或在某种程度上违背法纪，刘秀也不便对他们有过于严格的要求。随着战火的平息和儒学的活跃，刘秀逐渐改变了官吏队伍的素质和结构，用文吏职取代功臣，功臣们交出手中的权力，离开官位，各自回到家中养尊处优。
为防止外戚干政的问题再次出现，刘秀规定：凡是后族、宫戚，一律不得封侯参政，并对其进行了严密的防范。公元33年，刘秀想封外戚阴兴，阴兴极力推让，认为“家贵已极，不可复加”。刘秀对他这一举动深表赞许。就这样，刘秀既不愿外戚权势增长，又有意鼓励他们谦退，所以光武年间，外戚都没有很大的权势。
为了加强皇权，光武帝从建立东汉王朝起，就不断加强对官吏的法律监督，强化专制主义中央集权制度。如东汉时期的三公，名义上司徒掌民政，司空掌水土工程，太尉掌军事，但实际上，三公没有实际权力。一方面，三公之下有九卿，分掌庶政；另一方面，军国大事、典要机密、刑政诛赏的权力，已转归尚书，三公权力得到了极大的削弱，加强了中央集权。
刘秀深知治理国家首先必须有贤明的人才，他沿用了西汉的察举征辟制度，颁布了“四科取士”的诏书。“四科”是选择官吏的德才标准：一是品德高尚，志节清白；二是有知识，是通经的儒士；三是熟悉法令，能够熟练地依法办事；四是有魄力才干，遇事不会犹豫，能独当一面。通过这种制度选拔上来一批官吏，但刘秀对他们要求非常严格，不仅要求他们严守法度、勤于职守，还经常亲自对他们进行考核，选优汰劣，对违法官吏，严加处罚，就是对尚书近臣，只要有过错，也要进行处罚。
正是在刘秀的这种政策下，东汉开国初年出现了一批忠正耿直的官员。