建武元年(公元25年)十月，刘秀定都洛阳。此时的长安，极度混乱，赤眉大军拥立傀儡小皇帝刘盆子建立了建世政权，拥兵三十万众，进逼关中，更始遣诸将与赤眉大军交战，均大败而归，死伤甚重，三辅震动！不久，更始请降，获封为长沙王，后为赤眉缢杀。刘秀闻绿林、赤眉两大起义军发生了火并，也派邓禹西入关中，以观时变，此间，三辅大饥，人相食，城郭皆空，白骨蔽野，赤眉数十万大军拥在长安，不日粮草即告匮乏，只得撤出长安西走陇右以补充粮草，结果为割据陇右的隗嚣所败，恰是严冬，“逢大雪，坑谷皆满，士多冻死”，赤眉数十万大军只得东归再次折回长安，并击败了进驻那里的邓禹军，迫使其退出长安，但此时的赤眉军也遭受了极大的消耗。
邓禹与赤眉数次交战，并一度占据了长安，但最终又为赤眉所败，不得不退出，见邓禹的西征军不利，刘秀遣冯异前往关中，代替邓禹指挥西征大军，冯异到后，邓禹联合冯异部与赤眉再战，结果大败，冯异只率少数人弃马步行才得脱身归营，而邓禹则败走宜阳，冯异收拢归散的部下，坚壁清野，待机再战。
不久，冯异军与赤眉再次大战于崤底(今河南渑池西南)，双方均倾众而出，一直大战到太阳偏西，在此之前，冯异提前选精壮之士换上与赤眉军一样的装束，伏于道路两侧，此时见双方皆已力衰，伏兵杀出，赤眉大军惊溃大败，被冯异迫降者八万余人。
崤底之战，使得赤眉军再遭重创，加之粮草已尽，不得已再次转向东南方，力图补充粮草和人马，摆脱困境，早在崤底之战前，刘秀鉴于关中大饥，人相食而隗嚣的重兵又陈于西方的局面，料赤眉必向东或南方向运动，遂遣破奸将军侯进等屯新安(今河南渑池东)，建威大将军耿弇屯宜阳(今河南宜阳西)，在东、南两个方向堵截赤眉东归或南下之路。
不久，刘秀得知冯异在崤底大破赤眉，而赤眉军主力十多万众南下走宜阳，刘秀亲自引大军驰援宜阳一线，与耿弇等人会合，共同阻击赤眉南下，刘秀亲率六军，于宜阳前线将大军摆开阵势，大司马吴汉精兵于最前，中军在其后，骁骑兵和带甲武士分陈于左右两侧。
赤眉大军兵士疲敝，粮草缺乏，士气低落到了极点，自崤底失败后一路从关中折向南，至宜阳，正迎面撞上刘秀布下的重兵，兵困粮乏的赤眉军根本无力再战，而后面又有冯异的大军，再回关中已无可能，在已陷入绝境的情况下，尚有十几万兵马的赤眉大军无奈在宜阳被迫请降，并向刘秀呈上了得自更始帝之处传国玉玺和更始的七尺宝剑。
赤眉降后，上缴的兵器和甲胄堆放在宜阳的城西，与旁边的熊耳山(山名，因似熊耳而得名，在宜阳以东)一样高，至此，起自新莽天凤五年，纵横山东十余年的赤眉军被刘秀扼杀在了血泊之中。
在与赤眉军在关中激战的同时，刘秀在关东(即函谷关以东)一线亦派遣以虎牙将军盖延为首的诸将对梁王刘永进行了东征。刘永，西汉梁孝王刘武的八世孙，其家世代为梁王，据梁地，故在梁地素有威名，声望极大，王莽摄政之时，其父梁王刘立因结连平帝外家卫氏，被王莽所杀，更始帝立，刘永复被册封为梁王，据旧地。
后更始政乱，刘永遂据国起兵，以其弟刘防为辅国大将军，招揽沛人周建等豪杰为其将帅，攻下齐阴、山阴、沛、楚、淮阳、汝南等二十八城，并遣使拜董宪为翼汉大将军(后又封海西王)、张歩辅汉大将军(后又封齐王)，与共连兵，遂专据东方，更始败亡之后，刘永自称天子，在睢阳登基。
对于刘秀来说，近在东方睢阳的刘永是对其威胁最大的军事集团，刘永所在的睢阳距洛阳近在咫尺，时刻威胁着京师洛阳的安全，自建武二年始，刘秀先后派虎牙将军盖延和建威大将军耿弇分别平定了割据睢阳的刘永和青州的张歩，特别是耿弇与齐王张歩的战斗，极为惨烈，“城中沟堑皆满，八九十里僵尸相属”，此间，刘秀还亲征海西王董宪，大获全胜，到建武六年初，关东基本上为刘秀所定。
