刘琨大军顺利拿下灵石和其身后的汾水关，至此匈奴汉国都城所在的平阳郡的大门被打开。刘琨只是命令将伤员遣回晋阳，并未做太多休整，便驱众继续南下，他的下一个目标就是霍县。灵石往南群山起伏，沟壑纵横。晋军再往南走一路山路陡峭，行军缓慢，没走出几十里路过韩信岭，刘琨亲自带领众将拜祭韩信庙。
韩信，汉初三杰之一，汉代淮阴（今江苏清江西南）人，汉初诸侯王，楚汉相争时被刘邦拜为大将，统率全军，足智多谋，辅佐刘邦破项羽，项羽战败，自刎乌江，刘邦遂成帝业。刘邦封他为齐王，汉朝建立改封楚王，后有人告他谋反，降为淮阴侯。公元前196年，北方陈豨反，与匈奴联合进犯中原，刘邦率师亲征。吕后策划在未央宫变将韩信谋杀，遣人带韩信首级送往山西代县晋见高祖，行至灵石城南高壁岭正逢高祖回师，遂令葬于岭上，随从军士每人捧土一掬即堆成墓。后来，墓前建有韩信庙，祠庙坐北朝南。
刘琨等人来到韩信庙，只见庙门上写有一副对联，上联是：“气盖世力拔山，见公束手”；下联为“歌大风思猛士，为之伤怀”。刘琨不仅暗叹，即使是‘气盖世力拔山’的项羽也会在韩信面前束手就擒；刘邦却只是在与匈奴打了败仗之后，叹一声：安得猛士兮守四方！
刘琨联想起大晋的无敌禁军。八王之乱，禁军成了重灾区。到八王之乱结束，禁军中级军官几乎损失殆尽，大晋还靠什么‘守四方’。
其实这时还有一个正在郑州的李矩，他曾是禁军的中级军官，其不仅作战勇猛。而且指挥极有章法。可是他却归附于荀藩兄弟。郑州（荥阳）离邺城并不远，甚至可以说是唇齿相依。可是在荀藩的执拗下，李矩却不能去救助刘演。
刘琨百完韩信。转身高亢的对众将说：“以项羽、韩信之勇霸天下，尚有破釜沉舟、背水一战之险。我等要有先死后生之胸怀。才可战败匈奴，规复中原！”
众将高声喊“是”。
晋兵与匈奴汉国骑兵攻守多年，国仇家恨正使得士气高昂；拓跋六修和拓跋普根首次马踏中原，也想成名立万。全军上下士气高昂，只用两日便来到霍县城下，再次向霍县发起冲击。
兰阳逃入霍县，赶紧向刘聪祈援。刘聪得报大惊，急忙加封大太子刘粲为大将军。统领各部胡族五万，驰援霍县。
刘琨命韩据领晋阳步兵在霍县城下连攻一整日，匈奴汉国这些年来一直以进攻抢掠为主，几乎没有守过城池。兰阳在城防指挥中组织混乱，张皇失措。没有半天，败像已现，兰阳又不知援军何时能到，守到天黑，便在夜色掩护下退出霍县。刘琨大军第二日一早便进驻霍县，这时普根再次请求追击兰阳。可是出其意外。刘琨却不同意。
刘琨对普根及众将说：“行军打仗，虽然为的是，攻城略地。但却以消灭敌军有生力量为核心。我军进入敌国核心地带，但却并未能歼灭汉军主力。如今形势不明，我们对于敌人的反扑力量一时把握不准。不如先占领霍县，看敌人下一步动向。”
匈奴汉国虽然只有平阳、河东两郡，但却拥有人口上二百万，即使在不用汉人作战的情况下，仍然能组织十万以上的防守力量，这使得刘琨暂时不敢轻进。
兰阳带领两万败兵退出霍县，向南没有走出五十里便遇上大将军刘粲的五万援军。刘粲对兰阳的后撤非常不满。意欲对其军法处置，将军令狐泥劝道：“大战之前先杀大将。视为不祥。何况兰阳虽然两次战败，但却保留了主力两万军士。如今更要同舟共济。与刘琨决战于霍县城下。”
刘粲看在两万骑兵的份上，要求兰阳戴罪立功，然后继续向北挺进。刘粲现在拥兵七万，决意与刘琨一决雌雄。
当普根和六修在霍县城上看到七万汉军的时候，倒吸口凉气。不禁钦佩于刘琨暂时停驻霍县的决策。如果晋军冒失追击兰阳，极有可能引起一场三万对七万的大野战。虽然晋军有一支近一万人的精锐步兵，也会凶多吉少。
刘琨在霍县城上望见汉国的旗帜，回头对众将说：“我目测汉国军士或许有五万多人，但是我军并不害怕。如今山地作战，不同以往，步兵优势明显，山地作战精锐的步兵对骑兵，可达到以一敌三，我军并不占下风。”
温峤接着说道：“幸好我军抢在刘粲到来之前夺下霍县，依靠城堡优势我军可进可退，敌人驻守霍县城下，我军可转攻为守，先依托城堡，大量消灭敌人之后，趁其士气低沉时再出城作战。”
刘琨说道：“此正合我意。”
只是六修、普根有些疑惑，便问：“我军是来进攻的，怎么糊里糊涂成了防守一方？”
刘琨笑而不语。
在接下来的战斗中，步兵在守城方面起到了决定性作用，刘粲连攻两日，也未能攻下霍县。
刘琨通过查勘地形，发现了敌人的一个命门。刘琨召集众将，指着地图对众将说：“刘粲七万人驻扎在黄峨山下，而只有一条不足十米宽的小溪作为唯一的水源，我军如若控制水源上游，敌人势必气馁，大营不守”。然后命令温峤带三千步兵去上游截断水源。
刘粲仗着兵多，在霍县城下信心满满的攻击了几日，没想到这日一早起来，发现营中有异样的骚动，便命军士去问。军士汇报，供给兵马饮水的营前的小溪突然干涸了。刘粲大惊，莫