1827年1月，罗恩被调任战争部部员，负责军事改革。2月，罗恩在战争部会议上提出军事改革方案。
首先是建立独立的征兵系统，各级军官彻底和征兵剥离，不再拥有征兵权及费用。
过去上尉及以上级别的军官都是自主征兵，有一笔数额不菲的征兵费用，这不仅导致贪腐严重，更导致军事主官任人唯亲，山头主义严重。在这次改革中，罗恩从军校募集了一批成绩优秀的非贵族毕业生组建了征兵处，全面接手征兵。这引起了一些基层军官的反弹，因为他们工资并不高，就靠着这笔征兵费用捞钱。
军官们没等到路德维希解决此前的问题，反而先看到冲着自己来的改革，气不打一处来，又准备纠合闹事，还把罗恩等非贵族子弟军官称作“路德维希党人”。
于是罗恩又顺水推舟的给出了军官薪资和晋升方案，并把此前受处罚被迫离开军队的军官们一并纳入。
原则上，尉官工资提升30~50，校官工资提升10~30。实际上，由于过去征兵效率的低下，浪费的资金远不止这次给军官增加的薪酬；同时，过去副职及参谋其实贪不了军费，反而更支持目前的改革，对主官的位置形成了竞争，让主官不得不接受改革。
但伴随加薪的是对军官能力要求提高。
尉级军官每半年进行一次军事素质考核，校级军官每年进行一次军事理论、军事素质双考。双考不过关的不得担任主官，军事理论考核不过关的不得担任参谋，军事素质考核不过关的不得担任副职。此前那些因为各种处罚离开军队的军事贵族，也一并被纳入考核范畴，考核过关的可以重回军队，恢复名誉，不过关的也就对不起了。
虽然对之前的事件给出了一个正面解决的方案，但这让很多一进入军队就担任军官的贵族子弟叫苦不迭，他们大多数军事素质还马马虎虎，军事理论就很差，甚至不乏个别半文盲混到校级军官的。然而这种考核制相对公平，配合加薪政策，还是让想纠集闹事的声量减弱了不少。毕竟加薪是事实，考核不过关就是自己丢人，有时间闹事不如赶紧去复习功课。
不过，罗恩为了稳固军心还是给了一条出路：军事理论考核不过关的校官，可以带着军衔重新回军校学习，依然是每年与同级军官一起参与考核，考核过关的可以回军队，换支部队担任原级别副职或参谋，重新等待提拔，三年都不过关的，强制降为尉官或者退伍。
为了安抚这些被压制成低级军官的军事容克们，路德维希专门别设置了“骑士铁十字勋章”，只颁发给那些在第一线与敌人直接交火甚至肉搏的军官，其中绝大多数是尉官，由王储授勋。佩戴各级“骑士铁十字勋章”的军官，接受检阅在第一排，在军中受礼遇程度等同于一定级别的高级军官；勋章可以继承，并在勋章上加饰银星以显示传承代数，佩戴时，远比肩章醒目，普鲁士军事容克子弟甚至出现了宁愿不晋升为校官也要去获得这枚勋章的风气。为了让军事贵族甘心情愿成炮灰，路德维希党人也真是煞费苦心。
这一套胡萝卜加大棒的手段，逐渐引起了普鲁士军队结构的变化。军事容克由原来集中在将校级军官变为集中在尉级军官。将校级军官是军事理论及素质双优的精英，贵族子弟因为基数远小于资本家子弟，经过一系列考核提拔后，人数再也不占优势。
不过，经过这种结构变化，普鲁士军队出现所谓“战士不怕死，军官不贪财，将领不恋权”的局面，战斗力大幅度提升。
在普鲁士进行军事改革的同时，莱茵也在推进自己的军队建设。
此时鲁尔军已经有近两万军队。与普鲁士不同，莱茵军的前身是鲁尔军，起家就是资本家和平民子弟，在结构和体制上没什么历史包袱。但这些平民子弟也存在缺乏荣誉感，过度依赖武器的毛病。尤其是奥斯瓦尔德离开后，普鲁士传统的军事荣誉感荡然无存。
比起克劳塞维茨和罗恩这种狂热分子，谢绾虽说不是军事理论家，还是懂得战场上精神力量的重要。
莱茵军也设置带有宗教性质的“银十字勋章”以表彰战士、低阶军官——莱茵的“银十字勋章”与普鲁士的“骑士铁十字勋章”的属性、功能、目的都非常相似，几乎在同一时间出现，很难说谢绾和罗恩是谁抄谁的。但谢绾手里可没有那么多需要荣誉感的军事容克，这也导致“银十字勋章”的效果远不及“骑士铁十字勋章”。
所以，为了加强军队荣誉感和作战意志，谢绾不得不在军中贯彻以“人权神授，捍卫自由”为主基调的统一思想，并从基民盟中选拔优秀成员经过军事训练后，下放到连队，由于基民盟所有成员都是基督徒，也就以牧师名义随军，主持队伍思想工作。
当然比起军队的精神世界，谢绾更重视军队装备和作战效率。他作为一个无神论者，其实是不太相信在没有武器和防具的情况下，军队有什么战斗力的。
经过几年的装备制造，除后勤和行政人员外，约有一万五千前线人员都换装了最新式的“谢-u-25”型步枪，高锰钢头盔以及包裹三块高锰钢板护住前胸的防弹衣。在这个时代，这支部队基本就叫“武装到了牙齿”。不过期间，克虏伯先生去世也耽误了一些时间，还让谢绾悲哀了好一阵儿。在克虏伯先生葬礼后，谢绾扶持自己的养子阿尔弗雷德·克虏