这一次平定河北，光是投降、归附、收编的各路军队，差不多有数十万了。这些军队当然不可能完全整编为隋军，否则其臃肿的士兵数量便会直接把隋军后勤困死。但这些部队也有相当一部分是精锐，若是将他们解散了，实在可惜。
黄明远麾下的军队，原本在丰州时有着较为系统的军制。但之后黄明远东征辽东、南平河北，麾下部队来源广泛，各部编制相对混乱。而且因为之前多次战功以加荣衔为主，导致很多人官职相同，品级相差巨大。有四品的虎贲郎将，也有二品的虎贲郎将。有统帅数万人的虎贲郎将，也有统帅千人的虎贲郎将。
而且这些虎贲郎将、虎牙郎将有的隶属于中央，有的隶属于郡县，还有的隶属于行台，彼此管辖也无比混乱。
军制混乱，自然影响军队的战斗力。
黄明远自然不能容忍这种混乱的管理模式，便准备重新整编各军。
当然，这是种僭越的行为，说黄明远心怀不轨也可以。但黄明远既然敢在文官上大规模调换，军制上更不在乎。
这个时代的地方权力，仍是巨大的，要不然也不会称之为一地诸侯，常有动乱发生。到了明清，一府之地的面积几乎是唐朝好几个州的面积总和，但从未出现过知府叛乱的情况，便是如此。
黄明远于是以丰州军制为蓝本，重编军制。
丰州军制，十人为一伙，十伙为一队，骑兵两队一旅，步兵五队一旅，两旅为一团，车骑府辖两骑团，两步团，骠骑府辖三骑团，三步团。算是补充兵，一个车骑府有三千四百多人，而一个骠骑府更是五千一百多人。
但这只是因为黄明远当时为了增加兵力设的，各部相对别的地方人数都较多。后来车骑府、骠骑府改鹰扬府，基本上一团便有一鹰扬府的兵力。
这一次，黄明远仍以十人为一伙，设火长；
四伙为一队，约四十余人，设正副队正；
三队为一旅，约一百三十人，设正副旅帅；
三旅为一团，约四百人，设正副校尉；
三团为一营，约一千两百五十人，设鹰扬郎将、鹰击郎将、营参军各一名；
营以上设军，辖三步营，一弓弩营，一骑营，一斥候旅，一工匠旅，一警备旅，加上军医、后勤人员、文职人员等，约六千八百人，设虎贲郎将、虎牙郎将、师参军各一名；
军以上为卫，每卫辖四军，加上卫属军校，卫属警卫，军医院，文工团，以及其他辅助人员，接近三万人，设总管一名，副总管两名，长史、司马、卫监军各一名，诸曹参军事、行参军等若干。
在黄明远的设计中，未来主要的军事单位还是军，六七千人的编制，有一千多骑兵，进可功，退可守，机动灵活，方便调动。而一卫足足有三万人，若是再加上辅兵和后勤队伍，五万人也不止，一旦出动，则相当于大兵团作战了。