安禄山去称帝了，这却让大唐王朝稍有喘息之机，李隆基立即抽调河西、陇右、朔方三大节镇的兵马，特进、河源军军使王思礼，横塞军军使白孝德等人，都领所部兵马五万余人及新招募的青壮增援潼关，又以严挺之之子武为节度判官。
洛阳开封还在的时候，江南、淮南的粮食主要从汴渠进入黄河，而后转渭水，再进入漕渠运达长安。可安禄山攻占洛阳、开封以后，江南淮南的粮食便难以从运河运达到长安，只得走长江、汉水、丹水进入南阳盆地，而后在商洛转陆路经蓝田关进入关中。南阳的战略价值立刻凸显了出来，而且南阳直接与洛阳相邻，李隆基便以云麾将军、讨击副使鲁炅为南阳太守，以防守南阳。又以右羽林大将军王承业为太原尹，以守河东。
天下之人，已经由最初的惊愕反应过来了。安禄山被挡在潼关难进一步，而河南道、河北道都开始抗击安禄山的叛军。
在河南，安禄山派遣张通儒之弟张通晤为睢阳太守，与陈留长史杨朝宗一起率领千余人向东掠地，诸郡官员或降或逃，唯东平太守嗣吴王李祗、济南太守李随起兵抗击。于是各郡县官吏民众皆借吴王李祗的名义起兵。单父县县尉贾贲率领官吏民众向南攻打睢阳，阵斩叛将张通晤，并夺安禄山大将李庭望军心，遂不敢东进。张巡也起兵真源，并与贾贲合兵雍丘，汴渠经雍丘城下，为安禄山南下必经之地。令狐潮带领叛军来攻，贾贲战死。张巡力战击退之，由是兼领贾贲诸部，遂号为吴王先锋使。
在河北北部，彦臬卿开始谋划起兵反抗安禄山。身为常山太守的颜臬卿乃颜思鲁之后，自不会跟着安禄山起兵叛乱。一天，他指着身上穿的官服对常山长史袁履谦说道：“吾等何为着次衣冠。”袁履谦知道他的心思，便一起谋划起兵事宜。几天后，参军参军冯虔、前真定县令贾深、藁城县尉崔安石、常山人翟万德、内丘县丞张通幽等人都参预了进来。
在河北南部，彦臬卿的从弟颜真卿也在平原招募士兵，以抗击安禄山，平原百姓踊跃参军，旬日便募得万余人。成军之日，颜真卿道：“安禄山深受天恩，却不尽忠报国，而为贼寇，窃据东京，祸患天下。大丈夫以忠义为立身之本，况吾等累世沐浴国恩，当此之时，唯洒尽热血，肝脑涂地，上报国恩，下安百姓。”说罢，三军将士无不高呼讨贼。
恰逢安禄山使心腹段子光执东京留使李憕、御史中丞卢奕、都畿道采访使兼判官蒋清首级到河北宣示军威，被颜真卿骗进城中擒于马下，而后腰斩示众。颜真卿又用蒲草扎作人身，将三人的头颅安于其上，装进棺椁中厚葬，而后带领全城军民为之祭奠，并接受大家的吊唁，为之守灵。
与此同时，清池县尉贾载、和盐山县尉河穆宁一起杀了安禄山派来的上司景城太守刘道玄，获得盔甲器仗共五十多船，而后逮捕并斩杀了严庄的宗族。同日他们将刘道玄的头颅送到平原。一时之间，颜真卿声势大盛，一些忠义之士或单枪匹马，或成群结队来投，共同推举颜真卿为盟主。而后，颜真卿便写信给颜臬卿让他一同起兵，以求截断安禄山北归范阳之路。
颜臬卿接到从弟的信后，立刻加急了起兵的议程，开始谋划夺取井陉关。井陉关地处太行山上，是连接河东和河北的重要通道，恰巧在平原境内，现在由安禄山的心腹李钦凑镇守，夺取井陉关便能获得河东的支援。颜臬卿邀请李钦凑来平原做客，又派遣袁履谦、冯虔带美酒佳人往井径关劳军，轻而易举夺取了关隘。
而后，安禄山派遣高邈到范阳征兵而还，又有何千年自东京北上范阳，颜臬卿趁其不备，一并擒了。不过何千年想戴罪立功，恰逢张献诚围攻饶阳，何千年道：“大人今欲保天下，既善其始，当慎其终。郡中应募之兵，不过乌合之众，殊难野战，宜深沟高垒，以逸待劳。待河东朔方兵至，而后齐力并进，以断叛贼归路，大事可期也。而今宜使间谍于饶阳造声势曰‘河东李光弼引步骑一万出井陉’，献诚必解围遁去。此亦一奇也。”