公元756年五月丁巳日，鲁炅的军队溃败，退守南阳，叛军随即包围了南阳城。太常卿张垍举荐夷陵太守虢王李巨有勇有谋，唐玄宗于是征召吴王李祗入朝担任太仆卿，任命李巨为陈留、谯郡太守、河南节度使，同时统领岭南节度使何履光、黔中节度使赵国珍、南阳节度使鲁炅的兵马。赵国珍原本是牂柯地区的夷人。戊辰日，李巨率军从蓝田出兵，直奔南阳。叛军得知这个消息后，解除包围撤走了。
令狐潮再次率领军队攻打雍丘。令狐潮和张巡原本有旧交情，两人在城下像平日一样互相慰问，令狐潮趁机劝张巡说：“天下大势已经去了，你还坚守这座危城，是想为谁效力呢？”张巡反驳道：“你平生都以忠义自我标榜，如今的所作所为，忠义又在哪里呢！”令狐潮听后羞愧不已，带兵退走了。
郭子仪、李光弼率军返回常山，史思明收集数万溃散的士兵紧随其后。郭子仪挑选骁勇的骑兵轮番向叛军挑战，过了三天，两军行至行唐县，叛军已然疲惫不堪，只好退兵。郭子仪率军乘胜追击，又在沙河一带击败了叛军。蔡希德战败，逃到洛阳后，安禄山又派他率领两万步兵、骑兵北上增援史思明，还命令牛廷玠征发范阳等郡的士兵一万多人去协助史思明，叛军兵力合计五万余人，其中同罗、曳落河部落的士兵占了五分之一。郭子仪率军抵达恒阳，史思明的军队也跟着赶到，郭子仪下令深挖壕沟、高筑营垒来坚守防御；叛军来进攻就坚守不出，叛军撤退就领兵追击，白天出兵炫耀军威，夜晚则派兵袭击敌营，让叛军得不到片刻休息。几天后，郭子仪、李光弼商议说：“叛军已经疲惫了，现在可以出兵决战。”壬午日，两军在嘉山展开大战，官军大败叛军，斩杀四万敌军，俘获一千多人。史思明从马上坠落，发髻散开、光着脚狼狈逃窜，到了傍晚，拄着折断的长枪逃回军营，之后又逃往博陵；李光弼随即率军包围博陵，官军军威大振。于是河北地区十多个郡县的守军都杀掉叛军任命的守将，献城归降。叛军从洛阳到渔阳的交通再次被切断，叛军往来的人员都只能率领轻骑偷偷过境，大多被官军俘获，叛军将士中家在渔阳的，军心无不动摇。
安禄山大为恐惧，赶忙召见高尚、严庄，斥责他们说：“你们几年来一直劝我谋反，说这是万无一失的计策。现在官军坚守潼关，我们几个月都没能攻破，北上的退路也被切断，各路官军从四面合围而来，我现在控制的地盘只剩下汴州、郑州等几个州而已，你所说的万无一失在哪里呢？从今以后你们别再来见我！”高尚、严庄吓得魂不守舍，好几天都不敢去见安禄山。田乾真从潼关前线回来，为高尚、严庄向安禄山求情说：“自古以来帝王成就大业，都会有胜有败，哪能一次行动就成功呢！现在四面八方的官军虽然数量众多，但都是新招募的乌合之众，没有经历过战阵，怎么能抵挡我们蓟北的精锐部队呢，实在不值得过分忧虑！高尚、严庄都是辅佐您成就大业的元勋，陛下您一旦和他们决裂，让手下的各位将领知道了，谁内心不会感到恐惧呢！如果上下离心离德，我私下里为陛下的安危感到担忧啊！”安禄山听后高兴地说：“阿浩，你真是最懂我的心事。”随即召见高尚、严庄，设宴畅饮，还亲自唱歌助兴，对待他们就像当初一样亲密。阿浩是田乾真的小名。
当时，天下人都认为是杨国忠骄横放纵招致了叛乱，无不对他恨之入骨。而且，安禄山起兵时还打着清君侧的旗号，王思礼秘密劝说哥舒翰，让他上奏朝廷请求诛杀杨国忠，哥舒翰没有答应。王思礼又请求率领三十名骑兵把杨国忠劫持到潼关杀掉，哥舒翰说：“如果这样做，那就是我谋反，而不是安禄山谋反了。”有人劝说杨国忠：“现在朝廷的重兵都掌握在哥舒翰手里，哥舒翰如果举兵向西进发，对您来说难道不是很危险吗！”杨国忠听后极度恐慌，于是上奏唐玄宗说：“潼关的大军虽然声势浩大，但后方却没有援军接应，万一作战失利，京城长安就岌岌可危了。请求陛下挑选三千监牧小儿在禁苑中训练，以备不时之需。”唐玄宗批准了这个请求，派剑南军将李福德等人统领这支队伍。杨国忠又招募了一万人马驻守灞上，命令自己的亲信杜乾运率领，名义上是抵御叛军，实际上是为了防备哥舒翰。哥舒翰得知此事后，也担心被杨国忠图谋加害，于是上奏请求将灞上的军队划归潼关统一指挥。六月癸未日，哥舒翰召杜乾运到潼关议事，趁机找借口将他斩杀；杨国忠心里更加恐惧。
这时，有人报告说崔乾佑在陕州的兵力不到四千人，而且都是老弱残兵，毫无防备，唐玄宗于是派遣使者催促哥舒翰出兵，收复陕州、洛阳。哥舒翰上奏说：“安禄山精通用兵之道，如今刚发动叛乱，怎么会不做防备呢！这一定是他故意摆出虚弱的军队来引诱我们。如果我们贸然出兵，正好中了他的奸计。况且叛军远道而来，利在速战速决；我们官军占据险要地形扼守关口，利在坚守防御。何况叛军残暴不仁，失去民心，兵力形势日益窘迫，内部很快就会发生变乱；到那时我们趁机出兵，就能不战而擒获叛军。我们的目标是平定叛乱取得成功，何必急于一时求成呢！现在各道征召的兵马还有很多没有集结到位，请陛下暂且等待