1936年12月12日发生西安事变。蒋介石不得不顺应民意，与中国共产党合作抗日。郭汝瑰见为国效力的时机已到，经陆大同学推荐，到陈诚所属的第十四师任参谋长，并到蒋介石筹划过对日作战的“庐山军官集训团”受训。 1937年7月7日卢沟桥事变，日军大举进犯中国，抗日战争全面爆发。郭汝瑰所在的第十四师，奉命参加华北的抗战。中途因日军进攻上海，又奉命回师参加淞沪会战。这时的蒋介石，为保卫首都南京，对淞沪会战还是下了很大的决心。不仅调集和组成了左、中、右三个方面军的近百万主力部队，与侵犯上海地区的日军坚决对抗；还自任司令长官，以激励官兵的斗志。第十四师的两个旅奉命在南北塘口一线作战，该师所属四十二旅旅长心存胆怯，师长霍揆彰怕其误事，让郭汝瑰与其交换职务，去代理四十二旅旅长。郭汝瑰在数十架敌机狂轰滥炸下，率部坚守阵地，每到下级有人叫喊“顶不住”时，就冲出掩蔽部督战。并在战局危急关头，留下遗书，亲临斗志发生动摇的八十四团指挥作战。该旅与日军反复冲杀七天七夜，八千多人只剩下二千多人，阵地仍未丢失。从此，被一些同僚视为书生的郭汝瑰，就成为全军著名的战将。不久，陈诚任命郭为五十四军参谋长。

如果说在淞沪战役中，郭汝瑰还是以战斗中的勇敢机智，受到陈诚的器重，而到武汉会战时，陈诚就以善于战役谋划的眼光看待郭汝瑰了。起初，蒋介石和陈诚并没有接受淞沪战役，特别是南京保卫战失败的教训，还是根据德国顾问的建议，在武汉三镇构筑环形工事，准备死守武汉。当陈诚召开作战会议，宣布已拟定好的作战方案时，郭汝瑰斗胆直言:“此方案是步南京保卫战的后尘。这样的环形阵地，有一点被突破，必将全军崩溃，有下河吃水的危险。”他建议尽量利用山地，在武汉的外围作战，进行积极防御。到会人员对郭汝瑰的意见纷纷表示赞同，陈诚也点头称是，并指定郭汝瑰等重新部署武汉战役的作战计划。结果，武汉战役各军均因实施外围作战,未受重大损失。郭汝瑰也因此受到陈诚的特别青睐，提升他为第二十集团军的参谋长，并且由陈诚推荐蒋介石批准郭汝瑰为暂五师师长。他率部参加了长沙第三次会战，并以弱胜强，受到战区司令长官薛岳的嘉奖。

置身上层目睹了国民党的腐败黑暗

在抗日战争中，郭汝瑰从陆军大学的一名普通教官，逐渐进入国民党政权的上层。继受到陈诚的赏识，得以担任暂五师师长以后他又因在长沙会战中善于指挥，受到薛岳的器重，要他兼任九战区军官训练团校官大队的大队长。旋又被兼任副院长的陈诚，调到培养“全能将校”的国际研究院任研究委员；并被自任团长的蒋介石，任命为“中央训练团”副大队长，成为蒋介石心目中的“军界精英”。1944年 3月，又以驻英大使馆副武官的名义，被派赴英国考察国防机构的组织情况。1945年2月归国后，已经升任军政部长的陈诚，在报请蒋介石批准后，即任命郭汝瑰为掌管全国各军师编制、装备的军务署副署长、署长，兼国防研究院副院长。并以军政部代表的身份，随陆军总司令何应钦，前往芷江和南京，参加接受侵华日军投降的仪式。