1959年6月29日，彭孟缉再次担任“参谋本部”参谋总长，并晋任陆军一级上将。1960年兼任“总政治部联合作战计划委员会”主任委员，并当选为国民党中央常务委员，积极精练三军，提高士气。1961年4月4日，彭孟缉下达极机密指示，对金门8吋巨炮向大陆发射核武进行研究。

1963年11月22日当选为国民党第九届中央常务委员。1964年1月21日，湖口装甲兵基地发生一宗严重违反军纪事件，即一般通称的“湖口兵变”，所谓的湖口兵变纯粹是赵志华个人的牢骚事件，彭孟缉却主张严惩罪犯与肇事有关的军官，自装甲司令部郭东阳以降到装甲参谋长金仲纯，都受重惩，甚至连蒋纬国都牵连在内，背了一辈子的“黑锅”。

1965年6月27日调任“总统府”参军长，并奉颁青天白日勋章。1966年10月，彭孟缉退役任“中华民国”驻泰国“大使”。1969年2月改任“中华民国”驻日本“大使”；4月9日当选为国民党第十届中央委员。1972年9月中华人民共和国和日本建立外交关系，彭孟缉调回台湾，11月回役任“总统府”战略顾问委员会一级上将委员。

1973年3月16日，台湾“中华民国羽球协会”制定会章，成立理监事会，推选彭孟缉为会长。1974年曾在台湾大学历史研究所博士班就读，到课守时，三年不辍，用心学问，极受赞誉。1975年2月调任“总统府”一级上将战略顾问。1976年11月当选为国民党第十一届中央委员。

1981年4月3日当选为国民党第十二届中央委员，为赎以往的罪恶，彭孟缉晚年信佛信的相当虔诚，对往事，他从不为自己辩解。1988年7月12日被聘为国民党第十三届中央评议委员，且为评议委员会主席团成员。1993年8月被聘为国民党第十四届中央评议委员，并仍当选为中央评议委员会主席团主席。1997年8月继续当选为国民党第十五届中央评议委员，并再次当选中央评议委员会主席团主席。

1997年12月19日，彭孟缉因病逝世，终年九十岁，20日在台北荣民总医院怀远堂举行公祭，“总统”李登辉特颁“旌忠状”与“勋猷懋着”挽额，以“表彰其对国家的贡献”，“行政院”院长萧万长亲临致祭，葬于五指山国军示范公墓特勋区第八号墓穴。

彭孟缉生平对历史素养颇深，他对蒋氏父子忠心耿耿，在台湾实行铁碗统治，为蒋介石经营台湾打下坚实基础，因而官运亨通，彭孟缉手段毒辣，在“二二八事件”中的屠夫做法至今仍让台湾人发指，他一生的主要经历，以情治发迹，而后成为军令系统首长，显示他的“政治性格”颇有过人之处，之所以能久居高位而持续不下，主要与他“先意承旨、任谤任怨、服从性高”的家臣性格有关。