1988年1月蒋经国逝世，李登辉上台后想找一个政商关系雄厚又好控制的人，以巩固自己的权位，于是李登辉看上了连战。李先任命连战为「外交部长」；1990年6月又任命连为「台湾省主席」；1993年2月李登辉任命连战为「行政院长」。

将李登辉清除出党

1996年，李登辉提名连战做自己的「副总统候选人」，一方面是利用连的政商关系竞选；另一方面还是着眼于找个「比较听话的人」做接班人，便于他日后操控。

2000年3月，李登辉安排连战与萧万长搭档参选「总统」，在宋楚瑜脱党参选及李登辉后来操弄「弃连保陈」的效应下，连战以23%的得票率惨败。

2000年5月，一向被人认为缺乏政治魄力的连战将统治国民党达12年之久的李登辉清除出党，摆脱了李登辉的控制。

求大同重整国民党

2001年，国民党在「立法委员」选举中又遭到挫败，失去第一大党的地位。面对国民党的生存危机，连战着手进行了一系列改革。一是进行党员重新登记，整顿党组织。二是组织机构精简化。三是进行党主席直选。四是清查党产、制订排黑条款。连战所进行的改革虽然没有从根本上解决国民党内存在的问题，但却基本稳住了国民党的颓势。

2001年1月，连战以国民党主席身份，置李登辉的反对于不顾，申请放弃对「兴票案」再议，曾给宋楚瑜造成重大伤害的「兴票案」就此终结，也为泛蓝军的整合奠定了基础。

2003年9月6日，国民党「十六全三中全会」通过国民党主席连战、亲民党主席宋楚瑜搭档参选2004年正、副「总统」的核备案，连战正式成为代表泛蓝军参选的「总统」候选人。但事与愿违，「3.19枪击案」令陈水扁得以连任。

56年后重回大陆

2005年是国民党主席的改选年，2月，被认为是国民党内最有势力参选2008年「总统」大位的台北市长马英九，首先表态将角逐国民党党主席，但当时连战还未正式表态是否会寻求连任。国民党内众多大老也都表态认为连战应该继续连任，党主席的另一热门人选王金平也做出「挺连」的姿态，表示会首先拥护连战续任，不过连战表示无意继续担任国民党主席。