康泽是中华复兴社创始人之一，复兴社的名字就是康泽取名；康泽亦是三民主义青年团三位创始人之一（另外二人为刘健群、陈立夫），三民主义青年团的名字也是由他建议而被采纳的，其受蒋中正之宠信可见一斑。

康泽曾留学苏联中山大学，1928年毕业，但不认同马列主义，认为共产主义不适合中国国情，回国后不久建议时任国民革命军总司令蒋中正采用俄国保卫局制度（格别乌），保护政权。初在南京国军总部任侍从副官，中原大战结束后，1931年经蒋批准成立南昌行营别动总队，康泽任少将总队长，在江西剿共时期为蒋所重用。在共军曾建立过的根据地，康泽的别动总队特别活跃，督促地方进行清剿，恢复政权行使。在共军长征之际，蒋派薛岳率中央军追剿共军进入川、康、贵、滇地区，每个县都有康泽的别动总队，以之监视地方共党与左派份子，作用极大。

康泽所带领的别动总队（共产党称为特务武装，而康泽不认为自己为大特务），其队员的成分，乃是收容黄埔军校的失业学生而组成。按期别有校尉之别，人数初为数百人，后来发展至数以万计，当年的刘伯龙、公秉藩等将军都是康泽系要系。1932年后，康泽担任过中华复兴社中央干事与书记及国民党中央委员，深受蒋的器重，即成为共党所谓蒋中正的十三太保之一。1933年，蒋中正在庐山成立中央军校特别训练班，任用康泽当主任，招收各省高中毕业生，每期数百人，爰成为康泽集团的政治骨干。

有人认为康泽不仅是蒋中正的爱将，一度亦为蒋蓄意培植的接班人之一；但后来蒋经国自俄归来，且在赣南颇有表现，康泽与蒋经国为争三民主义青年团组织处长和团中央领导位置及青年军的编练工作而发生直接冲突，终不敌蒋经国。他长期控制的别动总队，改编为新28师、新29师，编为第66军，远征缅甸。康泽想任该军军长，但何应钦认为康泽没有作战经验未予批准，改由张轸充任。抗战胜利后，蒋中正派康泽出国考察，1947年回国，就任第15绥靖区中将司令官。

1948年襄樊战役中，襄阳城破，康泽被俘，蒋中正曾在军事会议中肯定地说:“我所知道的康泽，是不会被俘的，很可能像张灵甫那样壮烈成仁。”事实上康泽受共党改造13年后出狱，并被安排在中共全国政协委员会任文史专员。同样身属战犯，与康泽相处十年的李以劻曾言:康泽思想仍忠于蒋中正，虽经改造仍无多大改变，更谈不上有认罪服输的心理，表面上痛骂国民党与培植他的校长蒋中正，共党宣称改造成绩很好，但实际上康泽对于共产党是仇恨的，对共党私下亦有微词。

毛泽东曾讲过“农民对于康泽是不能饶恕的”等话，共产党与康泽长期势如水火，双方都沾满了对方的鲜血，所以康泽没过得了文化大革命这关，其下场是半夜被红卫兵打得半死，后被拖进秦城大牢，伤重而亡。