陈诚见过谭祥后，不仅为谭小姐落落大方的仪态和知书达理的高雅素质所折服，而且更为蒋介石、宋美龄亲自出马充当介绍人而受宠若惊。他毫不犹豫地接受了蒋、宋的美意。谭祥对陈诚的翩翩风度和军阶战功，也很是仰慕，双方可谓一见钟情。

可是，陈诚要与谭祥结婚，还有一道障碍需要克服。因为陈诚乃有妇之夫，当时他与老家青田的吴氏结婚已十二三年。这桩婚姻是由父母做主，元配夫人吴舜莲为旧式的裹足家庭妇女，在外求学、从军多年的陈诚对其毫无感情，即使回家也是独居一室，拒绝与夫人同室共寝。吴舜莲曾因不堪冷落而用剪刀自杀，幸亏被及时发现而捡了一条命，但其婚姻已是名存实亡。

尽管如此，陈诚若不与吴舜莲正式离异，谭祥嫁入陈家，就不能算作正娶。作为名门闺秀的谭祥，在这一点上，当然不肯迁就。陈诚便托了同乡前辈、吴家祖上的亲族杜志远先生和吴舜莲的哥哥、自己的同学兼下属吴子漪，出面进行劝导，要元配夫人同意办理离婚手续。淳朴、老实的吴舜莲，在各方劝说下，只好同意离婚，并决心终身不再婚嫁。当时她只提出了一个可怜的条件：“生不能同衾，死后必须同穴。”陈诚当即同意。由吴子漪代写了一张离婚协议书，并注明：因舜莲不识字，故由子漪代为签名盖章，并愿承担一切责任。

1932年元旦，陈诚与谭祥在南京“励志社”举行婚礼。男方由杜志远主婚，女方由谭泽间主婚，蒋介石还亲自当了证婚人。随后，蒋介石特给假期，新婚夫妻双双到杭州西子湖畔度了蜜月。

谭祥性格温存，落落大方，夫妻感情弥笃。婚后，谭祥堪称为陈诚之贤内助，持家有方，尊敬婆婆；每当陈诚在人事关系上遇到麻烦时，也亲自出面到干妈宋美龄面前说情表白，使之化险为夷。谭祥计生四男二女，长子履安，次子履庆，三子履碚，四子履洁；长女幸，次女平。诸子女学业均佳。后来长子陈履安位至台湾当局“行政院国家科学委员会”主任委员，并为国民党第十二届中央执行委员会常务委员，曾是台湾政坛的新星。