用AI“诈骗”诈骗分子!澳公司部署AI代理假扮受害者,专门浪费骗子时间

用AI“诈骗”诈骗分子!澳公司部署AI代理假扮受害者,专门浪费骗子时间

澳大利亚一家专注反诈的AI公司正利用人工智能与诈骗分子斗智斗勇。

随着人工智能技术的发展和普及,多数公司会使用AI代理来加速产品交付或提升工作效率,而阿帕忒公司(Apate)则让它们去“卧底”,反过来“诱骗”诈骗者。

在当地时间10月13日至15日于美国旧金山举行的TechCrunch Disrupt年度创业大会上,阿帕忒公司作为入围企业之一,在会上进行路演,向客户展示其反诈相关能力。

这家澳大利亚初创公司成立于2024年,其技术源于澳大利亚麦考瑞大学的研究成果。公司部署了数千个AI代理,将其伪装成受害者。这些代理能够接听诈骗电话、回复可疑信息和邮件、点击钓鱼链接,甚至加入社交媒体群组,以此与诈骗分子周旋。

▲阿帕忒公司创始人兼首席执行官达利•卡法尔

据报道,这些代理会模拟不同年龄、性别、口音和语言的身份,设法让诈骗分子持续与之互动,从而获取有价值信息。它们不仅能消耗诈骗犯的时间,甚至还能套出对方的银行账户等关键信息。

阿帕忒公司表示,其旗下“代理”团队迄今已通过250万次对话,累计消耗了诈骗分子长达17年的时间。更重要的是,这些“卧底”代理会诱导诈骗分子透露通常只有在受害者上当后才会暴露的信息,例如银行账户、加密货币钱包、电话号码、恶意网站、所冒充的品牌,以及其他诈骗相关细节。

有趣的是,阿帕忒项目的创意其实源自一次真实的诈骗电话。几年前,公司创始人兼首席执行官达利•卡法尔在一次家庭聚会上接到了陌生号码来电。意识到对方可能是骗子后,他装作没有察觉,并与之持续通话了44分钟。

通话过程中,孩子们都被他逗笑了。卡法尔注意到,这44分钟里骗子没能联系到真正的受害者,相当于骗子的时间被浪费了。这不禁让他思考:是否可以将这一过程自动化,从而做一些有用的事?

这一想法最终促成了他在麦考瑞大学任职期间开展的一项研究。在该研究中,卡法尔及其同事利用机器学习和自然语言处理技术,开发出更有效的诈骗识别与防范方法。“‘Apate’这个名字源自希腊神话中的欺骗女神,考虑到我们代理程序的工作内容,这个名字再合适不过了。”阿帕忒公司联合创始人兼首席商业官布拉德•乔夫说道。

红星新闻记者 周月潇

编辑 罗天 审核 官莉