被豆包错配成猪倌,AI“裸奔”的代价凭什么用户付?
资讯
资讯 > 社会 > 正文

被豆包错配成猪倌,AI“裸奔”的代价凭什么用户付?

近日,“豆包说你卖猪”在社交网络火了。这又是个什么梗?

原来,一位网友用了多年的手机号,突然被陌生人频繁拨打,被询问“是否卖猪”。起初他以为是恶作剧,后来才弄明白,对方是从豆包获取的联系方式,他的号码被赫然标注为一家养殖场电话,至今仍能被搜索到。有类似遭遇的网友还不少。

图片来源:潇湘晨报

图片来源:潇湘晨报

听起来像个技术乌龙,哭笑不得,实则是“AI该怎么对待用户信息”的问题。对AI来说,这只是千万条训练数据中的一个概率组合;可对个体来说,却是一种实实在在的生活入侵与隐私泄露。

图片来源:潇湘晨报

图片来源:潇湘晨报

更令人感到无力的是,当用户被“骚扰”时,竟找不到一个有助问题解决的出口。找市监局和审批局核实养殖场实际电话信息,回应称要本人带证件到线下窗口办理,还说不清楚网上信息痕迹如何消除;找运营商了解使用多年手机号码怎会出现此问题,其建议“当事人使用自己手机号拨打协调”;找豆包客服,截至记者报道此事,暂无回应。

一边是高效的算法输出,一边是“笨拙且漫长”的用户维权之路。这种落差,比错误信息本身还让人难以接受。

技术可以试错,但不能无责。AI平台理应对信息的准确性承担核查责任。而且,涉及手机号、住址等用户隐私信息的输出时,AI平台也应建立足够的过滤机制;在错误发生后,AI平台也应提供便捷、高效的纠错通道。如果AI只能“满嘴跑火车”却不用为后果买单,那么这种技术越普及,给社会带来的负面效应就越大。

与此同时,监管部门也需及时跟上技术步伐,为AI信息服务划定清晰的责任边界。否则,明天任何一个人的身份与生活都会被AI错位绑定。AI的便捷毋庸置疑,但不应以牺牲个体安宁为代价。

撰文|读特评论员 吴凤颖

编辑|温静

审读|李建国 桂桐 张雪松

亲爱的凤凰网用户:

您当前使用的浏览器版本过低,导致网站不能正常访问,建议升级浏览器

第三方浏览器推荐:

谷歌(Chrome)浏览器 下载

360安全浏览器 下载