云新闻评论｜ “AI标识”既不是平台遮羞布，也不是作恶者的免责牌

一觉醒来，自己的脸和声音正在替别人卖货。演员吴越最近就撞上这种事：账号“花姐美肤日记”用AI伪造她的形象和声音，包装“明星同款、吴越推荐”诱导粉丝买护肤品，还如法炮制冒用了邓亚萍等公众人物。演员温峥嵘的遭遇更荒诞，多个直播间同时出现“她”的带货画面，去后台质问反被拉黑。

更值得警惕的是，AI骗术已从“盗脸盗声”走向“精准收割”。据媒体报道，一位79岁且不识字的老人于今年5月独自坐火车，要去山西运城看望天天在手机里喊她“姨妈”的“苦命小海”。所谓“小海”，不过是批量生成的AI数字人：先以“躲教室吃馒头”的苦情剧本筛选最有同情心的中老年群体，再转向阿胶带货。几块钱就能买全套AI数字人生成教程，换张脸、换个声音，便能复制出成百上千个“小海”。技术门槛之低、复制速度之快、收割对象之精准，说明这已是一条成熟的黑灰产链条。

法律并非空白。《中华人民共和国民法典》明确声音保护参照肖像权，未经同意不得利用信息技术伪造他人声音、肖像。2023年1月10日起施行的《互联网信息服务深度合成管理规定》要求，提供人脸、人声编辑功能的，必须提示使用者告知被编辑的个人并取得单独同意。2025年9月1日起施行的《人工智能生成合成内容标识办法》进一步要求，AI生成内容具备显式与隐式双重标识，传播平台负有核验义务。

行政层面的执法也已落地。2025年6月，北京海淀区市场监管局查处一起利用AI冒用央视主持人形象发布虚假广告案，涉事公司被罚20万元。民事侵权、行政违法、刑事追诉，法律工具箱里并非没有工具。

那问题出在哪？先看标识。“花姐”们的视频“聪明”地在角落标注了“含AI生成内容”。这一行小字恰恰暴露了一个问题：标识只回答了“内容是不是AI做的”，回答不了“有没有授权”“是不是欺诈”。一个AI伪造代言的欺诈视频，打上标识也不会自动变成合法视频。标识是溯源工具，不是免责通行证。

真正的问题不在标识制度本身，而在执行。今年4月，中央网信办部署开展为期4个月的“清朗·整治AI应用乱象”专项行动，截至9月初，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。其中，第一阶段重点整治的七类突出问题中，第五条便是治理平台“生成合成内容标识落实不到位”的情况。第二阶段通报的典型案例中，第2类点名“打造AI数字人进行虚假宣传带货，误导老年人”，第3类点名“利用AI‘换脸’‘换声’等技术，假冒仿冒公众人物形象，借机营销牟利”。

《人工智能生成合成内容标识办法》要求的核验义务，是平台合规的底线而非上限，但一些平台连这条底线都没有守住，仅把治理停留在“等举报、再封号”的层面。相同的苦情话术、雷同的数字人面孔、高频带货链接反复出现，平台不是没有技术能力识别，而是主动拦截的决心没有跟上；法律红线摆在那里，一些人仍然抱有侥幸心理，为了利益铤而走险。

制度不是问题，制度没有被执行才是问题。标识制度的效力，恰恰是在这种“有制度、缺执行”的缝隙里被一点点消解的。而执行缺位的代价可以预见：公众人物名誉被侵，消费者被误导下单，老年人被骗钱更被骗感情。一次次“狼来了”，最终是在透支社会信任、挤压AI技术的合法应用空间。

说到底，AI本身没有原罪。它能合成声音、生成影像，也能用于教育、医疗和无障碍服务。向善还是向恶，开关握在人的手里。握在运营者手里，是编苦情剧本收割老人，还是合规创作；握在平台手里，是连隐式标识核验都敷衍了事，还是把识别和拦截做在欺诈内容触达用户之前；握在执法者手里，是等骗局裂变再整治，还是让每一条已经生效的红线在执行层面真正长出牙齿。

一行小小的“AI标识”，既不能成为平台责任缺失的遮羞布，更不能成为作恶者的挡箭牌。AI是工具，但把开关拨向欺诈的人，必须付出代价；放任开关被拨向欺诈而怠于履行法定义务的平台，同样不能免责。

云新闻出品

评论员：陈创业

主播：费丹艺

视频剪辑：田薇

审核：李喜翠

云南日报-云新闻 观云南 知天下