
8月4日,微信公众号“最高人民检察院”披露了北京市首例破坏人工智能模型刑事案:王某因犯破坏计算机信息系统罪被判处有期徒刑五年十个月,赔偿所在公司经济损失20.4万余元。
一条代码运行17个小时,删掉89TB核心数据,直接搞瘫一家公司的AI研发线……而这一切的起因,竟是一名算法工程师为了“干私活腾空间”。
据《检察日报》报道,王某是一名“90后”,计算机专业科班出身,具有丰富的互联网“大厂”工作经历。2024年1月,王某应聘进入北京市东城区某科技公司,在AI短剧部门担任算法工程师。
AI短剧部门此前一直将开发数据存储于公司自行搭建的A服务器集群中,因公司内部架构调整,2024年7月23日至8月5日,部门先后三次在内部工作群组通知全体人员将本人负责的公司开发数据及个人数据全部从A集群迁移至公司新搭建的B集群,并告知数据迁移后部门不再有继续使用A集群的权限,包括王某在内的部门全体人员均回复“收到”。
2024年9月3日16时许,王某使用此前登录的账号密码登录A集群,输入指令查找AI短剧部门的文件夹,但没找到。随后,他打开AI游戏部门在A集群中的文件夹,输入代码试图拉取该文件夹下的全部文件目录,因系统未及时响应便中止拉取操作,之后做出了一个疯狂的举动——输入一条在程序员圈子里被称为“删库跑路”的代码。
这条代码的含义就是以最高管理员权限,无须确认,强制删除当前目录下的所有文件和子目录。输入这条代码后,王某便直接下班离开。等到公司运维人员发现异常并最终定位王某的电脑,将删除进程中止,这条代码已运行超过17个小时。
“AI游戏部门文件夹里存储的是该部门的全部开发文件,包括公司自主研发的多个文生3D和渲染的人工智能模型以及模型的训练数据。”某科技公司负责人介绍,王某的行为导致公司模型训练系统功能瘫痪,AI游戏部门的相关研发项目全部停摆。
2024年9月4日,该公司人力资源部门约谈王某,依据劳动合同和员工手册与王某解除了劳动关系。公司AI游戏部门则停止一切开发活动,全员投入到数据恢复中,经过近20天的努力,绝大部分被删除数据得以修复。
该公司聘请会计师事务所对事件造成的损失进行审计,审计结果认定本次事件造成公司支出人工工资16万余元,恢复数据等消耗的算力资源超过4万元。
2024年10月22日,某科技公司向公安机关报案。11月27日,公安机关将王某抓获。2025年2月11日,该案被移送至东城区检察院审查起诉。
是“删库跑路”还是误删数据?
王某到案后,一直辩解自己是“误删数据”“以为数据没用了才删除”,因此办案重点锁定在审查王某的主观明知上。东城区检察院第二检察部检察官高乐奇介绍,在对王某手机电子数据进行审查,围绕海量聊天记录开展自行补充侦查和引导侦查,终于从中挖到一份关键的聊天记录。
王某与案外人高某在案发前的聊天记录显示,“有个同学之前跑了一个任务,用了公司资源,不知道多少卡(显卡的简称,此处指开发需要的显卡数量),最后被开除了”“我这边用公司的资源帮你跑”……
原来,王某与高某通过网络结识,高某也是算法行业从业人员,二人约定由王某利用某科技公司的数据和算力资源帮高某“训模型”“跑数据”。
案发当日上午,二人还在沟通修改模型的细节,王某回复:“我先跑通代码再说改进的事。”案发一个月之后,王某向高某表示:“模型训练没帮上啥忙,下一份工作不知道还有没有这么大的训练资源了……下回我还敢。”
检察机关结合这些聊天记录及其他在案证据,认定王某并非误删数据,而是长期与外部人员合谋秘密窃取公司算力资源运行与工作无关的项目,其删除公司数据的目的是为下载自己干私活的模型腾出空间。
定性人工智能模型是否属于“计算机信息系统”吗?
认定王某的主观故意后,如何评价其破坏人工智能模型的行为,成为办理该案的核心问题。人工智能模型能否认定为刑法意义上的“计算机信息系统”?
《计算机信息系统安全保护条例》第二条规定,计算机信息系统是指由计算机及其相关的和配套的设备、设施(含网络)构成的,按照一定的应用目标和规则对信息进行采集、加工、存储、传输、检索等处理的人机系统。“两高”《关于办理危害计算机信息系统安全刑事案件应用法律若干问题的解释》进一步明确,计算机信息系统是指具备自动处理数据功能的系统。
东城区检察院审查后认为,从技术本质看,人工智能模型是硬件、软件、数据“三位一体”的系统,涉案模型硬件部署于A集群,应用目标与规则是按照“机器学习算法”,对输入的数据进行采集清洗、加工训练、参数保存、分布式计算、调取推理等,研发人员通过云端人工智能开发平台、终端指令与之交互,该模型是典型的人机系统。该系统能从数据中自我学习进化,产生超出预设代码的能力,已具备自动处理数据的功能,应当认定为刑法意义上的“计算机信息系统”。
为夯实这一结论,2025年3月26日,东城区检察院向北京市检察院申请启动“特邀检察官助理”机制,由北京市检察院指派网络犯罪领域特邀专家,以“检察官助理+技术顾问”的双重角色参与办案。专家从技术角度进一步进行论证,认为该案中的人工智能模型虽未投入市场运行,但模型训练系统本身属于计算机信息系统,理由是:将数据投喂给模型使其自动学习进行训练,能够不断提升模型的智能化程度,案涉人工智能模型的训练系统已构建完成并具备长期持续自动化处理信息的能力,训练数据被删除,直接导致模型训练的数据结构遭到破坏,影响模型训练功能的正常运行。
2025年6月3日,东城区检察院专门召开“人工智能技术的刑法保护与犯罪治理”研讨会,邀请来自刑法学、计算机科学、人工智能技术等领域的多位专家对案件进行论证。与会专家一致认为,AI模型及其训练系统符合刑法及其司法解释对“计算机信息系统”的认定标准。
算力支出是否应纳入经济损失认定
破坏计算机信息系统罪认定的经济损失,包括犯罪行为给用户造成的直接经济损失,以及用户为恢复数据、功能而支出的必要费用。
检察官经审查认为,王某的删除行为导致原本满负荷运转的集群GPU(图形处理器)利用率直接归零,模型训练进程中断、算力资源闲置,集群系统在修复期间完全丧失了核心功能。公司为恢复数据、重启训练,既投入了人力成本,又投入了算力成本。
算力作为驱动数字经济的“新型能源”,是人工智能大模型训练的核心生产要素。人力和算力成本均为公司为消除犯罪行为造成的危害、恢复系统功能而必须投入的成本,理应将算力支出纳入经济损失认定。
2025年6月10日,东城区检察院以王某涉嫌破坏计算机信息系统罪提起公诉。今年3月4日,法院采纳检察机关全部指控意见,作出一审判决,判处王某有期徒刑五年十个月,赔偿刑事附带民事诉讼原告人经济损失20.4万余元。王某不服,提出上诉。6月26日,二审法院作出裁定,驳回上诉,维持原判。
“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。
Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”