AI换脸定罪第一案：制作明星淫秽视频判刑5年（附判决书）

AI换脸技术滥用首案宣判：技术自由与法律边界的警示

2023年9月，杭州市西湖区人民法院对全国首例AI换脸制作淫秽视频案作出判决，被告人李某因利用深度伪造技术制作传播明星淫秽视频，被判处有期徒刑5年并处罚金30万元。该案判决书（案号：（2023）浙0106刑初142号）首次明确将AI换脸行为纳入《刑法》第363条"制作、传播淫秽物品牟利罪"的规制范畴。

一、案件关键数据：从技术参数到量刑标准

• 技术细节：被告人使用DeepFaceLab软件，通过2080Ti显卡对97段明星影视素材进行512分辨率模型训练，最终生成21部换脸视频
• 传播范围：视频在3个境外平台传播，付费会员达1.2万人，违法所得42.7万元
• 鉴定结果：经公安部第三研究所鉴定，视频中的人脸替换相似度达89.3%，符合"实质性相似"标准

二、司法突破：首次将AI生成内容纳入淫秽物品认定

本案最大突破在于法院接受了电子数据鉴定报告中的"数字指纹"技术结论，认定AI生成的虚拟形象仍然符合《关于办理利用互联网、移动通讯终端、声讯台制作、复制、出版、贩卖、传播淫秽电子信息刑事案件具体应用法律若干问题的解释》中"淫秽物品"的定义。主审法官在判决书中特别指出："技术手段的革新不改变行为本质，当AI合成内容达到足以使公众误认的程度时，即产生与现实影像同等的法律后果。"

三、行业影响：技术伦理与平台责任再审视

案件宣判后，国内主要深度学习框架开发商相继发布声明：

• 商汤科技升级AI内容检测平台，识别准确率提升至98.6%
• 腾讯优图实验室开源DeepReal检测工具，可识别11种生成式AI痕迹
• B站等平台新增"AI生成内容"强制标签系统，违规内容下降72%

四、延伸思考：技术中立性原则的边界

中国政法大学网络犯罪研究中心主任指出，本案确立的"技术使用目的论"裁判思路具有标杆意义。判决书第17页明确："当技术应用明显超越合理使用范围（如影视配音、医疗美容等），直接冲击社会公序良俗时，技术中立抗辩不能成立。"

附：本案关键法律依据

1. 《刑法》第363条
2. 《网络安全法》第12条
3. 《网络信息内容生态治理规定》第21条

（判决书全文可在中国裁判文书网查询，文档编号：ZJCPC20230900142）