内容一览深度合成服务在满足用户需求、改进用户体验的同时也被一些不法人员用于制作、复制、发布、传播违法信息诋毁、贬损他人名誉、荣誉仿冒他人身份实施诈骗等违法行为如今针对这一技术的管理规定终于发布了。

关键词Deepfake   深度合成   监管条例   

近期网信中国发布《互联网信息服务深度合成管理规定》称该规定已经国家互联网信息办公室审议通过并经工业和信息化部、公安部同意将自 2023 年 1 月 10 日起施行。

靴子落地深度合成技术开启查漏补缺

实际上早在今年 1 月国家网信办就发布了《互联网信息服务深度合成管理规定征求意见稿》公开征求群众意见时隔 11 个月如今靴子终于落地近期一路高歌猛进的 ChatGPT在国内发展或被按下暂停键。

本次正式发布的管理规定进一步明确了深度合成技术的范围及使用规范涵盖文本、图像、音频、视频等多种模态的相关技术。

附则部分给出了「深度合成技术」的明确定义

除一般规定外该管理规定还对数据和技术管理规范以及监督检查与法律责任都做出了更详细的规范和说明本文将列举部分重点规定。

禁止制作传播虚假新闻消息 

深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的应当依法转载互联网新闻信息稿源单位发布的新闻信息。

使用深度合成技术必须进行实名认证 

深度合成服务提供者应当基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式依法对深度合成服务使用者进行真实身份信息认证不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务。

涉及多项个人信息需取得单独同意 

深度合成服务提供者和技术支持者应当加强训练数据管理采取必要措施保障训练数据安全训练数据包含个人信息的应当遵守个人信息保护的有关规定。　　

深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的应当提示深度合成服务使用者依法告知被编辑的个人并取得其单独同意。

使用深度合成服务生成或编辑的内容需添加显著标识 

对于使用深度合成服务生成或者编辑的信息内容规定应当采取技术措施添加不影响用户使用的标识并依照法律、行政法规和国家有关规定保存日志信息。

深度合成服务提供者提供以下深度合成服务可能导致公众混淆或者误认的应当在生成或者编辑的信息内容的合理位置、区域进行显著标识向公众提示深度合成情况

一智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务　　

二合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务　　

三人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务　　

四沉浸式拟真场景等生成或者编辑服务　　

五其他具有生成或者显著改变信息内容功能的服务。　　

深度合成服务提供者提供前款规定之外的深度合成服务的应当提供显著标识功能并提示深度合成服务使用者可以进行显著标识。

健全申诉及举报入口规范流程及反馈时限 

深度合成服务提供者应当设置便捷的用户申诉和公众投诉、举报入口公布处理流程和反馈时限及时受理、处理和反馈处理结果。

完整「互联网信息服务深度合成管理规定」。

深度合成技术治理道阻且长 

近年来深度合成内容的数量呈现爆发式增长清华大学人工智能研究院曾联合多家机构发布了《深度合成十大趋势报告2022》。

报告中指出2021 年新发布的深度合成视频的数量与 2017 年相比增长达 10 倍以上涉及影视音乐、科技教育、生活、娱乐、资讯等多个领域。

深度合成内容制作与传播数量高速增长

深度合成内容数量庞大、鉴别难度高国内外关于建立健全监督管理机制曾做出多次尝试。

2019 年 11 月国家互联网信息办公室、文化和旅游部、国家广播电视总局联合发布《网络音视频信息服务管理规定》明确规定「不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息」。

2019 年 12 月国家网信办通过并公布了《网络信息内容生态治理规定》禁止使用深度学习和虚拟现实技术从事任何非法活动。

2020 年 12 月中共中央印发了《法治社会建设实施纲要2020-2025 年》要求对深度伪造等新技术制定和完善规范管理办法。

此外美国、欧盟也针对深度合成技术出台了多部相关法律法规。

2019 年 12 月美国国会众议院通过「2020 财年国防批准法」要求政府向立法机构通报涉及跨国、有组织、带有政治目的的 Deepfake 虚假信息行为。

欧盟则公开要求科技巨头们采取措施加强对 Deepfake 的打击否则将处以巨额罚款最高可被罚全球营业额的 6%。

从上线不到一周就被迫下架的 ZAO APP到真假奥巴马再到蚂蚁呀嘿深度合成技术在不断发展政策法规也需要与时俱进。

只有推动深度合成技术的依法、合理、有效使用积极防范化解深度合成技术带来的风险才能促进互联网信息服务健康发展维护网络空间良好生态。