针对即将到来的热潮和规制文件，从业者和玩家应当如何自处？

撰文：肖飒

如果飒姐猜得没错，明年初 ChatGPT 的内地版本会络绎不绝。从现在新闻圈的教授们的口风看，还是有不少老师抱有很高期待，希望借此降低文字工作者的工作量。同时，短视频领域，在试水故事情节「换头」效果后，表现出「小孩子玩蛇」的两难境地，一方面觉得新奇刺激好玩；另一方面确实怕被咬了手。

针对深度合成技术的蓬勃发展，我国上个月公布了新规，并将于 2023 年 1 月 10 日正式实施，这就是国家网信办、工信部和公安部联合发出的部门规章 ---《互联网信息服务深度合成管理规定》（以下简称《深度合成规定》）。

针对即将到来的热潮和规制文件，从业者和玩家应当如何自处？且听飒姐分解。

一、深度合成技术的外延

飒姐和团队诸位并非 IT 技术专家，我们对深度合成技术的内涵和学派不做分析，有兴趣的朋友可自行到知网和海外网站查资料。我们介绍的是明年一月份即将实施的《深度合成规定》里，对于这项技术给出的规章项下的「外延」。

深度合成技术，是指利用深度学习、虚拟现实等生成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。不完全列举我国部门规章所认可的该技术项下的子技术：

篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术。讲真，在尝试使用 ChatGPT 时，我一度迷惑了，简直是文字工作者的「捉刀神器」，要是大学时代有这个东东，班里男生们写检查也不用每人 20 块钱找我来帮忙了。把要求和字数输进去，秒出答案，文字还很有「诚意」。

文本转语音、语音转换、语音属性等生成或者编辑语音内容的技术。其实这种技术在即时通讯工具里已经十分常见，我只是设想到一种情形，未来缅北是不是就不需要往那边骗人头了，只需要做一套程序，男声变女声，一人变数人都变得简单，犯罪时间成本锐减。

音乐生成、场景声编辑等生成或者编辑非语音内容的技术。说实话，飒姐小时候最大的遗憾是没有学钢琴，姥姥说弹琴又不当饭吃，虽然长大后学了点声乐但感觉完全不对味儿，倘若音乐生成技术日臻成熟，遇到郁闷的时候，不用写文章，而是直接作曲一首直抒胸臆，cool!

人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等声音或者编辑图像、视频内容中生物特征的技术；在协助东家入住元宇宙世界时，一开始我也提出了这种需求，想将律所里诸位贤达的形象植入到元宇宙律所，当我看到供应商一脸难色的时候还没有太多感觉，直到去了现场，才发现要想达到《阿凡达》那种逼真效果，一定要穿动捕服，而且还要多方位拍摄，需要的人力成本和时间成本巨大，当然对设备和技术要求极高，比我想象的难太多，也太烧钱，在三五年内飒姐认为如果技术上没有更大突破，这个成本就会吓退很多想以此为工具来做坏事的人。当然，小范围的换脸另说，但该种技术类似直播中的「带特效」，不仅效果粗糙还容易穿帮，稍微细心观察即可发现。

图像生成、图像增强、图像恢复等生成或者编辑图像、视频内容中非生物特征的技术。现在的 AI 绘画就是这个细分赛道，确实很上头，圈里有些朋友很喜欢玩，But 有些关键词造出来的图片驴唇不对马嘴，AI 还不够聪明，数据量不足。

三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。目前新西兰在这方面做得很好，飒姐也相信未来的戏剧学院和电影学院，灯光音效学科会逐渐走向数字化，甚至需要选拔优秀的理工科同学来做这项研究。

总结下来，深度合成技术的监管，飒姐认为大致要区分对待：一是第 4 项人脸相关技术，应当经过严格的伦理论证和安全评估才放行技术方案；二是其他五项，飒姐认为应当降低门槛，让更多创业者参与其中，而不是大资本一统江湖。

二、监管防护网的搭建

从深度合成规定的体系地位来看，其法律位阶是部门规章，是在四部法律、行政法规之下：《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》，也就是说，倘若深度合成规定里的条款与上位法产生矛盾冲突，尤其在实践生活中，要遵从上位法的规定，行政相对人是可以向有权机关提出违法审查的。

从监管架构看，对于互联网类问题自网贷之后，多采取行政机关监管与行业自律相结合的办法，发动各方积极性。深度合成业务的监管主体是：1.国家网信部门，负责统筹深度合成服务的治理和监管工作；2.国务院电信主管部门，负责自己职权范围内的监管工作；3.公安部门，负责自己职权范围内的监管工作。

其中，网信部门承担统筹工作，换句话说，系主要负责机关。各地对应部门负责本辖区内相应工作，形成自上而下的网状结构，规制各自职权和辖区的具体监管工作。

鼓励行业自律，建立健全行业标准、行业准则、自律管理制度，督促从业者制定行业规范，依法开展业务接受监督。这一方面，各地的做法不一，鉴于自律组织是民间自发设立，也不必要求统一，只要把自己的行业内、赛道里的企业组织起来，自觉完成社会责任，守法经营就好。

无论是从业企业、人员还是监管机关和自律组织，都要遵守若干原则：1.守法；2.尊重社会公德和伦理道德；3.坚持正确方向、导向、取向，促进科技「向上向善」。

三、从业企业和人员的「行为黄线」

第二章一般规定，是对深度合成技术从业者的黄线---「安全」的原则性规定：

区分新闻信息和非新闻信息。对于新闻信息要求深度合成服务提供者和使用者不得制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的，应当依法转载互联网新闻信息稿源单位发布的新闻信息。对于新闻信息和非新闻信息，都要求不得危害国家安全和利益、不得损害国家形象、不得侵害公共利益、不得扰乱经济和社会秩序、不得侵犯他人合法权益等。

落实主体责任，要求服务提供者具有安全可控的技术保障措施，其中最亮眼的是：科技伦理审查，这属于哲学范畴，飒姐很期待法哲学（法理学）的同学们在这方面能大展拳脚。

技术支持者和使用者承担信息安全义务，要将管理规则、平台公约等公开，飒姐推荐用联盟链的方式，在全站广播并用区块链记录。

深度合成技术的使用者，需要实名，且至少三要素。

内容管理不可松懈。飒姐在使用某提词器 App 时发现，上传稿件备用时，会被内容审核，与此类似，未来深度合成技术的内容，也需要技术或人工审核、留痕和及时上报。

「辟谣机制」是又一亮点。鉴于深度合成技术的成品具有一定的迷惑性，对公众有可能产生误导，因此辟谣机制就是一个必要措施。

用户申诉和投诉、举报通畅，这一点是顽疾，在互联网平台服务中经常出现由此产生的纠纷。 App 分发平台负担部分上架审核、日常管理、应急处置等安全管理责任。

四、区别生物识别信息编辑与其他信息编辑

对于人脸、人声等生物识别信息编辑，有特殊要求： 深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法 告知被编辑的个人，并 取得其单独同意。

自行或委托开展安全评估。 对可能导致公众混淆、误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。

当然，对于智能对话、智能写作、沉浸式拟真场景等生成和编辑服务，应当提供显著标识功能，并提示深度合成使用者可以进行显著标识。

五、具体监管手段和法律责任

监管还是由前述三家监管机关进行，但鉴于部门规章并没有规定具体的罚款细则，还是要依照上位法进行办理：

履行备案手续。对于具有舆论属性或者社会动员能力的（具体参照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》评估）深度合成服务提供者，按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。完成备案后，在自家网站显著位置表明备案编号和公示信息链接。

进行安全评估。对具有舆论属性或者社会动员能力的新产品、新应用、新功能，按照国家有关规定开展安全评估。

开展监督检查。三大监管部门及辖区监管部门有权进行检查，深度合成服务提供者和技术支持者应当依法予以配合。

部门规章没有规定罚款，但提示行政相对人可能会被上位法处罚，构成治安案件的，公安机关处罚，构成犯罪的，追究刑事责任。

写在最后

从新规中，我们敏锐地观察到「科技伦理审查」一词，未来互联网侵权、犯罪案件可能会以不同的形式出现，我们并不担心明显恶意或善意的行为。最难办的是两边都是善良的，如何定分止争？两边都是恶意的，如何各自规制？「无知之幕」背后，考验的是每个人的价值排序。

同时，作为对刑法有一点研究的团队，我们还是要提醒执法部门和从业人员，新规的位阶不足以支撑刑法第 225 条非法经营罪，倘若真的有企业违反了深度合成规则中的规定，并不当然构成犯罪。新规出台，我们一起研读、实践，一起为 2023 年经济发展和科技进步服务！！