观点1：网络信息办公室拟要求人工智能生成内容保真引发争议，算法备案或成为监管的起点

4月11日，国家互联网信息办公室（下称“国家网信办”）发布了《生成式人工智能服务管理办法（征求意见稿）》（下称《征求意见稿》），意见反馈截止时间为今年5月10日。

国家网信办官网

《征求意见稿》规定，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任。利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

有专家告诉南都记者，目前的生成式人工智能模型具有一定的“创作性”，且不接入任何实时数据库进行核查验证，要求保证生成内容真实准确可能与生成式人工智能的固有属性存在冲突，很难实现。内容的生成应是使用者、终端用户等各方共同作用的结果，后者也应为此承担一部分责任，目前的规定可能导致产品提供者的责任过重。

AIGC具有“创作性”，难保证内容真实准确

ChatGPT自发布以来热度就居高不下，集成了ChatGPT的产品竞争也日趋白热化——在国内，百度3月发布预训练生成式大语言模型“文心一言”，阿里巴巴集团近日也正式推出“通义千问”大模型等。ChatGPT国产化大战的打响，意味着新一轮的技术浪潮即将来临。

在国内企业密集上线大语言模型的当下，监管部门也有所动作。未来人工智能生成内容（AI generatedcontent，又称生成式AI）领域将迎来新的规定。

据官网消息，国家网信办起草了《生成式人工智能服务管理办法（征求意见稿）》，并向社会公开征求意见。意见反馈截止时间为今年5月10日。

《征求意见稿》显示，为促进生成式人工智能健康发展和规范应用，根据《网络安全法》《数据安全法》《个人信息保护法》等法律法规，制定该办法。

今年年初，ChatGPT凭借其极其出色的文本生成和对话交互能力迅速走红，有关其给出的回答准确度和真实性很低、采纳价值不高的争议也一直存在。

南都记者注意到，《征求意见稿》规定，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。对此，各方观点不一。

zishen数据法律师袁立志认为，这一要求可能与生成式人工智能的固有属性存在冲突。目前的生成式人工智能模型主要是基于既有语料，根据概率来生成新内容，具有一定的“创作性”，且不接入任何实时数据库进行核查验证。在这种情况下，其很难保证生成内容的真实性和准确性。“如果真的严格落实这一要求，生成式人工智能产品可能就无法投入市场了。”

袁立志也表示可以理解这一规定设立的意图，即防止生成式人工智能生成的内容被滥用，被用于虚假宣传、舆论操纵等。在他看来，从应用层面来进行监管更为合适，而非前面的技术层面。

清华大学交叉信息研究院助理教授、人工智能国际治理研究院国际交流项目主任于洋坦言，要求生成内容真实准确这一规定在大方向上是正确的，但后续还需明确配套的技术标准和政策措施。他指出，技术方是强势方，其拥有足够的资源、能力来解决这类问题；但绝大多数使用者没有相应的能力去甄别生成信息的真实性。“（要求对生成内容的真实准确性进行识别和标注）在技术上是做得到的，只是看愿不愿意投入。”

中国政法大学数据法治研究院教授张凌寒指出，我国多部相关法律法规都针对虚假信息做出了要求服务提供者建立健全辟谣机制等具体制度安排，《征求意见稿》只是强调了生成式人工智能同样不能传播、制造虚假信息——这是我国互联网信息内容领域的普遍要求，并不是新的规定。

使用者、终端用户也应承担内容生产责任

在责任规制方面，《征求意见稿》提出，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

袁立志指出，“提供者”这一概念可能借鉴了欧盟的相关草案，但《征求意见稿》只要求AI产品提供者承担内容生产者责任，并未提及使用者、终端用户的内容生产责任。“结合上下文，这样很容易让人产生一个误解，就是应由产品提供者承担全部内容方面的责任。”

他分析，这样规定可能导致产品提供者的责任过重，存在责任不均衡的问题。平台是责任Zui重的一方，但内容的生成应是使用者、终端用户等各方共同作用的结果，后者也应承担一部分内容生成的责任。比如，当使用者提供一些文字，命令AI生成一篇作文或一张图片时，他们也应避免提供违反监管要求的内容，进而避免AI生成的内容存在违法违规情况。

于洋也有类似看法。他指出，使用生成式人工智能进行内容创作的用户应共同承担责任，也不能免除平台的责任——只有一定程度上把责任分摊给平台，它才有动力去纠正和修改模型中的问题。“这不仅是一个典型的责任分摊问题，还是一个风险管理问题。”

具体而言，这个过程中存在三个重要的风险管理节点。一是算法开发时；二是算法使用时，即生成内容时；三是内容发布时。从风险监管的角度来看，实际上每个风险节点都应赋予相应的责任。

一名人工智能领域zishen学者也补充表示，使用者的责任是衍生责任，前端提供者的责任才是规制重点。