哪些深度合成技术算法需要备案?
飒姐tuandui提示,并非所有的深度合成技术都需要其fuwu提供商进行备案登记,在技术中立原则的指导下,仅有满足特定条件的深度合成技术fuwu提供商才需要对其算法进行备案。
具体来说,进行深度合成算法备案的AIGC行业主要集中在《深度合成规定》第十九条规定的“具有舆论属性或者社会动员能力的深度合成fuwu提供者”这一范围中。但在实践中关于什么是“具有舆论属性或者社会动员能力”的界定标准却相对较为模糊。
根据《具有舆论属性或社会动员能力的互联网信息fuwu安全评估规定》第二条,具有舆论属性或社会动员能力的互联网信息fuwu,包括下列情形:
(一)开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息fuwu或者附设相应功能;
(二)开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息fuwu。
严格意义上讲,AIGC并不属于上述第一款中fuwu提供者所提供的任何一项fuwu,大多数的AIGC目前也并没有将自己只作为一种社交媒体平台。一家之言,飒姐tuandui认为,在基于前述AIGC本身在社交媒体平台上具有广泛传播的风险的情况下,从实质性监管的角度来看,其大概率符合“公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息fuwu”的这一兜底性条款。
从这个角度来说,基本AIGC行业的所有赛道的fuwu提供者们都可能涉及深度合成算法备案,包括而不限于文本生成、图像生成、视频生成、音频生成等。Zui重要的判断标准在于用户群体的开放程度,如果该fuwu提供者面向不特定公众提供fuwu,那么基本上就在《深度合成规定》的辐射范围内。
三、如何进行深度合成算法备案
备案方式为网上备案。根据《具有舆论属性或社会动员能力的互联网信息fuwu安全评估规定》的要求,符合备案要求的fuwu提供者应当在安全管理fuwu平台(地址;http://www.beian.gov.cn/)上进行备案。
在备案过程中,影响备案成功率Zui重要的一份材料就是深度合成fuwu提供者递交的《评估报告》。深度合成fuwu提供者和技术支持者提供两类特定功能的模型、模板等工具的,必须提供自评估或委托专业机构进行安全评估后出具的《评估报告》:
1.生成或者编辑人脸、人声等生物识别信息的;
2.生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。
由于以上两类fuwu涉及的领域及信息较为敏感,评估具体内容应当在基本评估维度之上,增加与《个人信息保护法》《网络安全法》及《数据安全法》相符合的评估标准。
一般而言,评估标准有七大项,分别为:
(1)安全管理负责人、信息审核人员及安全管理机构设立情况;
(2)用户真实身份核验及注册信息留存措施;
(3)对用户账号、操作时间、操作类型、网络源地址和目标地址、网络源端口、客户端硬件特征等日志信息,以及用户发布信息记录的留存措施;
(4)对用户账号和通讯群组名称、昵称、简介、备注、标识,信息发布、转发、评论和通讯群组等fuwu功能中违法有害信息的防范处置和有关记录保存措施;
(5)个人信息保护以及防范违法有害信息传播扩散、社会动员功能失控风险的技术措施;
(6)建立投诉、jubao制度,公布投诉、jubao方式等信息,及时受理并处理有关投诉和jubao的情况;
(7)建立为监管部门和执法部门依法履职提供技术、数据支持和协助的工作机制的情况。
深度合成备案制度是我国人工智能及算法风险治理的一项重要创举及新突破,飒姐tuandui建议,AIGC行业务必在咨询专业合规人士的情况下进行算法安全评估以及深度合成算法备案。目前来看,飒姐tuandui认为该项算法备案是AIGC行业的一项重要且具有普遍性的合规义务,除非影响力较小且极为封闭的AIGCfuwu提供者外,其他AIGCfuwu提供主体均需要履行该项义务,以防滋生行政甚至刑事风险。
版权声明
本文仅代表作者观点,不代表零壹财经立场。
本文系作者授权零壹财经发表,未经许可,不得转载。
专题推荐:释放数据价值——数据要素市场研究