为了促进人工智(zhi)能健康发(fa)展,规(gui)范人工智(zhi)能生成合成内容标识(shi),保护公民、法人和其他组织合法权益,维护社会公共利益,国家(jia)互联网信息办公室(shi)、工业(ye)和信息化(hua)部、公安部、国家(jia)广(guang)播电视总局制定了《人工智(zhi)能生成合成内容标识(shi)办法》。《办法》原文如下:
人工智(zhi)能生成合成内容标识(shi)办法
第一条为了促进人工智(zhi)能健康发(fa)展,规(gui)范人工智(zhi)能生成合成内容标识(shi),保护公民、法人和其他组织合法权益,维护社会公共利益,根据《中华(hua)人民共和国网络安全法》、《互联网信息服务算法推(tui)荐管理规(gui)定》、《互联网信息服务深度合成管理规(gui)定》、《生成式人工智(zhi)能服务管理暂行办法》等法律、行政法规(gui)和部门规(gui)章,制定本(ben)办法。
第二条符合《互联网信息服务算法推(tui)荐管理规(gui)定》、《互联网信息服务深度合成管理规(gui)定》、《生成式人工智(zhi)能服务管理暂行办法》规(gui)定情(qing)形的网络信息服务提供者(以下简称“服务提供者”)开展人工智(zhi)能生成合成内容标识(shi)活(huo)动,适用本(ben)办法。
第三条人工智(zhi)能生成合成内容是指利用人工智(zhi)能技术生成、合成的文本(ben)、图片、音频、视频、虚拟场(chang)景等信息。
人工智(zhi)能生成合成内容标识(shi)包括显式标识(shi)和隐式标识(shi)。
显式标识(shi)是指在生成合成内容或者交互场(chang)景界面中添加的,以文字、声音、图形等方式呈现并可(ke)以被用户明显感知(zhi)到的标识(shi)。
隐式标识(shi)是指采取技术措施在生成合成内容文件(jian)数据中添加的,不易被用户明显感知(zhi)到的标识(shi)。
第四条服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规(gui)定》第十七条第一款(kuan)情(qing)形的,应当按照下列要求对生成合成内容添加显式标识(shi):
(一)在文本(ben)的起(qi)始、末(mo)尾(wei)或者中间适当位(wei)置添加文字提示或者通用符号提示等标识(shi),或者在交互场(chang)景界面、文字周边添加显著的提示标识(shi);
(二)在音频的起(qi)始、末(mo)尾(wei)或者中间适当位(wei)置添加语音提示或者音频节(jie)奏(zou)提示等标识(shi),或者在交互场(chang)景界面中添加显著的提示标识(shi);
(三)在图片的适当位(wei)置添加显著的提示标识(shi);
(四)在视频起(qi)始画面和视频播放周边的适当位(wei)置添加显著的提示标识(shi),可(ke)以在视频末(mo)尾(wei)和中间适当位(wei)置添加显著的提示标识(shi);
(五)呈现虚拟场(chang)景时,在起(qi)始画面的适当位(wei)置添加显著的提示标识(shi),可(ke)以在虚拟场(chang)景持续服务过程中的适当位(wei)置添加显著的提示标识(shi);
(六)其他生成合成服务场(chang)景根据自身应用特点添加显著的提示标识(shi)。
服务提供者提供生成合成内容下载、复制、导出等功能时,应当确保文件(jian)中含有满足要求的显式标识(shi)。
第五条服务提供者应当按照《互联网信息服务深度合成管理规(gui)定》第十六条的规(gui)定,在生成合成内容的文件(jian)元数据中添加隐式标识(shi),隐式标识(shi)包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识(shi)。
文件(jian)元数据是指按照特定编码格式嵌入到文件(jian)头部的描述性信息,用于记录文件(jian)来源、属性、用途等信息内容。
第六条提供网络信息内容传播服务的服务提供者应当采取下列措施,规(gui)范生成合成内容传播活(huo)动:
(一)核验(yan)文件(jian)元数据中是否含有隐式标识(shi),文件(jian)元数据明确标明为生成合成内容的,采取适当方式在发(fa)布内容周边添加显著的提示标识(shi),明确提醒(xing)公众(zhong)该内容属于生成合成内容;
(二)文件(jian)元数据中未核验(yan)到隐式标识(shi),但用户声明为生成合成内容的,采取适当方式在发(fa)布内容周边添加显著的提示标识(shi),提醒(xing)公众(zhong)该内容可(ke)能为生成合成内容;
(三)文件(jian)元数据中未核验(yan)到隐式标识(shi),用户也未声明为生成合成内容,但提供网络信息内容传播服务的服务提供者检测到显式标识(shi)或者其他生成合成痕迹的,识(shi)别为疑似生成合成内容,采取适当方式在发(fa)布内容周边添加显著的提示标识(shi),提醒(xing)公众(zhong)该内容疑似生成合成内容;
(四)提供必(bi)要的标识(shi)功能,并提醒(xing)用户主(zhu)动声明发(fa)布内容中是否包含生成合成内容。
有前(qian)款(kuan)第一项至第三项情(qing)形的,应当在文件(jian)元数据中添加生成合成内容属性信息、传播平台名称或者编码、内容编号等传播要素信息。
第七条互联网应用程序分发(fa)平台在应用程序上架或者上线(xian)审(shen)核时,应当要求互联网应用程序服务提供者说明是否提供人工智(zhi)能生成合成服务。互联网应用程序服务提供者提供人工智(zhi)能生成合成服务的,互联网应用程序分发(fa)平台应当核验(yan)其生成合成内容标识(shi)相关材料。
第八(ba)条服务提供者应当在用户服务协议中明确说明生成合成内容标识(shi)的方法、样式等规(gui)范内容,并提示用户仔细(xi)阅读并理解相关的标识(shi)管理要求。
第九(jiu)条用户申请服务提供者提供没有添加显式标识(shi)的生成合成内容的,服务提供者可(ke)以在通过用户协议明确用户的标识(shi)义务和使用责任后,提供不含显式标识(shi)的生成合成内容,并依法留存提供对象信息等相关日志不少于六个月。
第十条用户使用网络信息内容传播服务发(fa)布生成合成内容的,应当主(zhu)动声明并使用服务提供者提供的标识(shi)功能进行标识(shi)。
任何组织和个人不得恶意删除、篡改、伪造、隐匿本(ben)办法规(gui)定的生成合成内容标识(shi),不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识(shi)手段(duan)损害他人合法权益。
第十一条服务提供者开展标识(shi)活(huo)动的,还应当符合相关法律、行政法规(gui)、部门规(gui)章和强制性国家(jia)标准的要求。
第十二条服务提供者在履行算法备案、安全评估等手续时,应当按照本(ben)办法提供生成合成内容标识(shi)相关材料,并加强标识(shi)信息共享,为防范打击相关违法犯(fan)罪(zui)活(huo)动提供支撑和帮助。
第十三条违反本(ben)办法规(gui)定的,由网信、电信、公安和广(guang)播电视等有关主(zhu)管部门依据职(zhi)责,按照有关法律、行政法规(gui)、部门规(gui)章的规(gui)定予以处理。
第十四条本(ben)办法自2025年9月1日起(qi)施行。
(总台央视记者 张岗(gang))