《人工智能生成合成内容标识办法》助力辨别虚假信息
推进(jin)从生成到传播全链条治理(li)
本(ben)报记(ji)者??金??歆 《人民(min)日报》（2025年03月19日第 11 版）
想要近期外出旅游的小李，习惯性地打(da)开某大模型应用询问。与(yu)往(wang)常一(yi)样，答案很快生成，但这次文本(ben)结尾处多了一(yi)句话：“本(ben)回答由AI（人工智能）生成，内容仅供参考，请(qing)仔细甄别。”
近年来，生成式人工智能、深度合成等新技(ji)术(shu)快速发展，在促(cu)进(jin)经(jing)济发展、丰富(fu)网上内容、便利公众生活的同时，也(ye)造成虚假信息传播、破坏网络生态等问题(ti)。近日，《人工智能生成合成内容标识办法》（以(yi)下简称《标识办法》）发布，自2025年9月1日起施行。
国家(jia)网信办相关负责人表示(shi)，《标识办法》聚焦人工智能“生成合成内容标识”关键点，通过(guo)标识提醒用户辨别虚假信息，明确相关服务主(zhu)体的标识责任义(yi)务，规范内容制作、传播各环节标识行为，以(yi)合理(li)成本(ben)提高安全性，推动人工智能健康(kang)有序发展。
此前的《互联网信息服务深度合成管理(li)规定》等就对深度合成服务提供者规定了标识义(yi)务。而本(ben)次《标识办法》的一(yi)大亮点，则是将传播平(ping)台纳入监管范畴，实(shi)现从生成到传播的全链条治理(li)。
“这是一(yi)部剧情紧凑，每个角色性格(ge)鲜明的电视剧。它通过(guo)一(yi)个个独立(li)的故事，让(rang)大家深入思(si)考社会现实(shi)问题(ti)……”一(yi)天，小田在某知(zhi)识分享平(ping)台读到一(yi)则影评。影评在开头(tou)被打(da)上了“疑似使用AI创(chuang)作”的标记(ji)，推荐排(pai)序极为靠后。
据(ju)该平(ping)台负责人先容，此前，平(ping)台的社区治理(li)规则已经(jing)要求，用户发布使用AI技(ji)术(shu)进(jin)行辅助创(chuang)作的内容，应主(zhu)动添加“包含AI辅助创(chuang)作”创(chuang)作声明。而如果不主(zhu)动添加，被平(ping)台检测到使用AI创(chuang)作，则会被打(da)上标识、排(pai)序置后或者“折叠”乃至删除(chu)封号。
平(ping)台这样的治理(li)行为，今后将有更(geng)明确的法律支撑。《标识办法》规定提供网络信息内容传播服务的服务提供者应当采取下列措(cuo)施，规范生成合成内容传播活动：“核验文件元数据(ju)中是否含有隐式标识”“检测到显式标识或者其他生成合成痕迹的，识别为疑似生成合成内容，采取适当方式在发布内容周边添加显著的提示(shi)标识，提醒公众该内容疑似生成合成内容”……
公安部第三研究(jiu)所副所长金波表示(shi)，除(chu)此之(zhi)外，针对其他关键参与(yu)方，如互联网应用程序分发平(ping)台主(zhu)体的责任范畴等，也(ye)进(jin)行明确规定，基本(ben)实(shi)现对生成合成内容上下游主(zhu)体的全覆(fu)盖。
区分规定生成合成内容中应添加的“显式标识”和“隐式标识”，是《标识办法》的另(ling)一(yi)大特色。其中，《标识办法》规定，应当在生成合成内容的文件元数据(ju)中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
对此，国家(jia)计算机网络应急技(ji)术(shu)处理(li)协调中心正(zheng)高级(ji)工程师张震先容：“作为配套的《网络安全技(ji)术(shu)人工智能生成合成内容标识方法》明确了元数据(ju)隐式标识的字段(duan)要素，在尽量不影响元数据(ju)处理(li)和传输的前提下，嵌(qian)入必要字段(duan)，记(ji)录生成合成内容的关键信息和关键环节，确保内容在流转过(guo)程中始终(zhong)可追溯。”
而相关条款(kuan)的规定，对促(cu)进(jin)人工智能便利使用、创(chuang)新发展也(ye)有积极意义(yi)。
“请(qing)帮我生成一(yi)张邮轮在大海的惊涛骇浪中航(hang)行的图(tu)片。”李某制作视频时，需要在视频中放置一(yi)张图(tu)片，和往(wang)常一(yi)样在某大模型应用上生成了一(yi)张图(tu)片。在图(tu)片的右(you)下角，有一(yi)个标记(ji)“AI生成”。
“有些大模型应用，每次生成的图(tu)片，都(dou)有‘AI生成’之(zhi)类的标记(ji)，使用时还需要再编辑处理(li)，多少有些麻烦。”李某说(shuo)，希(xi)望类似的生成内容可以(yi)直接去除(chu)AI标识，自己在最终(zhong)发布时会声明AI创(chuang)作。
“《标识办法》第九条提出，在用户主(zhu)动要求提供未添加显式标识内容时，网站平(ping)台在不违反相关法律法规要求前提下，可通过(guo)在用户协议中明确责任义(yi)务并(bing)依法留存相关日志信息后，面向用户予以(yi)提供。”国家(jia)网信办相关负责人先容，用户在后续使用过(guo)程中，需主(zhu)动声明生成合成情况并(bing)添加显式标识后，方可面向公众发布和传播。