新华(hua)社北京3月16日电 题：强化全流程(cheng)管理 引导技术向善——《人工智能生(sheng)成合成内容标识办法》解读
新华(hua)社记者王思北
近日，国家互联(lian)网信息办公室、工业(ye)和信息化部、公安部、国家广播(bo)电视总局联(lian)合发布《人工智能生(sheng)成合成内容标识办法》。办法聚焦人工智能“生(sheng)成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规(gui)范内容制作、传播(bo)各环节标识行(xing)为(wei)，将于(yu)2025年9月1日起施行(xing)。
专家认为(wei)，办法是我(wo)国推进人工智能领域安全治理、促进产(chan)业(ye)规(gui)范健康发展、引导技术向善的重要举措，标志着我(wo)国在生(sheng)成式人工智能领域迈出了构建(jian)安全可信生(sheng)态的关键一步(bu)。
近年来，生(sheng)成式人工智能、深度(du)合成等新技术快(kuai)速发展，为(wei)生(sheng)成合成文本、图片、音(yin)频(pin)、视频(pin)等信息提供了便利工具。
“然而，人工智能生(sheng)成合成内容日益逼真，也催生(sheng)虚假消息传播(bo)、身份信息冒充、恶意(yi)内容生(sheng)成等新型安全风险，并削弱(ruo)着公众对网络传播(bo)内容的信任根基。”中国工程(cheng)院(yuan)院(yuan)士、浙江大学教授陈纯认为(wei)，面(mian)对人工智能安全治理这(zhe)一世界性难题，四部门适(shi)时(shi)出台《人工智能生(sheng)成合成内容标识办法》，配套强制性国家标准《网络安全技术 人工智能生(sheng)成合成内容标识方法》也同时(shi)发布，成为(wei)保障(zhang)人工智能时(shi)代(dai)网络生(sheng)态安全有序的关键手段(duan)。
国家网信办有关负责人表示(shi)，办法重点解决“哪些是生(sheng)成的”“谁生(sheng)成的”“从哪里(li)生(sheng)成的”等问题，推动由生(sheng)成到传播(bo)各环节的全流程(cheng)安全管理，力争打造可信赖的人工智能技术。
——针(zhen)对服务提供者，办法明确应当对文本、音(yin)频(pin)、图片、视频(pin)、虚拟(ni)场景等生(sheng)成合成内容添加显式标识，在提供生(sheng)成合成内容下载、复制、导出等功能时(shi)，应当确保文件中含有满足要求的显式标识；应当在生(sheng)成合成内容的文件元数据中添加隐式标识。
——针(zhen)对互联(lian)网应用程(cheng)序分(fen)发平台，办法提出在应用程(cheng)序上架或者上线审核时(shi)，应当要求互联(lian)网应用程(cheng)序服务提供者说明是否(fou)提供人工智能生(sheng)成合成服务，并核验其生(sheng)成合成内容标识相关材料。
——针(zhen)对用户，办法要求使用网络信息内容传播(bo)服务发布生(sheng)成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行(xing)标识。
此外，任何组织和个人不得恶意(yi)删除、篡改、伪造、隐匿办法规(gui)定的生(sheng)成合成内容标识，不得为(wei)他人实施上述恶意(yi)行(xing)为(wei)提供工具或者服务，不得通过不正当标识手段(duan)损(sun)害他人合法权(quan)益。
“此前出台的《互联(lian)网信息服务算法推荐管理规(gui)定》《互联(lian)网信息服务深度(du)合成管理规(gui)定》《生(sheng)成式人工智能服务管理暂(zan)行(xing)办法》提出了标识有关要求，办法进一步(bu)细化了标识的具体实施规(gui)范。”北京航空航天大学法学院(yuan)副教授赵精武认为(wei)，办法明确了生(sheng)成合成内容制作传播(bo)各主体的责任义务，用户能够(gou)清晰识别人工智能生(sheng)成的内容，减轻(qing)人工智能生(sheng)成合成技术滥用危害，防(fang)范利用生(sheng)成合成内容传播(bo)虚假信息、实施电信诈骗等风险行(xing)为(wei)。
一方面(mian)，清晰的内容标识有助(zhu)于(yu)提升信息透明度(du)，增强用户的知(zhi)情权(quan)和选择权(quan)，培养公众对人工智能技术的理性认知(zhi)。另(ling)一方面(mian)，对于(yu)服务提供者及传播(bo)平台而言，内容标识制度(du)既是责任更是机遇，在鼓励(li)企业(ye)追求技术能力提升的同时(shi)，也将提升对产(chan)品社会影响的关注度(du)，推动整个行(xing)业(ye)向更加规(gui)范、健康的方向发展。
良法善治，重在实施。专家认为(wei)，办法的落地需要各方协同配合，推动标识工作行(xing)稳致远。
公安部第三研究所副所长金波说，伴(ban)随标识管理与算法备案、安全评估等机制逐步(bu)实现有机衔接，生(sheng)成合成内容标识合规(gui)或将成为(wei)相关部门开展人工智能监督检查、专项行(xing)动的重点关注领域。在此进程(cheng)中，如何平衡好发展与安全、创新与责任，提升执法的专业(ye)化、精细化、智慧化水平，从而培育出安全、开放、公平的人工智能产(chan)业(ye)生(sheng)态环境(jing)，还需要深入探究。
“此外，‘人的因素’应融(rong)入人工智能标识管理的全过程(cheng)。”金波说，要着重提升公众对信息内容真实性、来源可追溯性的评估能力，积极培育公众的人工智能素养，确保人工智能技术成果普惠共享(xiang)。（完）