国家互(hu)联网(wang)信息办公室等4部门近日联合发布《人工智能生(sheng)成合成内(nei)容标识办法》，自2025年9月1日起施行。这(zhe)意味着，届时所有AI作品必须亮明身份，标注是AI生(sheng)成。该《办法》聚焦人工智能“生(sheng)成合成内(nei)容标识”关键点，为破解“AI造假”困局(ju)提供了(le)依据(ju)。
近年来，人工智能大(da)模型快(kuai)速发展，为人们提供了(le)便利工具，但在促进经济社会发展的同时，也带来了(le)技术(shu)滥用的问题。AI技术(shu)降(jiang)低虚(xu)假视频制作成本，被用来伪造明星代言、伪造科(ke)学家带货(huo)，让批量生(sheng)产、快(kuai)速传播、收割变现、注销换壳的欺(qi)诈营销快(kuai)速形成闭环。为了(le)吸引流量、快(kuai)速起号，“深度合成工厂(chang)”利用AI技术(shu)批量生(sheng)产虚(xu)假信息，猎奇、极端、煽动情绪的假资讯充(chong)斥互(hu)联网(wang)，令公众真假难辨(bian)。
当AI作品深入千家万户时，AI生(sheng)成内(nei)容的以假乱真就会带来社会信任危机。《办法》的出台正当其时，本质(zhi)上是一场重(zhong)建人机信任的“革命”。当AI学会为自己(ji)的作品署名，人类(lei)才能安心与之(zhi)共舞。
《办法》从三重(zhong)维度筑(zhu)牢治理防线，重(zhong)点解决“哪(na)些是生(sheng)成的”“谁生(sheng)成的”“从哪(na)里生(sheng)成的”等关键问题，实现全(quan)流程安全(quan)治理。
在技术(shu)层面，明确研(yan)发者的“身份编码”义务。
《办法》明确服务提供者应当对文本、音频、图(tu)片、视频、虚(xu)拟场景等生(sheng)成合成内(nei)容添加显式标识，应当在生(sheng)成合成内(nei)容的文件元数据(ju)中添加隐式标识。这(zhe)相当于为每件AI作品颁发“数字身份证”，既便于监管部门溯源追责，也倒(dao)逼企业将(jiang)伦理设计嵌入技术(shu)底层，实现生(sheng)成式AI的全(quan)生(sheng)命周期标识管理。
在平台层面，压实内(nei)容分发者的“身份查验”责任。
《办法》对内(nei)容分发平台的责任也作出详细规定。按要求，内(nei)容分发平台要核验文件元数据(ju)中是否含有隐式标识，必须采取措施对AI生(sheng)成内(nei)容进行标识。此前，我国已有多个社交平台试点“AI内(nei)容防火墙”，提高虚(xu)假信息拦(lan)截率。未来，随着《办法》的实施，“源头标注+平台拦(lan)截”的双重(zhong)机制，将(jiang)重(zhong)塑网(wang)络空间的信任生(sheng)态(tai)。
在公众层面，激(ji)活社会监督的“身份认知”意识。
人工智能工具普及化，让每个用户都可能成为虚(xu)假内(nei)容的制编辑和(he)受害者。依据(ju)《办法》规定，用户发布AI生(sheng)成合成内(nei)容时应该主动标识，任何组织和(he)个人不得恶意删除、篡改、伪造、隐匿这(zhe)些内(nei)容标识。可以想(xiang)见，对公众而言，未来刷视频时先找“AI身份证”，会像过去买商品时看生(sheng)产日期一样(yang)自然。而当人人都是“鉴定师(shi)”时，AI作品自然无处匿名。
当然，打造可信赖的人工智能技术(shu)并(bing)非一日之(zhi)功(gong)。比如，《办法》中提到的隐式标识，在技术(shu)上能否被规避和(he)移除？这(zhe)还需(xu)要更多企业加强对人工智能安全(quan)的投入与研(yan)究，以合理成本提高系统(tong)安全(quan)性。
AI产业正在蓬勃生(sheng)长。统(tong)计报告显示(shi)，我国人工智能企业数量超4500家，核心产业规模已接近6000亿元。截至(zhi)2024年12月，我国有2.49亿人表示(shi)自己(ji)使(shi)用过生(sheng)成式人工智能产品，占(zhan)整体人口的17.7%。
AI技术(shu)进步和(he)AI安全(quan)治理是“一体两面”，科(ke)技之(zhi)光投射(she)在合乎伦理的镜面上，才能照亮更长远的未来。让AI生(sheng)成内(nei)容亮明身份，是科(ke)技向(xiang)善的强制约束，是享利避害的制度设计。标识制度的施行，将(jiang)为AI技术(shu)铺设可持续发展的轨道，让人工智能更好地(di)服务于人类(lei)社会。 （本文来源：经济日报 编辑：佘惠敏）