伴随着(zhe)人工智能技术的加速发展近(jin)年来，关于AI深度伪造技术、AI虚(xu)假泛滥等现象屡禁不止，日前国家互(hu)联网(wang)信息(xi)办公室、工业和信息(xi)化部(bu)、公安部(bu)、国家广播(bo)电(dian)视总局(ju)联合发布《人工智能生成合成内容标识办法》（以下简称“《标识办法》”），对AI内容的标识提出了三大核心要求，涉(she)及显式标识、隐式标识和平(ping)台责任。《标识办法》自(zi)2025年9月1日起施行。
在专家看(kan)来，当(dang)前监管部(bu)门针对人工智能的治理(li)，尤其是内容治理(li)，所遵循的思(si)路是“小步快走”，而非追求大而全。这一思(si)路也符合人工智能技术的发展现状，与人工智能技术在大规模应用中(zhong)的产业场景相契合。
AI生成营销内容必须规范标注
根(gen)据此次发布的《标识办法》，人工智能生成合成内容标识主(zhu)要包括显式标识和隐式标识两种形式，显式标识是指在生成合成内容或者(zhe)交互(hu)场景界面中(zhong)添加的，以文字、声音、图形等方(fang)式呈现并(bing)可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中(zhong)添加的，不易被用户明显感知到的标识。
《标识办法》提出，服务提供者(zhe)提供的生成合成服务，应当(dang)按照下列要求对生成合成内容添加显式标识：包括在文本的起始、末尾、中(zhong)间适当(dang)位置添加文字提示(shi)或通用符号提示(shi)等标识，或在交互(hu)场景界面或文字周边添加显著的提示(shi)标识；在音频的起始、末尾或中(zhong)间适当(dang)位置添加语音提示(shi)或音频节奏提示(shi)等标识，或在交互(hu)场景界面中(zhong)添加显著的提示(shi)标识等。《标识办法》明确，违反规定的，将由网(wang)信、电(dian)信、公安和广播(bo)电(dian)视等有关主(zhu)管部(bu)门依据职责，按照有关法律、行政(zheng)法规、部(bu)门规章(zhang)的规定予以处理(li)。
中(zhong)国科学院(yuan)科技战略咨询研究院(yuan)研究员肖尤丹向澎湃科技表示(shi)，此次新(xin)规虽(sui)然切(qie)口小，但应当(dang)把它放到生成式人工智能内容治理(li)的总体框架里，与算法备案管理(li)、生成式人工智能服务管理(li)、深度合成管理(li)相互(hu)协调、共同发挥(hui)作用的角度去理(li)解。
在肖尤丹看(kan)来，当(dang)前人工智能的治理(li)，尤其是内容治理(li)，所遵循的思(si)路是“小步快走”，而非追求大而全。这种思(si)路符合人工智能技术的发展现状，也与人工智能技术在大规模应用中(zhong)的产业场景相契合。
专注于AI信息(xi)安全与数字资产保(bao)护(hu)，隐拓智安科技有限企业的工作人员万嗣芳向澎湃科技分析认为，今(jin)后用户刷到AI生成的明星广告时，一眼就会看(kan)到“AI生成”提示(shi)，会避免被虚(xu)假宣传误导。对于AI企业和互(hu)联网(wang)平(ping)台来说，直观(guan)的影响在于，使用AI批量生成营销内容时，必须像给商品贴成分表一样规范标注，否则可能面临处罚(fa)。
万嗣芳称，这次文件明确要求，AI服务提供者(zhe)和内容传播(bo)平(ping)台必须采取措施对AI生成内容进行标识。可以预见，未来AI服务平(ping)台和各(ge)类媒体平(ping)台上都(dou)将更加清(qing)晰地(di)展示(shi)相关标识，帮助公众更便捷地(di)识别(bie)AI生成内容和深度伪造信息(xi)，相应由AI伪造带来的谣言(yan)情况也会随之减少。
肖尤丹认为，接下来AI企业和平(ping)台更需要适应新(xin)规范下的运营流程。社会对该(gai)办法出台的预期比较稳定，办法也预留(liu)了半年左右的准备时间，因此，对大多数AIGC服务提供者(zhe)来说，履行办法中(zhong)的“标识义务”并(bing)没(mei)有太大的技术难度和合规成本。尤其是现在国内主(zhu)流的AI服务提供商，实际上已经(jing)在采取类似(si)的标识方(fang)式。不过，对于那些(xie)提供接口服务或间接向公众提供AI服务的企业来说，或许会需要一个(ge)技术调整与合规的过程。
对AI深度伪造病毒(du)式传播(bo)是一次“致命打击”
澎湃科技注意(yi)到，《标识办法》中(zhong)第十条明确规定，用户使用网(wang)络信息(xi)传播(bo)服务发布生成合成内容的，应当(dang)主(zhu)动声明并(bing)使用服务提供者(zhe)提供的标识功能进行标识。
在肖尤丹看(kan)来，这一细则的好处在于，对于那些(xie)利用AI技术抄袭、搬运内容的新(xin)媒体营销号无疑是一次“致命打击”。
肖尤丹称，使用者(zhe)在使用网(wang)络信息(xi)服务发布生成合成内容时，必须要添加相应的隐式或显式标识，否则将无法通过合规要求。“一旦使用者(zhe)在二次传播(bo)过程中(zhong)添加了自(zi)己的内容，却又删除了原有的隐性标识，那么从隐性标识的角度来看(kan)，使用者(zhe)就违反了保(bao)证标识完整性和真实性的义务。这与标识义务本身是不同的。”
肖尤丹表示(shi)，《标识办法》制(zhi)度未来的优势在于，过往对于生成式人工智能的监管需要按照每(mei)个(ge)个(ge)案判断，这对平(ping)台来说监管识别(bie)难度非常(chang)大。而该(gai)办法出台后，平(ping)台方(fang)也可以追溯到服务提供者(zhe)，明确其是否履行了标识义务。
比如，如果使用AI伪造的声音，系(xi)统要求在该(gai)声音的前后段必须加上显性标识。同时，录音文件本身也应包含隐性标识。如果有人直接搬运并(bing)使用伪造声音进行模仿，那么传播(bo)平(ping)台理(li)论上可以通过显式标识识别(bie)出来，可以有效避免AI伪造声音在平(ping)台大量传播(bo)。
“标识制(zhi)度的主(zhu)要目的是用较小的合规成本，较好地(di)解决(jue)当(dang)前AI技术快速发展带来的新(xin)问题(ti)。因为标识制(zhi)度的主(zhu)要目标是实现大规模、高可靠性和低成本的监管。”肖尤丹说。
律师(shi)李(li)昀锴曾代理(li)全国首例AI生成图片(pian)著作权(quan)侵权(quan)案，他认为，《标识办法》的核心是为了遏制(zhi)AI伪造内容的传播(bo)，减少谣言(yan)、诈(zha)骗等社会危害，也能够推动AI技术在合法框架内发展，保(bao)护(hu)公众知情权(quan)。
如果真的出现被误导和诈(zha)骗的情况，也可以通过标识水印(yin)追溯到实际的侵权(quan)人、犯罪者(zhe)。以后，各(ge)类平(ping)台均可能强制(zhi)要求标注，未合规的内容可能无法发布。
不过，李(li)昀锴指出，目前来看(kan)，隐式标识在技术上能否被有效地(di)规避和移除可能还需要各(ge)平(ping)台继续探(tan)索，寻找一条技术上可行的统一路线。
肖尤丹称，AI技术发展和AI安全发展本身是“一体两面”的关系(xi)，但近(jin)两年，从投资上的热(re)情来看(kan)，大家更愿意(yi)投入人工智能技术发展，而不愿意(yi)投入人工智能安全方(fang)面。他认为，此次《标识办法》的出台，对于AI安全行业的发展也是一个(ge)利好的信号。
万嗣芳也坦言(yan)，在过去两年，AI行业主(zhu)要聚焦于模型能力和应用的快速迭代上，安全问题(ti)往往被视为次要考量。《标识办法》的出台将使企业意(yi)识到安全合规的重要性，推动企业加大在安全能力建设方(fang)面的投入，相应也为AI安全技术企业创造更多市场机遇。