【经济(ji)界面】
夜深人静时，有(you)人找它线上聊天、获取(qu)慰(wei)藉(jie)；视频(pin)带货时，有(you)人用它快速(su)生成营销文(wen)案；同学聚会时，有(you)人用它现场作(zuo)诗助兴……它，就是很多人眼中的“生活好帮(bang)手”“工作(zuo)好搭子”——人工智能（AI）大模型。
近(jin)期(qi)，多款大模型产品横空出世、风靡(mi)全球，再次掀起人工智能热潮。但与此同时，也有(you)一些人利用人工智能生成合成虚假内(nei)容，或为(wei)吸引眼球、赚取(qu)流量，或试图以假乱(luan)真、造谣诈骗等，带来一定风险和隐患，引发社(she)会关注。
近(jin)日，国家互联网信息办公室、工业和信息化部(bu)、公安(an)部(bu)、国家广播(bo)电视总局联合发布《人工智能生成合成内(nei)容标识办法》（以下简称《办法》）。《办法》聚焦人工智能“生成合成内(nei)容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主(zhu)体的标识责任义务，规范内(nei)容制(zhi)作(zuo)、传播(bo)各环节标识行为(wei)，将于2025年9月1日起施(shi)行。
如何让人工智能生成合成内(nei)容“亮明身(shen)份”，不再“真假难辨”？如何破解人工智能安(an)全治(zhi)理难题(ti)？记(ji)者(zhe)就此进行了采访(fang)。
人工智能合成让人真假难辨
小猫(mao)小狗随着音(yin)乐跳起舞蹈，家中“萌(meng)娃(wa)”大战公鸡(ji)……在短视频(pin)平台上，人们不时会刷到类(lei)似(si)视频(pin)。其实(shi)，一些传播(bo)量、点赞量都很大的“神奇视频(pin)”并非是真实(shi)的，而是由人工智能生成合成的。
所谓人工智能生成合成内(nei)容，是指利用人工智能技术生成、合成的文(wen)本(ben)、图片、音(yin)频(pin)、视频(pin)、虚拟场景等信息。
近(jin)年来，人工智能技术快速(su)发展(zhan)，为(wei)生成合成文(wen)字、图片、音(yin)频(pin)、视频(pin)等信息提供了便利工具，海量信息得(de)以快速(su)生成合成并在网络(luo)平台传播(bo)，在促进经济(ji)发展(zhan)、丰(feng)富网上内(nei)容、便利公众生活的同时，也带来生成合成技术滥用、破坏网络(luo)生态等问题(ti)，引发社(she)会各界的关注。
“一些喜欢我参演的影视剧的观众，被AI换脸视频(pin)骗得(de)很惨，这(zhe)个性质非常(chang)恶劣(lie)。”一位演员说，希翼(wang)能建(jian)立更好的规范。实(shi)际上，不少公众人物(wu)都遭遇过类(lei)似(si)问题(ti)。
公安(an)部(bu)数据显示(shi)，近(jin)两年来，全国共发生“AI换脸”类(lei)诈骗案近(jin)百起，累计造成的经济(ji)损失高达2亿元。
“人工智能生成合成内(nei)容日益逼真，也催生虚假消息传播(bo)、身(shen)份信息冒(mao)充、恶意(yi)内(nei)容生成等新型安(an)全风险，并削弱(ruo)着公众对(dui)网络(luo)传播(bo)内(nei)容的信任根基。”中国工程院院士(shi)、浙江大学教授陈纯说。
中国电子信息产业发展(zhan)研究(jiu)院副总工程师刘权(quan)认为(wei)，人工智能大模型本(ben)身(shen)存(cun)在不可说明性问题(ti)。大模型运作(zuo)机制(zhi)不透(tou)明，产生的“黑(hei)箱(xiang)”属性导致不可说明性。这(zhe)种不可说明性降(jiang)低了可信度，使得(de)输出的内(nei)容可能存(cun)在事实(shi)性错误和偏差，特别是在医疗、金(jin)融(rong)等领域，难以满足严苛的可信要求。
中国社(she)会科学院大学互联网法治(zhi)研究(jiu)中心主(zhu)任刘晓春表(biao)示(shi)，通过人工智能生成合成技术降(jiang)低了内(nei)容“伪造”“造假”等的时间成本(ben)，尤其在图片、音(yin)频(pin)、视频(pin)等领域，从早期(qi)引起广泛关注的“换脸”工具，到伪造人声、通话视频(pin)的诈骗活动(dong)，再到“被压在废墟下的小男(nan)孩”等热点事件，人工智能技术带来的深度伪造、虚假信息、不良信息、抄袭侵权(quan)等问题(ti)，对(dui)包括内(nei)容治(zhi)理在内(nei)的网络(luo)空间秩序构成挑战，对(dui)治(zhi)理工具、方式(shi)和手段也提出了更新更高的要求。
数据显示(shi)，截至2024年底(di)，共302款生成式(shi)人工智能服务在国家网信办完(wan)成备案，其中当年新增238款备案。
“当前，大模型能够(gou)生成高真实(shi)感的文(wen)本(ben)、人像、场景、音(yin)频(pin)，普通民众不借助检测工具往往很难辨别内(nei)容真伪。”中国科学院计算技术研究(jiu)所数字内(nei)容合成与伪造检测实(shi)验室主(zhu)任、研究(jiu)员曹娟认为(wei)，随着生成式(shi)人工智能技术在各个行业落地应用，生成合成内(nei)容的数据规模快速(su)增长，对(dui)生成内(nei)容进行全面检测成本(ben)太(tai)高。生成合成内(nei)容适用场景大幅扩展(zhan)，助长了欺骗场景多样化。
打造可信赖的AI技术
《办法》的推出是我国推进人工智能领域安(an)全治(zhi)理、促进产业规范健康发展(zhan)、引导技术向善的重要举措，标志着我国在生成式(shi)人工智能领域迈出了构建(jian)安(an)全可信生态的关键一步。
国家互联网信息办公室有(you)关负责人先容(shao)，《办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题(ti)，推动(dong)由生成到传播(bo)各环节的全流程安(an)全管理，力争打造可信赖的人工智能技术。
针对(dui)服务提供者(zhe)，《办法》明确，应当对(dui)文(wen)本(ben)、音(yin)频(pin)、图片、视频(pin)、虚拟场景等生成合成内(nei)容添加显式(shi)标识，在提供生成合成内(nei)容下载(zai)、复(fu)制(zhi)、导出等功能时，应当确保文(wen)件中含有(you)满足要求的显式(shi)标识；应当在生成合成内(nei)容的文(wen)件元数据中添加隐式(shi)标识。
针对(dui)互联网应用程序分(fen)发平台，《办法》提出在应用程序上架(jia)或者(zhe)上线审核时，应当要求互联网应用程序服务提供者(zhe)说明是否提供人工智能生成合成服务，并核验其生成合成内(nei)容标识相关材料。
针对(dui)用户，《办法》提出，用户使用网络(luo)信息内(nei)容传播(bo)服务发布生成合成内(nei)容的，应当主(zhu)动(dong)声明并使用服务提供者(zhe)提供的标识功能进行标识。
此外，任何组织和个人不得(de)恶意(yi)删除、篡改、伪造、隐匿本(ben)办法规定的生成合成内(nei)容标识，不得(de)为(wei)他人实(shi)施(shi)上述恶意(yi)行为(wei)提供工具或者(zhe)服务，不得(de)通过不正当标识手段损害他人合法权(quan)益。
“《办法》以合理成本(ben)提高安(an)全性，促进人工智能在文(wen)本(ben)对(dui)话、内(nei)容制(zhi)作(zuo)、辅助设计等各应用场景加快落地，同时减轻人工智能生成合成技术滥用危害，防范利用人工智能技术制(zhi)作(zuo)传播(bo)虚假信息等风险行为(wei)，推动(dong)人工智能健康有(you)序发展(zhan)。”该负责人说。
中国政法大学数据法治(zhi)研究(jiu)院教授张凌寒认为(wei)，人工智能生成内(nei)容标识制(zhi)度具备独特制(zhi)度价(jia)值。标识能够(gou)有(you)效区(qu)分(fen)出人工智能生成合成的信息，防范虚假信息的传播(bo)利用；标识能够(gou)帮(bang)助用户快速(su)了解生成式(shi)人工智能产品和服务的相关属性或参数信息；标识能够(gou)协助监管部(bu)门对(dui)生成式(shi)人工智能产品或服务实(shi)施(shi)评估、追溯等监管，推进人工智能生成合成内(nei)容合法合规发展(zhan)。
张凌寒表(biao)示(shi)，目前，人工智能生成合成内(nei)容标识制(zhi)度主(zhu)要关注“是否机器生成”的形式(shi)判断。随着标识技术的进步与发展(zhan)，未来标识制(zhi)度能够(gou)发挥(hui)更为(wei)丰(feng)富的功能，从形式(shi)判断逐渐转向“是否足够(gou)可靠”的质量判断，进一步促进行业健康发展(zhan)。
安(an)全治(zhi)理进入“深水区(qu)”
良法善治(zhi)，重在实(shi)施(shi)。
为(wei)推动(dong)《办法》落地实(shi)施(shi)，强制(zhi)性国家标准(zhun)《网络(luo)安(an)全技术 人工智能生成合成内(nei)容标识方法》同步发布，更好地引导相关主(zhu)体规范开(kai)展(zhan)标识活动(dong)。
“当前，人工智能安(an)全治(zhi)理已从危害探讨(tao)进入实(shi)际执法的深水区(qu)。”曹娟说，大模型生成技术迭(die)代更新很快，平均两个月就会出现新的里程碑模型，提升针对(dui)新生伪造方法的泛化能力至关重要，需要摒弃“来一个打一枪”的事后思维，构建(jian)AI鉴伪底(di)座(zuo)模型，提高鉴伪模型的泛化适用性能。
曹娟表(biao)示(shi)，要研究(jiu)精准(zhun)化对(dui)抗鉴伪技术，防范恶意(yi)逃避风险。同时，降(jiang)低对(dui)无害生成内(nei)容传播(bo)的影响，兼顾生成内(nei)容应用的发展(zhan)与治(zhi)理，打造全民化伪造检测工具，推动(dong)人人可用鉴伪。
“可以预见，我国人工智能安(an)全执法将延续(xu)重点事项监管、促进产业有(you)序发展(zhan)的方向。”公安(an)部(bu)第三研究(jiu)所副所长金(jin)波说，伴随标识管理与算法备案、安(an)全评估等机制(zhi)逐步实(shi)现有(you)机衔接，生成合成内(nei)容标识合规或将成为(wei)相关部(bu)门开(kai)展(zhan)人工智能监督(du)检查、专项行动(dong)的重点关注领域。在此进程中，如何平衡好发展(zhan)与安(an)全、创(chuang)新与责任，提升执法的专业化、精细(xi)化、智慧化水平，从而培育(yu)出安(an)全、开(kai)放、公平的人工智能产业生态环境，还需要深入探究(jiu)。
“此外，‘人的因素’应融(rong)入人工智能标识管理的全过程。”金(jin)波表(biao)示(shi)，要着重提升公众对(dui)信息内(nei)容真实(shi)性、来源可追溯性的评估能力，积极(ji)培育(yu)公众的人工智能素养(yang)，确保人工智能技术成果普惠(hui)共享。
在陈纯看来，《办法》的落地离不开(kai)全社(she)会凝心聚力和协同配(pei)合。地方主(zhu)管部(bu)门、高校、科研机构、企业可共同参与，形成标识工作(zuo)先(xian)行的多点协同内(nei)容治(zhi)理网络(luo)，推动(dong)标识工作(zuo)行稳致远。此外，有(you)必(bi)要建(jian)立全国性的内(nei)容标识公共服务平台，以可视可交互的实(shi)际操(cao)练形式(shi)，促进公众和产业深入理解标识工作(zuo)。
“生成式(shi)人工智能促使信息技术从普通工具属性向‘思维伙伴’型高智能化工具属性进化，带来颠覆性发展(zhan)机遇，未来势必(bi)成为(wei)大家的必(bi)备技能，这(zhe)要求大家在使用时切实(shi)正确理解并管理人工智能。”陈纯说。（记(ji)者(zhe) 刘坤 通讯员 柳素雯）