在人(ren)工(gong)智能快速发展的当下，如何平衡推进其(qi)应用(yong)与治(zhi)理(li)？3月26日，在博鳌(ao)亚洲论坛2025年年会上，各(ge)界专家对该问题进行了(le)探(tan)讨(tao)。
“在广泛运用(yong)Agent（智能体）之后，AI的安全风险(xian)至少上升了(le)一倍(bei)。”清华大学讲席教授、清华大学智能产业(ye)研究院(yuan)（AIR）院(yuan)长、中国工(gong)程院(yuan)院(yuan)士张亚勤在会上表示，“智能体是很好的技术，它能够自我规划、学习、试点(dian)并达到自己的目的，但它本身会带来很大的风险(xian)，一种是可控风险(xian)，一种是被‘坏人(ren)’所(suo)利用(yong)的风险(xian)，风险(xian)增加(jia)了(le)两倍(bei)。能力越大，它带来的风险(xian)越高，特别是AI从信息智能到物理(li)智能到生物智能，风险(xian)会增加(jia)很多倍(bei)，大家在用(yong)智能体的时(shi)候需要设置一些红线。”
AI应用(yong)与治(zhi)理(li)平衡推进论坛现场(chang)。 澎湃资讯记者 秦盛 摄(she)
中国科学院(yuan)自动化研究所(suo)研究员、联合国人(ren)工(gong)智能高层顾问机构专家曾毅表示：“去年我和张亚勤老师讨(tao)论是不(bu)是应该暂停6个月的人(ren)工(gong)智能大模(mo)型研究，先(xian)把安全护(hu)栏做好，很多人(ren)都误解了(le)这(zhe)样的倡议(yi)，以为是不(bu)要推进人(ren)工(gong)智能的研究。其(qi)实这(zhe)个倡议(yi)告诉大家的是大家构建安全护(hu)栏的速度没跟上人(ren)工(gong)智能发展的速度，但是去年的博鳌(ao)论坛上，全世界的科学家对于如何构建安全护(hu)栏是不(bu)知道(dao)答案的。但是经过了(le)一年的探(tan)索，大家有了(le)初步的答案。”
曾毅表示，模(mo)型能力提(ti)升并不(bu)代表安全能力自然地就好，现在有很多人(ren)工(gong)智能大模(mo)型，包括国内(nei)的人(ren)工(gong)智能大模(mo)型，在认(ren)知问题、求(qiu)解能力上与GPT系列可以达到同一水平，但在伦(lun)理(li)框架上还有提(ti)升空间(jian)，“大家有一项新研究证明，当你提(ti)升人(ren)工(gong)智能大模(mo)型安全能力的时(shi)候，对它求(qiu)解能力的影响几(ji)乎可以忽略。大家尝试了(le)十(shi)几(ji)个人(ren)工(gong)智能大模(mo)型，可以把它的安全能力提(ti)升百分之二三十(shi)，对它的问题求(qiu)解能力的影响几(ji)乎可以忽略，这(zhe)说明安全和发展之间(jian)不(bu)是掣肘的关系，可以做到在人(ren)工(gong)智能充分安全的情况下，它的能力几(ji)乎不(bu)受损”。
他再次强调，去年大家都重视人(ren)工(gong)智能的安全，而今年，伦(lun)理(li)安全应该作为人(ren)工(gong)智能大模(mo)型发展的基因，应该作为第一性原(yuan)理(li)，不(bu)可删除(chu)，不(bu)可违背，同时(shi)可以做到稳健发展。
中国社会科学院(yuan)大学教授、国务院(yuan)原(yuan)副秘书长江小涓表示，AI治(zhi)理(li)如何落地、如何实践(jian)是目前(qian)最大的挑战，“过去很多年我对AI治(zhi)理(li)方(fang)面(mian)的进展是很遗憾的，我觉(jue)得进展是很有限的，从十(shi)年前(qian)阿瑟(se)马人(ren)工(gong)智能原(yuan)则提(ti)出来一直(zhi)到现在，这(zhe)个原(yuan)则已经讨(tao)论十(shi)年了(le)，一个月前(qian)巴黎峰会的六项原(yuan)则依旧是继承了(le)过去的这(zhe)些原(yuan)则，但是落地非常有限”。
江小涓认(ren)为，需要把问题分成(cheng)可以落地的方(fang)向(xiang)来推进，从经济学家的角度来看，一项技术是否可以接受其(qi)实只(zhi)有两个标准，一是能不(bu)能带来生产力的提(ti)高，使其(qi)创造更多的财富，二是发展的结果能不(bu)能比较公平地分享。
“从这(zhe)两个原(yuan)则来讲，AI的发展第一没有问题，肯定是提(ti)高劳动生产率了(le)，但是第二个问题是不(bu)是能够比较好地被社会所(suo)有成(cheng)员分享，这(zhe)个问题划到经济学角度上讲比较简单，就是就业(ye)是不(bu)是充分，分配是不(bu)是公平。如果这(zhe)两个问题不(bu)能解决的话，大家有什么替代的政策，比如就业(ye)的冲击出现后大家应该有新的社会保障政策来实行它，而不(bu)是一再重复那些不(bu)能落地的原(yuan)则。每个时(shi)代有每个时(shi)代的价值观，当技术使这(zhe)些价值观必须改变(bian)的时(shi)候，大家要改变(bian)它，而不(bu)是一再地重复包容、共享，它是落不(bu)了(le)地的。”江小涓如是说。
对于DeepSeek带来的影响，江小涓认(ren)为，DeepSeek在从经济学的角度上来讲使人(ren)们对AI大模(mo)型发展的担忧有所(suo)减轻，把AI从垄断(duan)变(bian)成(cheng)了(le)真正竞争的产业(ye)，从技术化的能力变(bian)成(cheng)产业(ye)化的能力，形成(cheng)了(le)传统(tong)市场(chang)经济中的竞争格局，“我非常相信在竞争中，市场(chang)自发会解决很多问题，而不(bu)一定要大家那么高层地去讨(tao)论非常多的原(yuan)则问题”。