在人(ren)工智能快速(su)发展的当下(xia)，如(ru)何平衡(heng)推进(jin)其应用与治理？3月26日，在博鳌亚洲(zhou)论(lun)坛2025年年会上，各界专家对该问(wen)题(ti)进(jin)行了探讨。
“在广泛运用Agent（智能体(ti)）之后，AI的安全风险(xian)至少上升了一倍。”清华大学讲席(xi)教授、清华大学智能产业研究院（AIR）院长、中国工程院院士张亚勤(qin)在会上表示，“智能体(ti)是很好的技术，它能够自我规划、学习、试点并达到(dao)自己的目的，但它本(ben)身会带来很大的风险(xian)，一种是可(ke)控风险(xian)，一种是被‘坏人(ren)’所利用的风险(xian)，风险(xian)增加了两倍。能力越(yue)大，它带来的风险(xian)越(yue)高，特别是AI从信息(xi)智能到(dao)物理智能到(dao)生物智能，风险(xian)会增加很多倍，大家在用智能体(ti)的时候需要设置(zhi)一些红线。”
AI应用与治理平衡(heng)推进(jin)论(lun)坛现(xian)场。 澎湃资讯(wen)记者 秦盛 摄
中国科学院自动化研究所研究员、联合(he)国人(ren)工智能高层顾问(wen)机构专家曾毅表示：“去年我和张亚勤(qin)老师讨论(lun)是不(bu)是应该暂停6个月的人(ren)工智能大模型研究，先把安全护栏做好，很多人(ren)都误解了这样的倡议，以为是不(bu)要推进(jin)人(ren)工智能的研究。其实这个倡议告诉大家的是大家构建安全护栏的速(su)度没跟上人(ren)工智能发展的速(su)度，但是去年的博鳌论(lun)坛上，全世界的科学家对于如(ru)何构建安全护栏是不(bu)知道答案的。但是经过了一年的探索(suo)，大家有了初步的答案。”
曾毅表示，模型能力提(ti)升并不(bu)代表安全能力自然(ran)地就好，现(xian)在有很多人(ren)工智能大模型，包括国内(nei)的人(ren)工智能大模型，在认知问(wen)题(ti)、求解能力上与GPT系列可(ke)以达到(dao)同一水平，但在伦理框(kuang)架上还有提(ti)升空间，“大家有一项新研究证明，当你提(ti)升人(ren)工智能大模型安全能力的时候，对它求解能力的影响几乎可(ke)以忽略。大家尝试了十几个人(ren)工智能大模型，可(ke)以把它的安全能力提(ti)升百分之二三十，对它的问(wen)题(ti)求解能力的影响几乎可(ke)以忽略，这说明安全和发展之间不(bu)是掣(che)肘的关系，可(ke)以做到(dao)在人(ren)工智能充(chong)分安全的情况下(xia)，它的能力几乎不(bu)受损”。
他再次强调，去年大家都重(zhong)视人(ren)工智能的安全，而今年，伦理安全应该作为人(ren)工智能大模型发展的基因，应该作为第一性原理，不(bu)可(ke)删除(chu)，不(bu)可(ke)违背，同时可(ke)以做到(dao)稳健发展。
中国社会科学院大学教授、国务院原副秘书长江小涓表示，AI治理如(ru)何落地、如(ru)何实践是目前最大的挑战，“过去很多年我对AI治理方面的进(jin)展是很遗(yi)憾的，我觉得(de)进(jin)展是很有限的，从十年前阿瑟马人(ren)工智能原则提(ti)出来一直到(dao)现(xian)在，这个原则已经讨论(lun)十年了，一个月前巴黎峰会的六项原则依旧是继承了过去的这些原则，但是落地非常有限”。
江小涓认为，需要把问(wen)题(ti)分成可(ke)以落地的方向来推进(jin)，从经济学家的角度来看，一项技术是否可(ke)以接受其实只有两个标准，一是能不(bu)能带来生产力的提(ti)高，使(shi)其创(chuang)造(zao)更多的财富(fu)，二是发展的结果(guo)能不(bu)能比较公平地分享。
“从这两个原则来讲，AI的发展第一没有问(wen)题(ti)，肯定(ding)是提(ti)高劳动生产率了，但是第二个问(wen)题(ti)是不(bu)是能够比较好地被社会所有成员分享，这个问(wen)题(ti)划到(dao)经济学角度上讲比较简单，就是就业是不(bu)是充(chong)分，分配是不(bu)是公平。如(ru)果(guo)这两个问(wen)题(ti)不(bu)能解决的话，大家有什么替代的政策(ce)，比如(ru)就业的冲击出现(xian)后大家应该有新的社会保障政策(ce)来实行它，而不(bu)是一再重(zhong)复那些不(bu)能落地的原则。每个时代有每个时代的价值观(guan)，当技术使(shi)这些价值观(guan)必须改变的时候，大家要改变它，而不(bu)是一再地重(zhong)复包容、共享，它是落不(bu)了地的。”江小涓如(ru)是说。
对于DeepSeek带来的影响，江小涓认为，DeepSeek在从经济学的角度上来讲使(shi)人(ren)们对AI大模型发展的担忧有所减轻，把AI从垄断(duan)变成了真正竞争的产业，从技术化的能力变成产业化的能力，形成了传统(tong)市场经济中的竞争格局(ju)，“我非常相信在竞争中，市场自发会解决很多问(wen)题(ti)，而不(bu)一定(ding)要大家那么高层地去讨论(lun)非常多的原则问(wen)题(ti)”。