3月26日，一场(chang)关乎AI未来(lai)的全球对话，在博鳌亚(ya)洲(zhou)论坛的现场(chang)激烈交锋。官方图
DeepSeek的横(heng)空出世，吸引了全球的目光聚(ju)焦于(yu)中国。随着AI技(ji)术的“狂飙式”发展(zhan)，与之相伴的安全问(wen)题(ti)也引起市(shi)场(chang)广(guang)泛担忧。3月26日，一场(chang)关乎AI未来(lai)的全球对话，在博鳌亚(ya)洲(zhou)论坛的现场(chang)激烈交锋。
针对通过(guo)标准(zhun)能否解决人工智能的安全性问(wen)题(ti)，与会嘉宾给出了不同的见解， vivo首(shou)席安全官鲁京辉表示，安全性问(wen)题(ti)不能简(jian)单地通过(guo)制定法律或规则来(lai)解决，而是需(xu)要形成(cheng)共识，但(dan)光有共识还不够，因为这还涉及地缘政治、全球化等问(wen)题(ti)。
中国科学院自动化研究所研究员、联(lian)合国人工智能高层顾问(wen)机构专家曾毅也表达了类似的观点。他认为，由于(yu)很多安全和风险问(wen)题(ti)是不可预知的，对于(yu)不可预知的部分大家(men)需(xu)要一直保持警惕。
中国工程院院士、清华大学智能产业研究院（AIR）院长张亚(ya)勤则认为，从可控性和可信度方面(mian)，技(ji)术是可以解决信息安全的。“对于(yu)风险，大家(men)需(xu)要定义一些红线和边界，因为技(ji)术不断发展(zhan)，有了边界之后大家(men)是可以解决的，如果(guo)完全没有边界，只谈一些大的原(yuan)则，谈一些具体方案是比较困难的。”
张亚(ya)勤：DeepSeek是近两年来(lai)人工智能领(ling)域(yu)最(zui)大的创新
“今年以前，大家(men)没有想到会发生(sheng)这么大的变化，AI已经走向AI Agent（智能体）阶(jie)段。”张亚(ya)勤坦(tan)言，DeepSeek是近两年来(lai)人工智能领(ling)域(yu)最(zui)大的、系统性、规模性的创新，也是中国对全球的重要贡献。
张亚(ya)勤表示，AI已从信息智能走向无人驾驶(shi)、机器人等物理智能，也走向人脑接口、生(sheng)物体大模型等生(sheng)物智能。他认为，无人驾驶(shi)是具身智能最(zui)大的应用，也是第(di)一个能够真正落地的方向，而人形机器人还需(xu)要更长时间。
谈及AI Agent广(guang)泛应用后的风险时，张亚(ya)勤指出，相关安全风险至少要增加一倍。“智能体是很好的技(ji)术，能够自我规划(hua)、学习、试错并达到目的，是非常好的工具，但(dan)在其运行过(guo)程中，中间路径不可控。“虽然智能算法并非完全的黑盒子，但(dan)很多运行机理大家(men)并不清楚。”
张亚(ya)勤表示，风险主要表现为两大方面(mian)，一种是可控风险，一种是被坏(huai)人所利用的风险。“另外，大家(men)用智能体的时候需(xu)要设置(zhi)一些红线，比如智能体不能自我复制。确实能力越大，带来(lai)的风险越高，特别是AI从信息智能到物理智能再到生(sheng)物智能，风险会增加很多倍。”
曾毅：人工智能的发展(zhan)和安全不是相互掣肘的关系
伴随着人工智能的发展(zhan)，业内对其创新与治理的态度经历了显著(zhu)转变。在去年的博鳌亚(ya)洲(zhou)论坛上，业内更多聚(ju)焦人工智能的发展(zhan)前景及趋势，今年论坛将目光瞄(miao)准(zhun)了更深层次的问(wen)题(ti)，人工智能的应用与治理。
“去年全世界的科学家对于(yu)如何构建安全护栏是不知道答案的。彼时，多位(wei)全球学者自愿签署叫(jiao)停人工智能6个月的发展(zhan)倡议。但(dan)是经过(guo)了半年多一年的探索，大家(men)已经有了初(chu)步答案，人工智能的发展(zhan)应用和安全之间的关系不是相互掣肘的关系。”曾毅表示。
曾毅认为，人工智能、大模型能力的提高并不代表安全能力就好。他表示，现在很多人工智能大模型，包括国内的人工智能大模型，在认知问(wen)题(ti)求解能力上与GPT系列在同一水平上，但(dan)在伦理框架上还有提升空间。
“今年伦理安全应该作为人工智能大模型发展(zhan)的基因，应该作为第(di)一性原(yuan)理，不可删除，不可违背，同时做到稳健发展(zhan)。”曾毅表示。
“不要让(rang)人工智能完全代替人的决策，一定要让(rang)决策权利在人类手中，这是当代人工智能应用时大家(men)必须注意的问(wen)题(ti)。”曾毅强调。
江小涓：过(guo)去多年AI治理方面(mian)的进展(zhan)有限
“前面(mian)两位(wei)科学家都比较乐观地表达了人工智能由于(yu)技(ji)术的发展(zhan)，它的安全问(wen)题(ti)可能会有比较好的解决，我一方面(mian)同意这个判断，但(dan)是另一方面(mian)我认为技(ji)术发展(zhan)会带来(lai)新的问(wen)题(ti)。”中国社(she)会科学院大学教授、国务院原(yuan)副秘书长江小涓表示。
江小涓表示，过(guo)去多年AI治理方面(mian)的进展(zhan)有限。“从十年前阿西洛马人工智能原(yuan)则提出一直到现在，这个原(yuan)则已经讨论十年了，一个月前巴黎AI峰会依旧(jiu)是继承了过(guo)去喊的这些原(yuan)则。这些原(yuan)则落地非常有限，如何落地、如何实践是最(zui)大的挑战。”
从经济学家角(jiao)度来(lai)看，江小涓表示，技(ji)术是不是可以接受主要关注两个标准(zhun)，第(di)一，能不能带来(lai)生(sheng)产力的提高，使其创造(zao)更多的财富。第(di)二，（技(ji)术）发展(zhan)的结果(guo)能不能被比较公平地分享。“从这两个原(yuan)则来(lai)讲，AI的发展(zhan)肯定是提高劳动生(sheng)产率了，但(dan)第(di)二个问(wen)题(ti)是不是能够比较好地被社(she)会所有成(cheng)员分享，从经济学角(jiao)度上体现为就业是不是充分？分配是不是公平？如果(guo)这两个问(wen)题(ti)不能解决的话，大家(men)有什么替代政策？”
江小涓认为，（AI对）就业的冲击必定会出现。“大家(men)应该有新的社(she)会保障政策来(lai)实行它，而不是一再重复那些不能落地的原(yuan)则。”
新京报贝(bei)壳财经记者 胡萌 编辑 王进雨 校对 柳宝(bao)庆