人民网博鳌3月27日电 （记者梁秋坪）在博鳌亚洲论坛2025年(nian)年(nian)会上，AI元素成为了众人瞩目的(de)焦(jiao)点。光谷人形机器(qi)人以专业(ye)且亲和的(de)姿态担(dan)任讲解(jie)员，为来宾们详细介(jie)绍各类信息；憨态可掬的(de)熊猫机器(qi)人挥舞(wu)画笔(bi)，展示出令人惊叹的(de)绘(hui)画技艺；机器(qi)狗灵活地完成倒立等高难度动作，吸引了众多目光。这些生动有趣的(de)AI应用不仅为年(nian)会增添了科技魅力，更(geng)引发了广泛关注(zhu)，与会嘉宾围绕人工智能的(de)迅猛发展及其相关议题展开(kai)了热烈讨论。然而，在AI技术高歌(ge)猛进的(de)当下，如何强化风险(xian)治理也已成为亟待解(jie)决的(de)关键(jian)问题。
中国工程院院士、清(qing)华大学智能产业(ye)研(yan)究(jiu)院院长张亚勤指出：“当前，我国人工智能行(xing)业(ye)的(de)发展正经历着从生成式AI向Agent智能、从预训(xun)练向推理、从信息智能向物理智能和具(ju)身智能的(de)转变。但这种(zhong)快速的(de)技术进步也伴随着风险(xian)的(de)显著增加。”他进一步解(jie)释(shi)，智能体作为具(ju)有自我规划、学习和实(shi)践能力的(de)技术工具(ju)，在运行(xing)过程中可能会因路径不可控(kong)，引发一系列未知的(de)安全风险(xian)。
针对这一挑战，张亚勤提出了技术治理路径。一方面，通过算法优化提升AI的(de)可控(kong)性与可信度，从技术基(ji)层增强对AI的(de)掌控(kong)；另一方面，为人工智能设(she)定明确的(de)红线(xian)和边界，比如禁止智能体进行(xing)自我复制(zhi)，严格遵守现行(xing)的(de)应用规则和法律规定，为AI发展划定清(qing)晰的(de)行(xing)为准则。
在加强AI风险(xian)治理是(shi)否会阻碍其发展的(de)问题上，中国科学院自动化研(yan)究(jiu)所研(yan)究(jiu)员曾毅给出了明确的(de)否定答(da)案。他表示：“人工智能的(de)发展应用和安全之间并(bing)非相互(hu)掣肘的(de)关系。提升人工智能大模型的(de)安全能力，对其求解(jie)能力的(de)影响微乎其微。大家团队通过实(shi)验(yan)，将十几(ji)个大模型的(de)安全性能提高了百(bai)分之二三十，结果发现这些模型解(jie)答(da)问题的(de)能力并(bing)未受到(dao)影响。”
曾毅提倡通过技术升级为人工智能建立“安全围栏”，而这需要技术、市场、政策、伦理等多方面协同发力。他强调：“必须将伦理安全作为人工智能大模型发展的(de)基(ji)因，作为不可违背的(de)第一性原理。”只有如此，才能在AI技术持续(xu)发展、智能体应用不断深(shen)入(ru)的(de)过程中，保障其稳健前行(xing)，降低因技术扩张带来的(de)各类风险(xian)。
中国社(she)会科学院大学教授、国务(wu)院原副秘书长江小(xiao)涓坦言：“我对过去很多年(nian)AI治理的(de)进展感(gan)到(dao)遗憾，相关治理原则在落地执(zhi)行(xing)方面成效有限。”她(ta)认为，这主要是(shi)由于过于泛泛地讨论原则问题，却忽视(shi)了将这些原则具(ju)体化、可操(cao)作化的(de)重要性。2017年(nian)的(de)阿西洛(luo)马会议上，与会各方制(zhi)定了一套确保人工智能安全有益发展的(de)准则，涵盖了安全性、故障透明度、价值观一致等23条原则。江小(xiao)涓指出：“阿西洛(luo)马人工智能原则提出至今，一直(zhi)被反复讨论。今年(nian)2月在法国巴黎(li)举行(xing)的(de)人工智能行(xing)动峰会，各国签署的(de)声明依(yi)旧延续(xu)了过去提出已久的(de)原则。实(shi)际上，如何落地、如何实(shi)践仍是(shi)最大的(de)挑战。”
从经济学的(de)角度出发，江小(xiao)涓探讨了人工智能治理的(de)可行(xing)性路径。她(ta)认为，AI治理可借助自发秩序和市场机制(zhi)的(de)力量(liang)。以DeepSeek为例(li)，其最大贡献在于打破了AI行(xing)业(ye)的(de)垄断格局，使这一领域从寡头竞争转变为充分竞争的(de)市场。在这样的(de)市场环境下，发展和安全问题能够通过市场自发的(de)秩序解(jie)决。
在AI技术飞(fei)速发展的(de)今天，博鳌亚洲论坛2025年(nian)年(nian)会聚(ju)焦(jiao)AI风险(xian)治理的(de)深(shen)入(ru)讨论，为未来AI发展与风险(xian)治理的(de)平衡凝聚(ju)了各方智慧。各方需共同努力，推动AI在安全、健康的(de)轨道上持续(xu)创新发展。