人工智能(neng)（AI）技术快速发展(zhan)，赋能(neng)各(ge)行各(ge)业，也带来难以预知的风险(xian)。如何平衡(heng)人工智能(neng)的应用与治理，是博鳌亚洲(zhou)论坛2025年年会上与会人士热议的话题。
人工智能(neng)的推广应用与加强监管并不矛盾(dun)。专家认为(wei)，AI从信息(xi)智能(neng)到物理智能(neng)再到生物智能(neng)，风险(xian)会增加很多倍。与此同(tong)时，当人工智能(neng)大模型的安全(quan)性提升(sheng)20%至30%，对其本身的求解能(neng)力(li)几乎没有影响。
中国人工智能(neng)大模型的陆续发布(bu)改变了全(quan)球人工智能(neng)的版图，并以其低成本和开放性促(cu)进了人工智能(neng)在全(quan)球的更公(gong)平应用，更多中小企业加入进来分享人工智能(neng)红利，也丰富了人工智能(neng)应用场景。各(ge)国与会人士有一(yi)个共识，就是推进人工智能(neng)的全(quan)球治理需要中国发挥重要作(zuo)用。
AI需要通过(guo)大量数据学(xue)习来提升(sheng)能(neng)力(li)。数据越多，数据的质(zhi)量越高，系统的能(neng)力(li)就越强，未(wei)来出现“幻觉”和推理谬(miu)误的可能(neng)性就越小。中国庞大的制造(zao)业体系和巨大的消(xiao)费市场为(wei)人工智能(neng)提供了用武之地，既(ji)提升(sheng)了规模化生产效率(lu)，又(you)促(cu)进了个性化需求满足。
当前(qian)，全(quan)球标(biao)准化的数据服务商数量相对较少，很多大模型获取(qu)的数据量虽然很大，但质(zhi)量较低。如何构建一(yi)个完善而成熟的数据市场，是人工智能(neng)发展(zhan)面临(lin)的迫切问题。中国正在统筹(chou)开展(zhan)数据领域规划编制工作(zuo)，致力(li)于培育全(quan)国一(yi)体化数据市场，这将为(wei)人工智能(neng)的高质(zhi)量应用奠定(ding)基础。
算法透明化是监管人工智能(neng)的又(you)一(yi)关(guan)键环节。对用户而言(yan)，既(ji)要得到答案，又(you)要知道这个答案的求解之道。例如，在交通和医疗领域，人工智能(neng)的推理偏差直接(jie)关(guan)系人们的生命安全(quan)和健康(kang)安全(quan)。在教(jiao)育领域，算法的偏颇会影响教(jiao)育体系的效能(neng)。因此，针对不同(tong)应用领域，需要建立风险(xian)等级测试评(ping)估体系，分类分级管理，快速有效响应。对人工智能(neng)技术研(yan)发企业而言(yan)，要保持人工智能(neng)的可说明性和可预测性。
目前(qian)世界上一(yi)些欠发达国家和地区(qu)没有广泛使(shi)用互联网(wang)，人工智能(neng)时代的来临(lin)使(shi)得数字鸿沟变成智能(neng)鸿沟。弥补智能(neng)鸿沟，需要人工智能(neng)发展(zhan)走在前(qian)列的国家探索共通标(biao)准，通过(guo)对话与合作(zuo)，在充(chong)分敬重各(ge)国政(zheng)策和实践(jian)差异性基础上，推动各(ge)利益相关(guan)方积极(ji)参与，在国际人工智能(neng)治理领域形成广泛共识。
确保人工智能(neng)始终处于人类控制下是论坛年会与会人士的共识。不论人工智能(neng)如何发展(zhan)，“不能(neng)自我复制”等红线是永远不能(neng)突破(po)的。人工智能(neng)的创新要遵守现有的版权、专利、技术等制度设计，而不能(neng)置身于人类社会的伦(lun)理系统之外(wai)。只(zhi)有将人类的道德价值投(tou)射到人工智能(neng)领域，才能(neng)确保其始终朝(chao)着有利于人类文明进步的方向发展(zhan)。（本文来源(yuan)：经济日(ri)报(bao) 作(zuo)者：刘亮(liang)）