从“AI儿科医生”参与病情会诊，到“AI数智员工”辅助提(ti)供公共服务，再到人形机器人进(jin)厂上班……全球人工智能技术进(jin)入爆发(fa)式发(fa)展阶段，正以前所未有的速度走入千家万(wan)户、改变千行百业。当AI重塑大家熟(shu)悉的世界，随之而来的机遇与挑战如何应对？应用与治理如何平衡推(tui)进(jin)？
正在举行的博(bo)鳌亚洲论(lun)坛2025年年会上，国内外技术前沿领域专家、学者(zhe)和企业代(dai)表就相关话题展开热烈讨论(lun)。
适应AI“新常态”
当下，人工智能加速赋能千行百业，进(jin)入教(jiao)育、医疗、政务、金融等场景。越(yue)来越(yue)多人感受到AI带来的便利。从无人驾驶、机器人到脑机接(jie)口，大众对AI应用产生更多期(qi)待。
毕马威中国首席技术官及创新主管合伙人刘建(jian)刚表示，人工智能已经不是一个未来概念(nian)，对很多企业而言，利用人工智能加速决策、创新产品、优化运营，已不是选择题，而是必答题。
数据显示，2024年我国完成备案并上线提(ti)供服务的生成式人工智能大模型接(jie)近200个，注册用户超6亿；工业机器人装机量占全球过半。
今年政府工作报告提(ti)出，持续推(tui)进(jin)“人工智能＋”行动。国务院研究室副主任陈昌盛表示，今年将开展新技术新产品新场景大规模应用示范行动，在确保安全前提(ti)下，加快人工智能在低空(kong)经济、教(jiao)育培(pei)训、医疗健康等多场景应用。
中兴通讯股份有限(xian)企业董事(shi)长李自(zi)学表示，当前人工智能通用型应用加速普及，但(dan)在行业领域还存在不好用、不易用、不会用等问题。应在通用基础(chu)大模型上，结(jie)合不同行业应用场景需求(qiu)，加强专属领域定制与深(shen)度训练，让(rang)大模型成为懂行业的“能工巧匠(jiang)”，促进(jin)人工智能与产业真正结(jie)合。
有观点认为，未来可能出现(xian)自(zi)然人、机器人、数字人并存交互的社会形态。《博(bo)鳌亚洲论(lun)坛亚洲经济前景及一体化进(jin)程2025年度报告》指出，随着人工智能技术的广泛应用，部分行业就业受到严重影响。
“替代(dai)部分工作岗(gang)位是技术变革中的必然过程，有些岗(gang)位受影响，也会有新岗(gang)位出现(xian)。”vivo高级副总裁、首席技术官施玉坚说(shuo)，每个人都要通过学习不断提(ti)升综合素(su)质，适应AI带来的变化。
多位与会嘉(jia)宾表示，除了加强人工智能常识(shi)技能教(jiao)育培(pei)训，还应考虑制定新的社会保障政策，加强对受冲击劳动者(zhe)群体的兜底(di)保障。
加固“安全护(hu)栏”
在博(bo)鳌亚洲论(lun)坛多场人工智能相关活动上，与会嘉(jia)宾普遍(bian)认为，随着AI能力越(yue)来越(yue)强，AI不可控、被滥用等风险(xian)会越(yue)来越(yue)高，在推(tui)广应用中要加固“安全护(hu)栏”。
社交平台上，不少(shao)人吐槽AI一本(ben)正经地胡说(shuo)八道。清华大学公共管理学院院长朱旭峰表示，这是AI幻觉，指大模型有时混淆事(shi)实和虚构，在看似是事(shi)实的句子中插入错误(wu)细节。AI胡编乱造可能产生误(wu)导，甚至会引发(fa)严重后果，特别是在医疗、金融、法律等对信息真实性和准确性要求(qiu)极高的领域。
“技术暂时不成熟(shu)，大家不能因噎废食。”朱旭峰说(shuo)，要加大对技术的开发(fa)和使用，推(tui)动AI幻觉等问题随技术不断进(jin)步逐步解决。
AI应用过程中需要使用大量数据，数据安全与隐(yin)私保护(hu)备受公众关注。多位与会嘉(jia)宾表示，现(xian)实中，具体应用场景下哪些数据必须收集，敏(min)感信息数据如何避免泄露等，需要进(jin)一步明(ming)晰相关制度规则。
施玉坚认为，随着AI技术的普及，企业对数据的依赖(lai)程度日益加深(shen)，如果不采(cai)取相应的安全措施，就可能造成数据泄露的风险(xian)。“数据要进(jin)行脱敏(min)或加密处理，增强传(chuan)输和存储过程中的安全性。”
AI技术的滥用误(wu)用是显著风险(xian)之一。有统计显示，2024年全球发(fa)生的AI风险(xian)事(shi)件，超过30％与利用AI进(jin)行深(shen)度伪造相关。深(shen)度伪造名人形象、声音进(jin)行虚假宣传(chuan)甚至诈骗不时见诸报端。
多位嘉(jia)宾表示，AI深(shen)度伪造现(xian)象层出不穷，主要在于造假成本(ben)低，追查、执法成本(ben)大，应针对AI误(wu)用滥用完善(shan)相关法律法规，加大惩罚力度。
伴随AI产生的伦理道德争议也不容忽视(shi)。中国科学院自(zi)动化研究所研究员、联合国人工智能高层顾问机构专家曾毅(yi)认为，伦理安全应作为人工智能大模型发(fa)展的“基因”，如何在追求(qiu)技术进(jin)步的同时坚守道德底(di)线，是需要共同面对的重要课题。
“人工智能的发(fa)展与安全不是互相掣肘(zhou)的关系。”曾毅(yi)说(shuo)，最新研究表明(ming)，可以在几乎不影响人工智能大模型求(qiu)解能力的同时，通过科学的方式提(ti)升其安全能力。
共同应对治理挑战
如何让(rang)治理跟上AI技术步伐？与会嘉(jia)宾表示，AI治理是一个全球性的复杂(za)问题，需要达(da)成世界共识(shi)，推(tui)动各领域相互协作。目前，主要经济体都在加速相关立(li)法进(jin)程。
在AI治理中，中国坚持统筹发(fa)展和安全，有关部门已发(fa)布多项(xiang)AI治理引导文件。其中，前不久发(fa)布的《人工智能生成合成内容标识(shi)办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推(tui)动由生成到传(chuan)播各环节的全流程安全管理。
在芬兰(lan)前总理埃(ai)斯科·阿霍看来，政策制定者(zhe)、企业家、科学家等利益相关方应聚在一起，建(jian)立(li)共识(shi)，通过制定标准来应对AI带来的治理挑战。
“AI医生”看病出了问题算谁的责任？当人工智能系统产生不良(liang)后果，如何确定责任归属也需进(jin)一步厘清。“多位嘉(jia)宾都提(ti)到一个观点，不要让(rang)人工智能完全代(dai)替人的决策，这是人工智能应用时必须注意的问题。”曾毅(yi)说(shuo)。
高质量数据是AI应用大规模落地的重要支撑，构建(jian)一个完善(shan)而成熟(shu)的数据市场也十分重要。以色列民主研究所高级研究员特希拉·施瓦茨·阿尔特舒勒(le)认为，应根据实际情况，建(jian)立(li)符合自(zi)身需要的数据监管方案与路径。
与会嘉(jia)宾表示，AI时代(dai)到来，要坚持应用与治理平衡、创新与监管并重、全球化与本(ben)土化协同，防止数字鸿沟变成智能鸿沟，让(rang)AI真正成为推(tui)动社会进(jin)步的普惠力量。
（新华社）