今年的《政府工作报告》对推进(jin)“人(ren)工智能+”行动提出了新的要求。《政府工作报告》着重强调了人(ren)工智能的实际应用，包括(kuo)产(chan)业赋能、终端应用等方面。在强调技术应用的同时，多次出现(xian)“安全”一词，强调了产(chan)业的安全健康发展。
在金融领域，庞大的用户群体和海量数据积累还为(wei)人(ren)工智能技术的落地提供了优质场景。随着“人(ren)工智能+”行动的持续(xu)推进(jin)，AI大模型已经成为(wei)不少金融机(ji)构的标配。与此同时，问(wen)题也随之而来，“一本正经说胡话”的AI幻(huan)觉已经让不少金融从(cong)业者(zhe)感到(dao)头疼，更令人(ren)担忧的是，金融业的高精确性要求使得(de)AI幻(huan)觉问(wen)题被放(fang)大，从(cong)模型误判(pan)到(dao)资金损失可能仅是一步之遥(yao)。
AI幻(huan)觉是指AI大模型生成的内容(rong)与现(xian)实世界事实或用户输入不一致的现(xian)象。简而言(yan)之，就是AI在“胡说八道”。
记者(zhe)了解到(dao)，眼下金融行业确实有不少投诉案例与AI幻(huan)觉有关。以(yi)市面上常(chang)见的AI智能客服为(wei)例，AI智能客服的“已读乱回”经常(chang)令用户陷入沟通困局。有客户连续(xu)发送“转人(ren)工”请求，对面仍(reng)回复“为(wei)了节(jie)约您的时间，还请再(zai)简单描述问(wen)题”；当用户咨询(xun)复杂的理财产(chan)品条款时，AI回答往往仍(reng)以(yi)“请咨询(xun)客户经理”仓促(cu)收场。不少用户不禁疑惑：这些外表智能实则机(ji)械的AI客服，与传统电话客服“按0转人(ren)工”的机(ji)械设置相比，究竟在服务体验上有多大程度的实质性提升？
中(zhong)国邮(you)政储(chu)蓄(xu)银行研究员(yuan)娄飞(fei)鹏表示(shi)，AI幻(huan)觉会(hui)生成看似不合理、与事实不符的结果，如果出现(xian)在营销(xiao)领域，可能导致银行无(wu)法向(xiang)客户做好说明，从(cong)而增加银行维护客户群体的难度；如果出现(xian)在风险管理领域，可能使银行因为(wei)无(wu)法理解其中(zhong)的逻辑(ji)原因，无(wu)法有效采取(qu)针对性的风险管理措施。
记者(zhe)采访发现(xian)，AI幻(huan)觉的出现(xian)与行业之间的信息壁垒存在一定关联。“银行、保险、证券等不同行业间的数据难以(yi)有效整合，碎(sui)片化的数据生态制约了AI模型的训练精度。”招联首席研究员(yuan)、上海金融与发展实验室副主任董希淼认为(wei)，AI模型的训练需要大量数据支撑，如何在保证隐(yin)私(si)和安全的前提下进(jin)行模型训练，是行业需要共同解决的问(wen)题。在部(bu)分对精度要求极高的金融应用场景中(zhong)，AI幻(huan)觉可能对新技术的落地应用造成障碍。现(xian)行金融监管体系主要针对传统业务模式设计(ji)，面对AI技术驱动的新兴业态需要新的有效规制手段。“需要注意的是，AI生成的常识在准确性、科学性方面仍(reng)存在很大不足，现(xian)阶段只能作为(wei)辅助工具(ju)而不能作为(wei)决策工具(ju)。”董希淼说。
目前来看，完(wan)全消(xiao)除AI幻(huan)觉并不现(xian)实。AI幻(huan)觉是一把“双刃剑”，尽管可能给(gei)金融这样(yang)对精确性要求较高的行业带来风险，但在文学艺术等创(chuang)作领域，许(xu)多人(ren)视其为(wei)灵感的催化剂，甚至主动加以(yi)利用激发创(chuang)新。“对金融机(ji)构而言(yan)，需要对AI大模型有一定的容(rong)错度。”娄飞(fei)鹏认为(wei)，对不同类型的经营管理决策需要在AI生成结果和人(ren)工经验判(pan)断上设置不同的权重比例。在AI输出结果的基础上，辅以(yi)人(ren)工判(pan)断更好地开展决策。同时通过适时增加数据指标、调整优化大模型等方法尽量减少AI幻(huan)觉的发生。（经济日报记者(zhe) 苏瑞淇）