当前，我国AI大(da)模型的应用呈(cheng)现迅猛增长态势。QuestMobile发布的最新(xin)数据(ju)显示，DeepSeek上线次月（2025年2月），活跃用户规模就突破了(le)1.8亿。但(dan)在AI应用大(da)众化(hua)的同时(shi)，也有不少网友惊呼：与AI的蜜月期还没有结束，就发现它(ta)在骗(pian)我！
有人用AI查资料，发现AI会编造假(jia)论文(wen)，期刊名称、论文(wen)标题、编辑(zhe)、网址等信息(xi)一应俱全，可全是编的；曾有一条“80后死亡率(lu)突破5.2%”的假(jia)新(xin)闻广为(wei)流传，据(ju)辟谣者(zhe)分(fen)析，最初的信源可能来自AI对话……
这其实(shi)不是新(xin)问题，而是在大(da)模型诞生之初就存在的老毛病——AI幻觉。甚至(zhi)有专家认(ren)为(wei)，AI幻觉是大(da)模型的“基因病”。因为(wei)AI大(da)模型训练(lian)依赖海量数据(ju)，但(dan)数据(ju)的真实(shi)性却无人担(dan)保。AI大(da)模型训练(lian)过程中，是将(jiang)海量数据(ju)高度压缩(suo)抽象，输入的是内容之间关系(xi)的数学表征，而不是内容本身。AI与人类对话时(shi)，模型基于统计概率(lu)生成文(wen)本，追求流畅性而非真实(shi)性，很容易编出看似流畅但(dan)完全不符合事实(shi)的内容。
既然AI幻觉是“基因病”，那这病能治吗？要怎么治？
首先，AI幻觉也带来了(le)AI的“超能力”，没必要根除。
AI幻觉也有好的一面。AI自主生成内容是大(da)语言模型的突出特点，是最具想象力的技术(shu)突破。作为(wei)大(da)模型与生俱来的特点，AI幻觉决定了(le)大(da)模型的创(chuang)造力，对实(shi)现通用人工(gong)智能（AGI）非常重要，并可在科(ke)研(yan)、文(wen)艺等领域发挥(hui)作用。
比如，游戏开发、动漫设计、小说创(chuang)作等领域欢迎奇思妙想，AI幻觉可以突破思维定式，为(wei)创(chuang)作提供灵感。再如，科(ke)学研(yan)究中往往也需要非常规思路来破局(ju)闯关，AI不走寻常路的创(chuang)造力，可以推动科(ke)研(yan)工(gong)作出现“AI幻觉—实(shi)验验证—理论重构”的新(xin)范式。
其次，AI幻觉虽不可根除，但(dan)可以控(kong)制。
对于AI幻觉，大家不能放(fang)任自流。一方(fang)面，AI幻觉产生大(da)量虚假(jia)信息(xi)，这些虚假(jia)信息(xi)被新(xin)一代AI系(xi)统学习，就会形(xing)成“数据(ju)污染—算法吸取—再污染”的恶性循环。另一方(fang)面，在企业生产、医疗、法律(lu)等容错率(lu)很低的领域，AI幻觉可是“要命(ming)”的大(da)毛病。因此，大家要从技术(shu)研(yan)发和管理机制上双管齐下，防(fang)范AI幻觉信息(xi)的泛(fan)滥。
技术(shu)层面，检索增强生成（RAG）技术(shu)、多模型交叉验证、动态常识更新(xin)机制等，都已被证明是减(jian)少AI幻觉的有效手段(duan)。未来，还需要继(ji)续提升训练(lian)数据(ju)质量与清(qing)洗标准，严格检测(ce)数据(ju)的来源和真实(shi)性，减(jian)少噪声干扰；引入强化(hua)学习与人类反馈机制，提升AI逻辑推理能力；增强AI大(da)模型检测(ce)能力，用AI监管AI。
用户层面，对AI输出的答案不要直接采信，可以用多个AI模型分(fen)别生成答案再交叉验证、对照取优，对关键(jian)任务(wu)输出更有必要采取人工(gong)交叉验证，结合文(wen)献数据(ju)库、行业常识图(tu)谱(pu)等专业工(gong)具作出判断。
监管层面，“标注(zhu)AI生成内容”已成为(wei)我国监管部门(men)推动的方(fang)向，这体现了(le)对生成式人工(gong)智能的透明度要求，将(jiang)提高AI生成内容的可追溯性和可说明性。未来，大家还应加快人工(gong)智能法立法进程，建立全周期全链条监管体系(xi)。
实(shi)现“不被AI忽悠”目标，既需要算法工(gong)程师构建底(di)层安(an)全防(fang)线，也需要全社会共同建设可信AI生态。期待中国AI产业解决好这道AI幻觉控(kong)制难题，在创(chuang)造力与真实(shi)性之间取得平衡。（本文(wen)来源：经济日(ri)报 编辑(zhe)：佘惠敏）