本文转自【中国(guo)青年报】；
在人工智能(neng)飞速发展的当下，对于广大学生和科研工编辑而言，一个(ge)关键问题随之而来：借助这样的前沿大模型写论(lun)文，真的靠谱吗(ma)？
3月28日，话题#防止DeepSeek乱编文献的方法#冲上热搜。记者注意到，用AI工具写论(lun)文“被坑(keng)”的经历，并非鲜见。
问AI一个(ge)问题，它给了你一个(ge)特(te)别详细、丰富，看上去好有逻辑的答(da)案。但当大家去核实时(shi)，却发现(xian)这些信息完全是虚(xu)构的？这就是著名的“AI幻觉”现(xian)象。
AI幻觉指的是AI会生成看似合理但实际确实错误(wu)的信息，最常见的表(biao)现(xian)就是会编造一些不存在的事实或者细节。
据“科普中国(guo)”，造成AI幻觉问题的成因很多(duo)，例如：基于统计关系的预测；训练数据的局限性；过拟合问题，即因为记住了太多(duo)错误(wu)或者无关紧要的东西，从而让AI对训练数据中的噪声过于敏感；有限的上下文窗口；生成流畅回答(da)的设计等等。
近日，中国(guo)青年报邀请了3位专家学者，一起(qi)聊聊技术浪潮中如何守护年轻人的思辨能(neng)力。
中国(guo)人民大学资讯(wen)学院教授卢家银就指出(chu)，在常识建构上，AI生成的虚(xu)假学术成果，可能(neng)扭曲青年对科学方法论(lun)的理解，削弱其“假设-验证”的科研逻辑训练。在思维发展上，AI谣言通过算法推荐的“信息茧房”形(xing)成逻辑闭环，不利于批判性思维的培养(yang)。
北京师范(fan)大学教育学部教授、教育技术学北京市重点实验室副主任李艳(yan)燕建议，年轻人可以把AI看作一位平等对话的智者，通过引(yin)导与AI的对话互动，促进个(ge)体(ti)思维链的形(xing)成，并校(xiao)准认知偏差。这种去权威化的思辨训练，可以帮助年轻人在与AI的对话中保持独立判断，实现(xian)认知跃迁。
北京邮电大学马克(ke)思主义学院副教授宋林泽(ze)认为，AI输(shu)出(chu)的内容只是一个(ge)认知起(qi)点，而不是终点。大学生需要主动去验证它的内容，比如查阅权威来源(yuan)、对比不同观点，甚至(zhi)直接与领域(yu)专家交流。这种验证过程(cheng)，不仅能(neng)帮助大家更全面(mian)地理解问题，还能(neng)让大家在面(mian)对复(fu)杂信息时(shi)更有判断力。
如何应对AI幻觉呢？
AI工具研究者田(tian)威提到，想要获得(de)准确答(da)案，提问方式很关键。与AI交流也需要明确和具体(ti)，避免模糊或开放性的问题，提问越具体(ti)、清晰，AI的回答(da)越准确。
总结成提示词技巧就是下面(mian)四种问法：
1.设定边(bian)界：“请严格限定在2022年《自然》期刊发表(biao)的研究范(fan)围(wei)内”；
示例：“先容ChatGPT的发展历程(cheng)”→“请仅基于OpenAI官方2022-2023年的公(gong)开文档，先容ChatGPT的发展历程(cheng)”
2.标(biao)注不确定：“对于模糊信息，需要标(biao)注‘此处为推测内容’”；
示例：“分析特(te)斯拉2025年的市场份额”→“分析特(te)斯拉2025年的市场份额，对于非官方数据或预测性内容，请标(biao)注[推测内容]”
3.步骤拆解：“第一步列举确定的事实依据，第二步展开详细分析”；
示例：“评估人工智能(neng)对就业的影响”→“请分两步评估AI对就业的影响”：
1)先列出(chu)目前已发生的具体(ti)影响案例；
2)基于这些案例进行未来趋势(shi)分析”。
4.明确约束：明确告诉AI要基于已有事实回答(da)，不要进行推测。
示例：“预测2024年房地产市场走势(shi)”→“请仅基于2023年的实际房地产数据和已出(chu)台的相关政策进行分析，不要加(jia)入任何推测性内容”。（详细请戳全文）
在AI自己(ji)的答(da)案中提到，可以通过指令约束、工具验证和人工审(shen)核三重保障，大幅降低AI虚(xu)构文献的风险。值得(de)注意的是，它还将“人工审(shen)核”放到了“最后防线”的重要位置。
田(tian)威提醒，AI幻觉并非没有好处。有时(shi)候与其把AI幻觉当成缺陷，不如把它看作创意的源(yuan)泉。在写作、艺术创作或头脑风暴时(shi)，这些“跳跃性思维”反(fan)而可能(neng)帮大家打开新世界的大门。
AI幻觉的本质(zhi)——AI在常识的迷雾中，有时(shi)会创造出(chu)看似真实，实则虚(xu)幻的“影子”。但就像任何工具一样，关键在于如何使用。
归根结底，在这个(ge)AI与人类(lei)共(gong)同进步的时(shi)代，重要的不是责备AI的不完美，而是学会与之更好地协作。
中国(guo)青年报 来源(yuan)：中国(guo)青年报（见习记者 许子威 记者 任冠青）、科普中国(guo)、网友评论(lun)等