封面新闻记者 边雪 上海采访报道锦牛网
“DeepSeek向王一博道歉”的消息冲上热搜后，AI一本正经地胡说八道（AI幻觉）也引发业内热议。而如何降低AI幻觉，提升模型输出内容的准确率，也成为2025世界人工智能大会（WAIC）关注的焦点。
从贝叶斯统计到深度学习，不确定性量化始终是机器学习领域的核心挑战。传统机器学习模型通过概率分布、置信区间等方法量化预测不确定性，但在大模型时代，亟需量化大模型输出的置信度，避免过度自信的回答产生严重后果。
“所谓幻觉，即在缺乏事实支撑或逻辑校验的情况下，生成出语义连贯但事实错误或虚构的信息。”中国工程院院士、人机混合增强智能全国重点实验室主任郑南宁告诉封面新闻记者，这种现象不仅体现在细节性误报，更可能在多轮对话、复杂任务规划中造成系统性误导。
“幻觉”成为大模型发展关键瓶颈
“在模型能力不断扩展同时，其‘幻觉’现象已成为制约其可靠性与实用性的关键问题之一。在郑南宁看来，幻觉的深层根源在于当前大模型仍以统计相关性驱动语言生成，缺乏对世界知识的结构化表征与因果推理能力，无法对生成内容进行验证、纠错或自我否定锦牛网，难以实现真正的认知跃迁。
展开剩余74%这一观点在2025WAIC会上，获得多位重量级学者响应。封面新闻记者注意到，在多场分论坛中，“幻觉治理”成为出现频率最高的技术关键词之一
“在人工智能日益渗透人类生活的今天，‘自知能力’承载着比技术指标更为深层的价值内涵，它关乎智能系统的自我认知、决策透明，以及人机协作的和谐共生。”西安电子科技大学徐偲副教授告诉封面新闻记者，随着大模型在自动驾驶、医疗诊断等零容错率场景的应用，不确定性量化已从学术问题转变为安全底线。
推理模型幻觉率高达22.95%
行业面临的挑战在第三方测评数据中得到量化印证。中文通用大模型测评基准SuperCLUE最新数据显示，DeepSeek-R1模型幻觉率高达21.02%，远高于豆包大模型4.11%的数值，也超过DeepSeek另一款大语言模型V3的13.83%。
测评揭示了一个反直觉现象：推理能力越强，幻觉问题越严重。数据显示，推理模型平均幻觉率达22.95%，而非推理模型平均为13.52%，打破了“模型越智能越可靠”的普遍假设。
这种认知同源性使问题复杂化。上海交通大学张拳石教授在“可解释AI”分论坛上指出：“大模型的‘聪明’往往是事后拟合的幻象锦牛网，缺乏可解释性和可验证性。若要在关键场景落地，必须实现可解释、可验证、透明可信的技术体系。”
过高的幻觉率，直接影响用户体验。第三方统计显示，相较于年初，DeepSeek的月均下载量与使用率已大幅下降。一位金融科技公司的CTO向封面新闻记者透露：“我们在风控系统中撤回了AI模块，因为发现它会捏造不存在的监管条款，风险太高。”
行业构建“防幻觉”工程体系
面对技术挑战，产业界在WAIC现场展示了系统性解决方案。阶跃星辰推出的“深入核查”功能直击幻觉痛点，通过四大核心能力构建防御体系：信息获取引擎、交叉信源核查、信源权威性评估和提供引用来源。
“我们不输出‘事实’，而是输出证据。”阶跃AI产品负责人向封面新闻记者介绍，该功能已获取2000多个优质信源，文献库超1000万篇，为用户提供“二次核查”的依据。
而在专业领域，AI幻觉产生的问题并非无解。在达观数据展台，首款深度融合 Agent 能力的企业级知识库产品，为金融、制造、能源、政务等多行业的知识管理升级开辟全新路径。达观数据工作人员告诉封面新闻记者，“以‘知识库+Agent’的创新组合，为企业知识资产的价值释放提供了新范式，其中审核Agent可以化身‘智能参谋’，辅助业务审核流程，自动识别逻辑漏洞、查缺补漏，大幅提升合规性与准确性。”
讯飞星火X1升级版则从模型架构层面突破。其采用多路径采样验证及事实性约束强化学习技术，在慢思考场景下实现与标准答案的深度强对齐。官方数据显示，新版本在改写润色、总结摘要等场景中，幻觉率降低45%至50%。
诺贝尔奖得主杰弗里·辛顿的主论坛演讲为AI幻觉问题提供了颠覆性视角。他指出：“人类理解语言的方式与大语言模型理解语言的方式几乎一样，人类有可能就是大语言模型，人类也会和大语言模型一样产生幻觉。”
AI幻觉治理路径 从技术优化到全球协作
面对AI幻觉的多维度挑战，WAIC2025勾勒出渐进式治理路径。郑南宁院士强调，智能范式的跃迁需要重塑社会运行结构，意图智能的崛起与认知转型将推动更深层的科技革命。
合合信息数据事业部副总经理沈东辉从商业落地角度提出解决方案：“厂商要保证数据的可信、可靠与准确，同时确保大模型生成的过程可解释、可控制，这样才能保证生成的结论可用、有价值且可信。”
诺贝尔奖得主杰弗里·辛顿提出了更为宏大的治理框架。他呼吁建立由各国人工智能安全研究所与国内研究网络组成的国际社群：“我们没有办法消除AI，即使一个国家消除了AI，别的国家也不会这么做。必须找到办法训练AI，让它们不要消灭人类。”
这一观点，也与本次会议重磅发布的《WAIC2025全球AI治理上海倡议》形成呼应：跨国协作机制正在成为应对AI安全挑战的基础设施。
彻底消除AI幻觉，仍是遥不可及的目标。但当意图驱动智能逐步取代模型驱动范式，人类将迎来真正的认知跃迁。期待那时，AI不再是不懂装懂的“大话精”锦牛网，而是值得信赖的认知伙伴。
发布于：四川省美港通证券提示：文章来自网络，不代表本站观点。
沪深京指数
热点资讯
