我先联网核实北航沙磊关于大模型幻觉的最新表述。
已核实:这是《时代周报》对北航人工智能学院教授沙磊的专访,核心判断是 “幻觉压不干净,但要压住有害幻觉”。稿件如下。
大模型的能力这两年涨得很快,但 “它到底靠不靠谱” 这个问题,反而比从前更难回答。北京航空航天大学人工智能学院教授沙磊给出的判断很直接:幻觉在开放场景里几乎不可能被彻底消除,因为用户问的问题可能涉及模型压根没接触过的信息,现有证据也可能支撑不了一个确定答案;比 “消灭幻觉” 更现实的目标,是把 “有害幻觉” 压到最低 —— 也就是那些会诱导人做出错误决定的错误答案,医疗、法律、金融这类场景应该优先处理。他还讲了一个很反直觉的点:模型知道得越多,战线就越长,划清 “哪里知道、哪里不知道” 反而比从前更困难。早期的 Siri 超出能力范围会明确告诉你 “我听不懂”,今天的模型几乎对任何问题都能给出一段流畅回答,用户很难仅凭表达判断这个答案有没有依据。所以问题的性质变了 —— 不是 “AI 会不会答错”,而是 “你还能不能判断它答错了”。
为什么 “知道得越多,边界越难划清”
把 15 年前和今天摆在一起看,差异很清楚。iPhone 4S 时代的 Siri 是个 “空耳大师”,经常听错指令,但也经常老老实实承认听不懂。它只处理一组相对明确的任务:设闹钟、查天气、发短信,超出能识别的意图范围就明确提示无法处理,用户很容易建立 “它能干什么” 的认知。
今天的大模型换了一套逻辑。它不设明确的意图边界,任何问题都接,任何问题都能生成一段语法正确、结构完整、语气自然的回答。这就带来一个结构性麻烦:能力覆盖越广,哪些问题可以直接相信、哪些必须查证、哪些应该交给专业人员,就越难事先划清。用沙磊的原话说,过去的边界是 “能力边界”,写在功能说明里;现在的边界是 “知识边界”,藏在输出文本里,用户看不见。
这个变化背后是两个技术原因:
| 变化 | 具体内容 | 对用户的影响 |
|---|---|---|
| 架构改进 | 从 RNN/LSTM 那种按顺序处理、把前文压进有限内部状态的模型,转向 Transformer 的注意力机制,可以直接建立不同位置之间的联系 | 长文本里早期的细节不容易丢,复杂指令能听懂,多轮对话能记住 |
| 训练规模扩大 | 参数、数据、算力协同扩展,模型能学并保留更多知识,遇到相关问题时更容易调用 | 常见事实题能直接答,复杂问题能把不同知识和解题策略结合起来 |
注意力机制的计算开销会随序列长度快速增长,所以规模、数据、算力必须一起扩展,这也是为什么 “知道得越多” 和 “边界越模糊” 是同一个进程的两面。
还有一层:强化学习让模型学会了 “自己找路”。DeepSeek R1 这类模型在反复尝试解决问题的过程中逐步形成推理策略,能力是真涨了,但它推理时走过的路径也更长、更不透明,出错的位置也就更隐蔽。
幻觉到底是什么,为什么 “语气确定” 不等于 “答案准确”
沙磊给的定义很朴素:模型根据训练中学到的语言和知识关联、以及当前上下文来生成回答;当信息不足时,它仍可能沿着熟悉的模式把内容补全。于是就出现那种典型现象 —— 一个格式完整、看起来非常专业的文献引用,作者、题目、年份却分别来自三个不同的来源,拼在一起根本不存在。
这里有个必须纠正的直觉:模型的语气和它的准确率没有关系。它可以生成非常确定的句子,语气本身不构成任何证据。人对 “自信” 的敏感度很高,这也是为什么幻觉最危险的形态不是 “答得离谱”,而是 “答得像个专家”。
为什么不同 AI 产品幻觉程度不一样
这个问题没有统一答案,因为比较口径本身就不统一。沙磊的说法是要判断谁更容易产生幻觉,必须把具体版本、任务类型和使用条件放在一起比。影响因素大致这几层:
| 影响层面 | 具体变量 |
|---|---|
| 训练数据 | 数据怎么筛选、覆盖了哪些领域、材料是否准确、是否已经过时 |
| 训练流程 | 不同阶段用什么数据、如何做强化学习和后训练 |
| 产品系统 | 能否检索到可靠来源、能否有效利用检索结果、外围工程框架怎么搭 |
| 任务类型 | 事实问答、专业推理、联网检索,表现本来就不一样 |
同一家公司的不同版本、同一个版本在不同任务上,都可能表现出明显差异。所以 “某产品幻觉率高” 这种说法,不加版本和任务限定,基本没有意义。
顺带解释一个大家都有的体感:越 “骂” AI,它越笨。沙磊给了一种可能的解释 —— 训练语料里带攻击性的表达,有时和情绪化、信息量较低的对话同时出现,类似的提示可能把回答引向那些对话模式。但他也强调具体影响取决于模型和任务,不能概括成普遍规律。真正有效的做法不是骂,而是指出它错在哪里、补充缺失的背景,或者明确要求它核对哪一步。
现在有哪几条治理路径,各自的边界在哪
行业里不是没招,而是每条招都有天花板。把主流路径摊开看:
| 路径 | 做法 | 能解决什么 | 解决不了什么 |
|---|---|---|---|
| 补高质量数据 | 模型在某领域常出错,先查训练数据是否覆盖、是否准确、是否过时 | 知识缺口和知识错误 | 训练截止之后的新信息、必须以某份文件为准的问题 |
| 接可核验来源 | 接入外部权威数据源,为具体回答提供可查证的依据 | 实时信息和 “以文件为准” 类问题 | 来源本身错误、检索不到时的兜底 |
| RAG 检索增强生成 | 先找相关资料,再把资料交给模型组织回答;资料可来自互联网、企业知识库、专业数据库或用户文件 | 大幅降低 “无依据作答” 的概率 | 检索召回不准、资料互相矛盾、模型不会用资料 |
| 让模型说 “我不知道” | 用置信度、回答一致性、外部证据判断是否适合直接作答 | 关键证据缺失时明确告知哪部分无法确认 | 该说的时候不说 —— 说 “不知道” 这几个字很容易,难的是判断何时该说 |
| 校准(calibration) | 让模型标称的把握度与同类问题的实际正确率尽量一致,比如标九成的批次实际正确率也接近九成 | 让不确定性变得可参考 | 呈现方式还是产品设计问题:提示会不会影响体验、用户能不能正确理解 |
沙磊还提了一个容易被忽略的概念:Harness,也就是大模型外围的工程框架。它决定什么时候检索、调用什么工具、如何使用和检查返回的结果。他打了个比方 —— 大模型像发动机,用户实际使用的是整辆车。你在 DeepSeek、豆包这些产品里看到的是一个对话框,背后其实还有检索、工具调用、结果处理这一整套环节。幻觉治理的很大一部分工作,发生在发动机之外。
普通人怎么用才不吃亏
把上面的东西落成可执行的动作,其实就五条:
- 把 “流畅” 和 “正确” 分开判断。语气越确定、格式越规整,越要提高警惕,尤其是文献引用、法条条款、数据报表这类 “看起来必须有出处” 的内容。
- 分清三类问题。可以直接信的是常识和通用表达;必须查证的是具体数字、日期、人名、条款;必须交给专业人员的是医疗、法律、金融的决策类问题。事先分好类,比事后补救有效。
- 用它自查,而不是用它自证。让它把答案里的每个关键结论标出来源,再自己去核对来源,比反复追问 “你确定吗” 有用得多。
- 提问时说清楚约束。补充背景、指定以哪份文件为准、要求它逐条核对,比笼统地问更容易拿到可靠答案。
- 接受 “不确定” 是一种正确答案。系统告诉你 “这部分无法确认” 时,那不是它偷懒,是它在按设计工作。
医疗场景:AI 是帮手,不是替代者
沙磊团队的多组学工作是一个观察样本。他们从血液样本获取分子测序数据,在数据上训练模型,再面向具体疾病筛查任务微调,成果发表在《Nature Communications》。这项研究控制 “幻觉” 的方式很值得注意:不是靠事后检查,而是把部分已知的生物学原理直接纳入模型设计,约束模型对测序数据的表征和预测,再通过实验评估 —— 既看筛查预测可不可靠,也看预测是否符合已知的生物学规律。
| 环节 | 现状 |
|---|---|
| 实验室到临床 | 还要经过进一步临床评价,并按具体用途满足相应注册要求 |
| 产业合作 | 主要和华大基因等机构合作推进技术验证与转化 |
| 一项早期筛查任务 | 采用其研究方法后,一项评估指标从约 0.60 提升到约 0.85 |
| 这个数字的边界 | 对应的是该合作项目的评估,换人群、换实际临床流程仍需重新验证 |
他判断 AI 在医疗里会铺得越来越广,但集中在 “流程清楚、结果便于医生复核” 的环节:导诊、病历整理、影像初筛、用药风险提示,以及医学影像识别与分割、文献检索、科研和病例汇报材料整理。在诊疗环节,AI 的角色是提示影像里值得复核的区域、补充医生可能遗漏的线索,最终判断仍由医生结合病史、体征和其他检查做出。他也看好 AI 与医用设备结合 —— 把图像识别、异常提示嵌进设备,医生在熟悉的操作流程里用,必要时复核或接管。
有一个细节特别值得记:部署方式和数据授权是两件事。涉及患者隐私时,不少医院倾向院内本地化部署,让数据在院方管理的环境里完成处理;云端部署则要按数据范围、传输路径和访问权限来确定能调用什么。“允许模型在一次任务中读取数据” 和 “允许用这些数据训练模型”,是两项完全不同的授权,不能混为一谈。
给个判断
沙磊这套观点的价值,不在于又给幻觉判了一次 “死刑” 或 “缓刑”,而在于把讨论的落点换了位置:从 “能不能消灭幻觉” 换成 “怎么让人知道哪里可以信、哪里必须查”。前者是个技术竞赛问题,后者是个产品设计和用户素养问题,而后者更早、更现实地决定你会不会被坑。
对普通用户来说,可操作的结论就一句:把 AI 当一个知识面很广、表达很流畅、但从不为自己的话负责的助手。它能帮你把问题问清楚、把材料整理好、把思路铺开,但事实核查和最终决策这两件事,还得你自己拿。对厂商来说,沙磊那句 “好用的 AI 应该让人知道,在什么情况下可以依赖它,哪些结果需要核实,什么时候应当由人接手”,其实就是产品验收标准 —— 不是答得有多漂亮,而是答错的时候,用户有没有机会发现。
【相关 FAQ】
问题 1:北航沙磊说的 “AI 知道得越多,边界越难划清” 是什么意思?
回答 1:指的是模型能力扩张带来的副作用。早期 Siri 只处理设闹钟、查天气这类明确任务,超出范围就明确说 “听不懂”,用户很容易建立能力认知;现在的大模型几乎对任何问题都能给出流畅回答,能力覆盖越广,哪些可以直接相信、哪些需要查证、哪些该交给专业人员,就越难事先划清。加上 Transformer 架构和训练规模让模型能保留并调用更多知识,“知道得越多” 和 “知识边界越模糊” 其实是同一个进程的两面。
问题 2:大模型幻觉为什么难以完全消除?
回答 2:沙磊的判断是在开放场景中很难彻底消除。原因是用户的问题可能涉及模型没接触过的信息,现有证据也可能不足以支撑一个确定答案;模型在信息不足时会沿着训练中学到的语言和知识关联把内容补全,于是产出看起来合理、实际缺乏依据的回答。他认为更现实的目标是把 “有害幻觉”—— 也就是会诱导人做错误决定的错误答案 —— 压到最低,医疗、法律、金融这类场景应当优先处理。
问题 3:怎么判断一个大模型的幻觉是不是比另一个更严重?
回答 3:不能笼统比较,必须限定条件。北航沙磊的说法是,要把具体版本、任务类型和使用条件放在一起看:训练数据怎么筛选、覆盖了哪些领域、材料是否准确或过时,不同阶段用什么数据、如何开展强化学习和后训练,产品层面能否检索到可靠来源、能否有效利用检索结果,这些都会影响最终答案。事实问答、专业推理、联网检索三类任务的表現本来就不同,脱离任务谈 “幻觉率高低” 基本没有意义。
问题 4:大模型幻觉有哪些主流治理办法,各有什么局限?
回答 4:主要有五条路径。补高质量数据,能补知识缺口和知识错误,但补不上训练截止后的新信息;接可核验外部来源,能解决实时信息和 “以文件为准” 的问题,但来源本身错误时无效;RAG 检索增强生成,能显著降低无依据作答,但受限于召回准确度和资料质量;让模型说 “我不知道”,难点是该说的时候不说,而不是说不出来这几个字;校准,让标称把握度和实际正确率对齐,但怎么把不确定性呈现给用户仍是产品设计问题。沙磊还强调 Harness 这层外围工程框架,它会决定何时检索、调什么工具、如何检查结果。
问题 5:沙磊怎么看 AI 在医疗领域的角色,会不会替代医生?
回答 5:不会替代,是帮手和补充。他提到 AI 目前主要用于医学影像识别与分割、文献检索、科研与病例汇报材料整理,以及在导诊、病历整理、影像初筛、用药风险提示这些流程清楚、结果便于医生复核的环节。诊疗环节里,AI 提示影像中值得复核的区域或补充可能遗漏的线索,最终判断仍由医生结合病史、体征和其他检查做出。他也看好 AI 与医用设备的结合,但强调从实验室到临床还要经过临床评价和对应注册,模型换医院、换人群都要重新评估适用性。
【参考资料】
[2026-11-16](沙磊 -- 中文主页 -- 可信大模型构建)北京航空航天大学
[2026-11-16](全体教师 - 北京航空航天大学人工智能学院)北京航空航天大学人工智能学院
[2026-11-13](大模型幻觉难以完全消除,北航沙磊:AI 知道得越多,边界越难划清)时代周报
[2026-11-13](大模型幻觉难以完全消除,北航沙磊:AI 知道得越多,边界越难划清)东方财富网・时代财经
[2025-07-16](莲花控股股份有限公司 2025 年第二次临时股东大会会议资料:沙磊先生简历)上海证券交易所
时代周报上海证券交易所免责声明
本文依据《时代周报》对北京航空航天大学人工智能学院教授沙磊的专访内容、北航官方教师主页信息及公开披露资料整理,观点归属受访者本人,不构成对任何模型、产品或机构的评价结论。文中提及的评估指标提升(约 0.60 提升至约 0.85)为特定合作项目的阶段性结果,能否在不同人群和实际临床流程中复现仍需进一步验证,不构成任何医疗效果承诺。医疗相关内容仅为行业观察,不构成诊疗建议;涉及健康决策请咨询执业医师。本文不构成投资建议。
本文来自作者[残序路由客]投稿,不代表岳鹿科技网立场,如若转载,请注明出处:https://www.newsyuelu.com/kjyw/202611/569.html
评论列表(4条)
我是岳鹿科技网的签约作者“残序路由客”!
希望本篇文章《北航沙磊大模型幻觉消不掉,AI 知道得越多,边界反而越难划清》能对你有所帮助!
本站[岳鹿科技网]内容主要涵盖:互联网行业的追踪与探索
本文概览:我先联网核实北航沙磊关于大模型幻觉的最新表述。