本文根据 OpenAI、Anthropic 官方帮助中心关于回答准确性与联网搜索的说明,以及本站已核对的各产品搜索教程整理,资料核对于 2026-10-11。本文讲通用方法,不针对某一家产品。
适用于谁
- 被 AI 编造的数据、引文、链接坑过的人;
- 搜「ai 幻觉是什么」「ai 幻觉怎么解决」的人;
- 要把 AI 查到的东西写进报告、论文、方案里的人。
结论先说
- 幻觉指 AI 给出看起来可信、实际上错误或根本不存在的内容,而且语气和说对的时候一样自信。OpenAI 官方明确说 ChatGPT 可能给出看似可信但错误的内容,也可能编造引文和不存在的参考文献。
- 联网搜索能减少幻觉,但不能消灭它。搜到的网页本身可能错、可能过时,AI 总结时也可能读错。
- 来源比结论重要。让 AI 给出处,然后你自己点开原文——这是唯一可靠的办法。
- 越具体的东西越要查:数字、日期、人名、引文、链接、法条、价格。
- 医疗、法律、财务等会产生真实后果的事,AI 的回答只能当作准备问题的材料,要问专业的人。
AI 为什么会说错
大模型的工作方式是根据上文预测「最可能出现的下一段文字」。它生成的是读起来合理的内容,而不是从数据库里查出来的事实。于是:
- 训练数据里没有或很少的内容,它会按「看起来应该是这样」补出来;
- 训练数据有截止日期,之后发生的事它不知道(除非联网);
- 你的问题里带着错误前提时,它常常顺着说下去;
- 长对话里它可能把前面的内容记混。
最容易出错的八类内容
| 类型 | 典型表现 |
|---|---|
| 参考文献 | 作者、期刊、年份都像真的,但这篇论文不存在 |
| 链接 | 域名正确、路径是编的,点开 404 |
| 具体数字 | 市场规模、百分比、价格,没有出处 |
| 最新信息 | 把一两年前的版本、价格、政策当成现在的 |
| 冷门的人和事 | 把同名的人混在一起,或补上不存在的经历 |
| 产品功能 | 说某个按钮、某个设置存在,实际没有或已经改名 |
| 法条和判例 | 条文编号、案号是编的 |
| 引用原话 | 「某某曾说过」——查不到出处 |
七步核查法
第一步:需要事实的问题,打开联网搜索
- ChatGPT:所有套餐都能联网,可在工具菜单里选 Search,见《ChatGPT 搜索怎么用》;
- Claude:输入框「+」菜单里开 Web search,见《Claude 联网搜索怎么开》;
- Grok:实时搜索网页和 X,见《Grok DeepSearch 还在吗》;
- 需要系统调研时用深度研究类功能:《ChatGPT 深度研究》、《Claude Research》。
不联网时,把它当成「一个记性不错但会记错的人」,只用来理解概念、梳理思路。
第二步:在问题里就要求来源
text
回答下面的问题。要求:
1. 每个事实性的说法后面标注来源链接;
2. 优先引用官方文档、政府或机构网站、原始论文;
3. 找不到可靠来源的内容,明确写「未找到来源」,不要猜。
问题:……
GitHub 给 Copilot 的官方示例提示词里反复出现「Provide evidence」「Provide references」,是同一个思路。
第三步:点开原文,确认它真的这么写
这一步最容易被省略,也最重要。检查三件事:
- 链接能打开,而且是它说的那个网站;
- 原文里确实有这句话或这个数字;
- 原文的意思没有被改变(比如原文说「部分用户」,AI 总结成了「用户」)。
第四步:看日期
找到网页的发布或更新日期。产品功能、价格、政策类信息,超过半年就要怀疑。可以直接要求:
text
只使用最近 6 个月内发布或更新的来源,每条注明日期。
第五步:重要的结论找第二个独立来源
两个来源如果互相引用,或都转载自同一篇文章,只能算一个。优先级大致是:官方原始文件 > 权威机构 > 主流媒体 > 个人博客和社交平台帖子。
第六步:反过来问它
text
上面的回答里,哪些内容你不确定?哪些只有一个来源?哪些说法之间可能有矛盾?
text
请你反驳上面的结论:有哪些证据或情况说明它可能是错的?
注意:这只能帮你发现疑点,不能当作验证。让 AI 自己确认「我刚才说得对吗」,它既可能坚持错误,也可能把对的改成错的。
第七步:后果严重的事,问人
健康、用药、法律纠纷、合同、报税、投资。可以让 AI 帮你整理情况、列出要问医生或律师的问题,但决定要由有资质的专业人员给出。
从提问方式上减少幻觉
- 给材料,而不是让它回忆。把文档、网页、数据传给它,要求「只根据我提供的材料回答,材料里没有的就说没有」。
- 允许它说不知道。在指令里写明「不确定就直接说不确定」。
- 问题具体。「介绍一下某公司」比「某公司 2025 年年报里披露的研发费用是多少,出处在第几页」更容易出错。
- 不带诱导。问「这个功能有吗」而不是「这个功能在哪个菜单里」。
- 一次一个问题,长对话及时开新的。
- 让它标页码。读长文档时要求每个结论后面写页码,再抽查,见《ChatGPT 读 PDF、总结长文档》。
提示词的通用写法见《提示词怎么写》。
不同场景的最低核查标准
| 场景 | 至少要做 |
|---|---|
| 日常了解一个概念 | 大致合理即可,关键术语搜一下 |
| 写进工作文档的事实和数字 | 每一条都点开过原文 |
| 论文参考文献 | 逐条在数据库里查到原文,核对作者、年份、页码 |
| 产品操作步骤 | 以官方帮助文档为准,自己点一遍 |
| 新闻和热点 | 找到原始出处;社交平台上的说法等官方或多家媒体确认 |
| 健康、法律、财务 | 咨询专业人员 |
常见问题
Q:付费模型就不会幻觉了吗?
会少一些,但不会没有。各家官方都没有给出「不会出错」的承诺,帮助文档里反而都写着要核对重要信息。
Q:带引用的回答可以直接信吗?
不可以。引用只说明「它声称来自这里」。链接可能对不上内容,也可能来源本身就不可靠。
Q:怎么让它别编参考文献?
让它联网检索并给出可点击的链接,或者你自己提供文献列表让它只在其中引用。即便如此仍要逐条核对。见《ChatGPT 写论文与润色》。
Q:AI 检测工具能判断一段话是不是 AI 编的吗?
不能指望。OpenAI 官方说过其研究表明 AI 检测器不够可靠。判断内容真假要靠核对来源,而不是检测文风。
参考资料
- Does ChatGPT tell the truth?(OpenAI 官方帮助中心):https://help.openai.com/en/articles/8313428-does-chatgpt-tell-the-truth
- ChatGPT search(OpenAI 官方帮助中心):https://help.openai.com/en/articles/9237897-chatgpt-search
- Enable and use web search(Claude 官方帮助中心):https://support.claude.com/en/articles/10684626-enable-and-use-web-search
- Grok 产品页(官方):https://x.ai/grok
0 条评论
还没有评论,来抢沙发~