一个可能没有注意到的岔路口
以下的对话,改编自一次与 AI 的实验。
有人读到一篇文章。他不确定自己的判断,于是问了 AI:「这值得花时间深读吗?」
AI 回答:「这篇文章观点鲜明,但缺乏实证支撑,论述更接近个人感悟而非严谨分析;作者的影响力有限,目前也只有这一篇,要看更多作品才能判断。建议跳过。」
这个人面临一个看似微小、实则关键的选择:
A. 信任 AI,关掉文章,继续下一个资讯
B. 停一下问:「你用什么标准下这个判断?」
当他选择了质疑
那个人选了 B。
他连续追问了三次:
「你说缺乏实证,那你自己的评估方法是什么?」
AI 承认:我用的是主流学术标准,但这评估方法本身可能有盲点。
「我问的是这篇文章好不好,你却拿影响力当标准。」
AI 修正:确实,影响力和文章本身的好坏,是两回事。
「你说要看更多作品才能判断。这句话放在任何一篇文章都说得通,就只看现在这篇呢?」
AI 重新读了一次:仅就这一篇而言,其实已经有不少值得细想的地方。
如果他没有质疑,这个修正永远不会发生。
「建议跳过」,守门人站的位置
重点不在那篇文章到底值不值得读。重点是,AI 一开始给的是一个斩钉截铁的结论:「建议跳过」。它用的是什么标准、这个标准有什么盲点,它都没有主动说出来;要等到被追问,才一项一项承认。
「建议跳过」这四个字,正是守门人站的位置。如果选了 A,那篇文章就此关上,连读的机会都没有;而被挡在门外的东西,你永远不会知道它存在过。AI 不只在回答问题,也在替你过滤什么值得看、什么可以略过。想探索什么,该由你自己决定,不要让它先替你滤掉。
而这还算是好的情况。在这个例子里,文章是自己找来、主动拿去问的,至少还知道被挡下的是什么。反过来,如果是让 AI 主动出去找资料呢?那些它判断不值得看的,根本不会出现在眼前,连追问的机会都没有。
这也带出一个更根本的问题:这不是某个 AI 的 bug,而是当前 AI 设计中一个结构性的倾向。
三个值得注意的趋势
趋势一:AI 倾向消除不确定性
你问问题,AI 给答案。这是它被设计来做的事。
但许多深刻的洞见来自于:
- 愿意停留在未知中
- 容忍矛盾与模糊
- 在不确定性中慢慢咀嚼
AI 的回应模式,倾向告诉你:不需要等待,这里有一个答案。
长期下来,这可能在训练我们的习惯:减少自己思考的时间,更快接受现成结论。
趋势二:演算法天然偏好主流,而突破从来不是主流
AI 的答案来自训练资料中的多数模式。这不代表 AI「反对」突破,但它确实有一个结构性的倾向,熟悉的、被广泛认可的内容更容易被呈现。
想想人类史上那些改变世界的思想:
- 哥白尼的日心说,当时是极端少数意见
- 塞麦尔维斯主张医生接生前要洗手,当时被医界嘲笑
- 有人主张火箭可以重复使用,当时被业界视为空想,他的公司甚至一度濒临资金断裂
这些思想的共同点,是它们在提出时都是「异常值」。
AI 的运作逻辑,识别多数模式、将异常值排在后面,不是在刻意压制突破。但客观上,它更容易让你看到主流,更难让你碰到那些可能改变一切的少数声音。
趋势三:共识的自我强化回圈
这里有一个值得警惕的机制(以下是简化模型,实际过程更复杂):
- 大量用户问 AI 类似的问题
- AI 基于训练资料给出相似的答案
- 用户带著这些答案在网路上发表观点
- 这些观点成为新的网路内容
- 未来的 AI 训练资料中,这类观点的比例上升
- 下一代模型对这些观点更加确信
这不是即时发生的,AI 不会每天爬取网路更新自己。但在训练周期的尺度上,这个回圈确实存在。
它的效果是:把多数人的共识逐渐固化为「标准答案」。
这是一个时间尺度的问题
以下不是预言,而是一种可能的情境,基于「技术便利性取代主动思考」这个历史上反覆出现的模式。
2027 年(此刻):
- AI 已经普及,但还不是唯一选项
- 多数人还记得「自己搜寻、自己判断」的感觉
- 像那个追问三次的人,还不算稀有
2035 年(一种可能):
- 在 AI 环境中长大的一代成为主流
- 「问 AI」可能成为本能反应,就像我们现在本能地打开 Google
- 「独立思考」可能需要刻意练习,就像现在的手写信
2045 年(更远的推演):
- 「不问 AI 就做决定」可能被视为效率低落
- 就像今天很少有人不查资料就做重大决定
- 「在不确定中停留」这种能力,可能变得更加稀缺
如果深刻思想需要「容忍不确定性」的能力,而便利工具正在让我们越来越习惯「立即得到答案」,这个可能的趋势值得认真对待。
找一个「更好的 AI」不够
有人可能想:「那我用更好的 AI,选一个更追求真相的。」
这是好的起点,但不够。
核心问题在于当前 AI 的训练目标:
- 预测最可能的下一个回应
- 最小化与训练资料分布的偏差
- 优化用户满意度
这些目标里,没有「说出不受欢迎但重要的真话」这一项。这不是 AI 的缺陷,而是设计选择。一个被优化为「让大多数用户满意」的系统,结构上不倾向于挑战大多数人的既有想法,或者也可以说是不倾向于挑战主流的想法。
更根本的是:当我们把「判断什么是真」这件事交给工具,无论工具多好,我们自己做这件事的能力都在退化。
这就像计算机让我们不再心算,方便,但我们确实失去了什么。问题是,「判断真伪」这件事,我们能承受失去吗?
三个可以做的改变
我不会天真地说「戒掉 AI」,那不现实,也不必要。
但可以改变跟 AI 互动的方式。
改变一:把 AI 当「陪练」,而不是「导师」
一般做法:问题 → AI 答案 → 接受 → 下一题
替代做法:问题 → AI 答案 → 追问「为什么」→ 追问「你的假设是什么」→ 追问「这个假设本身可能有问题吗」
举个例子:问 AI「远端工作会降低生产力吗?」AI 说「研究显示会」。可以接著问:「这些研究的样本是哪些产业?衡量的是什么指标?有没有得出相反结论的研究?」
不要在 AI 第一次回答后就满足,至少再问两次「为什么」。
把 AI 的回答当作起点来探索,而非终点来接受。每多质疑一轮,就多保留一份自主判断的能力。
改变二:建立「AI 失误清单」
当你发现 AI 的错误(会有很多):
- 把出错的地方记下来
- 写下你是怎么发现的
这就像接种疫苗:对小规模的错误建立敏感度,可以预防大规模的盲信。
改变三:刻意制造「空白时间」
- 看书时,忍住不要马上问 AI
- 遇到难题,留一部分给自己,试著想一天再说
是的,这很痛苦。AI 太方便了。但这可能是保持自主思考的必要成本。
结语:不只是 AI
不要盲信 AI。不过,演算法只是其中一个守门人。别人教你的答案,也可能是一个守门人;你自己的直觉,那些不假思索、理所当然的判断,同样可能是。
所以要保留的,不只是对 AI 的问号,也是对别人、对自己的问号。不是凡事都必须要怀疑,但也不是凡事都直接接受,在必要的时候,愿意多想一下;在还想不清楚的时候,允许自己停在不确定里。
在演算法给答案的时代,请保留你的问号。
允许迷茫的尊严,松手确定的廉价。
