本文目录:

核心观点

  • 个体层面的AI使用看似提升效率,但当数亿人同时做出相似的“认知让渡”时,一种系统性的集体风险正在累积。
  • 复杂系统的自我纠错不依赖共识,而依赖分歧产生的建设性摩擦。分歧本身是系统价值,而非缺陷。
  • AI对判断方式的重塑,正在引发“被动趋同”的螺旋:模型相同、数据相同、输入相同,导致输出越来越相似,进而反向缩窄未来数据的多样性。
  • 这种“同步失明”最大的危险并非来自个体能力的下滑,而是群体感知范围的集体窄化——当所有人都错过同一件事时,预警系统将彻底失效。

分歧是系统的核心资产

复杂系统的自我修正依赖的并非共识,而是持不同视角的人之间产生的建设性摩擦。人们看到同一份证据却得出不同的结论,这种差异本身就是系统运转的核心。

市场和交易是典型例证:卖方与买方永远在价格上存在分歧,这种分歧不是系统的缺陷,它就是系统本身。消除摩擦并不会获得更聪明的市场,只会得到一个更脆弱的系统。

科学、医学、金融市场——这些领域都依赖同一种隐形但珍贵的人力资产:人们基于相同的证据得出不同结论的能力。这种能力的价值不可估量。

被动趋同:AI对集体认知的重塑

计算器扩展了计算能力,搜索引擎扩大了信息获取渠道,但它们都没有触及人如何形成判断这一核心机制。

AI做到了。而一旦它介入,螺旋便开始了:

  • 相同的模型
  • 训练于相同的数据
  • 处理相同的输入

当这些模型同时影响投资者的风险评估、医生的诊断推理、编辑的内容判断,结构性变化发生了——个体依然存在,但多样性正在消失

认知让渡:个体将判断权交给AI不是因为困难,而是因为容易。
模型崩溃:当AI递归地训练于AI生成的数据,独创性被平均化抹除。
同步失明:上述两种现象在人口层面同时发生——不是某个人在放弃判断,而是所有人都在趋同。

统计尾部丢失的代价

尾部(tails) 在统计学中代表极端值与异常信号。历史上的金融泡沫、情报失误、长期未被推翻的错误医学假设——这些都不是信息不足造成的失败,而是感知的集体失败:足够多的人同时看着相同的事实,却同时错过了相同的东西。

在市场中,经验丰富的投资者在数据确认之前就嗅到危险,这种判断源于亲身经历损失的肌体记忆。这种知识存在于模型无法触及的地方——它不能被提取和编码,只能被“赚到”。

当这种感知力从参与者群体中消失,系统便失去了早期预警能力。原本可以被多元化判断捕捉到的异常信号就此湮没。不是信号不存在,而是能够感知信号的机制已经收敛到均值附近。

没有尾部,就没有预警。

系统性的风险未被测量

我们拥有大量测量个体认知衰退的工具与临床框架,但几乎没有工具能够测量 “集体感知的窄化”

这是一个隐蔽的风险,因为同步盲目的危险在个体层面完全不可见:

  • 每个使用AI工具的人表现都比过去更好
  • 但整个群体的感知能力却同时在萎缩
AI改变的不只是个体如何思考,它改变了我们能够感知到什么。当感知能力在集体层面收窄,真正的风险不是AI失效,而是——我们所有人都同时在错过真正重要的事情,而且对此一无所知。

標籤: AI风险, 集体认知, 系统脆弱性

添加新評論