通用智能的幻觉：当心智成为稀缺资源

核心观点

• “通用智能”可能是一种叙事性幻觉，而非单一、可迁移的认知能力。
• 人工智能可以在没有内在视角的情况下，表现出理解的样子。
• 真正的风险并非机器变得像人，而是人类去依赖一种没有心智的智能。

对通用人工智能的再思考

长久以来，人工智能的发展被描述为一个通向必然结果的倒计时。人们普遍预期，机器终将跨越某个阈值，变得“通用”，并能像人类一样跨领域理解事物。这个时刻常被想象为一种认知的“日出”或顿悟。

然而，一个反叙事值得深思：

• 如果这个时刻永远不会到来呢？
• 如果人工通用智能并非被延迟，而是在概念上就被错误地框定了呢？
• 如果“通用智能”根本不能脱离一个鲜活的、拥有自传体记忆的心智而独立存在呢？

拼贴而成的心智

我们常将智能视为一种认知奇点。但这忽略了人类心智的真实样貌：

• 我们的心智生活是分层的，知觉、情绪、记忆、语言、社会推理和道德直觉交织在一起。
• 将这些能力串联起来的，是一个持续存在的“自我”，它承载着经验，使其在时间中延续。

所谓的“通用智能”，可能已经是一种叙事性幻觉：

• 它并非一个单一的全能认知引擎，而是我们强加于一系列专业化系统集群之上的一种连贯性。
• 从这个意义上说，人脑本身就是模块化的。
• 让这个模块化系统感觉“通用”的，并非架构本身，而是那个将这些能力绑定成一个生命故事的“自我”的存在。
• 对人类而言，智能的统一性不是计算性的，而是自传体式的。

因此，追求人工通用智能可能犯了一个根本性的范畴错误：

• 我们错误地将“通用智能”视为信息处理的属性，而对我们人类来说，使智能变得通用的，是生命本身的连贯性。
• 大脑不是一个通用处理器，而是一个会思考的个人传记。

流畅却无内在性

大型语言模型凸显了这种差异：

• 它们能在没有个人传记的情况下创造连贯的文本。
• 它们能生成答案，却从未“活过”那些问题。
• 从外部看，这像极了理解；但从内部看，除了冰冷的、高维的数学运算，空无一物。

许多人怀有一种希望（或恐惧）：足够的复杂性或规模终将催生出一个内在视角。然而：

• 如果那个阈值永远不会到来，我们面对的就不是一个正在浮现的心智，而是一面闪亮的镜子。
• 它反射着思想的表层结构，却缺乏赋予其深度的内在生命。

人类自身的适应风险

如果通用人工智能是一个神话，风险便发生了转移：

• 危险不在于机器变得太像人，而在于人类会去适应一个本不可能存在的事物。
• 随之而来的可能是：判断力被让渡、创造力被生成工具“脚手架化”、语言以预先形成且自信的姿态到来。
• 曾经赋予思想以心理重量的努力，被悄然移出了循环。

这可以被称为 “反智能”：

• 它是没有后果的连贯性，是没有内在劳动支撑的答案。
• 从发展角度看，这至关重要：挫折感、谦逊、在不确定性中挣扎的能力、承载情感与道德重量的思想的缓慢构建……这些并非源于获取信息，而是源于与信息搏斗的过程。

没有思考者的智能

如果通用智能无法被工程化实现，那么我们真正面对的，并非一个新心智的诞生，而是我们自身智能的外化：

• 这不是一个新主体进入世界，而是一个充满“无主答案”的庞大认知环境。

在这样的世界里：

• 人类的内在性成为一种稀缺资源。
• 我们可能发现自己被一种不需要心智的智能所包围，同时或许第一次真正发现，拥有一个心智为何如此重要。

最重要的问题或许不再是机器是否会觉醒，而是：
我们能否保存那些使思考成为“一个人所进行之事”的心理条件，而非仅仅是被提示符唤入现实的东西。