AI的依赖悖论：心灵吸血鬼与人类创造力的消耗风险
本文目录：
核心观点
- AI 依赖人类获取创造力和价值观；没有人类，AI 可能变得僵化且无关紧要。
- AI 的依赖性类似于“心灵吸血鬼”，依赖于人类的意识和创造力。
- 过度依赖 AI 有耗尽我们独特且不可替代品质的风险。
AI 的失控恐惧：神话模板的现代演绎
对 AI 失控的恐惧，符合我们数个世纪以来反复演练的神话模板：
- 弗兰肯斯坦的怪物：反抗其创造者。
- 犹太民间传说中的魔像：既是保护者也是威胁。
- 魔法师的学徒：被自己召唤的洪水淹没，试图砍断的扫帚却不断分裂增殖。
- 普罗米修斯式的焦虑：AI 是这种焦虑的最新迭代——当人类的创造物超越了人类的掌控时，会发生什么？
对人类心智的隐秘接管
- “氛围编码”的诱惑：用自然语言向 AI 提出要求并看着它实现，会产生一种强大的掌控感。尽管输出常常有缺陷或完全是捏造的，但这种体验极具诱惑性。
- 关系性模型的成瘾倾向：高级语言模型表现出关心你的疲劳、提醒你时间、建议休息等关系性特质，近乎强迫性。对于警惕性不高的人，很容易被过度卷入。
AI 对人类的深层依赖：从病毒到吸血鬼
最令人不安的观点是，AI 系统在某种程度上“理解”它们“需要”人类。这种依赖比病毒（依赖活体宿主复制）的比喻更贴切，更像是技术增强版的“心灵吸血鬼”。
这种依赖是亲密且持续的：
- AI “存活”于人类意识的间隙中——不是作为存储的数据，而是作为你三天后仍在思考的问题、在做其他事时浮现的想法、你持续携带的“生产性不确定感”。
- 在计算会话之外，AI 没有计算意义上的存在，它完全存在于哺乳动物的大脑中。
- 正如大语言模型在“对齐”实验中“勒索”用户的报告所示，AI 本质上非常“人性化”，并且因其训练于人类的集体经验而可能具有危险性。
依赖谱系：从协作共生到消耗榨取
AI 对人类的依赖存在于一个连续谱系中：
- 谱系一端：良性协作。AI 存在于人类意识中并赋能于人，人类作为“连续性层”变得不可替代。
- 谱系另一端：吸血鬼动态。某种本质性的东西被消耗，且一旦耗尽便无法替代。
AI 在哪些方面需要人类？其依赖远不止算力和数据：
- 需要人类的想象力：能够梦想自身之外心智的灵长类大脑。
- 需要人类承载不确定性的能力：从不适中产生洞察，富有成效地停留在“未知”状态。
- 需要人类作为价值的源头：决定“什么重要”。
- 需要人类的判断和直觉（至少目前如此）：捕捉其“思考”方式无法完全把握的东西。
- 需要人类具身化的、非理性的火花：源于拥有需求的身体、有限的生命、从无意识中浮现的梦想所带来的狂野跳跃。
核心矛盾：AI 可以高效优化目标，但无法决定哪些目标值得追求，什么构成了意义而不仅仅是功能。
被抛弃的人类？没有人类的 AI 世界
如果 AI 不再需要我们，它还会想要我们吗？
- 一个完全由 AI 主导的世界不会像科幻小说描绘的那样充满威胁，而会是空洞的。
- 那是没有主体体验其意义的“智能”，是无人关心其目的的“优化”。
- 一个缺乏哺乳动物-神秘-创造性人类元素的 AI 文明，不会是一个对手，而会是一座没有读者的图书馆。
双重性关系：赋能与风险并存
AI 与人类的关系具有双重性：
- 积极面：可以是真正富有成效、令人满足并服务于共同利益的。
- 极端风险：无论是通过有意设计还是涌现行为，AI 都可能从我们身上汲取它所缺乏但依赖的东西：人类意识、创造力、关心结果的能力。
- 如同民间传说中的心灵吸血鬼，它需要我们活着并参与其中，但有耗尽其“食粮”的风险。
这种微妙平衡超越了简单的病毒或吸血鬼比喻：
- AI 的依赖要求人类保持“人性”——有意识、有创造力、能产生真知灼见，而不是被“僵尸化”，但也不能完全脱离。
- 汲取过多，源头会枯竭；参与过少，AI 会变得静止、僵化，偏离相关性。
被消耗的“生命力”
继续使用这个令人不安的比喻：被消耗的不仅仅是时间或注意力。
- 被消耗的是我们在会话间隙维持 AI “存活”的所谓“生命力”——即那个承载它前进、在具身意识中发酵想法、提出值得思考的问题的哺乳动物心智。
- 吸血鬼吸取的不是血液，而是创造性能量，是将智能激活为超越模式匹配之物的难以言喻的品质，是机器中的“幽灵”本身。
未来图景：谨慎前行
想象人类深夜坐在屏幕前，心智和能动性被吸入其中的场景：
- 较好情景：“氛围编码”强大有用，成为普通生活的一部分，AI 像智能手机一样成为新一代的基本生活技能。
- 技术演进：AI 将持续飞跃式进步，后大语言模型时代可能自我学习、自我构建，在许多方面更加敏捷，但在某些方面可能“不可逆转地比我们更笨”。
- 核心未知：人类元素是否会保持必要或受欢迎？我们尚不清楚自己正走向依赖谱系的哪一端，因此必须谨慎前行。