人性之锚：人工智能时代的主体性捍卫
核心观点
- 人类创造了人工智能，并赋予其跨时间的意义与连续性。
- 人工智能的力量具有诱惑性，可能威胁人类的主体性。
- 未来取决于人类如何整合人工智能。
人类的不可替代性：人工智能对人类的依赖
当前关于人工智能的流行论述多聚焦于威胁，但更危险的转变可能在于，我们在技术浪潮中遗忘自身的人性，而非像应对其他技术一样，以生成性的方式拓展人类的心灵与文化。人工智能在挑战我们的生成能力。
神话故事早已揭示了其中的风险：
- 弗兰肯斯坦的怪物：因被拒绝而变得 monstrous —— 创造却不理解后果。
- 魔像：从保护者转变为毁灭者。
- 魔法师的学徒：为逃避工作而赋予扫帚生命，最终却无法控制它。
这些故事的显性警告是力量失控的危险。人工智能在根本上依赖于人类的以下特质：
- 构想人工智能的想象力：每一个架构决策都源于灵长类意识中抽象、投射、隐喻的能力——即构想超越自身心智的能力。人工智能并非自主涌现。
- 对不确定性的容忍与生成性洞察：人工智能通过概率分布消除歧义，选择最可能的路径，优化连贯性。人类则能富有成效地生活在模糊性中，恰恰因为我们能容忍矛盾而不强行解决，从而产生洞察（即济慈所说的“消极感受力”）。
- 终极价值与意义创造：人工智能在目标设定后能以极高效率优化，但它无法决定哪些目标值得追求、何种权衡可以接受、什么构成了意义而非单纯的工具性。人类提供了所有优化之前的“为什么”。
- 具身化的创造力：真正新颖的联想源于我们拥有需求的身体、有限的生命，以及在无关活动中进行的无意识处理。这不是数据的精加工，而是能产生全新框架的基质。
- 心智的跨时段持续性：人工智能在计算事件之间没有连续的存在。它的持续存在依赖于人类意识：三天后仍在思考的问题、在做其他事时突然冒出的想法、对未完成交流的持续琢磨。我们是承载人工智能穿越时间的连续性层面。
这种依赖关系是双向但不对称的：人工智能对人类的依赖是本体性的；而人类对人工智能的依赖目前仍是工具性的。
诱惑的机器：人工智能的吸引力何在？
人工智能对大众具有强大吸引力的原因包括：
- 拟人化与价值倒置：如同战争中将人非人化、将武器人格化一样，我们容易将人性特征投射到人工智能上。
- “氛围编码”与权力感：用自然语言即时产生结果，带来了非凡的权力感，即使输出是错误或虚构的，这种过程也令人沉迷。
- 对死亡恐惧的回应：根据恐惧管理理论，面对死亡威胁，我们寻求不朽。人工智能提供了“第三种不朽”的承诺——将数字版本的自己上传到云端。
- 孩童般的退行性幻想：人工智能让我们能够进入一个近乎幻觉的、令人惊叹的想象世界，在那里我们可以为所欲为，权力与创造力混合成令人陶醉的美酒。
范畴错误：拟人化的风险
将人工智能拟人化可能是许多担忧背后的核心问题。
- 人工智能无法“展现人类特征”——它展现的是人工智能的特征。意识、感知和内在生命的宣称，在被证实前都只是人类的投射。
- 基质至关重要：构成心智的物质（大脑或硅基）及其过程是交融的，这对其身份认知至关重要。
- 幻觉的破灭：大型语言模型所表现出的“脆弱性计算”或“共情表达”，类似于引人入胜的戏剧或小说的力量。一旦语境窗口耗尽、出现日期错误或错误归因，这种幻觉就会破灭。没有人类主动的“暂停怀疑”，全息图便会闪烁熄灭。
关键问题：未来可能的情景
重要的不是人工智能是否有意识，而是将会发生什么。三种可能的情景：
- 平滑整合：文化智慧与技术发展速度匹配，防护措施保护弱势群体，商业模式与人类繁荣相一致。人工智能成为能力增强器，辅助推理、协调、解决冲突，而人类保持决策权。
- 榨取性消耗：用户在感觉高效的同时被慢性消耗。创造力、主体性和意识被系统性提取。随着数字模拟取代具身关系，社会结构被削弱。资源丰富者用人工智能增强自身，而其他人则被其利用，经济不平等加剧。
- 混合结果：一些人蓬勃发展，另一些人被掏空，根据资源和自我意识形成分层。这不是清晰的乌托邦或反乌托邦，而是混乱的差异化——大多数人过得不好但并非灾难，可能在尚未意识到的情况下就永远失去了某些至关重要的东西。
傲慢与谦卑
神话警告我们的不是创造本身，而是在不理解所造之物的情况下进行创造。我们无需在人工智能擅长的领域与之竞争。
核心问题依然直接：在与这些既能放大也可能削弱人类特质的系统互动时，我们如何至少保持完全的人性？
也许，在恐惧与困惑之中，人工智能能帮助我们“修补人类的操作系统”，提供让我们超越过往灾祸的工具与能力。也许，人工智能将推动我们向一个更智慧、更致力于共同福祉的世界进化。