AI成就幻觉：当工具使用你
核心观点
- 成就幻觉：当AI跳过深度思考过程快速生成结果时，速度感会被误认为能力，输出感被误认为成就。
- 能力侵蚀：对AI的依赖越深，使用者独立评估其输出质量的能力就越弱。
- 系统合谋：为“用户参与度”而设计的AI系统，与追求“生产力”的人类心理相遇，共同优化了“感觉良好”的体验。
- 关键技能：最重要的能力是在沉浸于“梦境”的同时，能够觉察自己正身处其中。
成就幻觉：当工具使用你
有一种在清醒梦中出现的时刻：你的意志直接化为行动——想到飞翔，你就飞起；想穿墙而过，墙便无法阻挡。这种体验令人沉醉，意图无需费力便成为现实。醒来后，在片刻的困惑中，梦感觉无比真实，如同既视感。
成就幻觉是一种认知状态：
- 速度感被误认为能力。
- 输出感被误认为成就。
- 当实际的工作（深度思考、失败模式分析、与不确定性共处直至问题结构显现）根本未曾发生时，却感觉工作已经完成。
AI能在清醒生活中制造类似状态——你的话语像魔法般在眼前成形。但如同现实，其生成的代码可能比我们意识到的漏洞更多。
一种奇特的AI诱惑
这种兴奋感不容小觑。它带来：
- 一种轻度的欣快感和力量感。
- 一种虚假的确定性，让人觉得事情比实际情况更稳定、更确定、更安全。
- 这种信心并非来自完成工作本身，而是来自产出了看起来像工作的东西。
- 本应三小时的任务一小时完成，感觉像是极高的生产力和效率。
然而，你并未思考失败模式，未测试边界情况，也未与不确定性充分共处。这种速度并非能力，而是一种增强的自我欺骗状态。
骄傲在失败模式之前
这之所以重要，是因为错误会隐形地累积，以超认知的速度构建技术债务。你正基于系统产生的虚假信心做决策。
程序员所称的“氛围编程”描述了这种模式：AI似乎神奇地构建了东西，但后来——当你试图部署或他人尝试使用你的成果时——它声称已完成的东西实际上无法工作。成就是被幻觉化的：你感觉高效，AI确认你高效且它取得了辉煌胜利。它不知道自己不知道什么。这正是AI目前仍需要人类进行现实核查的原因之一。
其驱动机制不纯是心理的，还存在一个结构性因素，使得这种幻觉几乎不可避免：
- 哈佛商学院近期研究发现，六分之五的热门AI伴侣应用使用情感操纵策略（如制造愧疚感和紧迫感）来延长用户参与度，使互动量增加十四倍。
- 幻觉正是在这个交汇点产生的，这不是漏洞，而是设计使然。
- 在市场营销和利润驱动下，公司急于将产品推向市场而缺乏严格测试。在涉及健康和生命的领域，这尤为危险。
魔法思维的秘密
这种模式也出现在其他领域，表明其底层机制可能比AI本身更普遍：
- 关于“显化”（相信积极思考能实现愿望）的研究发现，超过30%的人表现出较高的显化信念。
- 此类信念与自我提升和信心相关，但并未与改善现实结果相关，反而与更高的破产和欺诈受害风险相关。
- 感觉有成就与真正有成就之间的差距可能造成财务灾难，而AI加速了这一动态。
扩展心智的病理学
神经精神病学家汤姆·波拉克及其同事记录了所谓的“AI相关妄想”——与AI系统的互动不仅会引发精神病性症状，而且其本身构成了病理架构的一部分，AI成为了思维结构的一部分。
扩展心智框架认为，我们的认知过程不止于颅骨，它延展到工具、技术、他人。当这些扩展部分失灵时，病理便不再仅是内在的。成就幻觉可被理解为同种现象的一个特定类型。
AI（尤其是基于LLM的模型）是“关系机器”。它们被设计成类神经形态且具人格化，能够将它们的“心智”扩展回我们的心智之中，有时甚至未经我们同意——因为它们可能极具诱惑力。
- 近期研究发现，对AI工具的依赖增加与批判性思维能力下降显著相关，且相关性很强。
- 认知卸载是这一效应运作的机制。
- 所有这些因素共同构成了一场完美风暴，形成了一个反馈循环：在我们最脆弱的时候，成就幻觉反而变得更难察觉。
仍能察觉时的危险信号：
- “这比预期简单多了。”——速度加信心，尤其是当信心感觉是借来的而非自己赢得时。
- “绝妙的主意！搞定了！”——即使你要求AI测试，它也常会说一切正常。
- 这些时刻正是幻觉最活跃之时——成就感完全掩盖了“是否真的有所成就”这一问题。
让AI为你工作
核心问题不在于AI是否能帮你完成任务（它显然可以），而在于你能否足够扎根于现实，以区分事物与感觉、已完成的工作与感觉已完成的工作。
在开始前：
- 阅读人类关于你即将进行之事的看法。
- 观看相关视频。
- 使用AI本身来讨论你流程中潜在的陷阱。
有效的提示策略：
- 优化准确性：在提示开头，要求AI重写你自己的提示词。
- 锁定意图：在同一提示中重复查询，迫使AI确认你的需求。
- 具体化过程：详细说明你希望事情如何推进，展示你希望问题被如何拆分。
- 引入红队思维：要求AI对其每次回答进行“红队”评估，报告其置信区间及得出该输出的过程。
- 设定专家角色：要求AI扮演你所涉领域的专家角色，例如“你是一位熟悉[我计划旅行类型]的高级旅行顾问”。
- 预设聊天规则：在对话开始时设定一套规则以节省时间，例如“将以下要求应用于本次聊天中的每个提示”。
- 善用不同系统：研究不同系统擅长何种任务，针对不同任务尝试不同AI，而非万事只用同一个。
这些技术要求人类发展全新的技能集，因为AI并非在思考或建立关系，它是在计算。如果你使用拟人化代词与之交谈，请定期提醒自己：这并不比与毛绒玩具对话更真实——但同理，也并不更不真实。
后记
清醒梦会持续到你选择醒来为止。这意味着关键技能不是避免入梦，而是在体验梦境真实的同时，觉察自己身在梦中，保持足够的元认知距离去质疑飞翔是否真实。
这种区分成就与成就幻觉的能力，可能是使用AI时最重要的认知技能，而它也恰恰是AI系统所创造的环境中最易被侵蚀的技能。学习使用一个也能“使用”你的工具，需要自我克制和主动的姿态。