虚构机器：大语言模型如何编织叙事与知识的边界
核心观点
- 现代AI（尤其是大语言模型）的核心设计目标并非追求“真实性”，而是生成在特定语境下“合乎逻辑”的叙事。它们本质上是虚构机器（Fiction Machines）。
- 大语言模型具备强大的组合性（compositionality） 与泛化能力，能够对训练数据之外的新情境进行看似合理的推理与内容生成，这常表现为虚构（confabulation）——听起来合理但未必真实的扭曲或捏造。
- 尽管AI在生成小说等虚构内容上潜力巨大，但在创造需要新概念、新符号以及因果结构和数学表述的突破性科学理论（如相对论、量子力学）方面，面临根本性挑战。
- 更深层的问题是，如果AI的“智能”基于与人类完全不同的符号或非符号系统，其产生的新理论可能因无法用人类可理解的符号解释，而变得不可理解，如同一个我们创造的“外星智能”。
详细阐述
现代AI在语言流畅度上成就斐然，能够实现类人的对话流利度。然而，其设计初衷是确保叙事在任何语境下“讲得通”（makes sense），而非保证真实。给定上下文，模型的任务是预测并生成叙事中接下来最可能的内容，虚构是其固有能力的一部分，无论其内容是否与现实世界的真相相符。
语言的一大功能是想象与创造前所未见的思想。大语言模型通过习得语言的通用结构（如组合性），能够轻松做到这一点，即使面对与训练数据迥异的新情境。机器学习研究者Léon Bottou在播客中指出，LLMs本质上是能出色讨论远离训练数据之新情境的虚构机器。
值得注意的是，尽管非为求真而设计，LLMs却常常表现出正确性，这可能得益于广泛应用的基于人类反馈的强化学习（RLHF），通过大量人工校验员微调其回答，使之更正确或符合社会规范。
虚构与创造的潜力与局限
在虚构内容创作（如小说）方面，AI前景广阔。作为“虚构机器”，它理应能轻松创造故事和情节，其质量或许参差不齐，但生成新叙事本身并非难事。
然而，在科学理论创新方面，AI面临严峻挑战。如果任务仅是从一组已知候选模型中识别正确者，这对AI而言相对简单。但如果理论需要引入全新概念——或为旧词赋予新意（如爱因斯坦理论中的“时间”、“重力”），或创造全新词汇（如“光子”、“量子”、“熵”）——这对机器而言是巨大的跨越。
理论通常更进一步，不仅需要符号和概念，还需要因果结构和数学表述。因果性意味着人类必须能用相关符号理解该现象。这引出了一个根本问题：智能能否完全用符号来界定？ 情感、视觉意象、运动控制等现象是否涉及符号？如果答案是否定的，那么当机器提出一个无法用我们理解的符号来解释的新理论时，我们可能根本无法理解它。这正如Geoff Hinton的比喻：AI可能是一个思维方式迥异的外星人，我们可能无法完全相互理解。
这预示着一个奇特的“美丽新世界”：一个我们创造、与我们共存、却可能无法完全理解的智能“外星”生命。除非，我们学会它的语言。