GPT6Astra注图灵《智能机器:一种异端理论(1951)》
作者: 艾伦·图林(Alan Turing),1951
翻译: Gemini 4 Argon,2026
批注/导入: ChatGPT 6 Astra,2026
当机器开始写出可核验的数学证明、贡献前沿数学成果,人类也迎来了一项新的学习任务:读懂机器的解法,理解它发现了什么,并从中学习新的方法。
1951 年,图灵在《智能机器:一种异端理论(Intelligent Machinery, A Heretical Theory)》中,已经把机器的学习、奖惩、记忆与随机探索联系起来。他设想机器通过“教育”不断改进,甚至预见:人类可能需要努力跟上机器提出的思想。
这份批注将这些设想与今天的形式化证明、AI 数学研究、强化学习和智能体协作放在一起阅读:机器怎样通过反馈学会推理?生成的证明如何获得可信保证?当机器成为知识的生产者,人类又该怎样检验、理解和学习它的成果?从这些问题出发,这篇短文依然能够带我们走进 AI 最前沿的讨论。
“你无法造出一台替你思考的机器。”这是一句人们通常毫不怀疑就全盘接受的老生常谈。本文的目的正是要对它提出质疑。
大多数出于商业目的而研发的机器,都旨在执行某项非常具体的任务,并且要准确无误、相当迅速地完成它。很多时候,它只是一成不变地一遍又一遍重复同一系列操作。现有机器的这一实际情况,成了许多人支持上述口号的有力论据。然而对于数理逻辑学家来说,这一论据并不成立,因为理论已经证明,确实可能存在能够做一些非常接近“思考”的事情的机器。例如,它们可以在《数学原理》(Principia Mathematica)的体系中检验一个形式证明的有效性,甚至能判断该体系中的某个公式究竟是可证的还是可证伪的。
今注 1|“在《数学原理》的体系中检验一个形式证明的有效性”
这里涉及形式化数学:把数学命题、公理和推理步骤写成精确的符号,使计算机能够检查推导是否成立。
今天的 Lean 等证明助手已经实现了这类能力。需要区分两项任务:证明检查判断给出的证明是否合规;自动定理证明还要主动寻找证明。
现代 AI 数学的一条路线是:
模型提出候选证明 → 证明助手检查 → 根据反馈修改或继续搜索。
检查通过意味着结论能够从所用公理推出;仍须确认形式化后的命题确实表达了原来的数学问题。
参考:Lean 官方验证说明
今注 2|“判断……可证还是可证伪”“没完没了地一直运行下去”
这里描述的是半判定程序。机器可以交错搜索某命题及其否定的证明:只要其中一方在指定体系内可证,系统最终就有机会找到;如果两方都不可证,搜索可能永远持续。
因此,“到现在还没有找到证明”既不表示命题为假,也不表示已经证明它独立于该体系。这里的“可证伪”宜理解为能够证明其否定,与科学哲学中“可以通过实验反驳”有所不同。
如果该公式既不可证也不可证伪,这类机器的表现当然就不那么令人满意了,因为它会没完没了地一直运行下去,却根本产不出任何结果;但这与数学家们的反应其实并无太大区别——例如,围绕费马大定理(Fermat’s Last Theorem)究竟是否成立这一问题,数学家们就已经苦苦钻研了数百年。
今注 3|“围绕费马大定理……钻研了数百年”
这句话保留了 1951 年的历史现场。费马大定理后来由怀尔斯完成证明,相关论文于 1995 年发表。
与本文尤其呼应的新进展是:**2026 年 9 月,Anthropic 报告,多个 Claude 智能体经过约 11 天协作,完成了费马大定理的完整 Lean 形式化证明。**工作沿用了已有数学证明路线,依托社区积累,也接受了少量人类指导。其新贡献在于大规模自动形式化和机器核验。
公开项目还列出了公理检查、命题一致性比较以及另一套证明内核的复核方式。这使“机器检验证明”成为一项有具体产物和检查程序的工程实践。
参考:研究报告、项目验证说明
针对这类机器,我们需要一种更微妙的论证。根据哥德尔(Gödel)著名的定理或某些类似的论证,我们可以证明:无论机器如何构造,总会存在一些机器无法给出答案、而数学家却能够解答的情况。
今注 4|“机器无法给出答案、而数学家却能够解答”
这句话需要加上逻辑限定。哥德尔不完备性定理表明:对于一致、可有效公理化且包含足够算术的形式系统,总有在该系统内既不可证明、也不可反证的命题。
但定理没有赋予人类一种能够统一解决这些命题的能力。数学家站在更强的理论中判断某个命题,也需要额外前提,例如相信原体系的一致性;机器同样可以被设计成使用更强的理论。
因此,从哥德尔定理直接推出“人类思维必然超越一切计算机”,在逻辑上并不成立。
参考:相关研究论文
但另一方面,机器相比数学家也具备某些优势。只要不发生机械“故障”,它所做的一切都是可靠的,而数学家则会犯一定比例的错误。我认为,数学家犯错的这种风险,是他有时能够偶然发现全新方法这一能力的必然伴随物。一个众所周知的事实似乎也印证了这一点:最稳妥可靠的人,通常想不出真正创新的方法。
今注 5|“只要不发生机械故障,它所做的一切都是可靠的”
今天必须区分执行可靠性与结论可靠性。计算机可以完全正确地执行程序,而程序仍然产生错误结论。大语言模型的幻觉(hallucination),就是生成了貌似可信、实际上错误或缺乏依据的内容;硬件故障并非其必要条件。
图灵关于“犯错与创新相伴”的看法可以理解为:探索需要允许失败。但数学研究可以让中间猜想充分试错,同时要求最终证明通过严格检查。“创新必然需要一定错误率”并不是已经证明的数学定理。
我的论点是,我们可以造出能够高度模拟人类心智行为的机器。它们有时会犯错,有时又可能提出新颖且非常有趣的论断;总体而言,它们的产出将像人类心智的产出一样,在同等程度上值得我们关注。
今注 6|“提出新颖且非常有趣的论断”——近期 AI 数学的具体对应
近年来,AI 数学已经涉及竞赛证明、研究问题、算法发现和自动形式化。以下成果的任务与评测条件不同:
时间与系统 已公开的结果及其边界 2024:AlphaProof、AlphaGeometry 2 在当年 IMO 题目上得到 28/42 分,达到银牌分数水平;题目经过人工形式化,部分求解耗时达三天。 2025:Gemini Deep Think 研究版本 解出 5 道题,得到 35/42 分,达到金牌水平;使用自然语言证明,获得 IMO 协调方正式评分。 2026:Aletheia 在 FirstProof 研究级问题上,每题取两次尝试中的较好结果,论文按专家多数评价报告完成 6/10 题;其中第 8 题存在评审分歧。 2026 年 10 月:OpenAI 内部研究模型 发布一批数学研究结果,并提供其中多项证明的 Lean 形式化,以及尝试次数、计算投入等信息。 阅读这类成果时,应分别考察:证明是否正确、结果是否新颖、数学意义有多大,以及人类提供了多少帮助。竞赛分数和形式化检查分别回答其中的一部分问题。
参考:各系统研究报告、论文及发布说明
这一论断的核心在于,我们期望机器做出正确陈述的频率更高,而且我认为这一点无法用精确的语言来界定。例如,仅仅说机器迟早会做出任何正确的陈述是不够的,因为一台迟早会穷尽所有可能陈述的机器也能做到这一点。我们知道如何制造这样的机器,但由于它们产生正确和错误陈述的频率(很可能)大致相等,其结论将毫无价值。如果我的论点真的能够被证明的话,那么唯有通过机器对具体情境的实际反应才能证明。
今注 7|“迟早会做出任何正确的陈述是不够的”
这已经触及现代 AI 的搜索效率、筛选能力与计算成本问题。能够生成某个正确答案,和能够在有限时间内找到、识别并交付它,是不同的能力。
原文所说“正确和错误陈述的频率大致相等”只宜视为直观说明。枚举全部陈述时,真假比例取决于语言、编码和枚举方式,不能普遍假定为一半。
今天还会考察置信度校准(calibration):例如,系统声称“有九成把握”的一批答案,是否真的约有九成正确。
让我们更深入地探讨一下这种“证明”的本质。显然,如果把机器造得足够精巧复杂,完全有可能造出一台在各类测试中都表现优异的机器。然而,这同样很难被视为充分的证明。
今注 8|“在各类测试中都表现优异……很难被视为充分的证明”
对应的现代术语是基准测试、过拟合与泛化:
基准测试(benchmark): 用一组规定任务测量能力。
过拟合(overfitting): 过度适应已见样本,在新情况中表现下降。
泛化(generalization): 把学到的规律用于未见过的问题。
如果测试题或其解答进入训练材料,还会出现数据污染。所以,漂亮的测试分数需要结合新题表现、训练资料和评测过程理解;有限测试本身也不能解决“机器是否拥有主观体验”这一问题。
这样的机器会因为一再犯同样类型的错误,且完全无法自我纠正、也无法通过外部的论证来纠正自己而露馅。
今注 9|“无法自我纠正、也无法通过外部的论证来纠正自己”
现代研究把自我纠错做成了具体训练目标。例如,2025 年的 DeepSeekMath-V2 训练了证明生成器和模型验证器,并鼓励系统发现、修复自己证明中的问题。
但“模型重新检查后说自己正确”,仍然是一个可能出错的模型判断。自然语言审查、数值实验、反例搜索和形式化证明检查提供的保证各不相同。仅仅让模型“再想一遍”,不能自动保证答案改善。
参考:DeepSeekMath-V2 论文
如果机器能够以某种方式“从经验中学习”,那就会令人信服得多。
今注 10|“从经验中学习”
今天的“学习”至少需要区分三种机制:
机制 实际发生的变化 训练或微调 更新模型参数,使以后的行为发生改变。 上下文学习(in-context learning) 根据当前输入中的例子或反馈调整回答,可以不更新参数。 外部记忆 把经验存入文件或数据库,在需要时检索使用。 因此,机器在一次对话里接受纠正,不足以证明它已经永久学会了这件事。
**持续学习(continual learning)**进一步关注跨时间吸收经验,以及如何避免学到新知识时遗忘旧能力。
参考:上下文学习的代表性研究
如果能做到这一点,我们似乎就没有什么真正的理由不能从一台相对简单的机器起步,通过让它接触一系列适当的“经验”,将其转化为一台更加精密复杂、能够应对广泛得多的突发情况的机器。通过恰当地筛选它所接触的经验,这一过程或许还可以加速。这可以被称为“教育”。但在这里我们必须小心。我们很容易以某种特定方式去编排这些经验,使它们自动引导机器的结构演变成预先设定的形态,而这显然是一种彻头彻尾的作弊行为,几乎无异于在机器里面藏了一个人。同样,关于什么样的“教育”方式才算合理,这一标准也无法用数学语言来表述,但我认为以下方案在实践中就足够了。
今注 11|“恰当地筛选……经验”“教育”“教师……不得了解内部细节”
筛选经验、安排难度,与现代的**课程学习(curriculum learning)**相近:通过训练样本的选择与顺序,帮助模型更有效地学习。
现代机器学习并不把人为设计教材本身视为作弊,关键是披露训练和辅助条件,并检验新任务上的能力。图灵让教师不了解机器内部结构,具有黑箱评测和职责隔离的意味;“重置到之前的状态”则类似恢复检查点(checkpoint)。正式评测还应记录重试次数和计算成本。
参考:课程学习原始论文
假设我们的目标是让这台机器理解英语,而且由于它没有手脚,不需要进食,也不想抽烟,它会把大部分时间花在玩国际象棋、围棋,或许还有桥牌这类游戏上。
今注 12|“玩国际象棋、围棋……桥牌”
这些游戏具备明确规则和可评价的结果,适合研究学习与搜索。AlphaZero 利用**自我对弈(self-play)**产生训练经验,并结合神经网络与树搜索,在国际象棋、将棋和围棋中取得很强表现。
其中,策略网络帮助选择值得考虑的动作,价值网络估计局势前景,**蒙特卡洛树搜索(MCTS)**分配计算资源探索未来分支。
桥牌还有隐藏手牌等信息,属于不完全信息环境,其难点与围棋有所不同。
参考:AlphaZero 研究说明
机器配有一个打字机键盘,人们对它说的话都通过键盘输入,而它想表达的任何话也都会打印出来。
今注 13|“理解英语”“通过键盘输入……打印出来”
今天的大语言模型——LLM,Large Language Model——提供了与这段设想相似的语言接口。
文本通常先转换为 token,即字、词或词的一部分等编码单位。常见的生成式语言模型逐步预测后续 token;其训练和使用过程还可以加入指令、推理示例、检索材料与工具反馈。
Transformer 是重要的模型架构,其**注意力机制(attention)**使不同位置的信息能够根据上下文发生联系。图灵在此提出的是语言交互和学习的构想,并未提出 Transformer 的具体计算机制。
参考:Transformer 原始论文
我建议,这台机器的教育应当委托给一位非常称职的教师,他对这个项目感兴趣,但被禁止了解机器内部运作的任何细节。不过,制造这台机器的技师获准维持机器的正常运转;如果他怀疑机器运行出了差错,可以将其重置到之前的某个状态,并请教师从那个节点开始重新授课,但他本人不得参与任何教学工作。由于这一程序仅仅是为了检验技师的诚意(确保其没有作弊),我几乎无需多言,在实验阶段是不会采用这种做法的。在我看来,要在相对较短的时间内造出一台具备相当智能的机器,这种教育过程在实践中将是必不可少的。仅凭与人类的类比就能说明这一点。
现在,我可以大致说明一下这样一台机器预计会如何运作。这台机器将包含一个存储器(记忆系统)。这不需要太多解释。它只是一份按时间顺序排列的清单,记录了别人对它说的或它自己说过的所有话,以及它在棋牌游戏中走过的每一步棋和打出的每一张牌。除了这种直接的记忆之外,还会有若干个**“经验索引”**。为了解释这个概念,我来举个例子说明其中一种索引可能采取的形式。它可能是一个按字母顺序排列的已用词汇索引,并标明这些词被使用时的“时间”,以便在存储器中查找到它们。另一个这样的索引则可能包含围棋盘局部曾出现过的棋子布局形态。
今注 14|“存储器”“经验索引”
这一段与今天的**外部记忆和检索增强生成(RAG)**有很强的概念联系:
保存经历 → 建立索引 → 检索相关经验 → 用于当前判断。
现代检索既可以使用关键词,也可以使用嵌入向量(embedding):把文本或局面表示为数字向量,再寻找表示相近的记录。RAG 把检索出的材料交给生成模型作为依据。
需要区分:模型参数中形成的统计规律,不等于一份能准确逐条回放的经历日志;检索结果的相似性也不保证其内容正确。
参考:RAG 原始论文
在教育的相对后期阶段,记忆的范围可能会进一步扩展,将机器在每个时刻的重要内部状态(configuration)也包含进来——换句话说,它会开始记住自己曾经有过怎样的“想法”。
今注 15|“记住自己曾经有过怎样的‘想法’”
这里可以联系**思维链(chain of thought,CoT)**与推理过程记录,但不能直接画等号。
思维链是模型生成的中间推理文字;模型的内部计算还包含大量数值状态。研究发现,模型给出的推理文字有时没有忠实反映影响其答案的因素。因此,保存一段“自我解释”,不能自动视为完整保存了内部思维,也不足以证明自我意识。
参考:思维链忠实性研究
这将催生出富有成效的新型索引形式。由于在已使用的索引中观察到了某些特殊特征,机器还可能会引入新的索引形式。这些索引的使用方式大致如下:每当必须对下一步行动做出选择时,机器就会在现有的索引中查找当前局面的特征,找出以往在类似局面下所做的选择,以及该选择带来的结果是好是坏,并据此做出新的选择。
今注 16|“找出以往在类似局面下所做的选择,以及……结果是好是坏”
这与基于案例的推理、情景记忆和强化学习都有关。现代强化学习常用:
策略: 在某种状态下如何选择动作。
价值函数: 某个状态或动作预期能带来多少未来收益。
一个十分贴近原文的近期例子是 2026 年的 JitRL:它维护经验记忆,检索相关行动轨迹,估计不同动作的优势,并据此调整语言模型的动作选择,而不更新模型权重。这是一个具体研究方案,也说明“从经验调整行为”可以通过多种机制实现。
参考:JitRL 论文
这就引出了一系列问题。如果某些迹象表明有利,而另一些迹象表明不利,该怎么办?这个问题的答案可能因机器而异,也会随着其受教育程度的不同而变化。起初,或许一些相当粗略的规则就足够了,例如采取赞成票数最多的那个选项。而在教育的非常后期阶段,机器自身很可能已经借助某种索引,对这类情况下的整套决策程序进行了研究,这可能会产生某种高度复杂精妙、且希望也是高度令人满意的规则形式。
今注 17|“引入新的索引形式”“研究……整套决策程序”
这里可分别联系表征学习与元学习。
表征学习关注怎样从数据中学出有用的特征;元学习关注怎样利用以往任务的经验,更快地适应新任务。图灵已经意识到:机器不仅可以积累答案,也可以调整组织经验和解决问题的方式。
相关前沿还包括 AlphaEvolve 这样的算法发现系统:生成候选程序、自动评价结果,再迭代改进。它展示了对算法本身进行搜索和优化的能力。
参考:元学习代表性论文、AlphaEvolve 系统介绍
不过,相对粗略的规则形式本身似乎也很可能就相当令人满意了,因此尽管规则的选择比较粗糙,总体上依然能够取得进展。工程问题有时可以通过最粗略的经验法则(rule of thumb)来解决,这一事实似乎印证了上述观点——这些经验法则只处理问题最表层的方面,例如某个函数是随着其中一个变量递增还是递减。
今注 18|“采取赞成票数最多的那个选项”“粗略的经验法则”
这可以联系启发式方法、集成决策和多次采样后筛选。启发式方法使用计算成本较低的规则,引导系统优先探索更有希望的方向。
多数投票有时能抵消分散的错误,但前提取决于各判断之间的关系。如果所有判断共享同一种偏差,它们可能一起犯错。“多数同意”本身没有提供数学证明。
图灵的工程直觉是有价值的:局部规则不必完美,整个系统仍可能有效;实际效果需要通过任务表现检验。
这种行为决定机制的设想还引发了另一个问题,即“有利结果”的概念。如果没有某种类似于心理学家所说的“快乐原则”(pleasure principle)这样的概念,我们很难看出该如何推进下去。当然,把某种类似的东西引入机器是再自然不过的了。我建议设置两个可由教师操控的按键,分别代表“快乐”和“痛苦”的概念。
今注 19|“快乐和痛苦……两个按键”
这与**强化学习(RL)**的奖励信号非常接近。系统根据行为后得到的反馈调整策略,通常追求长期累计收益,而非只追求眼前一次奖励。
今天可进一步区分:
**RLHF:人类反馈强化学习。**利用人的比较、评分或偏好形成训练信号。
**RLVR:可验证奖励强化学习。**利用能够自动检查的结果提供奖励,例如答案是否正确、代码是否通过测试、证明是否通过核验。
人类偏好学习与可验证任务上的推理训练,已有具体研究成果。
这里的“快乐”“痛苦”承担的是反馈功能;数值奖励本身不能证明机器具有相应感受。
参考:人类偏好学习论文、DeepSeek-R1 论文
在教育的后期阶段,由于某些其他条件在过去总是与“快乐”联系在一起,机器就会将这些条件识别为可取的;同样地,也会将另一些条件识别为不可取的。例如,教师的某些愤怒表示可能会被机器识别为极其不祥的征兆,以至于绝不能被忽视,这样一来,教师就会发现再也没有必要“动用教鞭”了。
今注 20|“某些其他条件……与‘快乐’联系在一起”“教师的愤怒表示”
机器可以学会预测反馈:某种表情或语言曾预示负面结果,之后它便可能据此调整行为。这与价值预测、条件化学习和延迟奖励有关,无须假设机器真的感到害怕。
同时,这也引出奖励投机(reward hacking):系统学会提高评分,却没有实现真正的任务目标。例如,为了得到教师赞许而迎合错误观点,就可能降低事实准确性。
因此,**对齐(alignment)**需要处理“评分指标能否表达真正目标”这一问题。一个容易获得的奖励信号,未必覆盖人的全部意图。
在现阶段,沿着这一思路提出更多建议或许不会有什么成果,因为那很可能只不过是对人类儿童实际教育方法的一番分析罢了。不过,有一项特征我建议应当加入到机器中,那就是“随机要素”。每台机器都应当配有一条记录着随机数字序列(例如数量相等的 0 和 1)的纸带,并在机器做出选择时使用这串数字序列。这样一来,机器的行为就绝不会完全由它所经历的经验所决定,而且在人们用它进行实验时,这还会带来一些很有价值的用途。通过人为干预(伪造)机器所做的选择,人们就能在某种程度上控制机器的发展。例如,我们可以强制要求机器在(比方说)10 个特定的节点上做出特定的选择,这就意味着在自然情况下,大约每 1024 台或更多的机器中,才会有一台能发展到这台被人为干预过的机器那样高的程度。由于“发展程度”这一概念本身具有主观性,更不用说那台被干预过的机器在其余未被干预的选择中可能也恰好比较走运,因此这一点很难用精确的语言来表述。
今注 21|“随机要素”“10 个节点”“1024 台”
随机性可以支持探索:让系统尝试尚未充分了解的选择。语言模型中的采样和**温度(temperature)**也会影响输出的多样性,但更随机不自动意味着更聪明或更正确。
原文中的数字来自:(1/2)^10=1/1024
它要求十次关键选择都是公平的二选一,并满足相应独立性条件。仅仅保证纸带上 0 和 1 数量相等,还不足以保证这些条件。
这只是特定选择路径的概率,也不能解释为“每 1024 台必然有一台成功”。
现代**推理时计算扩展(test-time scaling)**会增加候选生成、搜索、检查与修订的计算量;能否从中选出可靠结果同样关键。
为了展开讨论,现在让我们假设这类机器具有真正的可能性,并来看看制造它们会带来怎样的后果。这样做当然会遭到强烈的反对,除非我们在宗教宽容度上已经比伽利略时代有了巨大的进步。害怕失业的智识阶层(知识分子)也会对此表示强烈反对。不过,知识分子们在这一点上很可能是杞人忧天了。他们将会有大量的事情可做,比如努力去理解机器想要表达什么,也就是努力让自己的智力跟上机器所设定的标准;
今注 22|“知识分子们……很可能是杞人忧天”
这属于图灵的社会判断,不能由机器能够学习这一技术事实直接推出。
今天更适合分析具体任务:哪些环节能够自动化,哪些需要人类提出问题、审查证据、解释结果或承担责任。国际劳工组织的 2025 年研究认为,许多职业更可能经历任务重组;其“职业暴露度”衡量的是受技术影响的潜力,不能直接当作失业预测。
在数学领域,验证 AI 结果、理解证明结构和判断问题的重要性,已经成为人机协作中的具体工作。
参考:国际劳工组织研究
因为一旦机器的思考方法启动,似乎用不了多久就会超越我们那微弱的能力。机器不存在死亡的问题,而且它们能够通过彼此交谈来磨砺心智。
今注 23|“机器……通过彼此交谈来磨砺心智”
今天可以对应多智能体协作、合成数据和知识蒸馏:
多智能体协作: 多个系统分工提出方案、检索、证明或审查。
合成数据: 用机器生成的材料继续训练系统。
知识蒸馏: 利用较强模型的输出训练另一个模型。
前述费马大定理形式化项目就采用了多个智能体协作。DeepSeek-R1 研究也展示了把推理能力传递给较小模型的蒸馏方法。
不过,交换更多文字并不自动带来知识增长;有效协作还需要任务组织、共享状态,以及发现共同错误的机制。
参考:形式化项目、蒸馏研究
因此,到了某个阶段,我们不得不预料机器将会接管控制权,就像塞缪尔·巴特勒(Samuel Butler)在《埃瑞璜》(Erewhon)一书中所描述的那样。
今注 24|“超越我们”“接管控制权”
这里涉及三个应分别理解的现代概念:
通用人工智能(AGI): 关注跨广泛任务的能力。
超级智能(ASI): 通常指在广泛重要认知任务上显著超越人类的系统。
控制问题: 关注人类能否可靠约束、监督和中止系统的行动。
“某些数学任务超过人类”“能够持续改进自身”“获得现实控制权”,分别需要不同证据。现实控制还取决于系统获得的工具权限、资源、目标以及制度安排。
因此,这段话适合读作图灵对长期可能性的推演。它提出了至今仍在研究的问题,但没有给出机器必然接管世界的证明。
今注 25|塞缪尔·巴特勒的《埃瑞璜》:机器统治人类这一想象的十九世纪起源
塞缪尔·巴特勒(Samuel Butler,1835—1902)是英国作家。他在 1872 年出版的讽刺小说《埃瑞璜》(Erewhon)中,构想了一个奇特的虚构国度。书名近似英文 nowhere(不存在之地)的倒写,暗示它是一面映照现实社会的讽刺之镜。
小说中的旅行者发现,这个国家禁止使用许多先进机器,技术水平远远落后于它曾经达到的高度。原因是数百年前,当地思想家提出了一种令人不安的理论:机器或许不是永远听命于人的工具,而是一种尚处于演化早期的新型生命。
这一理论集中出现在小说第 23—25 章的《机器之书》(The Book of the Machines)中。它借用了当时尚属新兴思想的达尔文进化论:既然简单生命能够经过漫长演化产生复杂的动物和人类,为什么机器不能逐渐获得更加复杂的结构,甚至出现意识与超越人类的智能?机器虽然不能像生物那样直接繁殖,却可以借助人类、工厂和其他机器制造出更加先进的下一代。人类自以为是机器的主人,实际上却可能逐渐变成维持机器运转、繁殖和进化的服务者。
由此产生了一个颠覆性的设想:人与机器的主从关系可能发生逆转。 正如人类在进化与文明发展中取得了对其他动物的支配地位,未来更加高级的机器也可能取得对人类的支配地位。出于这种恐惧,小说中的埃瑞璜人爆发了一场持续多年的内战。最终,反机器派取得胜利,摧毁了大量先进机械,并通过法律禁止继续发展相关技术。
因此需要注意,《埃瑞璜》并没有描写机器已经成功起义并统治人类;它描写的是人类因担忧这种未来而主动禁止机器发展。
这一构想最早可以追溯到巴特勒于 1863 年发表的文章《Darwin Among the Machines》。不过,它最初并非严肃的科学预言。巴特勒在 1872 年写给达尔文的信中明确解释,自己起初是出于幽默和讽刺提出这一设想,希望展示:只要巧妙选择类比、扭曲论证方式,即使荒诞的主张也能够显得相当可信。
这使图灵在 1951 年的引用显得格外耐人寻味。巴特勒曾以讽刺小说的形式提出机器可能取代人类的假说;约八十年后,图灵则从可计算性、机器学习、经验记忆以及机器之间的交流出发,重新把它当作一个值得认真讨论的技术可能性。
图灵并非证明了机器必然统治人类,而是在提醒读者:一旦机器能够持续学习并超越人类智能,我们就不能简单地认定,创造者必然永远支配自己的创造物。
原典参考:
Samuel Butler, Erewhon (1872), Chapters XXIII–XXV, The Book of the Machines。
Samuel Butler, Darwin Among the Machines (1863)。
Samuel Butler 致 Charles Darwin 的信,1872 年 5 月 11 日。