《智变时代》读后：不会有无所不能的AI，只会有各自在口袋里无敌的AI

2026-10-30silcano

阅读方式：微信读书网页版，从版权页翻到参考文献，共 232 屏、31 节、6 分 20 秒。

这批书里，这本是技术密度最高、也最敢下判断的一本。它的核心结论只有一句，但这句话把 AI 从神话拽回了数学：

我认为这是全书最值得抄下来的一段。它同时解决了两个常见误区：既否定"AGI 万能论"，也否定"AI 只是泡沫论"。

一、两个理论约束，撑起整本书

柏拉图表征假说：不同模型、不同数据、不同架构学到的内部表征，会收敛到同一个"真实世界"的结构。这句话的分量在于——它解释了大模型为什么"越大越通"：不是记住了更多，而是逼近了同一个世界的形状。

计算不可约性：有一类问题没有捷径公式，只能一步一步算出来。它决定了"算力即上限"这件事绕不过去——你不能靠更聪明的算法跳过某类计算，只能更快地跑完它。

两者合起来，就得到那个结论：表征能收敛，但计算不可约。所以不会有一个万能的存在，只会在一个个"可约化的口袋"里，各自出现无敌的系统。

"口袋"这个比喻用得极准。翻译成日常语言就是：AI 不会成为神，它会成为很多个在自己领域里接近神的东西。

二、智能的三种形态

书里把当下的 AI 分成三条不同的路：

超级助理——善解人意、思维敏捷、帮你加速思考。这是我们日常接触的那一层，也是商业上最热的一层。

面向科学的 AI——DeepMind 这条线。除了大家都知道的 AlphaFold，书里还点名了核聚变所需的等离子体计算、新数学猜想的提出与辅助证明、稀有物种识别。这些不是畅想，是已经跑通的成果。

物理 AI（Physics-based AI）——Extropic 创始人纪尧姆·弗登（Guillaume Verdon）的主张：以物理原理为底层，用热力学、量子力学这些规律来构建世界的模型，而不是纯靠数据拟合。

这个分类的价值在于：它提醒我们"AI"不是一个东西，是三种完全不同的技术路线，各有各的评价标准。用"会不会聊天"去评价一个做等离子体计算的模型，是错位的。

三、最实用的一段：长任务与幻觉放大

舒尔曼（Ilya Sutskever）认为钥匙是"长期强化学习训练"——投入更多多模态数据和训练成本，让 AI 能在更长时间里保持连贯，从而能接住"一个月甚至十年"的目标计划。

但作者紧接着泼了一盆冷水，而且泼得很准：

这不是小事，这是信任崩塌的起点。

短对话里幻觉是"说错话"，长任务里幻觉是"假交付"。前者你可以当场纠正，后者你要等到三天后才发现活根本没干。所有做 Agent 的人都该把这段话贴在工位上。

书里给的缓解手段是 RLHF 加工具辅助反馈，并且诚实地说"能很大程度上解决"而不是"彻底解决"。这个分寸感很难得。

四、速率之争：三种人在算同一道题

最后一部分讲的是"到底多快"，这部分立场鲜明，需要带着滤镜读。

e/acc（有效加速主义）：弗登是发起者之一。核心主张是加速本身是道德义务，减速才是真风险。

OOM 估算：阿申布伦纳（Leopold Aschenbrenner）用"数量级"（1 OOM = 10 倍）来衡量 AI 进展，拒绝"感觉很快"这种无效讨论。这个方法论我认为比他的结论更值得学——把模糊的直觉换成可比较的刻度。

Situational Awareness：他被 OpenAI 解雇后做的项目，主张由国家而非公司主导 AGI，理由是"商业公司很难控制核武级别的 AI"。

我的保留就在这里：这一章里，作者几乎没有呈现反方观点。 加速主义的叙事被完整转述，而"为什么要慢一点"的论证基本缺席。读的时候要自己补上另一半。

五、核心知识图谱

六、一句话收尾

这本书真正的贡献，是把"AI 会不会取代人类"这种没法回答的问题，换成了一个能回答的问题：

哪些问题是"可约化的口袋"？在那些口袋里，我们还需要人做什么？

前者是数学，后者是每个人的职业规划。而后者，比前者急得多。

阅读记录：微信读书网页版 · 逐页翻阅 232 屏 / 31 节 / 6 分 20 秒 · 覆盖率 100%