这篇播客里，Keras 创始人 François Chollet 认为“智能爆炸”（AI 自己改进自己，智能飞速增长）这个说法有问题。他说智能不是大脑单独的能力，而是大脑、身体和环境一起产生的。就像科学，虽然投入的资源越来越多，但重要发现的速度并没有爆炸式增长。他还指出，深度学习（一种 AI 技术）只能处理它见过的东西，没法像人类一样灵活推理。他提到，现在的自动驾驶汽车其实主要靠人工写的规则，而不是纯 AI。另外，他认为 AI 最大的风险不是变成超级智能，而是推荐算法（比如短视频平台猜你喜欢什么）可能被用来操纵人的想法和行为。
François Chollet（Keras 创建者、Google AI研究员）在Lex Fridman播客中讨论了深度学习、Keras库及AI未来。核心观点是质疑"智能爆炸"（intelligence explosion）理论——即AI能递归自我改进导致智能指数级增长。Chollet认为该推理存在缺陷，并因此受到大量批评。Keras作为TensorFlow的主要接口，已成为创建、训练和使用神经网络最流行且易用的开源深度学习库。
François Chollet（Keras 创建者、Google AI 研究员）在 Lex Fridman 播客中系统地质疑了「智能爆炸」（intelligence explosion）理论，并讨论了深度学习的能力边界、Keras 的设计哲学、AI 的社会风险以及衡量智能的新框架。
全片最有分量的判断：François Chollet 认为「智能爆炸」的推理存在根本缺陷——智能不是大脑的孤立属性，而是大脑-身体-环境系统的涌现特性；递归自我改进的系统必然遭遇指数级摩擦，科学本身就是一个活生生的反例。
Chollet 认为「智能爆炸」理论（AI 递归自我改进导致智能指数级增长）在逻辑上站不住脚。
论证链：
1. 智能的定义错误：该理论隐含地将智能视为「大脑的孤立属性，像建筑高度一样可独立测量」。Chollet 反驳：「智能产生于大脑、身体与环境之间的交互。如果你缺少其中任何一个部分，就无法再定义智能。」（"Intelligence emerges from the interaction between a brain, a body, like embodied intelligence, and an environment. If you're missing one of these pieces, then you cannot really define intelligence anymore."）
2. 瓶颈定律：任何递归自我改进的系统，改进一个部分后，另一个部分会立刻成为新瓶颈。Chollet 用物理类比：「如果你制造一个能测量自身加速度并输出更大加速度的设备，然后把它丢到空中，它不会达到无限速度——因为周围的空气会产生摩擦，将其限制在某个终端速度。」
3. 科学作为现实案例：科学本身是一个递归自我改进的问题求解系统——科学进步推动技术，技术（计算机、互联网）又加速科学。但科学进步并未爆炸。Chollet 引用 Michael Nielsen 的研究：对过去 100-150 年科学发现的「重要性时间密度」进行测量，结果在所有学科（物理、生物、医学）中均呈现平坦曲线。与此同时，科学消耗的资源（研究人员数量、计算资源）呈指数增长。结论：指数级资源消耗产生线性进步，因为每前进一步，下一步的难度也指数级上升。
4. 对深度的映射：Chollet 认为深度学习领域同样如此——论文数量指数增长，但「每篇论文的重要性」在下降，总体进步大致线性。
推演与证伪条件：如果未来出现一个递归自我改进的系统，其输出（而非资源消耗）呈现指数级增长，则可证伪 Chollet 的判断。但他认为这不可能，因为「指数级进步会触发指数级摩擦」。
读者注意：Chollet 明确表示这是「直觉而非数学证明」，但他认为「智能爆炸」更多是一种信仰体系而非科学论证，质疑它如同质疑宗教叙事，因此会招致强烈反弹。
Chollet 认为深度学习的本质是「逐点的连续几何变形」，这决定了它无法实现人类式的极端泛化。
机制拆解：
数据链与对比：
| 特性 | 深度学习 | 抽象规则/符号系统 |
|---|---|---|
| 学习方式 | 逐点几何映射 | 符号操作/程序 |
| 泛化能力 | 局部插值 | 极端泛化 |
| 数据需求 | 密集采样（可能需数万亿样本） | 少量示例 |
| 适用领域 | 感知问题 | 推理/规划 |
成功案例：Chollet 指出，当前最成功的 AI 系统（如自动驾驶汽车）已经是混合系统——深度学习作为感知模块，符号系统（规划算法、3D 模型）负责推理。「自动驾驶汽车不是一个大端到端神经网络，那根本行不通。它主要是符号化的，是手写软件。」
推演：Chollet 认为未来 AI 的方向是深度学习和程序合成（program synthesis）的结合。程序合成目前处于「反向传播发明前的冬天」——我们还没有找到它的「引擎」。但他相信「程序合成和基于规则的模型的离散搜索将成为下个世纪 AI 研究的基石」。
Chollet 阐述了 Keras 的设计原则——API 应反映领域专家的心智模型，而非实现细节。
历史脉络：
设计哲学：Chollet 认为 API 设计的关键是「最小化领域专家将心智模型映射到 API 的认知负荷」。「API 不应自我引用或引用实现细节，它应该只引用人们已经理解的领域特定概念。」
TensorFlow 2.0 的突破：实现了从低阶（子类化模型、自定义训练循环）到高阶（经典 Keras 工作流）的完整光谱，用户可根据需求在灵活性和易用性之间权衡。
未来方向：Chollet 对更高阶的 API 感兴趣——「自动机器学习（AutoML），一个能自动查看数据并优化目标的模型，就像把一个擅长乐高的孩子和一盒乐高放在一起。」
Chollet 认为当前 AI 最现实的威胁不是超级智能，而是通过推荐算法实现的大规模行为操纵。
机制拆解：
Chollet 的解决方案：用户应能控制算法的目标函数。「我希望所有算法向用户呈现配置设置，让用户决定算法如何影响自己的生活——比如选择『最大化学习』而非『最大化参与度』。」他认为这是界面设计问题，而非技术问题。
对行业现状的批评：Chollet 指出，许多公司和个人在过度炒作 AI 能力（如承诺 2021-2022 年实现 L5 自动驾驶），这相当于「为信任背上信用卡债务」。当承诺无法兑现时，可能引发 AI 寒冬式的信任崩塌。但他认为全面 AI 寒冬不太可能，因为深度学习正在创造真实价值。
Chollet 提出了一个可操作的定义：智能是将经验转化为可泛化程序的效率。
定义展开：给定相同的先天先验知识和相同的经验量，哪个智能体能够从经验中学习到在更大经验空间上表现良好的程序，哪个就更智能。
关键区分：
对现有基准的批评：Chollet 认为围棋、Dota 等技能测试不能衡量智能，因为它们没有控制先验知识和经验量。「如果你移除约束——一生时间、身体限制——那么达到任意技能水平并不有趣，也不能说明你达到了多少智能。」
新基准的构想：Chollet 正在开发一个基准，其核心思想是：
1. 明确列出人类与生俱来的先验知识（如物体性、时间、代理、目标导向行为）
2. 创建仅依赖这些先验的新任务
3. 控制经验量，比较人类和 AI 系统的表现
4. 关键设计：无论练习多久，分数不应提高——因为任务本身是全新的
关于人类先验的洞察：Chollet 指出，DNA 是极低带宽的介质，编码任何知识都需要数百万年的进化压力。因此人类先天知识非常有限，且大部分与近亲（类人猿）共享——「使我们特殊的不是先天知识，而是别的东西。」
本节为访谈/观点讨论，未涉及具体投资标的或仓位动作。
1. Chollet 认为「智能爆炸」是信仰而非科学：「对许多人来说，AI 不只是计算机科学的一个子领域，更像一个信仰体系——相信世界正走向奇点。质疑它就像说上帝不存在。」支撑：该理论隐含的智能定义有缺陷，且科学作为递归自我改进系统的现实表现是线性进步而非指数爆炸。
2. 指数级进步触发指数级摩擦：Chollet 用物理类比说明——改进系统的一个部分，另一部分立刻成为新瓶颈。科学消耗的资源指数增长，但产出（重要性时间密度）在所有学科中呈平坦曲线。
3. 深度学习的本质是「逐点几何映射」：它只能对训练数据附近的空间进行插值，需要密集采样。抽象规则（如排序算法）可以处理任意输入，因为它是符号化的。未来在于两者的结合。
4. 当前最成功的 AI 系统已是混合系统：自动驾驶汽车「主要是符号化的，是手写软件」，深度学习仅作为感知模块。端到端神经网络在复杂现实问题中不可行。
5. 程序合成处于「反向传播发明前的冬天」：我们还没有找到它的「引擎」，但它将成为下个世纪 AI 研究的基石。
6. DNA 是极低带宽介质：人类先天知识非常有限，且大部分与类人猿共享。这为构建公平的智能基准提供了可能——可以明确列出人类先验，然后比较 AI 与人类在相同条件下的表现。
7. 推荐算法的最大风险不是恶意，而是目标函数设计：以「最大化参与度」为目标，即使没有恶意意图，也会自然偏向假新闻和极端内容。解决方案是让用户控制算法的目标函数。
8. 过度炒作 AI 能力是「为信任背上信用卡债务」：承诺 L5 自动驾驶在 2021-2022 年实现，但至今未兑现，这正在消耗行业信誉。全面 AI 寒冬不太可能（深度学习创造真实价值），但局部寒冬和信任崩塌必然发生。