这篇访谈里,芯片设计大师 Jim Keller 说摩尔定律没死,晶体管还能再缩小100倍,因为背后是无数新技术的接力赛。他认为计算机架构每3-5年就该推倒重来,别老是在旧东西上修修补补。他还看好特斯拉的自动驾驶,说它就是个工程问题,成本压得很低。提到的重点:AMD(他设计的芯片让公司翻身)、Apple(他主导了A4/A5处理器)、Tesla(每辆车都装了自动驾驶电脑,不是昂贵的服务器方案)。
Jim Keller在Lex Fridman播客中讨论了摩尔定律、微处理器设计及第一性原理。核心观点是摩尔定律并未消亡,而是通过架构创新(如并行计算和抽象层)持续演进。他强调了每5年从零开始重新设计的重要性,并对比了计算机与人类大脑的差异。重要结论包括:计算机通过抽象层实现确定性运算,而大脑机制尚不明确;超级智能可能成为下一层抽象;技术呈指数级改进(如Ray Kurzweil所述)。Keller分享了在AMD(K7、K8、Zen)、Apple(A4、A5)、Tesla(Autopilot)和Intel的工作经验,指出团队协作和第一性原理思维是成功关键。
Jim Keller 是传奇微处理器架构师,曾任职 AMD、Apple、Tesla 及 Intel,主导 K7/K8/Zen、A4/A5 及 Autopilot 芯片设计。本期核心围绕摩尔定律并未死亡这一主线展开,Keller 认为晶体管缩小背后是数千项创新的级联 S 曲线,而非单一技术路径的终结。
Keller 最有分量的判断:每 3-5 年应从零开始重新设计一次计算机架构,因为增量优化终将撞上收益递减墙,而重构不仅更快,且复杂度减半。
Jim Keller 认为摩尔定律的「死亡」预言已持续 30 年,但晶体管缩小远未触及物理极限。
Keller 指出,现代晶体管尺寸约为 1000×1000×1000 个原子,而量子效应在 2-10 个原子尺度才显著,理论上晶体管可缩小至 10×10×10 个原子——即还有 100 万倍的缩小空间。他曾在 Intel 内部要求团队给出「100 倍缩小的路线图」,两周后得到的答复是「只能到 50 倍」。Keller 认为,仅已知的纳米线技术、金属堆叠等路径就能支撑 100 倍缩小,对应 10-15 年的持续进步。
论证机制:Keller 将摩尔定律拆解为「数千项创新的级联 S 曲线」——每项技术(光刻、化学、材料、设备)都有各自的收益递减曲线,但新技术的不断涌现使整体呈现指数增长。「如果你只精通其中一条曲线,看到它平台化就会说『这个完了』,但另一群人正在做完全不同的事。」
推演与证伪:Keller 强调,作为芯片设计师,必须假设晶体管会继续增多,否则当更多晶体管到来时,设计团队会被复杂度淹没。证伪条件:若未来 10-15 年无法实现 50-100 倍缩小,则其判断失效。
Keller 主张,计算机架构应每 3-5 年从零开始重写,而非持续增量优化。
他以 Steve Jobs 的收益递减曲线类比:旧架构的增量优化(如把缓冲区从 3 指令宽度扩到 4)终将撞墙,而重写的新架构初始性能虽低于旧架构的优化终点,但最终会超越。Keller 观察到行业普遍每 10 年重写一次,而他认为「应该每 5 年」。
历史脉络:Keller 本人是 x86-64 指令集的共同作者(1998 年),该指令集已沿用 20 多年。但指令集稳定不等于实现方式不变——「指令集是稳定的抽象层,但下面的实现每 5 年就应该彻底重来。」
组织层面的类比:Keller 将团队组织视为计算机架构问题——「人就像功能单元,各有不同偏好,组织设计就是计算机架构问题。」他批评多数人只执行「食谱」(recipe)而非追求「理解」(understanding),前者高效但遇到新问题就卡住,后者才能应对根本性变革。
证伪条件:若某架构通过增量优化持续获得线性性能提升且未撞墙,则「每 5 年重写」的必要性降低。
Keller 提出两种并行计算范式——「发现并行」与「给定并行」,并指出现代 CPU 通过分支预测实现约 10 倍加速。
发现并行:CPU 从单一串行叙事中「发现」并行性。现代 CPU 一次取 500 条指令,构建依赖图,乱序执行。Keller 透露,现代分支预测器已从简单的「记录上次走向」(85% 准确率)进化到类似神经网络的深度模式识别(99% 准确率),但代价是从 1000 比特的存储膨胀到 数千万比特。
给定并行:GPU 处理大量独立任务(如像素渲染),并行性由问题本身「给定」,无需发现。
关键数据:Keller 给出「发现并行」的实际效果——顺序执行约 3 周期/指令,现代乱序执行约 0.2-0.25 周期/指令,即 10 倍加速。分支预测错误时需清空流水线,这是性能的主要损耗来源。
推演:Keller 认为,随着 AI 计算从标量→向量→矩阵→拓扑计算演进,计算范式本身在随算力量级跃迁。他引用 Roger Goddory 的观点——「每 10 倍计算量产生一种新的计算形态」。
Keller 认为自动驾驶本质上是「最大化给定条件」的工程问题,而非需要理解人类意图的哲学难题。
核心分歧:Keller 与主持人 Lex Fridman 在此产生明确分歧。Keller 认为驾驶是「弹道学问题」——汽车是惯性物体,道路固定,可精确测绘,轨迹可计算。他主张「最大化给定条件」:预先测绘世界、标记每个物体、计算轨迹。而 Lex 认为人类驾驶涉及对他人意图的推理(如「为什么他别我」),Keller 回应:「你可能会惊讶于这个计算有多简单。」
成本约束:Keller 强调 Tesla 方案的核心约束是成本——Elon Musk 要求「每辆车都装上自动驾驶电脑,无论车主是否购买自动驾驶功能」,这迫使系统设计必须极低成本,而非像某些初创公司那样在后备箱放一台服务器(成本 $10,000-$20,000)。
推演:Keller 预测 10 年内自动驾驶将成为「$50 的解决方案,没人再关心它」,就像 GPS 一样。但他承认「短期令人失望,长期令人惊喜」。
Keller 不认为超级智能对人类构成存在性威胁,因为「智能的领域差异可能比人与动物的差异更大」。
论证:Keller 认为,即使出现比人类聪明 10 倍的智能体,其兴趣领域可能与人类完全不同——「它为什么要为了 Starbucks 的一杯咖啡而追踪我们?」他类比人类社会已有的分层:聪明人有自己的 niche,普通人有自己的 niche,动物也有自己的 niche。超级智能的 niche 可能同样不同。
对 AI 风险的回应:Keller 质疑「AI 继承人类阴暗面」的假设——「这取决于你认为现实是如何构建的。」他认为善恶张力是人类社会的固有特征,没有理由认为超级智能会脱离这种张力。
不确定性:Keller 承认「我们仍然不知道大脑是否具有某种『魔法』」,但物理证据倾向于否定。若大脑确实有非计算成分,则超级智能的路径可能不同。
| 标的 | 嘉宾态度 | 关键数据 |
|---|---|---|
| AMD (K7/K8/Zen) | 未明示(历史成就) | 主导 K7、K8、K12、Zen 微架构设计 |
| Apple (A4/A5) | 未明示(历史成就) | 主导 A4、A5 处理器设计 |
| Tesla (Autopilot) | 看好(工程可行) | 成本约束:每辆车都装,非 $10,000-$20,000 方案 |
| Intel | 未明示(当前雇主) | 要求团队给出 100 倍缩小路线图,仅得到 50 倍 |
| x86-64 指令集 | 未明示(共同作者) | 1998 年共同制定,沿用 20+ 年 |
1. 「摩尔定律是数千项创新的级联 S 曲线,不是单一技术路径」(Jim Keller)——每项技术都有收益递减,但新技术的不断涌现使整体呈指数增长。证伪条件:若未来 10-15 年无法实现 50-100 倍缩小。
2. 「每 3-5 年应从零开始重写架构,增量优化终将撞墙」(Jim Keller)——重写的新架构初始性能低于旧架构优化终点,但最终超越且复杂度减半。Keller 认为行业普遍每 10 年重写一次是「太慢了」。
3. 「现代分支预测器看起来像神经网络,用数千万比特存储实现 99% 准确率」(Jim Keller)——从简单的 1000 比特「记录上次走向」(85% 准确率)进化到深度模式识别,使 CPU 的「发现并行」窗口从 50 条指令扩展到 500 条。
4. 「每 10 倍计算量产生一种新的计算形态:标量→向量→矩阵→拓扑计算」(Jim Keller,引用 Roger Goddory)——AI 从规则集→简单搜索→深度搜索→卷积神经网络,对应计算范式的跃迁。
5. 「自动驾驶是『最大化给定条件』的工程问题,不是理解人类意图的哲学难题」(Jim Keller)——道路固定、可精确测绘、轨迹可计算,与 Lex Fridman 的「需要推理他人意图」观点形成明确分歧。
6. 「超级智能的兴趣领域可能与人类完全不同,不构成存在性威胁」(Jim Keller)——类比人类社会分层:聪明人、普通人、动物各有 niche,超级智能的 niche 同样不同。证伪条件:若超级智能确实继承了人类竞争与冲突的底层逻辑。
7. 「大多数人在执行『食谱』而非追求『理解』——前者高效但遇到新问题就卡住」(Jim Keller)——Keller 将组织管理类比为计算机架构问题,认为「食谱思维」是短期高效但长期受限的根源。
8. 「人类大脑是否『魔法』尚不确定,但物理证据倾向于否定」(Jim Keller)——若大脑确实有非计算成分,则超级智能的路径可能不同;Keller 对此保持开放但怀疑。