这篇访谈讲的是DeepMind科学家Oriol Vinyals如何用AI打《星际争霸》。他认为游戏里最大的难点不是操作快慢,而是‘探索问题’——因为动作太多,AI瞎试根本学不会有效策略,得先看人类玩家的录像来模仿。他提到的重点是AlphaStar(DeepMind的AI),它通过模仿学习加自我对战,最后击败了职业选手MaNa。另外提到了Blizzard(动视暴雪),他们提供了公开的游戏数据。
DeepMind高级研究科学家Oriol Vinyals在Lex Fridman播客中讨论了其主导的AlphaStar项目,该AI智能体在《星际争霸》中击败了顶级职业选手。Vinyals的研究被引用超过39,000次,核心贡献包括序列到序列学习、音频生成、图像描述、神经机器翻译和强化学习。他自1998年起便深度参与《星际争霸》,偏好随机种族以全面理解游戏机制。核心观点是:通过深度学习和强化学习,AI能在复杂实时策略游戏中超越人类专家,这为语言和序列建模提供了重要启示。
Oriol Vinyals 是 Google DeepMind 高级研究科学家,引用超 39,000 次,序列到序列学习、神经机器翻译、AlphaStar 项目的核心贡献者。本期他与 Lex Fridman 深入探讨了 AlphaStar 击败《星际争霸》职业选手的技术路径,以及深度学习、序列建模与通用智能的关系。
全片最有分量的判断:Vinyals 认为《星际争霸》中最大的挑战不是部分可观测性或实时性,而是「探索问题」——因为动作空间巨大,随机探索几乎不可能自然发现任何有效策略,必须借助人类示范(模仿学习)来引导。
Vinyals 自 1998 年起深度参与《星际争霸》,偏好随机种族以全面理解游戏机制。 他认为,通过亲自玩所有种族,能更深刻理解对手的「痛点」——「如果你理解这个种族因为你玩它,你也知道什么让人讨厌,那么当你站在另一边时,就知道该做什么来惹恼那个人」。他最好的种族是 Zerg,但在比赛中常选随机以积累全面经验。
Vinyals 将《星际争霸》类比为「带经济的部分可观测象棋」: 玩家从零开始,需采集资源(矿物和瓦斯)、决定经济与军力的平衡、在看不见对手的情况下侦察与反侦察,且所有决策在实时中连续进行。他回忆,1998 年《星际争霸》发布时,西班牙互联网尚不发达,游戏最初是离线体验,后来通过 LAN 和 Battle.net 才真正打开了在线竞技的世界。
Vinyals 认为《星际争霸》和《魔兽世界》等游戏的社会影响被低估: 它们让玩家与现实中不会接触的人建立联系,通过虚拟世界理解世界的多样性。他至今仍与当年在线认识的玩家保持 Facebook 好友关系。
Vinyals 认为 AlphaStar 的核心突破在于用模仿学习解决了《星际争霸》的「探索问题」。 他解释,如果仅靠随机动作进行强化学习,几乎不可能自然发现「建造扩张基地」这类有效策略——因为任何早期随机动作都会把正在采矿的工人拉走,导致经济崩溃。因此,必须先用人类回放数据(Blizzard 公开的数据集包含大量高 MMR 玩家的对局)来训练一个「模仿策略」。
关键技巧:Vinyals 团队在模仿学习中告诉神经网络「你在模仿什么水平的玩家」。 他们用 3,500 MMR 及以上的回放数据训练,但给每个回放标注了具体的 MMR 分数。训练后,可以通过设置一个「水平参数」让策略以不同水平运行——设为 3,000 MMR 时,策略的经济更差、APM(每分钟操作数)更低;设为 6,000 MMR 时,策略能击败所有内置 AI,但仍远不及真正的 6,000 MMR 玩家。
从模仿到超越:AlphaStar League 是关键。 Vinyals 指出,纯自我对弈容易陷入局部最优,无法覆盖所有策略类型。AlphaStar League 创建了一个「智能体生态」,其中不同智能体发展出不同「人格」——有的走「cheese」(极端偷鸡策略),有的走经济型路线,有的走激进型路线。新一代智能体需要与所有前辈对战,从而学会应对各种策略。Vinyals 将之比作「为智能体创建一个 Battle.net」。
架构层面,Vinyals 强调 AlphaStar 的神经网络与语言模型高度相似: 它使用 Transformer 和 LSTM 处理时间序列,将游戏观测(空间地图 + 单位列表)编码为序列,然后预测下一个动作。他直言:「这几乎和机器翻译是同一套代码,只不过输入是观测而非单词,输出是动作而非译文。」
Vinyals 坦言自己最初是「悲观主义者」,预测 AlphaStar 会 0-5 输给 TLO。 团队内部曾打赌,他发邮件预测会惨败。当 AlphaStar 以 5-0 击败 TLO(一位职业选手,但 Protoss 是他的副族)后,团队在酒吧庆祝时,David Silver 提议邀请更强的 Protoss 专精选手 MaNa(MMR 高出约 1,000 分)。Vinyals 认为「99% 的概率会输」,但 AlphaStar 再次获胜。
Vinyals 强调,这并不意味着 AlphaStar 已经「超人类」或「不可战胜」。 他明确指出:「这些智能体在宗师级别水平,但它们并非不可战胜,也不完美。」《星际争霸》中 cheese 策略的存在意味着总有可能通过高风险操作取胜。他观察到 AlphaStar 仍有明显弱点,例如侦察不足、对隐形单位的应对不够好。
Vinyals 认为 MaNa 输掉比赛后的反应特别有意义: 「他找不到借口……他就是被击败了。看着一个人类被 AI 系统超越,对研究者来说是一个美丽的时刻。」
Vinyals 认为深度学习的核心挑战是「泛化」。 他指出,当前神经网络本质上是在拟合数据分布,当遇到分布外样本(如对抗样本)时就会失败。他区分了两种路径:一是「规模路径」(更多数据、更大模型),这在《星际争霸》和机器翻译中已被证明有效;二是「离散化+程序合成路径」,即结合神经网络与确定性程序,以实现更强的泛化保证——「如果你写一段排序代码,你可以证明它对所有可能的输入都有效」。
Vinyals 对「图灵测试」持谨慎态度: 他认为完全通过图灵测试「还为时过早」,因为「统计方法可能不够,我们需要一个突破」。与《星际争霸》不同,他无法为图灵测试规划出清晰的执行步骤。但他也承认,进步有时难以预测——「六个月前我也无法预测 AlphaStar 能达到宗师级水平」。
Vinyals 将「元学习」(learning to learn)视为通向 AGI 的关键一步: 他理想中的系统应该能吸收新任务而无需从头训练——「如果我训练了一个 Protoss 对 Protoss 的网络,想玩 Terran 对 Terran,就必须扔掉这些权重重新训练。如果看到一个方法能吸收新问题而不需要重启过程,那对我来说就是 AGI 的一个好定义。」
关于 AI 安全,Vinyals 表示短期不担忧,但长期应保持警惕: 「我更害怕其他行星级别的威胁……但我们应该为技术可能的误用做好准备,就像任何技术一样。」
| 标的 | 嘉宾态度 | 关键数据 |
|---|---|---|
| AlphaStar (DeepMind) | 看好(技术突破) | 击败 7,000 MMR 职业选手 MaNa;APM 限制在 300-800(人类职业水平);使用 Transformer + LSTM 架构 |
| Blizzard (动视暴雪) | 中性(合作伙伴) | 提供公开回放数据集;《星际争霸》自 1998 年发布 |
1. Vinyals 认为《星际争霸》最大的挑战是「探索问题」——随机动作几乎不可能自然发现任何有效策略,必须用人类示范引导。支撑:任何早期随机动作都会把采矿工人拉走,导致经济崩溃。
2. 模仿学习中的「水平标注」技巧是 AlphaStar 的关键创新——告诉神经网络它在模仿什么 MMR 水平的玩家,从而可以控制策略的输出水平。支撑:设为 3,000 MMR 时策略变差,设为 6,000 MMR 时能击败所有内置 AI。
3. AlphaStar League 是「为智能体创建的 Battle.net」——通过维护一个多样化的智能体种群(cheese 型、经济型、激进型),新一代智能体必须学会应对所有策略,避免纯自我对弈的局部最优。
4. Vinyals 区分了深度学习的两种路径:规模路径 vs. 离散化+程序合成路径——前者(更多数据、更大模型)已被证明有效但「有点无聊」;后者(结合神经网络与确定性程序)能提供更强的泛化保证,但发展不充分。
5. Vinyals 对图灵测试持「谨慎悲观」态度——与《星际争霸》不同,他无法为图灵测试规划出清晰的执行步骤,认为「统计方法可能不够,我们需要一个突破」。
6. Vinyals 将「元学习」视为 AGI 的关键定义——理想系统应能吸收新任务而无需从头训练权重;他承认目前「Protoss 的权重对 Terran 完全无用」。
7. Vinyals 认为《星际争霸》的社会影响被低估——它让玩家与现实中不会接触的人建立联系,通过虚拟世界理解世界的多样性。
8. Vinyals 的研究方法论:「找一个难题,然后看研究如何适配它」——机器翻译驱动了序列到序列,组合算法驱动了指针网络,《星际争霸》驱动了大规模模仿学习和 AlphaStar League。