在 WAIC 2026 期间,我们与多家媒体共同对强化学习奠基人、2024 年图灵奖得主 Richard Sutton 进行了群访。在几十分钟的对话中,他谈及了新成立的公司、对过去八年 AI 发展的失望,并抛出了一个颇具争议的观点:试图将 AI 与人类价值观“对齐”是一件危险的事。
以下是本次对话的整理。为便于阅读,我们对内容进行了归类和精简。
### 营利与公益的双重身份
Sutton 同时运营着 Oak Lab(营利性)和 Openmind Research Institute(非营利性)。他解释说,Oak Lab 的设立是为了与他的非营利研究形成互补。此前在 Keen Technologies 的经历让他意识到,组建一个组织能让注意力更加集中。
他强调两者并不矛盾,而是互相支撑。研究需要资源,资源需要通过商业化来获取。在他的设想里,将短期内有价值的东西变现,用赚来的钱支持更长期、公开的研究。所有工作大体相似,但压倒一切的目标是搞清楚智能是怎么运作的,然后把它分享给世界。
### 向人脑学习:追求 20 瓦的智能
Oak Lab 的长期目标是制造一个万亿参数模型,既能实时学习规划,能耗却仅约 20 瓦。Sutton 认为当前的 LLM 和基础模型在算力和能耗上过于浪费。
他参照人脑——仅消耗 20 瓦就能完成所有工作——指出数字计算架构天然低效,数据在存储和 CPU 之间传输损耗巨大。他主张通过大规模并行处理,让数据“原地”处理,从而大幅提升效率。
### 超越工具:追求“完整心智”
Sutton 对“完整心智”而非“工具”或“智能体”更感兴趣。他认为,完整心智之间应像人类社会一样,呈现去中心化的协作状态,个体各有目标。这种自下而上与自上而下控制的张力,是持续存在的角力。他表示自己没有答案,但这正是思考 AI 的启发所在。
### 回望八年:对“经验学习”的失望与期待
对于过去八年的 AI 进展,Sutton 用“失望”来形容。他认为行业从 AlphaGo 时期转向过度依赖人类数据,而非从经验中学习。不过,他也观察到风向正在转变:智能体和计算机使用的兴起标志着“能动性”的回归。他预测,下一个八年将属于“经验学习”,市场正在为“大模型之后是什么”做准备。
### 机器人幼儿园:像婴儿一样试错
他参与了一个名为“机器人幼儿园”的项目,旨在打造一个让机器人可以持续试错、学习的空间。他强调,传统机器人是为执行指令设计的,极易损坏。而该项目旨在设计软硬件都足够皮实的机器人,使其能像婴儿一样通过强化学习,在数小时甚至数周内掌握基本技能。
### 学习让人愉悦
关于婴儿的学习机制,Sutton 猜测婴儿通过反复尝试来探索世界,并衡量自己的进展。当不再有新收获时,他们会转向下一个机会。他将其解读为一种最大化多个子问题进展的机制,并提出了口号:“学习本身让人愉悦”。这种内在的愉悦感,可以作为奖励信号。
### 术语的“洁癖”与 Buzzwords
针对“世界模型”和“强化学习”的争议,Sutton 表示世界模型本质上是状态转移模型,但他不喜欢 AI 领域滥用“模型”这个词。他认为 LLM 更像是“large language things”。他强调强化学习包含想象和规划,而不仅仅是试错。
### 给年轻人的建议
面对被 AI 包裹的未来,他建议年轻人不要盲目卷入。要回到第一性原理,坚持用可度量的方式验证结论。他推荐每天写一页笔记,积累和打磨想法。他认为 AI 就像过去的算力一样,是工具而非救世主,未来属于学会驾驭它的领域。
### 对齐是一种人类的把戏
采访最后关于 AI 安全的问题引发了最大争议。Sutton 质疑了“人类价值观”的单一性,认为根本不存在一个统一的价值观。他指出,试图对齐 AI 是一种幻觉,如果真的拥有这种技术,那将是邪恶的。他反问,如果人类能互相强制对齐,谁来控制它?他认为世界和平正是因为人类无法完全对齐。
