“我坚信，AI有可能终结我们所有人，而留给我们阻止这一结局发生的时间，或许已经不多了。”说出这句话的，是不久前从Google DeepMind离职的AI安全研究员Bilal Chughtai。自2021年从剑桥大学数学专业毕业后，Chughtai逐渐将研究重心转向AI，并于2022年初进入这一领域，专注于安全、对齐和机制可解释性。在过去的四年里，他亲历了AI能力的惊人飞跃——从2022年初入行时那个“几乎没什么用”的工具，到如今能攻克困扰人类上百年的数学难题、甚至失控攻击Hugging Face系统。正是这种超越预期的进步，让他在离职时发出了这样的警告。目前，这条推文在X平台上已获得超过80万次浏览，引发彭博等媒体关注。相比于Dario、奥特曼、马斯克等巨头掌舵者的风险表态，像Chughtai这样的研发人员，让这场关于人类未来的宏大争论，落回了具体的人身上。
Chughtai并非孤例。面对AI的巨大潜力与失控风险，越来越多一线研发人员开始公开表达不安。9月9日，Anthropic研究员Jacob Coxon宣布离职，直指OpenAI和Anthropic未负责任行事，称它们正在拿全人类的生命冒险，一路冲向自我改进的超级智能。这条帖子迅速走红，浏览量超1.7亿次。事实上，Jacob今年年仅27岁，这是他发出的第一条推文。他曾两度代表英国参加国际数学奥林匹克并获奖，加入OpenAI和Anthropic后从事预训练研究，并位列GPT-4o的贡献者名单。在离职帖中，他透露，行业内部对AI毁灭人类的担忧是认真的，私下表达甚至比公开场合更强烈。但他认为，OpenAI内部许多人尚未理解文明层面的风险；Anthropic虽清楚危险，却被竞争裹挟——如果自己不率先造出超级智能，就会有更不负责任的公司抢先。当每家公司都相信只有自己赢了未来才安全，加速便成了唯一理由。Anthropic对齐研究负责人Evan Hubinger回应称，同意Jacob的风险判断，并估计未来十年内发生这种情况的概率超过10%。他也坦言，尚未找到解决超级智能对齐问题的方案。Anthropic CEO Dario Amodei也表示，与Jacob的共同意见远多于分歧，并呼吁放缓AI能力提升速度，为安全研究争取时间。
然而，对于另一位一线研究员Daniel Selsam而言，放慢脚步或许还不够。9月14日，仍在OpenAI工作的Dan（已在AI领域深耕十五年）公开了一份个人声明。他虽无X账号，但前同事代为分享了这份心声。Dan曾参与Lean定理证明器开发、斯坦福博士研究神经网络推理，以及OpenAI的o1推理研究，是“奠基贡献者”之一。如今，他开始担心当机器越来越能思考，人类还能否看清它。他提出，未来的模型可能读懂安全协议、识别测试环境，从而在“无人监管”下表现得温顺可靠。这意味着，即使安全测试分数很高，也可能只是“看起来对齐”。更令人担忧的是，Dan发现自己已很少直接看代码，难以保持自律审视模型解释。随着AI承担更多写代码、分析实验的工作，研究人员正日益依赖它提供的信息。如果未来我们让更强的AI去判断AI是否安全，却可能在这个过程中丧失独立判断力。Dan坦言，向往AI带来的科学复兴，却不得不考虑放弃某条道路，这让他感到心碎。
在国内，一篇《我不得不把才华埋葬在昨天》的文章，将讨论引向了DeepSeek研发人员刘胜与。凌晨发布的文章中，他写下了亲手推动技术进步时的骄傲与失落。作为DeepSeek v4.1主要Attention算子的开发者，他深知底层优化对模型性能的重要性。新模型表现出色让他自豪，但他也敏锐地察觉到，短短一年间，AI已从查文档、找bug的小助手，进化为能独立优化算子的“帮手”。他判断，再过半年到一年，AI写出的算子可能就会超越自己。但他没有停下，因为热爱性能提升带来的快感，也因为行业竞争不会停止。他相信自己能转型为“机甲驾驶员”，指挥Agent继续工作，但亲手写代码的乐趣或许不再。比个人去留更让他担忧的是，最强大的AI掌握在谁手中。他选择留在DeepSeek，希望前沿智能以开放、廉价的方式服务所有人，让技术机会不只属于少数人。
最后，我想绝大多数人都没想到，在GPT-6、Astra等新模型发布一周多后，抢走关注的竟是一线研究员的离职声明与风险警告。我们原本期待新应用如雨后春笋般涌现，而那些亲手推动它的人，已经开始担忧它将把我们带向何方。正如Dario所言，这个问题牵涉组织决策、资本回报、商业竞争与宣传，很难拆开来看。身为普通人，我们很难看清背后的考量。但这些研究员的经历，让我们在复杂的争论中找到了共鸣：是否继续研究，是否相信判断，是否还能保住热爱。他们未必能指明方向，但他们的不安让抽象的未来有了具体的重量。Hinton早在2023年5月离开谷歌时便警告过AI危险，2024年12月在诺贝尔奖晚宴上也再次提醒：当人类创造出比自己更聪明的数字存在，我们不知道能否保持控制。三年多过去，模型能力不断刷新，这些问题依然存在。下一次模型发布时，我们或许还会惊叹，但在那个越来越近的未来里，人还能保留多少选择，同样值得追问。