AI究竟应该被允许比人类聪明多少？11月3日，OpenAI首席执行官萨姆·奥特曼在接受Raj Shamani采访时，主动提出了这个问题。这听起来像是科幻小说的情节，但实际上离普通人并不遥远。
评估机构METR提出了一个衡量标准：用人类专家完成某项软件任务所需的时间，来衡量AI有五成把握独立完成该任务的能力。数据显示，这一指标在2025年初约为50分钟，到2026年4月已超过16小时。更令人关注的是增长速度的加快：2019年至2025年初，该指标大约每7个月翻一番；而到了2026年5月，基于2024年发布的前沿模型，这一翻倍周期缩短至约105天。
与此同时，人类智力的发展似乎陷入了停滞甚至倒退。20世纪，人类智商测试成绩平均每十年提升约3分，这一现象被称为“弗林效应”。然而，这条曲线如今出现了逆转迹象。挪威研究者分析了约73万份征兵智商测试，发现1975年以后出生的人，分数开始下降，降幅相当于每一代人减少了约7分。就连弗林效应的提出者本人，也在英国青少年身上观察到了类似的下滑。
一边是AI完成任务所需时间每105天翻一番，另一边是人类智商分数的历史增幅每十年仅约3分，部分国家甚至出现下降。虽然这两把尺子不能直接算出“智力鸿沟”的绝对值，但一个严峻的问题摆在眼前：随着AI能接手的工作越来越多，人类看懂它、核查它、管住它的能力，也必须跟上。
这与我们有何关系？日常生活中，AI或许只比你聪明半步，能帮你写代码、查资料、改方案，如同得心应手的“外挂”。但一旦它比你聪明太多，性质就变了：你甚至连给它挑错的能力都没有。即便你可以质疑它，也越来越需要依赖可靠的工具和其他人来验证它的结果。就连造AI的人，也被这个问题所困扰。对奥特曼而言，打造超级智能的代价已经体现在他的生活中。访谈中，主持人问他哪个版本的自己已经“死了”，奥特曼坦言，刚创立OpenAI时，他还是那个生活轻松、爱好广泛的人。如今日程被精确排满，很久没有做过一件随性的事。他说，想造出超级智能（ASI），就不可能过上正常人的生活。
谈及OpenAI正在打造的技术，奥特曼强调，这将是一股深刻影响社会的力量，责任重大，赌注极高。在递归自我改进（RSI）的过程中，他提醒必须防范两类风险：一是人类失去对AI的控制；二是权力过度集中在某个人、公司或国家手中。前者关乎人类能不能管住AI，后者关乎这份力量最终掌握在谁手里。
GPT-4训练完成后，OpenAI曾押上公司命运疯狂囤积算力，逻辑是“大力出奇迹”。但如今谈到RSI，奥特曼追问的背后多了一个最难提速的变量：人脑消化AI产出的速度。如果跟不上，人与AI的智力鸿沟只会越拉越大。
所谓RSI，就是让AI去研发下一代AI。造出更强的AI后，再让它接管更多研发工作，像滚雪球一样自我推动。OpenAI在9月21日的文章中划出了一条安全线：完全自主的RSI尚未发生，在确保安全之前不应强行推进；是否前行、如何前行，取决于人类是否能保住控制权。但要守住这道安全线，必须缩小“速度差”：AI提出的新方案，人类必须及时验证。
假设一个系统能24小时不眠不休地抛出成百上千个算法改进。当人类研究员还没弄清上一轮改动的影响，下一轮实验的倒计时已经响起。如果只看跑分上涨就放行方案，人工审核就会沦为走过场。人虽然还在流程里，控制权却未必还在手里。当AI提出方案的速度快过人类理解验证的速度，风险就会在这段时间差中累积。
10月29日，OpenAI公布了前沿模型的分层监测机制。这套系统如同层层加码的机场安检，采用AI监控AI的“套娃模式”：第一层是“安检门”，用轻量探针实时扫描模型内部的激活信号，宁可错杀一千，绝不放过一个；第二层是“审讯员”，派一个模型专门翻看智能体最近的对话、思维链和工具调用，揪出撒谎、越权和钻评测空子的猫腻；第三层是“专案组”，交给调查智能体去回溯上下文、还原案发现场，必要时拉进隔离沙箱跑代码取证。毕竟，单看一句话和查清一次越权完全是两码事。到了训练、评测和内部Codex等高危核心区，还有第四层“底线哨兵”，它跳出对话核对底层网络日志，最后拍板是否拉响警报叫醒人类。
问题在于，模型可以7×24小时连轴转，但人类的安全值班却有工作时间和下班时间的区别。OpenAI也承认，误报太多，无法对所有任务都全天候叫人。为了弥补这一缺口，OpenAI让部分关键警报不等人、直接熔断暂停任务，同时推进了30分钟兜底机制：只要警报响起30分钟内无人排除，相关活动直接强制停机。
退一步讲，即使模型不会失控，人类也可能掉进另一个深坑：权力过度集中。奥特曼在访谈中提到两种近乎“卡通式”的坏结局：一是失控，人类有意或无意将未来交接给远比自己强大的系统，再也收不回来；二是集中，某个人或公司借助AI获得了碾压其他所有人的力量。他甚至表示，如果只有OpenAI一家掌握这种技术，同样不是好事，因此应该让多家AI机构各走各路、同台竞争。对于普通人和开发者而言，这意味着选择权的问题：一家模型厂商如果太霸道，能不能换掉？一条规则如果伤到自己，有没有地方讲理？AI接管的工作越多，这种选择权就越重要。但巨头竞争并不会自动带来安全，真正的试金石是开放透明：外部人员能否随时掀开AI的“引擎盖”查验。查验规则也应明确：能力跨过哪条红线必须触发人工复核？独立评估方能看到多深的训练底牌？发现苗头不对时，到底谁有权按下暂停键？这三个问题的答案绝不能只由实验室关起门来决定。
访谈尾声，奥特曼谈起了自己最想造的东西：一台能帮人类发现新科学的机器。近期AI在数学上的突破，让他觉得这个里程碑比预想中来得更快。他畅想着AI帮人类捅破物理学的窗户纸，找出全新的疗法和清洁能源。他说，自己最近一次心跳加速，是宣布Navier-Stokes方程相关成果的前夕。可也正是这个成果，像一把精准的尺子，量出了AI与人类之间最尴尬的时间差。据OpenAI披露，AI跑出这项结果只花了约88小时；而人类顶尖数学家接手核对至今，已经熬了快两个月，依然无法给出定论。
没经过验证的突破在科学上等于零，甚至可能是负数：如果AI一边帮着改进算法、优化实验，一边直接把未经人类消化的成果喂给下一代模型，循环的齿轮就会越转越偏。这与一种已被证实的现象很像：“模型崩溃”。2024年，牛津、剑桥等机构的研究者在《自然》发文指出，不加筛选地用AI生成的内容训练下一代模型，会给模型留下不可逆的缺陷，原始数据中那些少见的“长尾”会最先消失。实验中，输入是一段讲中世纪建筑的文字，训练到第9代，模型吐出来的已经是一串长耳野兔的名单。研究者当时指出，用AI数据训练下一代并非不可行，但筛选这一步必须当真。这正是AI科研滑向失控RSI的快车道，也是今天讨论超级人工智能（ASI）时最该盯紧的命门。未来的AI，可能会承担越来越多探索未知的工作。但无论它走得多远，人类都必须看得到证据，有能力验证结果，也有权决定方向。