11 月 3 日,一张截图在中文互联网刷屏:MIT CSAIL 团队让 OpenAI 的 GPT-6 Astra 直接读取并修改阿里巴巴 Qwen3.5-0.8B 模型的权重,只改动了 131072 个参数,约占该模型 8 亿参数的 0.016%,就将其在 MATH-500 数学基准上的成绩从 7.9% 拉升至 48.1%,指令遵循能力(IFEval)提升约 3 倍。全程没有梯度下降,没有反向传播,没有传统意义上的“训练”。

团队给这套方法起了个新名字:权重空间编程(Weight-Space Programming,WSP)。

“我们发现早期迹象表明,前沿大型语言模型(LLMs)在原生地阅读、编写和推理神经网络权重方面出人意料地出色。模型可能将原始权重视为可读、可编辑的代码,而不是通过训练:直接诊断故障并修补它们”,MIT CSAIL 团队的相关研究人员表示。

需要注意的是,该实验还没有产出经过同行评审的论文,仅以博客形式发布。但消息一出,X 上原帖还是迅速积累大量曝光,过去14个小时,原贴浏览量超过了550万。

一条早期实验,为何能引发这个量级讨论?

核心或在于,它触到了 AI 产业当前最 大的两个命题:一是“模型优化是否还必须依赖大规模训练”,二是“谁有权定义和修改别人的模型”。

01 优化模型,可以不靠训练了?

根据 MIT CSAIL 博客原文,研究者给 GPT-6 Astra 提供了一个可读写权重的 Python 沙箱环境,并允许其使用 GSM8K 和 MATH 训练集中的练习题进行有限次数的前向推理。Astra 首先要做的不是“随机改动参数碰运气”,而是先进行诊断:它发现 Qwen3.5-0.8B 在数学任务上反复生成相同内容,最初的 96 条测试回答中,有 85 条撞上了 32768 个 token 的输出上限,即典型的“推理循环”。Astra 随后将问题定位到第 15 层和第 19 层的多层感知机(MLP),削弱其中的重复信号,最终修改的权重只占模型总量的 0.016%。

更关键的是,研究者做了对照实验。在允许 50 轮前向推理的设定下,MATH-500 得分从 7.9% 升至 48.1%,GSM8K 从 13.8% 升至 67.1%;但当把目标换成原本很少陷入推理循环的 Gemma 3 270M 时,同样的方法最多只能把 MATH-500 从 6.8% 推到 7.7%。

这里面权重空间编程消除的是模型已有能力发挥过程中的障碍,而不是凭空创造模型原本不具备的能力。 换句话说,Astra 做的不是“给 0.8B 的小模型灌注新智能”,而是“解开捆住它的绳子”。

除了Qwen3.5-0.8B 案例,该团队还逐一向 Astra 提供来自 4 个游戏策略的原始权重。这四个策略共享完全相同的架构、输入和动作。在没有提供任何工具或选项的情况下,它正确地命名了所有四个:Breakout、Pong、Pac-Man、Freeway。接下来,修复权重:一个PPO汽车策略在坡道上反复卡住。给定权重、场景和1次失败的轨迹,Astra在一轮回复中无需使用工具就写出了一个补丁。通过仅编辑3.5%的权重,它实现了100%的成功率。

这恰恰是这个实验最让业界震动的地方:它将“模型优化”和“神经网络权重的更改”从一门依赖算力、数据和梯度的工程学,部分转化为了可以用自然语言描述目标、由模型自主完成的诊断任务。博客中展示的另外两组实验进一步放大了这种想象空间,Astra 仅凭原始权重就判断出小型网络是为哪款游戏训练的;在不允许训练数据、不允许梯度的条件下,从零写出的 MinAtar 游戏策略网络超过了 PPO 训练 1 亿步的基线。

需要强调的是,大量从业者最关心的是,这里面到底能有多少效率提升,计算量与模型训练相比有高效多少。

据表述,Astra 消耗了 Python 分析环境和最多 50 轮前向推理。省掉的是梯度训练,诊断与验证的成本依然存在。但对一个推理成本被持续压缩的行业而言,“修一个 0.8B 模型”从一次需要训练基础设施的工程,变成了一笔 API 调用,账是非常好算的。

02 短期是效率故事,长期是权力故事

从产业视角看,这件事的影响力要分三层看。

第 一层:模型后市场的降本叙事。 目前行业对中小模型的优化,主要依赖蒸馏、微调、LoRA 等路径,背后仍是训练或类训练的算力投入。如果“前沿大模型直接读写小模型权重”被验证为可复制的通用方法,开源生态里大量“够用但不完 美”的小模型,将第 一次拥有一种绕过训练基础设施的修复通道。对算力受限的团队,这几乎包括中国绝大多数 AI 应用公司,这不是锦上添花,而是绕开算力封锁的一条小路。

第二层:模型资产的“可诊断化”。 这个实验本质上证明了前沿模型具备一种此前只在理论上讨论的能力:把另一个模型的权重当作可以阅读、理解的“文本”。所谓模型权重,简单的理解就是,神经网络里的一大堆数字,它决定了模型“看到什么、算出什么”,也相当于模型学到的所有经验,改这些数字就等于改模型的本事。

当模型行为可以被定位到“第 15 层和第 19 层的某个重复方向”,机制可解释性(mechanistic interpretability)就从论文走进了工程现场。谁掌握最强的“读模型”能力,谁就掌握模型审计、对齐验证的制高点,这在各国监管强化 AI 安全审查的当下,战略价值不亚于模型本身。

第三层:递归自我改进(RSI)的实证信号。 博客作者明确将这项工作指向 RSI:模型开始理解并修改神经网络本身,这是“AI 帮助人类训练模型”到“AI 参与优化模型”的一步跨越。这也是资本市场最敏感的神经,AI 迭代的瓶颈如果部分从“数据与算力”转向“模型自身的诊断能力”,scaling law 之外的第二条曲线就有了雏形。

03 当别人的模型成了被修改的对象

这个实验最有冲击力、也最容易被忽略的一个细节是:被修改的对象是阿里的 Qwen3.5-0.8B,一个在中文开发者生态中影响力不小的开源模型。修改它的,是 OpenAI 的闭源旗舰。

这构成了一幅需要认真对待的权力图景:最强的闭源模型,正在成为审视和改写开源模型的“标准答案”。 当 GPT-6 Astra 可以诊断 Qwen 的缺陷,它实质上获得了一种对该模型的“裁判权”,它说了算这个模型哪里有病、该怎么修。而对开源社区而言,自己的模型在被别人修好的同时,也把自己的“病理报告”暴露给了对方。

从商业竞争看,这种不对等是赤裸的:OpenAI 的旗舰模型可以随意读取、分析、修改竞争对手(哪怕是开源领域的标杆产品)的内部结构,而反向操作目前不存在,目前尚不存在任何开源模型具备对 GPT-6 Astra 做同样事情的能力与授权。一种事实上的“智能霸权”可能会形成:霸权不在于谁的模型分数高,而在于谁拥有定义“什么是正确的模型”的能力。

但也要把话说全。在现阶段,把 WSP 直接定性为霸权还太早。三点理由:其一,实验的对照结论已经表明,这套方法目前只能“除障”不能“造能”,它修得好推理循环,却给 Gemma 3 270M 变不出数学能力,距离通用的“模型改造武器”还很远;其二,被修改的是开源权重,开源本身就是以让渡部分控制权换取生态扩散的商业模式,“能被修复”也是开源模型的价值之一;其三,这项技术如果成立,其最 大的受益者可能恰恰是开源生态——大量无法负担训练算力的小团队,第 一次可以借助别人的前沿模型修复自己的模型。

真正需要警惕的是趋势而非现状。如果“读模型、修模型”的能力沿着当前轨迹持续扩大,全球 AI 能力图谱将分化出清晰的两个层级:掌握顶 级闭源模型的少数公司位于上游,拥有“读改写”一切模型的特权;届时,竞争的胜负手将不再是模型本身,而是“谁有资格修改谁的模型”。

对监管者和产业界而言,这个实验留下的命题比它的成绩更有价值:当模型开始修改模型,模型安全的审查对象要从单个模型,扩展到“模型之间的关系”。这或许是一场热烈的讨论背后,真正值得严肃对待的信息。

最新快讯

2026年11月04日

08:35
鼓狮财经11月4日电,美国当地时间11月3日举行中期选举投票。在通胀高企、生活成本上升的背景下,特朗普政府第二任期迎来一场形势严峻的“期中考试”。在本次中期选举中,共和党和民主党将角逐国会众议院全部435个席位和参议院100个席位中的35个。选民还将选出36个州的州长以及部分州的州议会议员等地方公职人员。本次中期选举前,共和党控制着国会参众两院。按选前的国会...
08:35
鼓狮财经11月4日早间新闻精选 1、十四届全国人大常委会第二十五次会议3日上午在北京人民大会堂举行第二次全体会议。会议听取了中国人民银行行长潘功胜受国务院委托作的关于金融工作情况的报告。潘功胜指出,维护股票、债券、外汇等金融市场平稳运行,守住不发生系统性金融风险底线。2、外交部回应“英伟达要求其合作伙伴必须将至少51%的服务提供给非中国企业”有关报道:各方应...
08:35
盘前题材挖掘①算力需求远超供给,国内算力租赁行业迈向业绩兑现期。②新雪季启幕冰雪游逐渐升温,冰雪产业链有望迎来强劲增长。③小米机器人首次挑战8小时稳定作业,机器人应用加速落地。关联文章小米机器人首次挑战8小时稳定作业 机器人应用加速落地新雪季启幕冰雪游逐渐升温 冰雪产业链有望迎来强劲增长算力需求远超供给 国内算力租赁行业迈向业绩兑现期
07:54
1. 当地时间3日,伊朗外交部发言人表示,目前有关伊美谈判尚未达成新进展。伊朗美方必须完整、明确回应伊朗提出的7项条件并付诸实施,霍尔木兹海峡才会开放。美总统特朗普则表示,不排除在中期选举后对伊采取军事行动。以色列声称伊朗正研究化学武器,威胁比核计划更紧迫。2. AMD 2026年Q3营收133.8亿美元,同比增长45%,高于市场预期的130.9亿...
07:54
鼓狮财经11月4日电,A股三季报收官。基础化工、石油石化这两大和原油息息相关的行业业绩,备受市场关注。Wind数据显示,前三季度,基础化工、石油石化行业上市公司营业收入分别同比增长18.37%、11.29%;归母净利润分别同比增长32.79%和39.63%,两大板块业绩表现不俗。基础化工行业中,化学纤维、化学原料子行业净利润增幅居前。进一步细分看,化学纤维中...
07:54
鼓狮财经11月4日电,据《科学》报道,11月2日,美国食品药品监督管理局(FDA)正式批准了艾滋病预防药物——注射用来那帕韦的仿制药。一剂仿制药可提供6个月的艾滋病病毒(HIV)感染保护,其印度生产商瑞迪博士实验室承诺以每人每年仅40美元的价格销售该药。美国监管机构这一决定,有望加快强效艾滋病预防药物在感染率高的低收入国家的交付。来那帕韦由美国生物制药公司吉...
07:54
双11直播间词元热卖 上市公司加码算力经济鼓狮财经11月4日电,今年双11大促,词元(Token)一跃成为直播间全新爆款品类。李佳琦直播间上线千问办公个人会员月卡,0.01元体验款半小时售出10万份,对应约2万亿词元调用额度。人工智能(AI)算力服务首次借助头部直播渠道直面海量个人用户,拉开了算力大众化消费的序幕。A股多家算力上市公司在投资者互动平台披露业务...
07:23
Meta美元债发行吸引最高580亿美元认购订单,约为至少150亿美元发行规模的4倍,整体跨境融资规模预计至少200亿美元,并计划最快周三发行首笔欧元债。尽管认购需求强劲,Meta仍需提供更高收益率吸引投资者,其2056年到期债券收益率较美国国债溢价约2.2个百分点,较今年4月同类债券高出约0.9个百分点。AI投资扩张推高科技巨头融资成本,大型科技公司债券收益...
07:23
AMD 2026年Q3营收133.8亿美元,同比增长45%,高于市场预期的130.9亿美元;调整后EPS为2.09美元,高于预期的1.95美元。数据中心业务收入同比接近翻倍至85亿美元,占总营收的64%,高于去年同期的47%,主要受AI处理器需求增长推动。CEO苏姿丰表示,数据中心处理器需求预计进一步加速,公司有能力满足AI芯片需求。AMD预计Q4营收约17...
07:23
伊朗方面当地时间3日表示,目前有关伊美谈判尚未达成新进展。此外,伊朗各方就局势密集发声,传递伊方强硬立场:“伊朗绝不会投降”“美方必须完整、明确回应伊朗提出的7项条件并付诸实施,霍尔木兹海峡才会开放”“伊朗已做好战斗准备,并处在最高级别防御状态”……同日,卡塔尔方面称,美伊正在研究调解方提出的方案,双方仍愿意继续谈判,但分歧仍待弥合,目前尚无可宣布的具体进展...
07:23
鼓狮财经11月4日电,当地时间11月3日起,墨西哥全国公立及私立中小学正式实施手机使用限制。根据墨西哥公共教育部规定,学生在上课及课间休息期间原则上不得使用手机、智能手表等个人电子设备,但因教学活动、紧急情况、健康或残障辅助等特殊需要可例外使用。高中阶段由各校制定具体管理规则。墨西哥总统辛鲍姆表示,新规旨在减少电子屏幕对学生学习和社交的负面影响,提升注意力与...
07:23
鼓狮财经11月4日电,近日发表于《自然》杂志的三项重要研究中,澳大利亚加文医学研究所、默多克儿童研究所等机构的科学家分析了近2000人体内500多万个单个免疫细胞的基因序列和基因活性,绘制出迄今最详尽的人类遗传变异影响免疫系统的图谱,并鉴定出近1500个可能参与多种疾病发生的基因。这项成果有助于发现新的药物靶点,推动癌症、免疫系统疾病和神经系统疾病的精准治疗...