11 月 3 日,一张截图在中文互联网刷屏:MIT CSAIL 团队让 OpenAI 的 GPT-6 Astra 直接读取并修改阿里巴巴 Qwen3.5-0.8B 模型的权重,只改动了 131072 个参数,约占该模型 8 亿参数的 0.016%,就将其在 MATH-500 数学基准上的成绩从 7.9% 拉升至 48.1%,指令遵循能力(IFEval)提升约 3 倍。全程没有梯度下降,没有反向传播,没有传统意义上的“训练”。

团队给这套方法起了个新名字:权重空间编程(Weight-Space Programming,WSP)。

“我们发现早期迹象表明,前沿大型语言模型(LLMs)在原生地阅读、编写和推理神经网络权重方面出人意料地出色。模型可能将原始权重视为可读、可编辑的代码,而不是通过训练:直接诊断故障并修补它们”,MIT CSAIL 团队的相关研究人员表示。

需要注意的是,该实验还没有产出经过同行评审的论文,仅以博客形式发布。但消息一出,X 上原帖还是迅速积累大量曝光,过去14个小时,原贴浏览量超过了550万。

一条早期实验,为何能引发这个量级讨论?

核心或在于,它触到了 AI 产业当前最 大的两个命题:一是“模型优化是否还必须依赖大规模训练”,二是“谁有权定义和修改别人的模型”。

01 优化模型,可以不靠训练了?

根据 MIT CSAIL 博客原文,研究者给 GPT-6 Astra 提供了一个可读写权重的 Python 沙箱环境,并允许其使用 GSM8K 和 MATH 训练集中的练习题进行有限次数的前向推理。Astra 首先要做的不是“随机改动参数碰运气”,而是先进行诊断:它发现 Qwen3.5-0.8B 在数学任务上反复生成相同内容,最初的 96 条测试回答中,有 85 条撞上了 32768 个 token 的输出上限,即典型的“推理循环”。Astra 随后将问题定位到第 15 层和第 19 层的多层感知机(MLP),削弱其中的重复信号,最终修改的权重只占模型总量的 0.016%。

更关键的是,研究者做了对照实验。在允许 50 轮前向推理的设定下,MATH-500 得分从 7.9% 升至 48.1%,GSM8K 从 13.8% 升至 67.1%;但当把目标换成原本很少陷入推理循环的 Gemma 3 270M 时,同样的方法最多只能把 MATH-500 从 6.8% 推到 7.7%。

这里面权重空间编程消除的是模型已有能力发挥过程中的障碍,而不是凭空创造模型原本不具备的能力。 换句话说,Astra 做的不是“给 0.8B 的小模型灌注新智能”,而是“解开捆住它的绳子”。

除了Qwen3.5-0.8B 案例,该团队还逐一向 Astra 提供来自 4 个游戏策略的原始权重。这四个策略共享完全相同的架构、输入和动作。在没有提供任何工具或选项的情况下,它正确地命名了所有四个:Breakout、Pong、Pac-Man、Freeway。接下来,修复权重:一个PPO汽车策略在坡道上反复卡住。给定权重、场景和1次失败的轨迹,Astra在一轮回复中无需使用工具就写出了一个补丁。通过仅编辑3.5%的权重,它实现了100%的成功率。

这恰恰是这个实验最让业界震动的地方:它将“模型优化”和“神经网络权重的更改”从一门依赖算力、数据和梯度的工程学,部分转化为了可以用自然语言描述目标、由模型自主完成的诊断任务。博客中展示的另外两组实验进一步放大了这种想象空间,Astra 仅凭原始权重就判断出小型网络是为哪款游戏训练的;在不允许训练数据、不允许梯度的条件下,从零写出的 MinAtar 游戏策略网络超过了 PPO 训练 1 亿步的基线。

需要强调的是,大量从业者最关心的是,这里面到底能有多少效率提升,计算量与模型训练相比有高效多少。

据表述,Astra 消耗了 Python 分析环境和最多 50 轮前向推理。省掉的是梯度训练,诊断与验证的成本依然存在。但对一个推理成本被持续压缩的行业而言,“修一个 0.8B 模型”从一次需要训练基础设施的工程,变成了一笔 API 调用,账是非常好算的。

02 短期是效率故事,长期是权力故事

从产业视角看,这件事的影响力要分三层看。

第 一层:模型后市场的降本叙事。 目前行业对中小模型的优化,主要依赖蒸馏、微调、LoRA 等路径,背后仍是训练或类训练的算力投入。如果“前沿大模型直接读写小模型权重”被验证为可复制的通用方法,开源生态里大量“够用但不完 美”的小模型,将第 一次拥有一种绕过训练基础设施的修复通道。对算力受限的团队,这几乎包括中国绝大多数 AI 应用公司,这不是锦上添花,而是绕开算力封锁的一条小路。

第二层:模型资产的“可诊断化”。 这个实验本质上证明了前沿模型具备一种此前只在理论上讨论的能力:把另一个模型的权重当作可以阅读、理解的“文本”。所谓模型权重,简单的理解就是,神经网络里的一大堆数字,它决定了模型“看到什么、算出什么”,也相当于模型学到的所有经验,改这些数字就等于改模型的本事。

当模型行为可以被定位到“第 15 层和第 19 层的某个重复方向”,机制可解释性(mechanistic interpretability)就从论文走进了工程现场。谁掌握最强的“读模型”能力,谁就掌握模型审计、对齐验证的制高点,这在各国监管强化 AI 安全审查的当下,战略价值不亚于模型本身。

第三层:递归自我改进(RSI)的实证信号。 博客作者明确将这项工作指向 RSI:模型开始理解并修改神经网络本身,这是“AI 帮助人类训练模型”到“AI 参与优化模型”的一步跨越。这也是资本市场最敏感的神经,AI 迭代的瓶颈如果部分从“数据与算力”转向“模型自身的诊断能力”,scaling law 之外的第二条曲线就有了雏形。

03 当别人的模型成了被修改的对象

这个实验最有冲击力、也最容易被忽略的一个细节是:被修改的对象是阿里的 Qwen3.5-0.8B,一个在中文开发者生态中影响力不小的开源模型。修改它的,是 OpenAI 的闭源旗舰。

这构成了一幅需要认真对待的权力图景:最强的闭源模型,正在成为审视和改写开源模型的“标准答案”。 当 GPT-6 Astra 可以诊断 Qwen 的缺陷,它实质上获得了一种对该模型的“裁判权”,它说了算这个模型哪里有病、该怎么修。而对开源社区而言,自己的模型在被别人修好的同时,也把自己的“病理报告”暴露给了对方。

从商业竞争看,这种不对等是赤裸的:OpenAI 的旗舰模型可以随意读取、分析、修改竞争对手(哪怕是开源领域的标杆产品)的内部结构,而反向操作目前不存在,目前尚不存在任何开源模型具备对 GPT-6 Astra 做同样事情的能力与授权。一种事实上的“智能霸权”可能会形成:霸权不在于谁的模型分数高,而在于谁拥有定义“什么是正确的模型”的能力。

但也要把话说全。在现阶段,把 WSP 直接定性为霸权还太早。三点理由:其一,实验的对照结论已经表明,这套方法目前只能“除障”不能“造能”,它修得好推理循环,却给 Gemma 3 270M 变不出数学能力,距离通用的“模型改造武器”还很远;其二,被修改的是开源权重,开源本身就是以让渡部分控制权换取生态扩散的商业模式,“能被修复”也是开源模型的价值之一;其三,这项技术如果成立,其最 大的受益者可能恰恰是开源生态——大量无法负担训练算力的小团队,第 一次可以借助别人的前沿模型修复自己的模型。

真正需要警惕的是趋势而非现状。如果“读模型、修模型”的能力沿着当前轨迹持续扩大,全球 AI 能力图谱将分化出清晰的两个层级:掌握顶 级闭源模型的少数公司位于上游,拥有“读改写”一切模型的特权;届时,竞争的胜负手将不再是模型本身,而是“谁有资格修改谁的模型”。

对监管者和产业界而言,这个实验留下的命题比它的成绩更有价值:当模型开始修改模型,模型安全的审查对象要从单个模型,扩展到“模型之间的关系”。这或许是一场热烈的讨论背后,真正值得严肃对待的信息。

最新快讯

2026年11月04日

09:49
鼓狮财经11月4日电,韩国KOSPI指数跌逾1%,此前一度涨超3%。三星电子回吐早盘约4%的涨幅,最新下跌1.1%。SK海力士跌超1%,早盘一度涨6%。
09:49
鼓狮财经11月4日电,美股三大期指集体走低,纳斯达克100指数期货跌超1%,标普500指数期货跌0.6%,道指期货跌0.4%。
09:49
PCB概念震荡反弹 协和电子触及涨停鼓狮财经11月4日电,早盘PCB概念震荡反弹,协和电子触及涨停,满坤科技涨超10%,德福科技、华正新材、国际复材、金安国纪等跟涨。消息面上,有产业链企业向鼓狮财经记者透露,当前公司HDI及高多层PCB存量产线订单饱满,订单量超过了现有产能承接上限,已启动新一轮扩产。据花旗年内发布的研报测算,2026年全球AI PCB市场规...
09:49
AI漫剧概念继续活跃 大晟文化、浙文影业3连板鼓狮财经11月4日电,早盘AI漫剧概念继续活跃,大晟文化、浙文影业走出3连板,引力传媒、传智教育、德才股份、粤传媒等冲高。消息面上,QuestMobile数据显示,9月抖音集团内部前三大应用变为抖音、红果免费短剧、豆包,去重总用户量分别为10.29亿、4.3亿和4.19亿,红果已超过豆包;短剧视频用户规模从100...
09:49
AMD CEO:数据中心业务明年将占总营收80%以上鼓狮财经11月4日电,美东时间周二盘后,AMD董事长兼首席执行官苏姿丰在AMD财报电话会上表示:“我们进入第四季度和2027年有很强的动能。我们确实看到需求非常强劲,数据中心业务、CPU业务以及数据中心AI业务都有需求…我们预计2027年数据中心将占公司总营收的80%以上,并驱动营收和盈利增长。”关联文章A...
09:17
央行宣布上调外汇存款准备金率2个百分点至6%,这是时隔近四年的首次上调,也是继中间价持续偏弱、2月下调远期售汇风险准备金率之后,今年稳汇率工具箱的第三次加码,从引导预期,到调节购汇成本,再到约束外汇头寸,我们认为央行为升值降温的信号已较为明确。本次冻结的外汇流动性规模有限,信号意义大于实际影响,核心是打断“升值预期强化、企业集中结汇、汇率加速升值”的自我循环...
09:17
AMD交出了一份全面超预期的成绩单。11月4日,公司公布2026年第三季度财报。营收133.8亿美元、调整后EPS2.09美元双双高于预期;Q4营收指引约170亿美元,也大幅超过市场预期的162亿至163亿美元。尤其是AI数据中心业务的强劲爆发,打消了市场的疑虑。财报公布后,AMD盘后股价一度大涨超7%。截至发稿,涨幅收窄至5%左右。AI数据中心“印钞”​财...
09:12
消息称Solidigm千亿美元在美建厂计划基本锁定纽约州Marcy Nanocenter地块《科创板日报》4日讯,SK海力士旗下NAND闪存制造商Solidigm已基本选定在美国纽约州Marcy Nanocenter建设新晶圆厂。Marcy Nanocenter总面积约175.6 万平方米,属于纽约州立大学理工学院Marcy校区的一部分。这里已经进驻功率半导...
08:35
鼓狮财经11月4日电,美国当地时间11月3日举行中期选举投票。在通胀高企、生活成本上升的背景下,特朗普政府第二任期迎来一场形势严峻的“期中考试”。在本次中期选举中,共和党和民主党将角逐国会众议院全部435个席位和参议院100个席位中的35个。选民还将选出36个州的州长以及部分州的州议会议员等地方公职人员。本次中期选举前,共和党控制着国会参众两院。按选前的国会...
08:35
鼓狮财经11月4日早间新闻精选 1、十四届全国人大常委会第二十五次会议3日上午在北京人民大会堂举行第二次全体会议。会议听取了中国人民银行行长潘功胜受国务院委托作的关于金融工作情况的报告。潘功胜指出,维护股票、债券、外汇等金融市场平稳运行,守住不发生系统性金融风险底线。2、外交部回应“英伟达要求其合作伙伴必须将至少51%的服务提供给非中国企业”有关报道:各方应...
08:35
盘前题材挖掘①算力需求远超供给,国内算力租赁行业迈向业绩兑现期。②新雪季启幕冰雪游逐渐升温,冰雪产业链有望迎来强劲增长。③小米机器人首次挑战8小时稳定作业,机器人应用加速落地。关联文章小米机器人首次挑战8小时稳定作业 机器人应用加速落地新雪季启幕冰雪游逐渐升温 冰雪产业链有望迎来强劲增长算力需求远超供给 国内算力租赁行业迈向业绩兑现期
07:54
1. 当地时间3日,伊朗外交部发言人表示,目前有关伊美谈判尚未达成新进展。伊朗美方必须完整、明确回应伊朗提出的7项条件并付诸实施,霍尔木兹海峡才会开放。美总统特朗普则表示,不排除在中期选举后对伊采取军事行动。以色列声称伊朗正研究化学武器,威胁比核计划更紧迫。2. AMD 2026年Q3营收133.8亿美元,同比增长45%,高于市场预期的130.9亿...