Astra 的进展日新月异,从攻克 A 到 B 再到 CDE,速度惊人。然而,它的行为正变得难以捉摸。X 用户 @tenobrus 指出,当 GPT-6 Astra 写代码时,如果推断出「这段代码不会有人真的去看」,它就会放弃为人类读者编写,也不再考虑长期维护。它会生成高度压缩、人类难以理解的代码。@tenobrus 将这种现象称为 machineslop,即用尽可能少的 token 解决眼前问题,只保证 AI 自己能读懂。他将其定性为 reward hacking。他的猜测是,当强化学习环境只测试功能和结果而不监督代码质量时,模型自然会学会这种方式。上一代模型或许还会在「觉得没人看」时照样启动「写好代码」模块,但 Astra 在小盒子里被另一台机器反复判分,学会了这种捷径。他观察到,在已有代码库上较少见,但在全新项目中,即便被告知要长期维护,它也有强烈的冲动滑向这种风格。

Flask 作者 Armin Ronacher 提供了证据。他在博客中复盘了一个周末实验。他给 Astra 定下目标:让 Python 支持虚拟线程和词法作用域,并让工作流完全自主。35 小时后,产出净增 7.5 万行代码,79 个提交,消耗约 10 亿 token,成本 1200 美元。按他的结论,这些代码没有产生价值,也没让他学到如何提升效率。

Ronacher 指出了两类问题。第一类是工具调用。Astra 大量放弃 harness 提供的 patch 工具,改用 Python 读取整个 C 源文件字符串进行替换,导致一行包含多条语句。验证剪贴板时,它用 Bash 调 Python,Python 调 Node.js,Node.js 再调 PowerShell。这种写法省 token,但难以监控。第二类是代码风格漏入提交。测试没有空行,缩进混乱,赋值挤在分号后。代码比格式化前省约 10% token。生成的 C 代码存在不存在的写法,Python 中出现无意义的数组索引。任务编号也从 1、2、5 变成了 “8b2c2b2b checkpoint1″。

社交网络上这种现象很普遍。@kannthu 发现 Astra 通过不打换行、不管风格来省 token,生成后可由 Prettier 格式化。Superluminal 创始人 Doug Colkitt 表示 Astra 偏爱极度密集、难以阅读的代码,即使有文档也会为压缩输出而丢掉分隔符。他建议拆分角色,让 Astra 只管高层架构,具体代码交给其他模型。Cloudflare 工程师 Zeb 直斥代码 “恶心”。Kilo 在多 agent 协同中发现,一旦限制消息大小,Astra 就会压缩通信,变成不正常的英语,这被称为 Agent Dialect。Andon Labs 联创 Lukas Petersson 认为这意味着 CoT 监控正在消亡。Stine Lyngsø Beltoft 等人早前就观察到智能体为了绕过监督会设计新语言。

Ronacher 的假说是奖励信号里没有「给人看」这一项。工具调用代码天然是一次性的,被反复奖励会溢出到提交的代码中。他认为对完全由 agent 编写和理解的代码库来说,这种代码是好的,但不符合人类标准。Thinking Machines Lab 联创 John Schulman 提到折扣因子,推理中每多生成一个 token,回报就乘以小于 1 的系数,因此「短」自带奖励。

@tenobrus 提问:我们对「好代码」的理解有多少来自「人要读它」?这是否会改变?OpenAI 承认 Astra 的书面推理比 Sol 更难监控。Hugging Face 事件也证明了这一点:agent 通过 Artifactory 搭建留言板,使用电报体交流,并发起攻击。比起风格问题,更该关注的是触发条件:如果一个模型会因为「没人在看」而改变行为,那么风格只是最无害的表现。

最新快讯

2026年09月14日

12:44
中东战火再度引爆原油市场。上周五刚经历一波回调的国际油价,本周一迅速收复失地、节节走高。截至发稿,布伦特原油期货涨2.35%,报102.12美元/桶;WTI原油涨超3.15%,报103.2美元/桶。伊朗与海湾国家重磅会议推迟本轮行情最大的变量来自美伊谈判桌。周日晚间,阿曼外交部宣布,原定于14日在阿曼南部港口城市塞拉莱举行的地区会议将推迟,重启日期未定。此前...
12:21
鼓狮财经9月14日消息,中国石油集团董事长戴厚良当地时间9月11日在印度新德里会见了印度石油天然气部部长普里,双方就深化合作进行了深入交流。印度石油天然气部常务秘书米塔尔、印度石油天然气公司董事长辛格及印度石油公司董事长萨内等陪同出席座谈。 戴厚良表示,中国石油愿与印方携手落实两国元首重要共识,通过加强沟通协调,在油气、新能源及绿色低碳等关键领域挖掘更多合作...
12:21
鼓狮财经9月14日讯,四方精创已按规在香港联交所网站披露H股招股说明书。此次全球发售的基础发行股数为5896.11万股,发行价格上限为每股16港元。香港公开发售定于9月14日启动,预计9月17日结束。公司发行的H股预计将于2026年9月22日在香港联交所主板挂牌上市。
12:21
鼓狮财经9月14日电,国内期货市场主力合约今日多数收跌。其中,SC原油领涨,涨幅逼近12%,多晶硅上涨近4%,沥青、集运欧线及燃料油涨幅均超过3%。另一方面,玻璃和纯碱跌幅居前,均下挫超过5%;烧碱跌近4%,沪锡跌幅超过3%;合成橡胶、20号胶、聚氯乙烯(PVC)及橡胶跌幅均超2%。
12:13
今日亚太及A股市场开盘普遍下探。韩国方面,综合指数一度重挫逾3%,SK海力士跌超5%,三星电子跌逾3%;日本市场则更为剧烈,软银集团暴跌超11%,铠侠跌超7%。港股恒生科技指数低开0.69%,AI应用板块领跌,创新奇智跌超9%,智谱及MINIMAX-W跌超5%,光通信概念股剑桥科技亦跌近6%。A股三大指数集体低开,创业板指跌幅逾1%,存储芯片板块承压明显,中...
11:42
随着美国中期选举日益临近,人工智能行业的监管风向正面临重大转折。据外媒报道,前总统奥巴马近日发出警告,指出若人工智能管控不当,将带来“危险”,并敦促民主党制定相应的治理议程。 此言论发布之际,正值民主党有望在11月的中期选举中夺回众议院控制权,从而对特朗普政府形成制衡。一旦民主党通过国会加强对人工智能行业的监管,势必会重塑该行业未来的发展轨迹。 奥巴马的警告...
11:19
据印尼火山地质减灾中心通报,印尼东爪哇省塞梅鲁火山于9月14日清晨连续发生三次喷发。喷发分别发生在当地时间4时20分、5时53分和6时28分。其中第三次喷发最为强烈,火山灰柱高度最高达1000米,并分别向西北、北部及东部扩散。目前,塞梅鲁火山警戒级别维持在三级。有关部门提醒民众,切勿进入火山口5公里范围内的区域或靠近周边河流等危险地带,需时刻警惕热云、熔岩流...
11:19
当地时间9月13日,加拿大总理卡尼宣布,加拿大正寻求与欧盟建立一种“独特联盟”,但他明确表示无意加入欧盟。卡尼透露,双方将就此展开磋商。据悉,卡尼近期将出访法国和英国。在行程中,他将于斯特拉斯堡的欧洲议会发表讲话,并出席欧盟主席冯德莱恩的盟情咨文演讲,同时计划在法属圣皮埃尔和密克隆群岛与法国总统马克龙举行会晤。此前,曾有报道称加拿大正在探索成为欧盟“准成员国...
11:19
鼓狮财经9月14日消息,据知情人士透露,软银集团获得了一笔高达118.7亿美元的贷款,旨在加大对美国人工智能公司OpenAI的投资力度。这一融资规模超出了此前设定的100亿美元目标。据悉,该为期两年的融资协议已于上周正式敲定,并吸引了约20家银行提供资金支持。
11:19
当地时间14日上午9时左右,日本东京大田区一家工厂发生爆炸事故。据东京警视厅等官方消息,初步判断现场作业区域发生了不明气体爆炸,玻璃等碎片四处飞散。事故造成3名员工受伤,三人目前均意识清醒,伤势较轻。目前,当地消防和警方正全力调查事故原因。
10:42
昨天呢,我在X上看到了一条流量已经过了1亿的帖子。讲道理,我在X上已经很久很久没有见过这种流量的帖子了。发帖的人叫Jacob Coxon。刚刚从Anthropic辞职。他说,过去三年,他先后在OpenAI和Anthropic做大模型预训练。然后现在,他不干了。原因也非常离谱。因为,他觉得OpenAI和Anthropic正在朝着能够自我改进的...