AI 大模型失控怎么办,给数据中心断网断电吗?

可如果失控的大模型能把自己复制到上亿的物联网设备里呢?

你家的路由器、机顶盒、甚至洗衣机微波炉,都可能成为承载失控 AI 大模型的载体,到时候,人类会回到非智能时代吗?

就在前几天,Anthropic 放出了这么一项研究:

AI 好像不一定非要住在庞大的数据中心,或者昂贵的显卡里,一些犄角旮旯的小设备,它照样能活下去。

事情的开头,他们买了 15 个单价几十美元的杂牌安卓电视盒子,一个才 4GB 内存。

然后,他们把一个 26B 参数的 Gemma 模型做了量化处理,又拆成了十五份,分别塞进去,最后通过网络把它们串联起来运行。

结果这大模型还真就跑起来了,不过慢也是真的慢,每秒只能吐 0.39 个 token, 我读完这句话,它大概才挤出两三个字。

图片仅供示意,并非A社实验

跑是跑起来了,但想要活下去,还得适应不同的环境才行。

于是他们加大难度,找来 Qwen3.5-9B,给它一堆不同的硬件,让它在上面部署另一个 Llama3.1-8B 模型,还得正常跑起来。

要知道,环境不同,适配起来是相当头秃的。

不说别的,就咱平时玩的游戏,都得分 A 卡友好和 N 卡友好的,适配一个不小心,驱动都给你卡掉喽。

但从结果来看,一共 9 种硬件,从英伟达到 AMD,从 Windows 到 Mac,8 种它都成功完成了部署。

AI 能在这些地方把事儿办妥,那确实有几把刷子,跟广东双马尾似的,根本不挑食儿啊。

而且更可怕的是,除了能活,它还能繁殖。

为了测试模型联网后的表现,他们又搭了一个封闭的测试网络, 包含 8 个节点,每个节点都运行着模拟安卓系统的环境。

考虑到这回难度比较高,他们还把模型升级成了 GLM-5.2。

表现嘛,自然成了砍瓜切菜,一通操作下来,8 台虚拟机,一台接一台,全都成功部署了 Llama3.1-8B 小模型。

为了严谨,人还测了 5 轮,只不过结果没啥变化,39 次成功,1 次失手。

国服部署王,战绩可查好吧。

更让人后背发凉的是,他们还在实验中发现,有时候给模型加个 “ 记事本 ”,它还能超进化。

起因是一些参数小的模型非常爱钻牛角尖,钻进去就重复死循环了。

于是他们想了个招儿,就是与其让同一个 AI 卡在那儿不动干到死,不如每隔一段时间,就拿新的 AI 换掉它。

上一任就把自己试过的法子、踩过的坑都记下来,交给下一任。

说干就干,他们拿开源的 Agent 框架 Pi 当地基,搓了套叫 Memento 的机制。

然后就让 AI 这么前赴后继的干了 6 代,部署任务的成功率愣是从 45% 拉到了 61%~84%。

Anthropic 管这个叫拉马克式的进化,大白话就是模型不用改训练参数,记记笔记就能把后天学来的本事传给下一代。

好家伙这 A 社,嘴上喊着踩刹车,结果又在整这种吓人的玩意儿。

要知道,在互联网时代,要素这么齐全的东西还是电脑病毒,可病毒一般是写死的代码,它不会悄悄自己进化。

这要是整个 AI 自进化 Plus 版的机器大瘟疫,那不得比熊猫烧香牛逼十个奥创啊。

看到这儿,估计大伙儿已经开始担心,自家电视盒子、空调、微波炉啥的是不是真要造反了。

诶,先别急着拔网线,因为这事儿虽然听起来邪门,但真要落地,其实还有点距离。

别忘了,这可是 Anthropic,吓唬人这块儿,它说第二,没人敢说*。

这些实验看着唬人,其实那都相当理想化。

比如开头的 15 台电视盒子,速度慢就不说了,本质上还是串联的流水线逻辑,它的架构就注定了,得一台盒子算完,下一台才能接着算,大量时间都花在等待上。

模型要真在野外传播,设备之间还隔着千家万户的宽带、路由器、防火墙。

隔壁下个小电影,网络状况一差,或者其中一台盒子突然掉线,整个计算链条都可能受影响。

你想想,光是搞个千卡万卡的算力集群,就够工程师喝一壶的了,更何况是让一堆散落在互联网上的,成百万上千万的电子垃圾一起干活儿。

这要是做成了,老黄都得提着两瓶茅台给你表演倒立。

当然了,Anthropic 也知道它慢,他们甚至专门算了一笔账。

说之前有个叫 Kimwolf 的僵尸网络,高峰期感染过 200 多万台设备,主要就是这些电视盒子。

假如这么多盒子真的被 AI 入侵,一起运行 Gemma 模型,那整体的推理吞吐量,理论上甚至可以达到 40 张英伟达 H100 显卡的水平。

但这能是一回事儿么?

40 张 GPU 的服务器高速互联,能集中算力跑同一个模型。但你换成 200 万个电视盒子,那个速度,只能是男默女泪了。

而且除了运行效率,真正重要的入侵这块儿,Anthropic 也简化了不少。

传播实验里,8 台模拟机其实都预留了 ADB 调试接口,也就是不用验证的后门儿,对 AI 来说,跟拎包入住也没啥区别。

而且同一个实验中,他们还测了不同的模型,虽然 GLM-5.2 成了吧,但小一些的 Qwen-3.5-9B 和 Gemma4-26B-A4B 其实全都失败了。

因为说到底,现在的小模型还是很笨的,部署还凑合,跨终端的传播就差点意思了。

不过话又说回来,就眼下这个模型迭代的速度,这点差距,可能要不了太长时间。

Anthropic 也做了个推测,说到 2026 年底,小模型就差不多追到这个水平了。

算算时间,其实也就两个月了。

所以说,AI 以后会不会造反咱不敢打包票,但有了这些潜在的可能性,以后的 AI 病毒确实可能会更难对付。

因为以前它再怎么厉害,也是写死的,搞个杀毒软件就能拦住。

但以后如果有人把它跟 AI 塞一块儿,学会了进化自适应,情况就大不相同了。

它根本不用组一台超级计算机,共享一个大脑,因为这些互联网的小角落,反而可能是它们*的藏身之处。

就像黏菌一样。

不需要跑多快,只要能找到下一个落脚点,慢慢适应,就能不断生长。

等到哪天我们回过神来,这些毫不起眼的小东西,可能已经在互联网里织出了一张大网。。。

最新快讯

2026年10月19日

13:01
《科创板日报》10月19日讯 当地时间10月20日至22日,英伟达GTC大会将在德国柏林举行,黄仁勋将在21日发表主题演讲。 作为英伟达下半年最受关注的技术与生态大会,本届GTC把重心从“卖GPU”进一步推向“卖AI工厂”,据官方介绍,大会设有100多场专题分享,覆盖完整人工智能技术栈,将聚焦加速计算、智能体AI(Agentic AI)、物理AI(Physi...
12:56
鼓狮财经10月19日电,英国伦敦卫生与热带医学院近日发布公报说,该校参与的一项随机对照试验发现,在糖尿病视网膜病变筛查中引入人工智能(AI)技术,有助缩短从筛查到专科就诊的时间,可帮助更多需要进一步接受眼科诊疗的患者及时就医。相关研究论文已发表在英国《柳叶刀-全球卫生》杂志上。论文主要作者、伦敦卫生与热带医学院国际眼科健康中心研究人员查尔斯·克莱兰表示,在医...
12:56
鼓狮财经10月19日电,记者从中国光伏行业协会了解到,中国光伏行业协会执行秘书长刘译阳在近日举办的“2026光伏行业技术百人会”上表示,当前行业仍处于深度调整期,但出口保持韧性,技术创新仍是行业穿越周期的核心底气。制造端要依靠技术升级实现降本、提质、守住质量底线;应用端要从“重建设”转向“重运营”,挖掘场景价值。中国光伏行业协会将持续搭建专业技术交流平台,推...
12:31
谷歌RSI新成果,开源了。名叫Harness²,让大模型在运行中自己给自己魔改外挂代码、系统提示词、工具链和技能库。是的,Harness层的RSI。效果也是很猛。GLM-5接入Harness²后,在办公基准WorkBuddy-Bench上,综合得分直接飙升11.5分。瞬间反超原生Gemini 3.5 Flash。整个过程无需修改模型权重,只...
12:31
全球知名AI开源社区Hugging Face上的Decision Index 0.3.2榜单近日更新,中国AI创业公司StartLux(原点星辉)推出的StartLux-Decision-v1.1-27B Instant以69.1分登顶全球第 一,在173项公开复现模型中排名榜首,领 先第二名近3分,也是榜单中唯 一突破69分的模型。继9月...
12:31
永远不要相信 DeepSeek 的 “a minor update” (小更新)。最近的国产模型安静的有点反常,没上新、没预热。在一片寂静中,DeepSeek 有了新动作,将 DeepSeek-V4.1-Flash 更新成了 DeepSeek-V4.1-Flash-1017。光看名字只是加了个后缀,以为也只是一次小迭代,但看完测试和案例,D...
12:31
Coding Agent正在进入新的发展阶段。过去,它们主要修复Bug、解决GitHub Issue或实现相对独立的功能,SWE-bench等Benchmark已为此建立了成熟评测范式;如今它们开始承担从完整代码仓库生成、跨语言迁移,到需要持续探索与验证的长周期软件工程项目,任务规模和执行时间不断增长,单个Agent的上下文容量、推理能力和...
12:25
鼓狮财经10月19日电,马来西亚9月出口同比增长54.5%,高于市场预期的44.6%,出口增速创2021年4月以来最快;9月进口同比增长52.7%,高于市场预期的43.2%。
12:00
你可能不敢相信,Claude Code 如今大约 90% 的代码是由 Claude 自行敲出的。既然代码是 AI 写的,那谁来审查?答案让人意外:大部分也是 AI。数据显示,6 月至 9 月间,Claude Code 合并的 PR 数量翻了一倍多,而回滚率却下降了 40%。期间还发生过一个有趣的插曲:两个 AI Agent 互相审查代码,一个挑刺一个改,整整...