Thinking Machines(Thinking Machines AI)正式发布了其首款自研大模型Inkling,参数规模高达9750亿。该模型并未将追求综合跑分第一作为目标,而是立志成为最适合定制的基础模型,因为其核心收入来源正是微调服务。团队在自研平台Tinker上展示了一个令人印象深刻的演示:Inkling不仅能自己编写微调任务、执行训练流程、评估结果,甚至还能被“设定”为禁止输出字母“e”。
在Design Arena竞技场中,Inkling排名开源模型第二,仅次于GLM-5.2,其排版PDF生成能力尤为出色。其小参数版本Inkling-Small(总参数276B,激活12B)表现亮眼,各项指标几乎追平了大参数版本。Inkling大体沿用了DeepSeek-V3的MoE架构设计,包含每层256个路由专家和2个共享专家,激活6个路由专家。注意力机制采用滑动窗口与全局层5:1交错排列,结合8个KV头,并使用了相对位置嵌入而非RoPE,以优化长序列处理。此外,模型在关键路径上加入了短卷积操作,音频输入处理为dMel频谱图,图像处理为40×40像素patch,整个过程不依赖外部编码器。
可控思考深度是Inkling最值得关注的特性。开发者可通过effort参数在0.2至0.99间调节推理投入,在性能与成本间取得平衡。在Terminal Bench 2.1上,Inkling在达到与Nemotron 3 Ultra相同分数时,Token消耗仅为后者的三分之一。在effort=0.99的全力模式下,Inkling在AIME 2026、GPQA Diamond等基准测试中表现优异,AIME得分97.1%,GPQA Diamond 87.2%,SWEBench Verified为77.6%。安全性方面,FORTRESS对抗测试得分78.0%,良性查询通过率95.9%,避免了过度拒绝。
后训练流程覆盖数学、代码、多模态等领域。训练主要依靠大规模强化学习,规模超过3000万次rollout。训练过程中,模型的思维链风格随RL推进自动变得简洁,从早期的完整句子演变为电报式表达。团队采用混合优化策略,大矩阵权重用Muon,其余用Adam,并耦合了权重衰减与学习率以稳定训练。
目前,Inkling已在Tinker平台上线,提供64K和256K上下文选项,限时五折。团队同步更新了cookbook和三个音频微调教程,开源了tml-renderer工具。Tinker控制台内的Inkling Playground已免费开放,支持带智能体网页搜索的对话界面,供开发者体验模型。
