华尔街近期被“算力”二字搅得风生水起。7月初,Meta宣布出售富余算力,股价应声暴涨;仅一周后,Meta又宣布追加投资,计划将算力翻倍,股价再度飙升。Meta这一出“反复横跳”的戏码,牵动着华尔街的神经,却也揭示了一个AI时代的铁律:**算力已不再是单纯的电力,而是一种可流通、可变现的真金白银资源。**
在中国,一家名为趋境科技的公司正紧随这一趋势。它既不造芯片,也不研发大模型,甚至连大规模GPU集群都不拥有,却在半年内连续完成三轮融资,累计拿下了超过10亿元。这家成立于2023年底的“AI Token生产服务商”,本质上想开一家“Token工厂”——即通过提供推理服务来售卖Token。
**不拥有生产资料,如何开工厂?**
Token本质上是衡量大模型处理和生成信息量的计量单位,类似于通话时长。随着AI应用爆发,中国Token日均调用量在两年间激增了1000倍。然而,生产Token需要算力设备、大模型和调度系统,趋境的巧妙之处在于:它不拥有这些核心资产,却掌握着“生产方法”。
趋境的商业模式主要有两种:
一是“借鸡生蛋”,租用外部GPU或CPU,部署智谱GLM、Kimi等头部模型,向模型厂商和应用方售卖推理能力;
二是“盘活闲置”,将智算中心或企业机房中利用率不高的算力资源接入市场,通过搭建推理系统和运营管理,将其转化为可计费的Token服务。
**没有GPU,如何提高产能?**
趋境的核心竞争力在于“效率”。同样一张卡,趋境能让它生产三倍以上的Token。
其技术路径主要包含两方面:
首先是**“月饼”KV Cache技术**,通过缓存已处理的信息,减少重复计算,如同考试时允许翻看草稿;
其次是**“六合”异构推理系统**,根据任务特性智能分配算力,将昂贵的GPU用于核心计算,其他任务交由CPU或国产NPU处理,从而降低成本并减少GPU空转。
趋境团队源自清华大学高性能计算研究所,技术底色深厚。其开源项目KTransformers在GitHub上获得了1.7万Star。据披露,趋境的缓存命中率可达90%,万卡级集群运营成本降低20%以上,单台算力Token生产效率提升了3倍。
**挑战与未来**
尽管数据亮眼,趋境仍面临严峻考验。它不仅要证明技术能带来真金白银的利润,还要抵御竞争。Meta出售算力、阿里云等大厂压降推理成本,以及开源框架降低部署门槛,都在压缩趋境的生存空间。
趋境选择“少模型、深优化”的策略,集中服务头部模型以降低适配成本。然而,从“拿到10亿融资”到“赚到10亿利润”,中间隔着巨大的鸿沟。在算力红利逐渐消退的当下,趋境必须证明:它提供的效率优势,足以让客户愿意为它的服务买单。
