《科创板日报》8月7日报道,AMD近日宣布达成最终协议,收购人工智能推理芯片领域的创新企业Taalas。截至目前,交易的具体金额、支付方式及交割时间尚未公开。AMD方面表示,随着人工智能推理成为市场增长最快的领域之一,且工作负载日益专业化,此次收购将借助Taalas差异化的推理技术与世界一流的工程技术,进一步强化AMD在人工智能领域的长期路线图。
Taalas成立于2023年,总部位于加拿大多伦多。据其首席执行官Ljubisa Bajic介绍,该公司致力于打造一个能够将任何AI模型快速转化为定制芯片的平台。Bajic宣称,将全新的模型以硬件形式实现仅需两个月时间。Taalas的核心技术理念源自其“模型即计算机”的构想。
今年2月,Taalas发布了基于台积电6nm工艺的测试芯片HC1。实测数据显示,该芯片处理Meta的Llama 3.1 8B模型的速度达到每秒16960个token,性能表现极为亮眼:比英伟达的通用GPU快48倍,比Cerebras的晶圆级芯片WSE快8倍。
这种超凡性能源于Taalas独特的工作机制。传统AI模型通常以软件形式存储在外部高带宽内存中,运行时需不断读取参数并执行计算。而Taalas则采用了不同的策略:它直接将模型结构和大部分权重写入芯片的掩模ROM调用结构,以及KV cache和微调适配器存储所在的SRAM调用结构。这意味着,模型参数被物理地固定在硅片结构中。
Ljubisa Bajic曾阐述过这一理念:通用推理硬件往往割裂了存储与计算,迫使现代AI系统依赖HBM、先进封装、海量I/O带宽甚至液冷技术。Taalas的目标是构建一个无需这些复杂技术的系统。不过,这种设计也面临挑战。由于采用定制化属性,Taalas牺牲了通用性,移除了可编程性。一旦模型结构或权重发生较大变化,客户无法通过软件升级完成切换,只能等待新版本的芯片。
在AMD的战略布局中,Taalas的技术与其全栈式AI平台形成了互补。该平台涵盖了Helios机架式解决方案、Instinct GPU、EPYC CPU、ROCm软件以及不断扩展的AI生态系统。AMD计划将Taalas的技术整合至其加速器路线图中,并结合AMD Instinct GPU开发系统级解决方案。
这并非AMD首次在ASIC领域布局。近期,苏姿丰在Advancing AI大会上透露,AMD正在与Cerebras合作,计划推出结合AMD Helios GPU服务器机架与Cerebras晶圆级芯片的AI推理方案,产品将于今年晚些上市。此外,英伟达近期也与初创公司Groq达成技术授权,并从后者引入人才。谷歌TPU、微软Maia、亚马逊Trainium等自研芯片项目也层出不穷。头部科技企业正通过自研芯片来优化特定模型场景下的性能与成本。
随着人工智能迈向推理时代,巨头们不再单纯比拼GPU持有量。招商证券研报指出,AI芯片自研潮的兴起,意味着行业正从“单一GPU供给约束”向“多元化定制芯片方案”切换,投资逻辑正从硬件垄断转向生态博弈。金元证券则认为,AI芯片产业将呈现“通用GPU+自研ASIC”并行发展的趋势。针对固定工作负载优化的ASIC芯片具备更高的能效比,有望成为未来AI基础设施的重要组成部分。
