摘要：AMD 收购 Taalas，把围绕固定模型优化数据流的专用推理硅技术纳入 Instinct 路线。本文分析权重驻留、存储墙、能效收益、模型迭代与流片周期，以及它与 GPU 的合理分工。
2026 年 8 月 6 日，AMD 宣布已达成收购 Taalas 的最终协议，交易金额未披露，交割仍需满足常规条件并获得监管批准。公告篇幅不长，却给出了一个很明确的技术方向：AMD 看中的并非又一块可编程 AI 加速卡，而是一套围绕固定模型优化推理数据流、显著压低计算与存储瓶颈的专用硅技术。AMD 计划把它纳入加速器路线，并与 Instinct GPU、EPYC CPU、ROCm 软件及 Helios 机架级系统组合，形成系统级方案。
这桩交易值得关注，不只因为 AMD 继续扩充 AI 版图，也因为 Taalas 把一个长期存在的选择推到了台前：当某个模型已经稳定、调用量足够巨大，是否还应为它保留 GPU 级别的通用性？如果答案是否定的，模型的计算图、数据流乃至大部分权重便可以深入映射到物理电路，让芯片围绕同一套推理任务持续运转。代价同样清楚：模型一旦大改，硬件也可能需要换版。
推理的难题，越来越像数据搬运题
讨论 Taalas 之前，先要理解“存储墙”。现代 GPU 的算术单元极快，矩阵乘加吞吐量也持续增长，但大模型推理并不只是在做乘法。模型权重通常存放在 HBM 等外部存储器中；每生成一个 token，设备都要读取大量参数，把它们送入计算阵列，再处理激活值、注意力状态和 KV cache。算术本身可能只占很短时间，等待与搬运数据却消耗了大量带宽、能量和芯片面积。
以自回归大语言模型的解码阶段为例，单个请求每次只生成一个 token，矩阵运算规模受到批量大小限制，算力利用率常受内存带宽约束。服务商可以把多个请求合批，提高权重读取的复用率，但批量越大，单用户首 token 和后续 token 的等待往往越长。低延迟、高吞吐和低成本之间由此形成拉扯。HBM、先进封装、宽接口、高速互连与液冷帮助 GPU 扩大可用带宽，同时抬高了整机成本和供电散热要求。
Taalas 的切入点很直接：固定模型反复使用同一批权重，何必每生成一个 token 都把这些权重经外部存储接口搬到计算单元附近？它把模型存储和对应计算更紧密地结合，尽量缩短权重移动路径，并删去为通用可编程性服务的大量控制与调度开销。这里的关键收益并非凭空增加乘法次数，而是让每次乘法所需的权重早已处在电路本地，甚至让权重表示与乘法功能共同落实在专用结构里。
Taalas 把这套思路称为 Hard Coded Inference，并用“模型即计算机”概括。其首代 HC1 针对 Llama 3.1 8B：固定部分容纳约 80 亿参数，同时配置 SRAM，用于 KV cache、适配器以及运行期可变状态。公司对外称，硬连线部分采用 mask ROM recall fabric，旁边配有 SRAM recall fabric；固定模型和动态上下文分别落在适合各自特性的结构中。
“写进硅片”不等于把模型文件烧进一块普通 ROM
“Taalas 把模型永久烧进 ROM”是一个方便传播的说法，也容易造成误解。它会让人联想到主板固件芯片：模型权重以文件形式逐字节存放，处理器仍需按地址读取，再送入独立乘法器。Taalas 描述的方案更深一层。模型的权重、相关数据流与计算结构经过自动化流程映射到芯片，固定权重由掩模定义的高密度结构表达，权重读取与对应运算高度融合。其高管对《The Next Platform》表示，一项核心设计可以用单个晶体管保存四个比特，并完成与该权重相关的乘法；具体电路细节尚未公开。
因此，“硬连线”应理解为模型专用硬件：制造时确定的大量连接、常量和执行路径共同服务于特定模型。mask ROM 是其中重要的物理实现概念，却不足以概括整块芯片。芯片仍有 SRAM、控制逻辑、I/O、运行时状态和可配置部分，也要处理输入 token、上下文长度、采样策略及 KV cache。Taalas 还宣称 HC1 支持可配置上下文窗口，并可通过 LoRA 做微调适配。这说明它没有把每一项行为都冻结成唯一结果。
这里也要谨慎使用“永久”一词。对某一颗已制造的芯片而言，掩模定义的基础权重通常无法像显存内容那样在线改写，换基础模型需要新版本硅片。对产品平台而言，模型并未被永久锁死在某个世代：厂商可以更换顶层金属掩模，制造承载新权重和新数据流的批次。Taalas 声称新模型主要涉及两层金属层变化，利用与台积电协作的流程，可在收到模型后约两个月交付可运行的 PCIe 卡。这个周期远短于常规全定制芯片项目，但依然包含设计生成、验证、掩模、晶圆制造、封装、测试和板卡部署，无法与下载一个新检查点相提并论。
这种区分十分重要。若把它当成普通只读存储器，便会低估计算与存储融合带来的密度和能效潜力；若把它描述成无需存储、无需数据移动，也会夸大。动态激活、KV cache、跨芯片通信、主机输入输出仍需移动。它主要砍掉的是固定权重在外部 HBM与计算阵列之间高频往返的成本，并使固定数据流获得更紧凑的物理实现。
Taalas 用什么换取速度与成本
Taalas 2026 年 2 月公开 HC1 时，给出的数字很醒目：Llama 3.1 8B 单用户输出速度可达每秒 1.7 万 token，接近其所选对比基线的十倍，制造成本低二十倍，功耗低十倍。HC1 采用台积电 N6 工艺，裸片面积约 815 平方毫米，晶体管数量约 530 亿；报道给出的单卡功耗约 200 瓦。公司还强调系统无需 HBM、先进封装、高速芯片间 I/O或液冷。
这些结果应带着限定条件阅读。首先，性能测试主要由 Taalas 自行完成，尚缺少覆盖更多模型、序列长度、并发模式、准确率和持续负载的独立验证。其次，HC1 使用自定义 3 位基础数据格式，并混合 3 位和 6 位参数。Taalas 自己承认，激进量化导致其 Silicon Llama 相比 GPU 基准存在一定质量下降；计划中的 HC2 将采用标准 4 位浮点格式以改善质量。每秒 token 数若脱离输出质量、输入长度、批量、并发数和功耗口径，比较价值有限。
不过，技术交换关系依旧成立。GPU 为未来未知模型保留指令、调度、缓存层级、可编程核心和广泛的数据类型；Taalas 把大量面积押在已知模型上。固定权重无需装入 HBM，执行次序可以贴合计算图，通用控制开销减少，芯片无需为很少使用的路径保留同等资源。模型专用化越深，单位面积能够提供的有效推理能力越高，系统也有机会摆脱昂贵的 HBM 供应和复杂封装。
这与常规 ASIC 仍有程度差异。TPU、Inferentia、许多 NPU 也针对张量运算做了专用化，但一般保留跨模型的可编程能力，权重仍可加载和替换。Taalas 继续把专用化推进到具体权重与数据流，使“一种芯片服务一类模型”进一步靠近“一版硅服务一个基础模型”。它换来的效率上限更高，承担的库存、预测和版本风险也更大。
AMD 为什么强调“与 Instinct GPU 一起”
AMD 公告没有说 Taalas 技术将取代 Instinct。相反，公告两次强调系统级组合。这一点符合 AI 工作负载的现实分工。
训练、后训练、模型研究和快速迭代需要强可编程性。新架构、新算子、新精度格式及稀疏策略可能数周内变化，GPU 适合承接这种不确定性。推理服务内部也有大量非固定环节：提示词处理、长上下文预填充、检索、重排、工具调用、视觉或语音编码、推测解码、路由、LoRA 管理，以及尚未为专用芯片固化的新模型。Instinct GPU 可以覆盖这些环节，也能在专用芯片尚未量产、负载出现突发或模型回滚时提供容量。
Taalas 类设备则适合承担高频、稳定、规模足够大的核心路径。例如，一个基础模型已经完成训练与安全评估，未来一年会处理海量解码请求，服务方能够预测调用量和生命周期，专用芯片节省的电力、HBM、机架空间与延迟便可能覆盖额外流片成本。系统可以由 GPU 处理灵活部分，由硬连线加速器运行固定模型主体，再由 EPYC CPU 负责主机、网络和服务编排。ROCm 与 Helios 的价值，在于尽量把不同计算资源包装成可部署、可监控的整体。
还有一种可能的分工涉及生命周期。新模型上线初期先运行在 GPU 上，收集需求、稳定权重并完成量化验证；当调用量达到经济阈值，再把成熟版本转成专用硅；后续小范围定制由 LoRA 或可配置模块承接，大版本升级则进入下一批芯片。旧芯片仍可继续服务对兼容性敏感的客户，类似云服务保留多个 API 模型版本。这种组合让 AMD 同时持有通用平台和极端专用化工具，而无需押注所有推理都会走同一条硬件路线。
两个月交付依然意味着模型版本要提前下注
Taalas 最具商业吸引力的主张之一，是把模型到硬件的周期压缩到约两个月。传统 ASIC 往往需要多年，设计、验证和物理实现成本很高；若只改动少数金属层，并用自动化流程把模型映射到预先设计的平台，非经常性工程费用和周转时间都有望下降。
可两个月仍比软件部署慢很多。模型团队必须在流片前冻结权重、量化方案、算子定义和关键数据流。期间若发现安全缺陷、许可证变化、训练数据争议或能力短板，已经投片的库存无法靠远程更新基础权重解决。即便硬件支持 LoRA，也只能调整有限的低秩增量，难以承载基础模型架构更换、参数规模大增或注意力机制大改。
半导体供应链还会放大预测误差。晶圆需要预订，良率影响实际出货，封装和板卡也有交期。若客户在芯片到货前转向更新模型，专用库存的剩余价值会下降；若需求突然超过预期，扩产速度也受制造周期约束。GPU 的优势恰在这里：同一批设备可以改跑别的模型，并通过软件升级延长用途。
所以，Taalas 的经济门槛不能只看掩模费用。决策者需要比较完整的生命周期账目：预期 token 总量、平均利用率、电价、制冷、机架空间、HBM与网络成本、量化导致的质量损失、备份 GPU 容量、模型过时概率、库存残值以及迁移成本。只有累计推理规模足够大、负载足够稳定，专用硅节省的每 token 成本才有机会摊薄前期投入和版本风险。
报道援引 Taalas 的说法称，训练一个模型的成本可能是定制 HC 芯片的百倍，在合理出货量下，硬件定制费用相对可控。这个比较对超大模型开发商具有吸引力，却不能自动推广到所有企业。多数公司没有自有基础模型，也没有几十万片级别的需求。它们更可能通过云服务使用共享的专用芯片，由模型所有者或大型云厂商承担流片与库存风险。
最适合它的，是“大规模且稳定”，两项缺一不可
适合深度硬连线的模型通常具备几项特征。第一，权重和架构已经稳定，版本支持周期以季度或年度计算。第二，调用量巨大且持续，设备能够长期高利用率运行。第三，客户重视低延迟、低功耗或单位 token 成本，愿意接受模型选择受限。第四，模型可以在低精度下维持足够质量，动态部分能够由 SRAM、适配器或外围 GPU 处理。第五，部署方能控制模型许可证和供应链，避免芯片量产后失去合法使用权。
消费级热门模型、搜索与广告排序、固定语音模型、机器翻译、代码补全，以及拥有长期 API 版本的大型语言模型，都可能出现符合条件的工作负载。边缘设备也有潜力，但边缘市场对面积、成本、待机功耗、安全更新和本地多任务能力有不同要求，未必能直接采用数据中心级大裸片方案。
不适合的边界同样鲜明。研究阶段模型、频繁换权重的智能体平台、小众企业微调、多模型混合路由、快速演进的多模态架构，以及法规要求随时删除或更新知识的场景，会更依赖可编程硬件。对于调用量较小的模型，哪怕专用芯片单次推理很便宜，低利用率和流片开销也可能让总成本高于租用 GPU。
超大模型还面临跨芯片问题。Taalas 表示 HC2 单芯片可提升至约 200 亿参数，万亿参数模型需要数十颗芯片，并计划以流水线并行连接多卡。权重外部搬运减少后，层间激活和 KV cache 的通信仍然存在；模型越大、上下文越长，互连、同步、故障恢复和负载均衡越重要。PCIe 是否长期足够，要看并发、上下文、模型结构及卡间切分方式，不能只依据 8B 模型的演示推断。
专用化还会改变运维与安全方式。GPU 服务发现模型缺陷后，可以替换检查点、修改内核或切回旧版本；固定权重芯片需要依靠外围过滤、适配层、服务路由和备用计算资源止损，基础模型层面的修复可能要等下一批硅片。因此，部署方需要保存可编程后备容量，并让请求能够在专用卡与 GPU 之间迁移。若某个硬件版本只对应一个模型，监控系统也要同时追踪芯片批次、模型版本、量化配置和 API 行为，避免同名服务在不同机架给出质量差异明显的结果。
另一方面，硬连线权重也带来值得研究的安全属性。攻击者无法像改写显存文件那样直接替换基础参数，模型版本可通过硬件批次获得更强的可追溯性；但物理固化不会自动解决提示注入、越权工具调用、数据泄露和模型本身的有害行为。权重是否会通过侧信道或芯片分析泄露，也需要独立评估。对模型所有者而言，把商业机密交给芯片设计与晶圆供应链，还涉及访问控制、掩模数据保护、报废芯片处理及合同责任。
标准化也是潜在瓶颈。若每个基础模型都对应专属板卡，云平台要管理更多库存单位、驱动版本和容量池。AMD 若能提供统一的软件接口，让应用按服务等级请求低延迟、低成本或高灵活性，再由调度器选择 Instinct 或 Taalas 路径，客户才有机会忽略底层差异。缺少这一层，专用芯片的硬件效率可能被部署复杂度抵消。收购后的软件整合与服务抽象，重要性不会低于单颗芯片的 token 速度。
收购之后，关键考题在系统与量产
AMD 获得的价值大致有三层。第一层是 Taalas 的模型映射、存算融合与掩模定制技术。第二层是已经做出 HC1 的芯片团队，其中多位成员有 AMD、Tenstorrent、Nvidia、Google 和 Apple 背景。第三层是产品组合选择权：AMD 可以在 Instinct 的广泛可编程能力之外，为少数超大规模推理客户提供更深的定制化。
接下来要看的并非发布更多峰值数字，而是工程闭环。Taalas 能否在标准 4 位格式下保持质量和优势；HC2 能否稳定扩展到更大模型；自动化映射是否覆盖不同 Transformer 变体和多模态算子；量产良率、板卡价格、交付速度是否符合承诺；ROCm 和 Helios 能否把 GPU 与专用芯片调度成易用的平台；客户是否愿意提前冻结模型并承诺足够采购量。这些问题决定该技术会成为少数旗舰项目，还是 AMD 推理产品线中的常规选项。
这桩收购也提示了 AI 芯片竞争的新维度。峰值 FLOPS 仍重要，权重放在哪里、每个 token 需要搬多少字节、系统为通用性支付多少面积与能耗，同样会决定推理经济性。GPU 会继续承担快速变化和复杂组合，模型专用硅则在稳定的大流量区间追求更低的边际成本。二者并存，很可能比单一路线覆盖全部需求更符合现实。
Taalas 把这条路线推得很远：让固定模型的权重与数据流深入物理实现，牺牲即时换模能力，换取更短的数据路径、更高密度和更简单的系统。AMD 的选择显示，主流加速器厂商已开始认真评估这种交换。它的上限取决于电路创新，商业边界则由模型寿命、调用规模和制造周期共同划定。对于每天运行数万亿 token 的稳定模型，这可能是一笔划算的硬件下注；对于仍在快速变化的模型世界，GPU 依旧是不可缺少的安全垫。
来源
- AMD，AMD Acquires Taalas to Advance Compute Solutions for Rapidly Growing AI Inference Market，2026-08-06：https://ir.amd.com/news-events/press-releases/detail/1296/amd-acquires-taalas-to-advance-compute-solutions-for-rapidly-growing-ai-inference-market
- Taalas，The path to ubiquitous AI，2026-02：https://taalas.com/the-path-to-ubiquitous-ai/
- The Next Platform，Taalas Etches AI Models Onto Transistors To Rocket Boost Inference，2026-02-19：https://www.nextplatform.com/compute/2026/02/19/taalas-etches-ai-models-onto-transistors-to-rocket-boost-inference/4092140
- Reuters，AMD deepens AI inference bet with Taalas deal as chip race heats up，2026-08-06：https://www.reuters.com/business/amd-deepens-ai-inference-bet-with-taalas-deal-chip-race-heats-up-2026-08-06/
- CNBC，AMD buys Taalas, startup that hardwires AI models into its silicon，2026-08-06：https://www.cnbc.com/2026/08/06/amd-buys-taalas-startup-that-hardwires-ai-models-into-its-silicon.html