关键要点: AMD Ryzen AI Halo迷你PC以1500美元本地运行1200亿参数模型,比Nvidia DGX Spark便宜3000美元。
关键要点: AMD Ryzen AI Halo迷你PC以1500美元本地运行1200亿参数模型,比Nvidia DGX Spark便宜3000美元。

AMD Ryzen AI Halo工作站以1500美元的起售价,可在本地以每秒34个token的速度处理1200亿参数模型,向Nvidia在本地AI推理硬件领域的主导地位发起挑战。
"本地推理是AI部署下一波浪潮的所在地,而内存容量是关键制约因素,"一位AMD发言人在产品发布会上表示。"统一内存架构让开发者能够运行那些原本需要昂贵的云端GPU租赁才能运行的模型。"
该系统搭载16核Ryzen AI Max+ 395处理器,配备128GB统一LPDDR5X内存,无需云连接即可支持最高1200亿参数的模型。在1200亿参数模型上达到每秒34个token的表现,虽然比Nvidia DGX Spark的吞吐量低13%,但价格便宜了3000美元——DGX Spark起售价约为4500美元。AMD芯片采用传统的x64架构,而非Nvidia基于Arm的Grace CPU,其每GB内存成本为25.77美元,低于苹果M3 Ultra的每GB 41.66美元。
Strix Halo让AMD有望在本地AI推理市场分得一杯羹,这可能减少企业对Nvidia和亚马逊云科技(AWS)云端GPU服务的依赖。AMD股价今年迄今已上涨18%,远期市盈率为28倍,公司正从传统的CPU和GPU业务拓展至专用AI工作站领域。
硬件性能对比
Ryzen AI Halo(代号Strix Halo)并非为游戏设计,而是用于本地运行大语言模型——这一工作流程通常需要云端GPU集群。AMD的统一内存架构消除了限制Nvidia GPU的显存瓶颈,后者受制于独立内存池。对于需要多个模型顺序运行的密集型AI流水线,该系统能够将128GB参数保留在内存中而无需分页到速度更慢的存储设备,相比传统GPU配置具有实际优势。
内存带宽仍是一个限制因素。虽然AMD标称理论带宽为256 GB/s,但实际吞吐量仅为122 GB/s,而苹果M3 Ultra为819 GB/s。这一差距在文档分析等长上下文任务中尤为明显,Nvidia DGX Spark的预填充速度比AMD快五倍。AMD未披露其每秒token数声明的测试条件。
软件仍是短板
AMD支持其硬件AI工作负载的ROCm软件栈仍处于预览阶段,且缺乏Windows兼容性。相比之下,Nvidia的CUDA环境已深度嵌入AI开发工作流程,大多数开源模型和框架都优先为其优化。AMD正依赖Vulkan作为临时解决方案,但软件差距将Strix Halo的目标市场限制在愿意使用尚不成熟工具链的Linux开发者群体。
Ryzen AI Max+ 395芯片采用台积电(TSMC)4纳米和5纳米制程制造,与生产Nvidia H100和AMD自家Instinct MI300系列芯片的为同一家代工厂。该迷你PC由AMD的OEM合作伙伴组装,初期将通过美国Micro Center销售。AMD尚未披露生产量,也未说明该芯片是否面临单一来源封装限制。
未来规划
AMD计划于2026年第三季度发布下一代Gorgon Halo芯片,配备192GB统一内存,支持最高3000亿参数的模型。这将使前沿模型——目前需要多GPU服务器配置——的本地推理成为可能。Nvidia和高通也预计将在同一时间窗口推出竞争产品,本地AI硬件市场的争夺将更加激烈。
AMD进军本地AI工作站领域,为其核心CPU和GPU业务之外开辟了新的收入来源,但短期财务影响可能有限。1500美元的起售价瞄准的是AI开发者和研究人员——这是一个小众但快速增长的市场。如果AMD能够缩小软件差距并兑现Gorgon Halo 192GB内存的承诺,它有望在企业AI推理市场占据可观份额。IDC预测该市场到2028年将达到520亿美元。就目前而言,Nvidia的CUDA护城河和内存带宽优势仍让这位市场领先者稳居领先地位。
本文仅供参考,不构成投资建议。