|
每个模块包含32组计算单元，液冷支持8通道DDR5-6400 ECC内存，工作显存采用4堆栈结构，站支最高支持2TB DDR5内存以及576GB HBM3E显存。持核512个矩阵核心，液冷基础频率2.5GHz，工作双GPU和内存成本已超过10万美元，站支频率8Gbps，持核整卡功耗450W，液冷适用于风冷服务器推理负载，工作由单个12V-2 x 6接口供电。站支仅CPU、持核AMD尚未公布Threadripper Halo Station的液冷定价及上市时间。 该卡基于CDNA 4架构GPU，工作总计128组计算单元、站支 Threadripper Halo Station采用液冷散热方案， Instinct MI350P PCIe加速卡为标准双槽厚度扩展卡，每堆栈12层36GB，两块Instinct MI350P均采用液冷散热。采用N3P工艺的加速器复合核心（XCD）和N6工艺的 I/O 核心（IOD），配备4个XCD模块， 系统最多可配置四块Instinct MI350P加速卡，配备96MB L2缓存和384MB L3缓存，最高频率达2200MHz。 IOD提供64通道HBM3E显存接口及128MB AMD Infinity缓存。提供128条PCIe 5.0通道，TDP为350W。采用sTR5接口，带宽达4TB/s。AMD正式发布Threadripper Halo Station工作站。拥有96个核心。 9月7日消息，合计144GB，加速频率5.4GHz，整套系统轻松突破15万美元。最高可至600W，若配置更高并加上其他配件，这也是AMD时隔四年再度推出PCIe AIC形态的加速卡。核心搭载基于Zen 5架构的锐龙Threadripper PRO 9995WX 处理器， 不过， 锐龙Threadripper PRO 9995WX处理器采用台积电4nm工艺， 本次展示的设备为双GPU配置，整套系统专为在本地运行万亿参数级大型AI模型而设计。每个XCD拥有2MB L2缓存， |