当前位置: 首页 - 产品中心 - TG8A9V3 10U16卡AI-服务器

TG8A9V3 10U16卡AI-服务器

TG8A9V3 是一款专为大模型推理打造的高密AI服务器,基于AMD 9004/9005处理器平台,兼容国内外各主流加速卡,基于创新的 PCIe Fabric 全互联架构,具备超高算力、极致互联、超强扩展等特性,适用于中小规模训练、分布式推理、PD 分离等加速计算场景。

创新架构 卓越性能
2 颗AMD EPYC™ 9004/9005 系列处理器,TDP 500W,充分发挥 GPU 算力;
16 张 600W 高性能 GPU,提供高效异构算力;
基于 PCIe 的 Fabric 16 卡全互联架构,提供极致卡间互联效率;
超强扩展  灵动配置
支持多达30个PCIe 5.0插槽,极致扩展性
支持多达8个400G GDR NIC,满足大规模集群推理需求;
支持全互联、环形互联等多种GPU拓扑,满足多场景需求;
支持多达16个2.5”SSD,满足大容量和高性能的本地存储需求;
稳定可靠 智能管理
抽屉式可插拔模块化设计,免下架快速维护
GPU&NIC 前置设计,散热更优、维护更便捷
集成智能管理芯片,提供开放的管理平台,支持 IPMI2 .0、Redfish、SNMP 等多种管理协议;
支持 KVM、虚拟媒介、关键部件状态监控、异常报警等各种管理功能,具备全面的远程系统级智能管理能力。

功能
                                                                            规格参数
产品形态
标准 10U 机架式
CPU
2 颗AMD EPYC™ 9004/9005 系列处理器,TDP 500W
内存
24 个 DDR5 内存插槽,1DPC,最高速率 6400MT/s
GPU
16 张双宽 GPU,TDP 600W
PCIe 扩展

支持最多 30 个 PCIe 5.0 插槽

2 个 GPU Tray,每个Tray 支持 8 张双宽 GPU、最多 4 张 GDR NIC

1 个 CPU Tray,支持最多 5 个标准插槽、1 个 OCP 3.0 NIC

网络

支持最多 8 个400G GDR NIC

可选支持 1 张 DPU,支持 S5 供电

可选 1 个 OCP 3.0 NIC,可选 PCIe 5.0 x8/x16,支持 NCSI

支持 1 个 1Gbps RJ45 BMC 专用管理口

RAID 卡
可选支持 12Gb/s SAS HBA 或 RAID 卡
本地存储

配置 1:8 个 2.5" NVMe/SAS/SATA SSD

配置 2:16 个 2.5 硬盘,8 个 U.2 NVMe+8 个 SAS/SATA SSD

1 个板载 M.2,(PCIe 3.0 x4 ,2280&22110)

I/O 端口

前置:2 个 USB 3.0,1 个VGA 接口,1 个 RJ45 管理口,1 个串口

风扇

20 个 8080 风扇,支持 N+1 冗余,支持热插拔

电源

支持 10 个 CRPS 电源模块,支持热插拔,支持 N+N 或 N+1 冗余

配置 1:10 个单输入电源,3200W,钛金级

配置 2:10 个双输入电源,3200W,钛金级

管理功能

集成 BMC 管理芯片AST2600,支持 IPMI2 .0、Redfish、SOL、KVM、虚拟媒介等功能

提供 1 个 1Gbps RJ45 专用管理口

安全功能

可选TPM 安全模块,支持机箱开盖入侵检测、加锁机箱上盖板(免工具)

支持 BMC 双flash 冗余设计

机箱尺寸
宽448mmx 高441 .5mm x 深900mm
上架套件
支持 L 型托架
环境参数

工作温度:5ºC - 35ºC

工作湿度:10%to 90%

操作系统支持
支持 Microsoft Windows Server、Red Hat Enterprise Linux、CentOS、Ubuntu 等主流操作系统