详情介绍
KG 4208-V4 70B标准推理一体机
灵活扩展
支持12块3.5英寸/2.5英寸 SAS/SATA/NVMe 热插拔硬盘,满足DeepSeek-70B模型训练集、行业知识库等非结构化数据的长期存储需求;
lDDR5和PCIe5.0最xin技术支撑,加快数据传输速率;
lGPU-CPU直连,带来多卡GPU优异算力。
KG4208-V4是基于第四代或第五代英特尔®至强®可扩展处理器的Intel人工智能AI服务器,具有强大计算能力和超高弹性扩展能力;
支持SATA/SAS/NVMe三模硬盘配置,满足高速传输与数据存储需求;支持CPU-GPU直连、CPU-GPUswitch拓扑,支持8张24GB显存4090显卡,适合部署DeepSeek基础款,支持参数量为70B模型;
智能管理
基于人性化设计理念,可实现免工具维护;
通过部分结构件增强优化,实现快速拆装,大大缩短运维时间;
IPMI远程管理,在远程可对系统进行实时监控和包含开关机在内的实时操作,确保系统管理人员及时对系统进行维护;
实现真冗余架构,包含风扇,电源,存储。
产品特点
KG 4208-V4 70B标准推理一体机强劲性能
支持1或2颗第四代或第五代英特尔®至强®可扩展处理器;
最大支持32个DDR5内存插槽,内存频率支持4400/4800/5600MHz,内存带宽提升75%;
可选配4张RTX4090,显存容量最高达96GB,加速模型推理与训练效率。