通过 NVIDIA H800 Tensor Core GPU,在每个工作负载中实现出色性能、可扩展性和安全性。使用 NVIDIA® NVLink® Switch 系统,可连接多达 256 个 H800 来加速百亿亿级 (Exascale) 工作负载,另外可通过专用的 Transformer 引擎来处理万亿参数语言模型。与上一代产品相比,H800 的综合技术创新可以将大型语言模型的速度提高 30 倍
产品参数 | 型号名 NVIDIA H800 80G PCIe GPU显存 80GB HBM2e 显存带宽 2TB/s CUDA核心 14592 硬件接口 PCIe 5.0 x16 光线追踪 否 芯片架构 Hopper NVLINK支持 是,使用桥接器 vGPU支持 是 FP16 Tensor Core 756.5 TFLOPS 多实例GPU(MIG) 最多7个MIG,每个10GB 功耗 300-350w |
通过 NVIDIA H800 Tensor Core GPU,在每个工作负载中实现出色性能、可扩展性和安全性。使用 NVIDIA® NVLink® Switch 系统,可连接多达 256 个 H800 来加速百亿亿级 (Exascale) 工作负载,另外可通过专用的 Transformer 引擎来处理万亿参数语言模型。与上一代产品相比,H800 的综合技术创新可以将大型语言模型的速度提高 30 倍,从而提供业界领先的对话式 AI。