NVIDIA SXM: HGX A100 4-GPU (80GB)
NVIDIA SXM: HGX H100 4-GPU (80GB)
NVIDIA SXM:HGX H100 8-GPU(80GB)、HGX H200 8-GPU(141GB)
3.25 GHz-3.8 GHz 256 MB 280 W
2.75 GHz-3.8 GHz 256 MB 290 W
3.1 GHz-3.75 GHz 256 MB 360 W
3.0 GHz-3.7 GHz 64 MB 200 W
2.9 GHz-4.15 GHz 128 MB 200 W
2.4 GHz-4 GHz 35.75 MB 165 W
2.1 GHz-4 GHz 300 MB 350 W
2 GHz-4 GHz 300 MB 350 W
2.10 GHz-3.80 GHz 105 MB 350 W
80G SXM NVIDIA
单卡最大提供140 TOPS INT8算力,为数据中心推理提供更强大支持;支持8 core * 1.9GHz CPU计算能力
单卡最大提供280 TOPS INT8算力;支持 16 core * 1.9 GHz CPU计算能力;提供 1.86 TOPS/W 超高能效比;支持256路高清视频实时分析
单卡最大提供100 TOPS INT8算力;支持100路1080P 25FPS视频实时分析能力;支持JPEG和视频硬件编解码,提升图片和视频类应用分析性能
支持128路高清视频实时分析;支持JPEG和视频硬件编解码,提升图片和视频类应用性能;设备启动链完整,启动初始状态确定,防止后端植入
MLU370-S4/S8加速卡采用思元370芯片,TSMC 7nm制程,寒武纪新一代人工智能芯片架构MLUarch03加持,支持PCIe Gen4,板卡功耗仅为75W,相较于同尺寸GPU,可提供3倍的解码能力和1.5倍的编码能力。
MLU370-X4加速卡采用思元370芯片,为单槽位150w全尺寸加速卡,可提供高达256TOPS(INT8)推理算力,和24TFLOPS(FP32)训练算力,同时提供丰富的FP16、BF16等多种训练精度,配合全新基础系统软件平台,可充分满足推训一体AI任务需求。
MLU370-X8采用双芯思元370配置,为双槽位250w全尺寸智能加速卡,提供24TFLPOS(FP32)训练算力和256TOPS (INT8)推理算力,同时MLU370-X8搭载MLU-Link多芯互联技术,每张加速卡可获得200GB/s的通讯吞吐性能,是PCIe 4.0带宽的3.1倍,支持单机八卡部署,可高效执行多芯多卡训练和分布式推理任务。
MLU290-M5智能加速卡搭载寒武纪首颗训练芯片思元290,采用台积电7nm先进制程工艺,采用MLUv02扩展架构。具备64个MLU Core,1.23TB/s内存带宽以及全新MLU-Link芯片间互联技术,同时支持单机八卡机内互联,多机多卡机间互联,全面支持AI训练、推理或混合型人工智能计算加速任务。