A100 NVIDIA 超微NV服务器

描述

产品描述

A100 NVIDIA Supermicro NV服务器是一款功能强大的服务器，专为高性能计算和数据密集型应用而设计。它配备了最新的A100 GPU，为人工智能、机器学习和科学计算工作负载提供了卓越的性能和效率。

特征

用于加速计算的A100 GPU架构

用于大规模数据处理的高内存带宽和容量

先进的冷却系统可优化性能和可靠性

灵活的配置选项可满足不同的工作负载要求

NVIDIA A100 Tensor Core GPU可针对AI、数据分析和HPC应用场景，在不同规模下实现出色的加速，有效助力更高性能的弹性数据中心。A100采用NVIDIA Ampere架构，是NVIDIA数据中心平台的引擎。A100的性能比上一代产品提升高达20倍，并可划分为七个GPU实例，以根据变化的需求进行动态调整。A100提供40GB和80GB显存两种版本，A100 80GB将GPU显存增加了一倍，并提供超快速的显存带宽（每秒超过2万亿字节[TB/s]），可处理超大型模型和数据集。

NVIDIA A100 Tensor Core借助Tensor浮点运算(TF32)精度，可提供比NVIDIA Volta高20倍之多的性能，并且无需更改代码；若使用自动混合精度和FP16，性能可进一步提升2倍。与NVIDIA®NVLink®、NVIDIA NVSwitch™、PCIe 4.0、NVIDIA®InfiniBand®和NVIDIA Magnum IO™SDK结合使用时，它能扩展到数千个A100 GPU。

2048个A100 GPU可在一分钟内成规模地处理BERT之类的训练工作负载，这是非常快速的解决问题速度。

对于具有庞大数据表的超大型模型（例如深度学习推荐模型[DLRM]），A100 80GB可为每个节点提供高达1.3TB的统一显存，而且吞吐量比A100 40GB多高达3倍。

NVIDIA A100采用双精度Tensor Core，实现了自GPU推出以来高性能计算性能的巨大飞跃。结合80GB的超快GPU显存，研究人员可以在A100上将10小时双精度仿真缩短到4小时以内。HPC应用还可以利用TF32将单精度、密集矩阵乘法运算的吞吐量提高高达10倍。

对于具有超大数据集的高性能计算应用，显存容量增加的A100 80GB可在运行材料仿真Quantum Espresso时将吞吐量提升高达2倍。极大的显存容量和超快速的显存带宽使A100 80GB非常适合用作新一代工作负载的平台。

搭载A100的加速服务器可以提供必要的计算能力，并能利用大容量显存、超过2 TB/s的显存带宽以及通过NVIDIA®NVLink®和NVSwitch™实现的可扩展性，处理这些工作负载。通过结合InfiniBand、NVIDIA Magnum IO™和RAPIDS™开源库套件（包括用于执行GPU加速的数据分析的RAPIDS Accelerator for Apache Spark），NVIDIA数据中心平台能够加速这些大型工作负载，并实现超高的性能和效率水平。

在大数据分析基准测试中，A100 80GB提供的见解吞吐量比A100 40GB高两倍，因此非常适合处理数据集大小急增的新型工作负载。

A100结合MIG技术可以更大限度地提高GPU加速的基础设施的利用率。借助MIG，A100 GPU可划分为多达7个独立实例，让多个用户都能使用GPU加速功能。借助A100 40GB，每个MIG实例可分配多达5GB，而随着A100 80GB显存容量的增加，此大小可翻倍至10GB。

MIG与Kubernetes、容器和基于服务器虚拟化平台的服务器虚拟化配合使用。MIG可让基础设施管理者为每项作业提供大小合适的GPU，同时确保服务质量(QoS)，从而扩大加速计算资源的影响范围，以覆盖每位用户。

应用领域

A100 NVIDIA Supermicro NV服务器非常适合各种应用，包括：深度学习和AI模型训练、高性能计算（HPC）、科学模拟和研究、数据分析和可视化、虚拟化和云计算等。

美国出台了对华半导体出口限制新规，其中就包括了对于高性能计算芯片对中国大陆的出口限制。并且以NVIDIA的A100芯片的性能指标作为限制标准。即同时满足以下两个条件的即为受管制的高性能计算芯片：

（1）芯片的I/O带宽传输速率大于或等于600 Gbyte/s；

（2）“数字处理单元原始计算单元”每次操作的比特长度乘以TOPS计算出的的算力之和大于或等于4800TOPS。这也使得NVIDIA A100/H100系列、AMD MI200/300系列AI芯片无法对华出口。