- NVIDIA A100：基于Ampere架构，拥有6912个CUDA核心，配备40GB或80GB的HBM2E高带宽存储器。其浮点计算能力达到19.5TFLOPS（FP32）和156TFLOPS（TensorFloat - 32），在BERT模型的训练上性能相比V100提升6倍，推断时性能提升7倍。适用于大规模的人工智能训练和推理、科学计算、数据分析等任务。
- NVIDIA H100：采用Hopper架构，拥有18432个CUDA核心，配备高速的HBM3显存，80GB内存，内存带宽为3.35TB/s。可将大型语言模型的速度提高30倍，配备第四代Tensor Core和Transformer Engine，在大规模Transformer模型训练效率上比Ampere架构提升显著。专为大规模AI和高性能计算（HPC）设计，适用于大规模AI训练和推理、科学计算和模拟、数据中心和云计算等领域。
- NVIDIA H200：基于NVIDIA Hopper架构，是H100的升级产品，拥有141GB HBM3e内存和4.8TB/秒的带宽。在大模型Llama 2、GPT - 3.5的输出速度上分别是H100的1.9倍和1.6倍，在高性能计算HPC方面的速度达到了双核x86 CPU的110倍。针对于超大规模的大模型训练和推理，可增强生成式AI和高性能计算（HPC）工作负载。
- NVIDIA A800：性能稍低于A100。拥有10752个CUDA核心，内存带宽是1935GB/s。最大功耗300瓦，加速各种工作负载，例如人工智能培训、人工智能推理、高性能计算等。
 
此外，NVIDIA L40S在AI训练方面也有出色表现，搭载4片L40S的系统性能是搭载8片A100系统的1.7倍。