一、NVIDIA A2 基本特性
通用入门级推理
NVIDIA A2 Tensor Core GPU 具有低功耗、小尺寸和高性能的特点，可为 NVIDIA 边缘 AI 提供入门级推理功能。A2 采用半高 PCIe 4.0设计和 40-60 瓦低热设计功耗（TDP）配置功能，为各种服务器带来自适应推理加速。
A2 的通用性、小尺寸和低功耗可轻松满足对大规模边缘部署的需求，能立即将现有的入门级 CPU 服务器升级到能处理推理的水平。使用A2 GPU 加速的服务器提供比使用 CPU 更高的推理性能，智能视频分析（IVA）部署效率比使用前几代 GPU 更高，而且这都基于入门级价格。
搭载 A2 GPU 和 NVIDIA AI 的 NVIDIA-Certified Systems （NVIDIA认证系统），包括 NVIDIA Triton? 推理服务器，可跨边缘、数据中心和云提供突破性的推理性能。这些系统确保支持 AI 的应用能够以更少的服务器和更低的功耗完成部署，从而在显著降低成本的情况下更轻松地部署和更快地获取见解。
推理性能提升高达 20 倍
部署 AI 推理技术的目的是通过实时体验使消费者的生活变得更便利，并支持其从数万亿个端点传感器和摄像头获得认知。与 CPU 服务器相比，搭载 NVIDIA A2 Tensor Core GPU 的服务器可提供高达 20 倍的推理性能，能立即将服务器升级到能处理现代 AI 的水平。
在智能边缘实现更高的 IVA 性能
在智慧城市、制造和零售等智能边缘用例中，搭载 A2 的服务器最高可将性能提升 1.3 倍。与前几代 GPU 相比，运行 IVA 工作负载的 NVIDIA A2 GPU 最高可将性价比和能效分别提升1.6 倍和 10%，从而改善部署效率。
二、NVIDIA A2 创新特性
二、NVIDIA A2 创新特性
NVIDIA A2 带来突破性的 NVIDIA Ampere 架构创新
第三代 TENSOR CORE NVIDIA A2 中的第三代 Tensor Core 支持下至 INT4 的整数运算和上至 FP32 的浮点运算，可提供强大的 AI 训练和推理性能。NVIDIA Ampere 架构还支持 TF32 和 NVIDIA 的自动混合精度（AMP）功能。
信任根安全性 在边缘部署和端点中提供安全性对于企业业务运营至关重要。 NVIDIA A2 通过受信任的代码身份验证和强化的回滚保护实现安全启动，以防止恶意软件攻击。
第二代 RT CORE NVIDIA A2 包含用于光线追踪的专用 RT Core，能够迅速实现新锐技术。其吞吐量高达上一代产品的 2 倍，还能在进行着色或降噪的同时运行光线追踪。
硬件转码性能 视频应用的指数级增长需要实时可扩展性能，而这就需要最新的硬件编码和解码功能。A2 GPU 使用专用硬件全面加速热门编解码器的视频解码和编码，包括 H.265、H.264、VP9 和 AV1 解码。
完整的推理产品组合
NVIDIA 提供完整的 NVIDIA 认证系统产品组合，搭载 Ampere Tensor Core GPU这一助力 NVIDIA AI 的推理引擎。A2 Tensor Core GPU 为已经包括 A100 和 A30Tensor Core GPU 的 NVIDIA AI 产品组合增加了低版外形规格的入门级推理产品。A100 可实现各种规模的超高推理性能，A30 则为主流服务器提供更佳推理性能。NVIDIA A2、NVIDIA A30 和 NVIDIA A100 Tensor Core GPU 在边缘、数据中心和云中提供领先的推理性能。
适用于企业的优化软件和服务
NVIDIA AI Enterprise NVIDIA AI Enterprise 是一套端到端云原生 AI 和数据分析软件，经认证可在基于服务器虚拟化平台的虚拟基础设施（带有 VMware vSphere）中的 A2 上运行。这使得在混合云环境中管理和扩展 AI 和推理工作负载成为可能。
三、系统规格
三、系统规格
FP32 峰值性能
4.5 TF
4.5 TF
TF32 Tensor Core
9 TF | 18 TF
9 TF | 18 TF
BFLOAT16 Tensor Core
18 TF | 36 TF
18 TF | 36 TF
FP16 Tensor Core 峰值性能
18 TF | 36 TF1
18 TF | 36 TF1
INT8 Tensor Core 峰值性能
36 TOPS | 72 TOPS1
36 TOPS | 72 TOPS1
INT4 Tensor Core 峰值性能
72 TOPS | 144 TOPS1
72 TOPS | 144 TOPS1
RT Core 数量
10 个
10 个
媒体引擎
1 个视频编码器
1 个视频编码器
2 个视频解码器（包括 AV1 解码）
GPU 显存
16GB GDDR6
16GB GDDR6
GPU 显存带宽
200GB/s
200GB/s
互连
PCIe 4.0 x8
PCIe 4.0 x8
外形规格
单插槽，半高 PCIe
单插槽，半高 PCIe
最大热设计功耗（TDP）
40-60W（可配置）
vGPU 软件支持
NVIDIA 虚拟 PC （vPC）、NVIDIA 虚拟应用（vApp）、NVIDIA RTX 虚拟工作站（vWS）、NVIDIA AI Enterprise、NVIDIA 虚拟计算服务器（vCS）
NVIDIA 虚拟 PC （vPC）、NVIDIA 虚拟应用（vApp）、NVIDIA RTX 虚拟工作站（vWS）、NVIDIA AI Enterprise、NVIDIA 虚拟计算服务器（vCS）
