AI graphics cards
The NVIDIA A100 Tensor Core GPU delivers unprecedented acceleration at every scale for AI, data analytics, and HPC to tackle the world’s toughest computing challenges. As the engine of the NVIDIA data center platform, A100 can efficiently scale up to thousands of GPUs or, using new Multi-Instance GPU (MIG) technology, can be partitioned into seven isolated GPU instances to accelerate workloads of all sizes. A100’s third-generation Tensor Core technology now accelerates more levels of precision for diverse workloads, speeding time to insight as well as time to market. Scope of delivery: • NVIDIA A100 • 8-pin male (graphics card) to 2x 8-pin female (power supply)
Der NVIDIA L40S liefert eine noch nie dagewesene visuelle Rechenleistung für das Rechenzentrum und bietet Grafik-, Rechen- und KI-Funktionen der nächsten Generation für GPU-beschleunigte Anwendungen. Basierend auf der Ada Lovelace GPU-Architektur verfügt der L40S über RT Cores der dritten Generation, die die Echtzeit-Raytracing-Fähigkeiten verbessern, und Tensor Cores der vierten Generation mit Unterstützung für das FP8-Datenformat, die eine Inferenzleistung von über einem Petaflop liefern. Diese neuen Funktionen werden mit CUDA Cores der neuesten Generation und 48 GB Grafikspeicher kombiniert, um Visual Computing-Workloads von hochleistungsfähigen virtuellen Workstation-Instanzen bis hin zu großen digitalen Zwillingen in NVIDIA Omniverse zu beschleunigen. Scope of delivery: • NVIDIA L40S
Der NVIDIA L40 liefert eine noch nie dagewesene visuelle Rechenleistung für das Rechenzentrum und bietet Grafik-, Rechen- und KI-Funktionen der nächsten Generation für GPU-beschleunigte Anwendungen. Basierend auf der Ada Lovelace GPU-Architektur verfügt der L40 über RT Cores der dritten Generation, die die Echtzeit-Raytracing-Fähigkeiten verbessern, und Tensor Cores der vierten Generation mit Unterstützung für das FP8-Datenformat, die eine Inferenzleistung von über einem Petaflop liefern. Diese neuen Funktionen werden mit CUDA Cores der neuesten Generation und 48 GB Grafikspeicher kombiniert, um Visual Computing-Workloads von hochleistungsfähigen virtuellen Workstation-Instanzen bis hin zu großen digitalen Zwillingen in NVIDIA Omniverse zu beschleunigen. Scope of delivery: • NVIDIA L40
The NVIDIA A10 Tensor Core GPU delivers a versatile platform for mainstream enterprise workloads, like AI inference, training, and HPC. With TF32 and FP64 Tensor Core support, as well as an end-to-end software and hardware solution stack, A10 ensures that mainstream AI training and HPC applications can be rapidly addressed. Multi-instance GPU (MIG) ensures quality of service (QoS) with secure, hardware-partitioned, right-sized GPUs across all of these workloads for diverse users, optimally utilizing GPU compute resources. Scope of delivery: • NVIDIA A10
GPU name: AD104 Architecture: Ada Lovelace Memory size: 24 GB Memory type: GDDR6 with ECC Memory bus: 192 bit Memory bandwidth: 300 GB/s FP32 (Float) Power: 31.3 TFLOPS Shader units: 7.680 Third generation Tensor cores: 40 Supported APIs: OpenCL / DirectCompute / OpenACC / CUDA Power consumption: 40-60 Watt Thermal solution: Passive
The NVIDIA A2 Tensor Core GPU provides entry-level inference with low power, a small footprint, and high performance for NVIDIA AI at the edge. Featuring a low-profile PCIe Gen4 card and a low 40-60 watt (W) configurable thermal design power (TDP) capability, the A2 brings adaptable inference acceleration to any server. Scope of delivery: • NVIDIA A2 • Low-Profile (SFF) Bracket mounted • Additional Full-Height (ATX) Bracket