VISION COMPUTERS, INC. PNY RTX H100 NVL - 94GB HBM3-350-400W - Embalaje y accesorios a granel PNY

Lo más importante

Componentes Internos de la marca VISION COMPUTERS, INC

• Marca: VISION COMPUTERS, INC.
• Categoría: Componentes Internos
• Dimensiones: 10.51 x 10.5 x 4.4 pulgadas
• Calificación: 4,2/5
• Valoraciones: 40

Datos técnicos destacados

• Dimensiones reportadas: 10.51 x 10.5 x 4.4 pulgadas (26.7 x 26.7 x 11.2 cm).
• Peso aproximado: 4.0 lb (1.8 kg).
• Calificación promedio de 4,2/5.
• 40 valoraciones visibles.
• Disponible desde mayo de 2024.

Preguntas resueltas

La tarjeta gráfica H100 NVL está diseñada para escalar el soporte de modelos de lenguaje grandes, como GPT3-175B, en sistemas de servidor basados en PCIe de corriente principal, proporcionando hasta 12 veces el rendimiento de rendimiento de los sistemas HGX A100 cuando se configura con 8 unidades. Equipado con funciones avanzadas, que incluyen 94 GB de memoria HBM3 de alta velocidad, conectividad NVLink para una comunicación inter-GPU mejorada y un impresionante ancho de banda de memoria de 3938 GB/seg, el H100 NVL está diseñado para tareas de inferencia de IA de alto rendimiento. La tarjeta muestra un espectro de rendimiento robusto en varios tipos de computación: 68 TFLOPS para FP64, 134 TFLOPS para FP64 Tensor Core y FP32, escalando hasta 7916 TFLOPS/TOPS para operaciones FP8 e INT8 Tensor Core, todo beneficiándose de optimizaciones de dispersión. Permite que los servidores estándar convencionales ofrezcan capacidades de alto rendimiento para la inferencia de IA generativa, simplificando el proceso de implementación para socios y proveedores de soluciones con un rápido tiempo de comercialización y facilidad de escalabilidad. La eficiencia energética de la H100 NVL está optimizada con un consumo máximo configurable que varía entre 2x 350-400 W, lo que permite realizar tareas computacionales extensas sin un uso excesivo de energía.