Cargas de IA que acelera
- LLM de gran tamaño servidos a decenas o cientos de usuarios
- Contextos largos y muchos usuarios concurrentes
- Ajuste fino de modelos grandes con datos privados
- Multi-GPU con NVLink dentro del mismo servidor
Centro de datosServidor de centro de datosConsultar disponibilidad
NVIDIA H200 NVL
PCIe Gen5 · doble ranura · NVLink
141 GB de memoria HBM3e para los modelos más grandes en servidores PCIe.
- memoria
- 141 GB HBM3e
- ancho de banda
- 4.8 TB/s
IA privada con esta tarjeta
Qué aporta a tu servidor y qué puede correr
La H200 NVL lleva 141 GB de memoria HBM3e y 4.8 TB/s de ancho de banda a un formato PCIe, con puentes NVLink de 900 GB/s entre tarjetas. Es la opción cuando el modelo, el contexto o el número de usuarios superan lo que ofrecen las tarjetas profesionales con memoria GDDR.
Modelos que caben
Modelos cuantizados de hasta ~200B parámetros en una tarjeta; varias tarjetas con NVLink amplían la capacidad.
Qué necesita tu servidor
Servidor de centro de datos con capacidad de alimentación y refrigeración de hasta 600 W por tarjeta y PCIe Gen5.
Tamaños de modelo estimados por IskayTech para inferencia con cuantización de 4 bits y contexto moderado; no son cifras oficiales ni garantías de rendimiento. Todo se ejecuta en tu infraestructura, sin dependencia cloud.
Ficha técnica
Especificaciones según la documentación pública de NVIDIA. La edición exacta y los accesorios (cables, soportes, refrigeración) se confirman contigo antes de cotizar.
- Memoria
- 141 GB HBM3e · 4.8 TB/s
- Potencia máxima
- Hasta 600 W
- Interfaz
- PCIe Gen5, doble ranura
- Interconexión
- Puentes NVLink de 900 GB/s por GPU
Datos tomados de la documentación pública de NVIDIA y de fichas de socios; pueden variar por edición y configuración. IskayTech es un proveedor independiente y no está afiliado oficialmente a NVIDIA.
Validamos que encaje en tu servidor
Indícanos el modelo de servidor y el caso de uso. Confirmamos espacio, alimentación y refrigeración, y nos encargamos del suministro y el despliegue.