Referencia P81829-DM5
Asistente privado para un área o una sede, con modelos de uso general.
IA privada en este servidor
Servidor de 8 a 16 núcleos con memoria suficiente para cargar un modelo de 7–8B cuantizado junto a una base vectorial. Adecuado para dar servicio de IA a un departamento sin depender de la nube.
Modelos cuantizados de ~7B a 8B (por ejemplo Llama 3.1 8B, Qwen 7B/8B, Mistral 7B) y modelos de embeddings y reranking.
5 a 20 usuarios con respuestas en lectura cómoda; más usuarios se atienden en cola.
La inferencia en CPU entrega menos tokens por segundo que una GPU. Para modelos más grandes o mucha concurrencia, conviene escalar a un servidor con aceleración.
Memoria DDR5-6400 de buen ancho de banda, relevante para inferencia en CPU. Controladora RAID de hardware.
Capacidades orientativas para inferencia sobre CPU con modelos abiertos cuantizados; no constituyen una garantía de rendimiento. Todo se ejecuta en tu infraestructura, sin dependencia cloud y sin enviar tus datos a terceros.
Plataforma ProLiant DL325
Comparamos la configuración que suministramos con los máximos de la plataforma según HPE. Cualquier ampliación se valida con HPE iQuote antes de cotizar.
Datos de plataforma tomados de la documentación pública de HPE; pueden variar por revisión. IskayTech es un proveedor independiente y no está afiliado oficialmente a HPE.
Resumen y, debajo, el detalle componente por componente de la configuración de fábrica.
Descripción de fábricaRack (1U)
Relevancia para IA. En inferencia sobre CPU, la cantidad de núcleos, la frecuencia y las instrucciones vectoriales del procesador marcan la velocidad de generación y cuántas consultas se atienden a la vez.
Descripción de fábricaAMD EPYC 9015 3.6GHz 8-Core 125W Processor for HPE
Relevancia para IA. Un modelo cuantizado debe caber en memoria junto con su contexto y la base vectorial. La capacidad y la velocidad de la RAM definen qué tamaño de modelo puedes cargar y cuán rápido responde.
Descripción de fábrica32GB (1 x 32GB) 6400MHz RDIMM
Relevancia para IA. Aquí viven los pesos de los modelos, el corpus de documentos y los índices vectoriales. Discos más rápidos acortan la carga de modelos y las búsquedas semánticas.
Descripción de fábrica2 x HPE 4TB 6G 7.2K rpm HPL SATA LFF (3.5in) Low Profile MDL 1yr Warranty Digitally Signed Firmware HDD
Descripción de fábricaHot Plug 3.5in Large Form Factor Low Profile
Descripción de fábricaHPE MR408i-o Gen11 SPDM Storage Controller
Relevancia para IA. La red conecta a los usuarios y a las aplicaciones con el servicio de IA dentro de tu red interna. Más ancho de banda ayuda al mover documentos entre nodos.
Descripción de fábricaHPE Ethernet 1Gb 4-port BASE-T BCM5719 OCP3 Adapter
Descripción de fábricaHPE 800W Flex Slot Platinum Hot Plug Low Halogen Power Supply Kit
Descripción de fábricaGarantía 3 Year Next Business Day Warranty
Cuéntanos qué documentos quieres proteger y cuántas personas usarán la IA. Confirmamos la configuración, con o sin aceleración, y nos encargamos del suministro, el despliegue y el soporte.
