Cargas de IA que puede correr
- Asistente interno con RAG sobre un repositorio acotado de documentos
- Búsqueda semántica y generación de embeddings
- Clasificación, extracción y resumen de documentos en lote
- Transcripción y OCR no urgentes
Referencia P86721-DM5
Primer paso para IA privada en una oficina, sucursal o laboratorio.
IA privada en este servidor
Equipo compacto para validar casos de uso con datos reales sin sacarlos de la empresa. Ejecuta modelos pequeños sobre CPU y atiende a un grupo reducido de usuarios.
Modelos cuantizados de hasta ~3B parámetros (familias abiertas como Llama, Qwen o Phi), con motores de inferencia en CPU como llama.cpp u Ollama.
1 a 5 usuarios, consultas de uno en uno.
Sin GPU y con una sola CPU de 4 núcleos y memoria limitada: no es una plataforma para modelos grandes ni alta concurrencia.
Rack 1U compacto de entrada para sucursales y salas técnicas pequeñas.
Capacidades orientativas para inferencia sobre CPU con modelos abiertos cuantizados; no constituyen una garantía de rendimiento. Todo se ejecuta en tu infraestructura, sin dependencia cloud y sin enviar tus datos a terceros.
Plataforma ProLiant DL20
Comparamos la configuración que suministramos con los máximos de la plataforma según HPE. Cualquier ampliación se valida con HPE iQuote antes de cotizar.
Datos de plataforma tomados de la documentación pública de HPE; pueden variar por revisión. IskayTech es un proveedor independiente y no está afiliado oficialmente a HPE.
Resumen y, debajo, el detalle componente por componente de la configuración de fábrica.
Descripción de fábricaRACK (1U)
Relevancia para IA. En inferencia sobre CPU, la cantidad de núcleos, la frecuencia y las instrucciones vectoriales del procesador marcan la velocidad de generación y cuántas consultas se atienden a la vez.
Descripción de fábricaIntel Xeon 6325P Quad-Core (3.50GHz 12MB) CPU
Relevancia para IA. Un modelo cuantizado debe caber en memoria junto con su contexto y la base vectorial. La capacidad y la velocidad de la RAM definen qué tamaño de modelo puedes cargar y cuán rápido responde.
Descripción de fábrica32GB (1 x 32GB) 4800MHz UDIMM
Relevancia para IA. Aquí viven los pesos de los modelos, el corpus de documentos y los índices vectoriales. Discos más rápidos acortan la carga de modelos y las búsquedas semánticas.
Descripción de fábrica2 x HPE 480GB SATA 6G Read Intensive SFF (2.5in) Basic Carrier Multi Vendor SSD
Descripción de fábrica(4) Hot Plug 2.5in SFF
Descripción de fábricaIntel VROC SATA Software RAID
Relevancia para IA. La red conecta a los usuarios y a las aplicaciones con el servicio de IA dentro de tu red interna. Más ancho de banda ayuda al mover documentos entre nodos.
Descripción de fábricaEmbedded 1Gb 4-port BCM5719
Descripción de fábricaHPE 500W Flex Slot Platinum Hot Plug Low Halogen Power Supply Kit
Descripción de fábricaGarantía 3 Year Next Business Day Warranty
Cuéntanos qué documentos quieres proteger y cuántas personas usarán la IA. Confirmamos la configuración, con o sin aceleración, y nos encargamos del suministro, el despliegue y el soporte.