Cargas de IA que puede correr
- Asistente interno con RAG sobre un repositorio acotado de documentos
- Búsqueda semántica y generación de embeddings
- Clasificación, extracción y resumen de documentos en lote
- Transcripción y OCR no urgentes
Referencia P86708-DM5
Primer paso para IA privada en una oficina, sucursal o laboratorio.
IA privada en este servidor
Equipo compacto para validar casos de uso con datos reales sin sacarlos de la empresa. Ejecuta modelos pequeños sobre CPU y atiende a un grupo reducido de usuarios.
Modelos cuantizados de hasta ~3B parámetros (familias abiertas como Llama, Qwen o Phi), con motores de inferencia en CPU como llama.cpp u Ollama.
1 a 5 usuarios, consultas de uno en uno.
Sin GPU y con una sola CPU de 4 núcleos y memoria limitada: no es una plataforma para modelos grandes ni alta concurrencia.
Equipo cerrado, pensado para pruebas de concepto y puntos de borde. Para producción, escalar a ML110 o servidores rack.
Capacidades orientativas para inferencia sobre CPU con modelos abiertos cuantizados; no constituyen una garantía de rendimiento. Todo se ejecuta en tu infraestructura, sin dependencia cloud y sin enviar tus datos a terceros.
Plataforma ProLiant MicroServer
Comparamos la configuración que suministramos con los máximos de la plataforma según HPE. Cualquier ampliación se valida con HPE iQuote antes de cotizar.
Datos de plataforma tomados de la documentación pública de HPE; pueden variar por revisión. IskayTech es un proveedor independiente y no está afiliado oficialmente a HPE.
Resumen y, debajo, el detalle componente por componente de la configuración de fábrica.
Descripción de fábricaTorre Ultra micro
Relevancia para IA. En inferencia sobre CPU, la cantidad de núcleos, la frecuencia y las instrucciones vectoriales del procesador marcan la velocidad de generación y cuántas consultas se atienden a la vez.
Descripción de fábricaIntel Xeon 6325P Quad-Core (3.50GHz 12MB) FIO CPU for HPE
Relevancia para IA. Un modelo cuantizado debe caber en memoria junto con su contexto y la base vectorial. La capacidad y la velocidad de la RAM definen qué tamaño de modelo puedes cargar y cuán rápido responde.
Descripción de fábrica16GB (1 x 16GB) 4800MHz UDIMM
Relevancia para IA. Aquí viven los pesos de los modelos, el corpus de documentos y los índices vectoriales. Discos más rápidos acortan la carga de modelos y las búsquedas semánticas.
Descripción de fábrica(4LFF) 2 x HPE 1TB 6G 7.2k rpm SATA (3.5in) Non-Hot Plug Standard 1yr Warranty Hard Drive
Descripción de fábricaIntel VROC SATA Software RAID
Relevancia para IA. La red conecta a los usuarios y a las aplicaciones con el servicio de IA dentro de tu red interna. Más ancho de banda ayuda al mover documentos entre nodos.
Descripción de fábricaEmbedded Ethernet 4-port 1Gb Adapter
Descripción de fábricaHPE MicroServer 180W External Power Adapter
Descripción de fábricaGarantía 1yr Next Business Day Warranty
Cuéntanos qué documentos quieres proteger y cuántas personas usarán la IA. Confirmamos la configuración, con o sin aceleración, y nos encargamos del suministro, el despliegue y el soporte.