IA en producción16GRack 2UConsultar disponibilidad

Dell PowerEdge R7625

Familia PowerEdge R7625 · configuración a medida

Base de servicios de IA internos para varias áreas, con margen de crecimiento.

  • Hasta 6 TB de memoria
  • Hasta 8 ranuras PCIe Gen5
  • Hasta 2 GPU de doble ancho

IA privada en este servidor

Qué hace por tu IA y qué puede correr

Plataforma de uno o dos procesadores con 24 a 32 ranuras de memoria DDR5. Permite concentrar modelos, base vectorial y servicios de integración, y crecer en memoria y almacenamiento a medida que se suman usuarios y documentos.

Cargas de IA que puede correr

  • Asistente corporativo con RAG sobre grandes repositorios documentales
  • LLM de tamaño medio para análisis de documentos, redacción y extracción estructurada
  • Varios servicios de IA en contenedores o máquinas virtuales, con control de acceso y trazabilidad
  • Ingesta, indexación y servicios de embeddings para otras aplicaciones

Modelos recomendados

Modelos cuantizados de ~7B a 30B según la memoria instalada; con aceleradores de ancho simple se amplía a modelos mayores.

Usuarios simultáneos

10 a 50 usuarios según el modelo y el largo de las consultas.

Límites a considerar

Sin aceleración, la inferencia en CPU entrega menos tokens por segundo que con GPU. Se dimensiona con un diagnóstico antes de comprometer tiempos de respuesta.

Crecimiento

Plataforma AMD EPYC 9004 de doble procesador en 2U, con 12 canales de memoria por procesador y almacenamiento NVMe Gen5.

Capacidades orientativas con modelos abiertos cuantizados; no constituyen una garantía de rendimiento. Todo se ejecuta en tu infraestructura, sin dependencia cloud y sin enviar tus datos a terceros.

Ficha técnica de la plataforma

Capacidades de la familia PowerEdge R7625 según la documentación pública de Dell. La configuración exacta que suministramos (procesador, memoria, discos, red, fuentes y GPU) se define y valida contigo antes de cotizar.

Procesadores
1 o 2 × AMD EPYC 9004
Memoria
24 ranuras DDR5 RDIMM con ECC · hasta 6 TB · hasta 4800 MT/s
Expansión
Hasta 8 ranuras PCIe Gen5
Almacenamiento
Hasta 32 × EDSFF E3.S NVMe Gen5 según configuración
Aceleración
Hasta 2 GPU de doble ancho de longitud completa
Formato
Rack 2U

Datos tomados de la documentación pública de Dell; pueden variar por revisión y por configuración. IskayTech es un proveedor independiente y no está afiliado oficialmente a Dell.

Lo dimensionamos para tu caso de uso

Cuéntanos qué documentos quieres proteger y cuántas personas usarán la IA. Definimos la configuración, con o sin GPU, y nos encargamos del suministro, el despliegue y el soporte.

Hablar con un especialista