ALNETS
AW-A80
Todos los Modelos Serie AW
Entrenamiento de IA de Alta Densidad

AW-A80

Entrenamiento de IA de Alta Densidad

El AW-A80 es un servidor de IA de doble propósito optimizado tanto para entrenamiento como para inferencia. Con 4 GPU y 512 GB de RAM, maneja el entrenamiento distribuido de modelos de mediana escala y al mismo tiempo atiende cargas de trabajo de inferencia. El almacenamiento NVMe de 8 TB proporciona un amplio espacio para grandes conjuntos de datos de entrenamiento y puntos de control de modelos. La refrigeración líquida mantiene las temperaturas estables durante los entrenamientos intensivos que pueden durar días o semanas.

Especificaciones Técnicas

Configuración detallada de hardware de AW-A80

GPU
4× NVIDIA V100/A100
Memoria RAM
512GB DDR4
Almacenamiento
8TB NVMe SSD
Fuente de Poder
3000W
Refrigeración
Liquid Cooled
Formato
4U Rack

Pruebas de Rendimiento

Datos de rendimiento real de nuestro laboratorio

3,800 tok/s
Inferencia LLM (7B)
28 img/s
Generación de imágenes (SDXL)
2× V64
Rendimiento del entrenamiento
8TB NVMe
Almacenamiento de conjuntos de datos

Características Clave

Por qué elegir AW-A80

GPU cuádruples NVIDIA V100/A100 para entrenamiento + inferencia

512 GB de RAM DDR4 ECC: suficiente para el entrenamiento de modelos grandes

SSD NVMe de 8 TB para conjuntos de datos de entrenamiento y puntos de control

Entrenamiento e inferencia simultáneos en particiones de GPU separadas

Refrigeración líquida para cargas de entrenamiento sostenidas 7×24

ALWork con programador de entrenamiento y seguimiento de experimentos

Ideal Para

Equipos que necesitan un único servidor tanto para el ajuste fino del modelo como para la inferencia de producción, laboratorios de investigación y organizaciones con requisitos de capacitación moderados.

Preguntas Frecuentes

Preguntas frecuentes sobre AW-A80

¿Puedo entrenar e inferir simultáneamente?

Sí. ALWork permite la partición de GPU: dedique 2 GPU al entrenamiento y 2 GPU a la inferencia, o reasigne dinámicamente según la prioridad de la carga de trabajo. La refrigeración líquida garantiza la estabilidad térmica independientemente de la combinación de cargas de trabajo.

¿Cuál es el tamaño máximo del modelo para realizar ajustes?

Con 4 GPU V100 de 32 GB (128 GB de VRAM total) y 512 GB de RAM del sistema, el AW-A80 puede ajustar modelos con hasta 13 B de parámetros usando QLoRA, o hasta 7 B con ajuste fino completo usando paralelismo de datos.

¿Listo para desplegar AW-A80?

Obtenga una cotización personalizada según sus requerimientos de carga.

Solicitar Cotización