AW-V32
Inferencia de IA de Entrada
El AW-V32 es nuestro servidor de inferencia de IA de nivel básico, diseñado para equipos que comienzan con la implementación de IA local. Impulsado por una única GPU NVIDIA V100 o A100, maneja la inferencia LLM de parámetros 7B, la generación de imágenes SDXL y el servicio de modelos livianos. El chasis 2U refrigerado por aire se adapta a bastidores de centros de datos estándar y funciona silenciosamente para implementaciones de oficina. Precargado con Ubuntu y ALWork Model Manager para una configuración de IA sin configuración.
Especificaciones Técnicas
Configuración detallada de hardware de AW-V32
Pruebas de Rendimiento
Datos de rendimiento real de nuestro laboratorio
Características Clave
Por qué elegir AW-V32
GPU NVIDIA V100/A100 única para cargas de trabajo de IA de nivel básico
128 GB de RAM DDR4 ECC para carga e inferencia de modelos
SSD NVMe de 2 TB para almacenamiento y carga de modelos rápidos
Diseño refrigerado por aire: lo suficientemente silencioso para entornos de oficina
Ubuntu precargado + Administrador de modelos ALWork
Gestión remota IPMI 2.0 para funcionamiento sin cabeza
Ideal Para
Nuevas empresas de IA, laboratorios de investigación y equipos pequeños que necesitan un servidor GPU local dedicado para la inferencia de LLM, la generación de imágenes y la creación de prototipos de modelos.
Preguntas Frecuentes
Preguntas frecuentes sobre AW-V32
¿Puede el AW-V32 ejecutar modelos de parámetros 70B?
El AW-V32 con un único V100 de 32 GB puede ejecutar modelos de parámetros 7B-13B con total precisión. Para los modelos 70B, necesitarás cuantificación (4 bits) o la serie multi-GPU AW-A40/A80.
¿Qué software viene preinstalado?
AW-V32 se entrega con Ubuntu 22.04 LTS, controladores NVIDIA, kit de herramientas CUDA y ALWork Model Manager, nuestro kit de herramientas de implementación de modelos de IA para servir modelos con un solo clic.
¿Listo para desplegar AW-V32?
Obtenga una cotización personalizada según sus requerimientos de carga.
Solicitar Cotización