Dell Pro Max Nvidia DGX Spark Grace Blackwell 10 GB10 128GB 2TB GJG2K

Descripción

DELL PRO MAX GB10 2 TB – 6144 NÚCLEOS CUDA Y MEMORIA DE 273 GB/s Dell Pro Max GB10 no solo sirve para ejecutar modelos de IA ya preparados, sino también para ajustarlos con datos de la empresa. Lo utilizan departamentos de atención al cliente, empresas de comercio electrónico y de servicios, así como fabricantes con una documentación técnica extensa. Una de sus aplicaciones es el ajuste fino del modelo mediante los métodos LoRA y QLoRA, que solo modifican una pequeña parte de sus parámetros. El modelo, con hasta 70 000 millones de parámetros, aprende la terminología de la empresa, los nombres de los productos y el estilo de respuesta, por lo que ya no es necesario incluir un prompt largo con contexto cada vez. MEMORIA UNIFICADA EN LUGAR DE UN LÍMITE DE VRAM La clave son los 128 GB de memoria unificada, con un ancho de banda de 273 GB/s. El procesador y la GPU comparten la misma memoria, por lo que el modelo no tiene que caber en la memoria limitada de una tarjeta gráfica independiente, como ocurre en una estación de trabajo convencional. Los cálculos los realiza el superchip NVIDIA GB10 Grace Blackwell, cuya GPU con 6144 núcleos CUDA y núcleos Tensor de 5.ª generación alcanza hasta 1 PFLOP en FP4. El ajuste fino se puede realizar localmente, sin pagar cada sesión en función del tiempo de uso de la GPU en una nube externa. ESPACIO PARA DATOS DE ENTRENAMIENTO Y TRANSFERENCIA 10 GbE Para los conjuntos de datos de entrenamiento, los puntos de control y los adaptadores listos para usar, cuenta con una unidad M.2 NVMe PCIe Gen4 de 2 TB. El ordenador ocupa menos espacio que una hoja A5, pesa 1,31 kg y se alimenta mediante un adaptador externo Dell USB-C de 280 W. Los datos del servidor de archivos se transfieren rápidamente al ordenador a través del puerto 10 GbE. NVIDIA DGX OS viene preinstalado e incluye CUDA, compatibilidad con contenedores y el panel DGX Dashboard. Después, el modelo ajustado se puede ejecutar en el mismo ordenador o transferir a un servidor de producción. ...