A16z lanza una estación de trabajo de IA con GPUs NVIDIA Blackwell, máxima potencia local
En la era de los modelos base y conjuntos de datos en rápido crecimiento, los desarrolladores e investigadores enfrentan barreras significativas en torno a los recursos informáticos. Aunque la nube ofrece escalabilidad, muchos creadores ahora buscan alternativas locales que ofrezcan velocidad, privacidad y flexibilidad. La nueva estación de trabajo de A16z está diseñada para satisfacer esas necesidades, ofreciendo una opción potente en las instalaciones que aprovecha las últimas GPUs Blackwell de NVIDIA.
En resumen
- Cuatro GPUs RTX 6000 Pro ofrecen ancho de banda completo PCIe 5.0 para grandes cargas de trabajo de IA.
- SSDs NVMe ultra rápidos y 256GB de RAM aseguran transferencia de datos y entrenamiento de modelos sin interrupciones.
- Diseño energético eficiente con movilidad que permite investigación IA local sin dependencia de la nube.
Maximizando el ancho de banda de GPU y CPU
Para satisfacer esta demanda, A16z ha revelado su estación de trabajo de IA construida a medida con cuatro GPUs NVIDIA RTX 6000 Pro Blackwell Max-Q. Esta potencia combina hardware de grado empresarial con la practicidad de un escritorio, creando un centro de cómputo personal para entrenar y ejecutar cargas de trabajo de IA a gran escala sin depender de servidores externos.
En el corazón del sistema A16z están cuatro GPUs RTX 6000 Pro Blackwell Max-Q. Cada una posee 96GB de VRAM, con un total de 384GB de VRAM. A diferencia de configuraciones multi-GPU típicas que usan carriles compartidos, cada tarjeta de esta estación de trabajo tiene una interfaz PCIe 5.0 x16 dedicada.
En consecuencia, los desarrolladores obtienen ancho de banda completo de GPU a CPU sin cuellos de botella. Además de la potencia bruta de GPU de A16z, la configuración gira en torno al Ryzen Threadripper PRO 7975WX. En cuanto al entrenamiento o ajuste fino de modelos, los 64 hilos y 32 núcleos del CPU maximizan las cargas de trabajo.
Almacenamiento y memoria para datos a gran escala
La investigación en IA requiere acceso rápido a datos, y esta construcción aborda esa necesidad directamente. La estación de trabajo A16z cuenta con cuatro SSDs PCIe 5.0 NVMe de 2TB, capaces de alcanzar casi 60GB/s de rendimiento agregado bajo RAID 0.
Además, el sistema está equipado con 256GB de ECC DDR5, 8 canales de RAM con escalabilidad hasta 2TB. Esta combinación de almacenamiento ultra rápido y gran cantidad de memoria asegura que los grandes conjuntos de datos puedan transferirse fácilmente entre las unidades y la VRAM de la GPU. Soporta NVIDIA GPUDirect Store, donde los datos pueden escribirse directamente en la memoria GPU, evitando la memoria CPU, lo que reduce la latencia por un orden de magnitud.
Eficiencia y aplicaciones prácticas
A pesar de su increíble rendimiento, la estación de trabajo es sorprendentemente eficiente en energía. Tiene un consumo máximo de 1650W y funciona con un enchufe normal de 15 amperios.
El sistema también incluye refrigeración líquida para CPU, lo que ofrece estabilidad durante entrenamientos prolongados. Además, el gabinete tiene un diseño móvil que incluye ruedas para facilitar su transporte.
La estación de trabajo está diseñada para una amplia gama de aplicaciones. Los investigadores pueden entrenar y ajustar finamente grandes modelos de lenguaje. Las startups pueden implementar sistemas privados de inferencia sin entregar datos sensibles a la nube. Además, cargas de trabajo multimodales a través de video, imagen y texto pueden ejecutarse simultáneamente sin compromisos.
¡Maximiza tu experiencia en Cointribune con nuestro programa "Read to Earn"! Por cada artículo que leas, gana puntos y accede a recompensas exclusivas. Regístrate ahora y comienza a acumular beneficios.
Peter is a skilled finance and crypto journalist who simplifies complex topics through clear writing, thorough research, and sharp industry insight, delivering reader-friendly content for today’s fast-moving digital world.
Las ideas y opiniones expresadas en este artículo pertenecen al autor y no deben tomarse como consejo de inversión. Haz tu propia investigación antes de tomar cualquier decisión de inversión.