En una era dominada por modelos de base y conjuntos de datos masivos, los desarrolladores e investigadores se enfrentan cada vez más a cuellos de botella en el acceso a la computación. Si bien la nube proporciona escalabilidad, las preocupaciones en torno a la privacidad, la latencia y el costo han llevado a muchos constructores a buscar alternativas locales de alto rendimiento. La firma de capital de riesgo A16z ha revelado ahora su estación de trabajo de IA personalizada, diseñada para ofrecer un rendimiento de grado empresarial directamente en las instalaciones, impulsada por las últimas GPU Blackwell de NVIDIA.
Ancho de banda completo para cargas de trabajo de IA exigentes
En el núcleo del sistema hay cuatro GPU NVIDIA RTX 6000 Pro Blackwell Max-Q, cada una equipada con 96GB de VRAM para un total combinado de 384GB. A diferencia de las estaciones de trabajo multi-GPU típicas que dividen el ancho de banda entre las tarjetas, cada GPU aquí se conecta a través de su propio carril PCIe 5.0 x16 dedicado. Este diseño proporciona un ancho de banda completo de GPU a CPU, asegurando que el entrenamiento e inferencia del modelo se realicen sin cuellos de botella.
El sistema está emparejado con el Ryzen Threadripper PRO 7975WX de AMD, una CPU de 32 núcleos y 64 hilos optimizada para cargas de trabajo paralelas pesadas. Juntos, la CPU y las GPU crean un entorno equilibrado para entrenar grandes modelos de lenguaje, afinar sistemas especializados y ejecutar aplicaciones de IA multimodal.
Almacenamiento y memoria construidos para escalar
Para mantenerse al día con el rendimiento de la GPU, la estación de trabajo de A16z incluye cuatro SSD NVMe PCIe 5.0 de 2TB, que ofrecen casi 60GB/s de ancho de banda agregado en RAID 0. La máquina también viene con 256GB de memoria ECC DDR5, escalable hasta 2TB a través de ocho canales.
Esta combinación no solo acelera el procesamiento de grandes conjuntos de datos, sino que también integra NVIDIA GPUDirect Storage, permitiendo que los datos fluyan directamente desde los SSD a la memoria de la GPU. Al eludir la memoria de la CPU, este diseño reduce drásticamente la latencia para las cargas de trabajo que dependen del movimiento rápido de datos.
Eficiencia Energética y Movilidad
A pesar de su potencia bruta, la estación de trabajo es sorprendentemente consciente del consumo de energía. Consume un máximo de 1650W y puede funcionar desde un tomacorriente estándar de 15 amperios. Un sistema de refrigeración líquida estabiliza la CPU durante sesiones de entrenamiento prolongadas, mientras que la carcasa incluye ruedas integradas, lo que hace que la unidad sea transportable entre laboratorios y oficinas.
Desbloqueando el potencial local de IA
La estación de trabajo A16z se posiciona como una herramienta flexible tanto para investigadores como para startups. Permite a los equipos entrenar, ajustar y desplegar modelos localmente sin entregar datos sensibles a la nube. Más allá de los grandes modelos de lenguaje, la máquina admite IA multimodal, permitiendo cargas de trabajo simultáneas en datos de texto, video e imagen.
Al combinar la potencia de GPU de clase empresarial, un amplio ancho de banda de almacenamiento y un diseño práctico, la estación de trabajo de IA de A16z ofrece una visión convincente de la infraestructura de computación local en un momento en que la demanda de recursos de IA nunca ha sido tan alta.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
A16z presenta una estación de trabajo de IA impulsada por GPU NVIDIA Blackwell
En una era dominada por modelos de base y conjuntos de datos masivos, los desarrolladores e investigadores se enfrentan cada vez más a cuellos de botella en el acceso a la computación. Si bien la nube proporciona escalabilidad, las preocupaciones en torno a la privacidad, la latencia y el costo han llevado a muchos constructores a buscar alternativas locales de alto rendimiento. La firma de capital de riesgo A16z ha revelado ahora su estación de trabajo de IA personalizada, diseñada para ofrecer un rendimiento de grado empresarial directamente en las instalaciones, impulsada por las últimas GPU Blackwell de NVIDIA.
Ancho de banda completo para cargas de trabajo de IA exigentes
En el núcleo del sistema hay cuatro GPU NVIDIA RTX 6000 Pro Blackwell Max-Q, cada una equipada con 96GB de VRAM para un total combinado de 384GB. A diferencia de las estaciones de trabajo multi-GPU típicas que dividen el ancho de banda entre las tarjetas, cada GPU aquí se conecta a través de su propio carril PCIe 5.0 x16 dedicado. Este diseño proporciona un ancho de banda completo de GPU a CPU, asegurando que el entrenamiento e inferencia del modelo se realicen sin cuellos de botella.
El sistema está emparejado con el Ryzen Threadripper PRO 7975WX de AMD, una CPU de 32 núcleos y 64 hilos optimizada para cargas de trabajo paralelas pesadas. Juntos, la CPU y las GPU crean un entorno equilibrado para entrenar grandes modelos de lenguaje, afinar sistemas especializados y ejecutar aplicaciones de IA multimodal.
Almacenamiento y memoria construidos para escalar
Para mantenerse al día con el rendimiento de la GPU, la estación de trabajo de A16z incluye cuatro SSD NVMe PCIe 5.0 de 2TB, que ofrecen casi 60GB/s de ancho de banda agregado en RAID 0. La máquina también viene con 256GB de memoria ECC DDR5, escalable hasta 2TB a través de ocho canales.
Esta combinación no solo acelera el procesamiento de grandes conjuntos de datos, sino que también integra NVIDIA GPUDirect Storage, permitiendo que los datos fluyan directamente desde los SSD a la memoria de la GPU. Al eludir la memoria de la CPU, este diseño reduce drásticamente la latencia para las cargas de trabajo que dependen del movimiento rápido de datos.
Eficiencia Energética y Movilidad
A pesar de su potencia bruta, la estación de trabajo es sorprendentemente consciente del consumo de energía. Consume un máximo de 1650W y puede funcionar desde un tomacorriente estándar de 15 amperios. Un sistema de refrigeración líquida estabiliza la CPU durante sesiones de entrenamiento prolongadas, mientras que la carcasa incluye ruedas integradas, lo que hace que la unidad sea transportable entre laboratorios y oficinas.
Desbloqueando el potencial local de IA
La estación de trabajo A16z se posiciona como una herramienta flexible tanto para investigadores como para startups. Permite a los equipos entrenar, ajustar y desplegar modelos localmente sin entregar datos sensibles a la nube. Más allá de los grandes modelos de lenguaje, la máquina admite IA multimodal, permitiendo cargas de trabajo simultáneas en datos de texto, video e imagen.
Al combinar la potencia de GPU de clase empresarial, un amplio ancho de banda de almacenamiento y un diseño práctico, la estación de trabajo de IA de A16z ofrece una visión convincente de la infraestructura de computación local en un momento en que la demanda de recursos de IA nunca ha sido tan alta.