Nvidia apuesta por DPUs de tercera generación con BlueField-4 y arquitectura ASTRA para confianza cero

Nvidia anunció lunes BlueField-4, cuarta generación de DPU (Unidad de Procesamiento de Datos) diseñado específicamente para orquestar operaciones de infraestructura en gigafactorías computacionales procesando cargas de trabajo de billones de tokens. Chip combina CPU Grace de 64 núcleos basada en Arm Neoverse V2 con ConnectX-9 SuperNIC proporcionando 800 gigabits por segundo de ancho de banda de red, duplicando capacidad de BlueField-3 mientras entrega 6 veces más potencia computacional. Procesador asume responsabilidad de gestionar tareas de redes, almacenamiento distribuido y seguridad de confianza cero que tradicionalmente consumían ciclos de CPU valiosos, permitiendo CPUs anfitrionas enfocar recursos en servir aplicaciones mientras GPUs permanecen dedicadas exclusivamente a generación de tokens e inferencia de modelos sin distracción de sobrecarga de infraestructura.

Arquitectura representa continuación de estrategia Nvidia de crear "tercer pilar" de computación para centros de datos donde DPUs complementan CPUs de propósito general y GPUs especializadas. Donde CPUs manejan lógica de aplicación y GPUs aceleran cálculo paralelo masivo, DPUs se especializan en movimiento de datos entre nodos de cómputo, matrices de almacenamiento y frontends de red externa. Conforme gigafactorías computacionales escalan hacia cientos de miles de GPUs interconectadas, coordinación eficiente de tráfico este-oeste (entre GPUs) y norte-sur (desde almacenamiento hacia cómputo) se vuelve crítica para mantener utilización alta de silicio caro. BlueField-4 será disponible inicialmente como parte de plataformas a escala de rack Vera Rubin en 2026, integrándose con 144 GPUs Rubin y CPU Vera de 88 núcleos para entregar 8 exaflops de rendimiento en rack único con enfriamiento líquido.

Decisión de equipar BlueField-4 con CPU Grace de 64 núcleos representa mejora sustancial desde 16 núcleos Arm Cortex-A78 de BlueField-3. Grace utiliza arquitectura Arm Neoverse V2, misma familia de núcleos usada en CPU Grace Superchip autónomo de Nvidia pero reducida desde configuración típica de 72 núcleos de soluciones de cómputo independientes. Neoverse V2 es implementación Armv9-A con soporte para instrucciones SVE2 (Extensiones Vectoriales Escalables 2), permitiendo operaciones SIMD vectoriales en configuración 4x128-bit particularmente eficiente para cargas de trabajo intensivas en datos como procesamiento de paquetes, compresión y criptografía que DPU típicamente maneja. Chip incluye 128GB memoria LPDDR5 versus 32GB DDR5 de predecesor, cuadruplicando capacidad para almacenar tablas de enrutamiento masivas, cachés de estado de flujo y buffers de inspección de paquetes sin derramarse hacia memoria anfitriona.

ConnectX-9 SuperNIC: 800Gb/s y optimización RoCE para Spectrum-X

Integración de ConnectX-9 SuperNIC en BlueField-4 proporciona 800 gigabits por segundo de ancho de banda de red, típicamente desplegado como configuración dual-port 400GbE o single-port 800GbE dependiendo de topología de centro de datos. ConnectX-9 soporta tanto InfiniBand XDR como Ethernet, pero para gigafactorías computacionales Nvidia promueve plataforma Spectrum-X Ethernet que combina switches Spectrum-X con ConnectX SuperNICs para entregar rendimiento RoCE (RDMA sobre Ethernet Convergente) competitivo con InfiniBand tradicional pero con flexibilidad y economía de costos de Ethernet estándar. RoCE permite GPUs realizar acceso directo a memoria remota sin involucrar CPU anfitriona, crítico para operaciones colectivas como all-reduce donde gradientes deben agregarse a través de miles de workers durante entrenamiento distribuido.

Optimizaciones específicas de ConnectX-9 para RoCE incluyen enrutamiento adaptativo que dinámicamente selecciona rutas óptimas basado en congestión en tiempo real, control de flujo prioritario (PFC) previniendo pérdida de paquetes durante ráfagas transitorias y notificación explícita de congestión (ECN) marcando permitiendo remitentes ajustar tasas de transmisión antes de que buffers desborden. Combinación mantiene rendimiento consistente incluso bajo carga pesada donde múltiples trabajos compiten por ancho de banda, evitando picos de latencia de cola que degradan experiencia de usuario en aplicaciones interactivas como chatbots o motores de búsqueda. Latencia ultralow sub-microsegundo de SuperNIC es particularmente valiosa para ventanas de contexto de billones de tokens donde modelo debe recuperar parámetros desde memoria distribuida constantemente durante generación, con cada microsegundo ahorrado multiplicado a través de miles de millones de accesos.

Interfaz PCIe Gen 6 proporcionando 16 carriles de ancho de banda entre BlueField-4 y servidor anfitrión representa mejora desde Gen 5 de BlueField-3, duplicando ancho de banda teórico de 64GB/s hacia 128GB/s bidireccional. Este throughput alto es necesario porque DPU debe tanto recibir datos desde almacenamiento y red para reenviar hacia CPUs y GPUs anfitrionas como interceptar tráfico saliente desde cómputo para aplicar cifrado, compresión o lógica de enrutamiento antes de transmisión externa. Cuello de botella en enlace PCIe causaría retrasos de cola propagando latencia a través de pila completa, entonces mantener margen es crítico especialmente conforme tasas de datos aumentan hacia terabits por segundo en próximas generaciones de hardware de red.

Microservicios DOCA: encadenamiento de funciones sin modificar anfitrión

Aspecto diferenciador crítico de ecosistema BlueField es DOCA (Arquitectura de Infraestructura de Centro de Datos en un Chip), framework de software permitiendo desarrolladores construir microservicios en contenedores ejecutando nativamente en DPU sin requerir cambios en sistema operativo anfitrión o aplicaciones. Estos microservicios implementan funciones como firewall con estado, balanceo de carga, cifrado IPsec, aceleración de almacenamiento mediante compresión o deduplicación y recolección de telemetría para observabilidad. Mediante técnica llamada "encadenamiento de funciones de servicio", múltiples microservicios pueden conectarse en tubería donde salida de un servicio alimenta entrada del siguiente, permitiendo componer funcionalidad compleja desde bloques de construcción reutilizables.

Por ejemplo, paquete entrando a través de interfaz de red podría primero pasar por microservicio firewall filtrando tráfico malicioso, luego servicio de descifrado desenvolviendo túnel IPsec, luego balanceador de carga distribuyendo conexión hacia servidores backend, todo procesado en DPU antes de alcanzar CPU anfitriona. Esta aproximación descarga operaciones computacionalmente caras desde anfitrión mientras mantiene flexibilidad de infraestructura definida por software que puede reconfigurarse dinámicamente sin cambios de hardware. Contrasta con soluciones tradicionales donde estas funciones requieren dispositivos físicos insertados en ruta de red o agentes de software consumiendo ciclos de CPU anfitriona y complicando despliegue y gestión.

WEKA, proveedor de almacenamiento especializado en sistema de archivos paralelo para cargas de trabajo de computación de alto rendimiento, anunció que su plataforma NeuralMesh correrá directamente en BlueField-4, ejecutando lógica de distribución de almacenamiento, gestión de metadatos y movimiento de datos como microservicios DOCA residentes en DPU. CEO Liran Zvibel describió aproximación como "simplificando fundamentalmente despliegue de infraestructura computacional mientras mejora dramáticamente economía, rendimiento y eficiencia energética" comparado con arquitectura tradicional donde servidores separados manejan capa de almacenamiento. Consolidando funciones en DPU permite reducir conteo de servidores, eliminar saltos de red entre niveles de cómputo y almacenamiento y bajar consumo energético total conforme menos hardware es requerido para misma capacidad efectiva.

Arquitectura de seguridad ASTRA: aislamiento de confianza cero para nubes bare-metal

Postura de seguridad de BlueField-4 está anclada en ASTRA (Arquitectura Avanzada de Recursos de Confianza Seguros), framework proporcionando aislamiento de inquilinos de confianza cero permitiendo proveedores de servicios crear instancias de cómputo bare-metal seguras donde cada carga de trabajo de cliente corre en ambiente físicamente aislado con límites reforzados por hardware. Nubes multi-inquilino tradicionales típicamente usan virtualización donde hipervisor media acceso entre inquilinos, pero hipervisor mismo representa superficie de ataque potencial y añade sobrecarga de rendimiento. ASTRA permite ofertas bare-metal donde clientes obtienen acceso directo a hardware sin impuesto de virtualización, mientras mantienen garantías de seguridad típicamente asociadas con ambientes virtualizados.

Mecanismo opera mediante DPU interceptando todos accesos a memoria, operaciones de entrada y salida y tráfico de red desde cargas de trabajo de inquilinos, aplicando políticas de acceso asegurando ningún inquilino puede leer o escribir memoria perteneciente a otro inquilino o acceder volúmenes de almacenamiento no explícitamente asignados hacia ellos. Aplicación ocurre en nivel de hardware usando capacidades IOMMU (Unidad de Gestión de Memoria de Entrada y Salida) y firmas criptográficas verificando integridad de pilas de software cargadas en ambientes de inquilinos. Aproximación es particularmente relevante para industrias reguladas como finanzas o salud donde requerimientos de cumplimiento demandan aislamiento fuerte de datos pero clientes también demandan rendimiento bare-metal para cargas de trabajo sensibles a latencia como comercio de alta frecuencia o análisis de imágenes diagnósticas en tiempo real.

Soporte de cómputo confidencial embebido en ASTRA permite cargas de trabajo ejecutar en memoria cifrada invisible incluso para operadores de infraestructura, protegiendo datos sensibles durante procesamiento. Esta capacidad utiliza extensiones de seguridad de hardware presentes en CPUs y GPUs modernas como AMD SEV (Virtualización Cifrada Segura) o Intel TDX (Extensiones de Dominio de Confianza), con DPU coordinando gestión de claves y flujos de atestación verificando que carga de trabajo está ejecutando en ambiente genuinamente seguro antes de desellar claves de cifrado. Para cargas de trabajo de computación procesando información personalmente identificable (PII) o conjuntos de datos propietarios, cómputo confidencial permite clientes aprovechar infraestructura cloud compartida sin exponer datos crudos hacia proveedor cloud, abordando barrera mayor de adopción para empresas vacilantes migrando cargas de trabajo sensibles fuera de instalaciones.

Plataforma Vera Rubin: 8 exaflops en rack único para 2026

BlueField-4 será inicialmente disponible como componente integral de plataformas Vera Rubin a escala de rack programadas para segunda mitad de 2026. Configuración Vera Rubin NVL144 combina 144 GPUs Rubin (sucesor de arquitectura Blackwell) con CPUs Vera (procesadores Arm de 88 núcleos sucediendo Grace) y DPUs BlueField-4 en sistema integrado entregando 8 exaflops de rendimiento de cómputo computacional FP4 en rack único con enfriamiento líquido. Aproximación arquitectónica representa continuación de estrategia Nvidia ha perseguido con DGX SuperPOD donde racks pre-integrados con infraestructura de cómputo, redes, almacenamiento y enfriamiento se venden como dispositivos llave en mano minimizando carga de integración de cliente y acelerando líneas de tiempo de despliegue.

Integración incluye fabric de red InfiniBand Quantum-X800 o Ethernet Spectrum-XGS proporcionando conectividad de expansión entre múltiples racks, permitiendo gigafactorías computacionales escalar desde cientos hacia cientos de miles de GPUs en clúster de cómputo único. BlueField-4 desempeña rol crítico gestionando este escalamiento coordinando enrutamiento de paquetes, manteniendo consistencia de estado de memoria distribuida durante comunicaciones colectivas y aplicando políticas de red asegurando cargas de trabajo maliciosas o mal configuradas no pueden interrumpir otros trabajos compartiendo infraestructura. Conforme tamaño de clúster aumenta, complejidad de orquestación crece superlinealmente, entonces tener silicio dedicado manejando tareas de coordinación se vuelve esencial para mantener eficiencia.

Comparación con GB300 NVL72 (plataforma predecesor generación Blackwell) muestra Vera Rubin entregando 3.3 veces más rendimiento de inferencia FP4, 13TB/s de ancho de banda de memoria HBM4 (incremento 60%), 75TB de memoria rápida total (duplicando capacidad) y 2 veces conectividad NVLink más CX9 con tasas hacia 260TB/s y 28.8TB/s respectivamente. Capacidad de memoria masiva es particularmente importante para cargas de trabajo de billones de tokens donde modelo debe acceder miles de millones de parámetros durante generación, con cada token producido requiriendo múltiples recuperaciones de memoria extrayendo pesos desde DRAM. Mayor ancho de banda reduce tiempo esperando datos, aumentando utilización de GPU y bajando costo por token generado. BlueField-4 contribuye mediante precarga inteligente de parámetros probablemente necesitados pronto, comprimiendo datos en vuelo para reducir consumo de ancho de banda y cacheando pesos frecuentemente accedidos en memoria integrada evitando viajes repetitivos hacia RAM anfitriona.

Rol en cargas de billones de tokens: reduciendo bloqueos de CPU y latencia de cola

Para cargas de trabajo de billones de tokens y aplicaciones pesadas en recuperación, descargar movimiento de datos y procesamiento de seguridad desde CPU anfitriona hacia DPU reduce bloqueos de CPU (momentos donde CPU queda inactiva esperando finalización de entrada y salida), baja latencia de cola (retrasos de peor caso afectando experiencia de usuario) y devuelve más tiempo de GPU hacia tareas de generación donde silicio caro realmente añade valor. Itay Ozery, director de mercadotecnia de productos para redes en Nvidia, describió BlueField-4 como "anuncio héroe" de conferencia GTC, posicionando DPU como "procesador para ejecutar sistema operativo de gigafactoría computacional." Metáfora captura bien intención arquitectónica: mientras GPUs son motores generando potencia de cómputo, DPU es plano de control coordinando asignación de recursos, gestionando flujos de tráfico y aplicando políticas gobernando operaciones.

Ventanas de contexto de billones de tokens, cada vez más comunes en modelos de lenguaje grandes avanzados y modelos multimodales procesando video o documentos largos, presentan desafíos únicos porque modelo debe mantener atención a través de secuencias de entrada masivas. Matemáticamente, mecanismo de atención escala cuadráticamente con longitud de secuencia, significando computación requerida crece rápidamente conforme contextos expanden. Además, cada token generado durante fase de salida requiere consultar historia completa de contexto, accediendo miles de millones de parámetros para calcular probabilidades de siguiente token. Esto crea presión sostenida en subsistema de memoria donde gigabytes de datos deben fluir cada segundo entre almacenamiento, memoria y unidades de cómputo. Cualquier retraso en ruta de datos propaga a través de proceso de generación, aumentando tiempo-al-primer-token (métrica de latencia crítica para aplicaciones interactivas) y reduciendo throughput (tokens por segundo alcanzables).

Descarga mediante BlueField-4 funciona porque DPU maneja tareas de fondo asincrónicamente mientras CPU y GPU permanecen enfocadas en computación de paso hacia adelante. Por ejemplo, cuando modelo de lenguaje grande necesita recuperar siguiente lote de caché KV (pares clave-valor almacenando estados de atención previos), DPU puede anticipar solicitud basado en patrones de acceso históricos y precargar datos desde memoria remota sobre red, teniéndolos listos cuando GPU realmente solicita evitando bloqueo esperando viaje redondo de red. Similarmente, cuando tokens generados deben escribirse de vuelta hacia almacenamiento persistente para checkpointing, DPU maneja escritura asincrónicamente aplicando compresión y cifrado en vuelo, liberando ciclos de CPU que de otra manera gastarían serializando estructuras de datos y esperando finalización de entrada y salida de disco.

Competencia con Azure Boost y AWS Nitro: silicio personalizado de hyperscalers

BlueField-4 compite no solo con silicio comercial de AMD e Intel sino también con DPUs personalizados desarrollados por hyperscalers para infraestructuras propias. Microsoft Azure Boost DPU, anunciado 2024, descarga tareas de red como procesamiento de paquetes, aplicación de seguridad y gestión de tráfico desde CPUs hacia hardware dedicado, afirmando beneficios similares de rendimiento mejorado de aplicaciones mediante liberación de recursos anfitriones. Sistema Amazon AWS Nitro, desplegado desde 2013 y continuamente evolucionado, usa silicio personalizado gestionando virtualización, redes y almacenamiento permitiendo AWS ofrecer instancias bare-metal con sobrecarga de virtualización casi cero. Infraestructura TPU de Google similarmente incorpora fabric de interconexión personalizado y silicio de gestión optimizado específicamente para cargas de trabajo TensorFlow.

Ventaja para hyperscalers construyendo silicio personalizado es diseño puede optimizarse exactamente para sus cargas de trabajo específicas, pilas de software y prácticas operacionales sin compromiso inherente en soluciones comerciales apuntando clientes diversos. Desventaja es costos NRE (ingeniería no recurrente) son amortizados solo a través de despliegues de compañía única, mientras Nvidia distribuye gasto de desarrollo a través de base de clientes completa potencialmente ofreciendo mejor precio y rendimiento para operadores más pequeños incapaces costear inversión en silicio personalizado. Además, Nvidia ofrece ecosistema integrado con GPUs, CPUs, redes y pila de software todo co-optimizado, simplificando adquisición y soporte versus ensamblar componentes heterogéneos desde múltiples proveedores.

Para clientes empresariales evaluando opciones de infraestructura, decisión entre Nvidia BlueField-4 versus nube de hyperscaler usando DPUs personalizados involucra trade-off entre control (despliegue en instalaciones con BlueField da más flexibilidad) versus conveniencia (hyperscaler maneja complejidad pero cliente cede control arquitectónico). Empresas con escala suficiente para operar gigafactorías computacionales propias pueden preferir aproximación BlueField obteniendo beneficios de silicio de proveedor sin lock-in de nube. Organizaciones más pequeñas probablemente encuentran ofertas de hyperscaler más accesibles dado menor requerimiento de capital inicial y simplicidad operacional mediante servicios gestionados. Modelos híbridos también emergiendo donde empresas ejecutan cargas de trabajo base en instalaciones pero explotan hacia nube durante picos de demanda, necesitando elecciones de infraestructura soportando portabilidad entre ambientes.