Google presenta Ironwood, su chip pensado para la era de la inferencia

Google ha presentado Ironwood, la séptima generación de sus TPU (Tensor Processing Unit, el chip que la compañía diseña a medida para cargas de inteligencia artificial en lugar de usar procesadores genéricos). Lo relevante no es solo la potencia que promete, sino el objetivo: es, según anuncia Google en su blog oficial, el primer TPU pensado específicamente para la inferencia, es decir, para hacer funcionar modelos ya entrenados, no para entrenarlos.

Esa distinción importa porque durante años la conversación sobre chips de IA giraba casi exclusivamente en torno al entrenamiento: la fase en la que se construye un modelo a base de devorar datos con enormes granjas de procesadores. Ironwood desplaza el foco hacia la fase siguiente, la de servir esos modelos a millones de usuarios y agentes, un terreno donde Nvidia ha construido buena parte de su dominio del mercado con sus GPU.

El salto de los modelos "que responden" a los que "razonan"

Google enmarca el lanzamiento dentro de lo que llama la "era de la inferencia": el paso de modelos de IA que ofrecen información en tiempo real para que la interprete una persona, a modelos que generan de forma proactiva conclusiones e interpretaciones. En este escenario, explica la compañía, agentes de IA recuperarán y generarán datos de manera proactiva para entregar colaborativamente respuestas, no solo información en bruto.

Ironwood está diseñado para sostener ese salto: modelos de lenguaje grandes, arquitecturas de mezcla de expertos (que dividen el trabajo entre varios subsistemas especializados) y tareas de razonamiento avanzado, todo lo que Google agrupa bajo la etiqueta de "modelos pensantes". Ese tipo de cargas exige procesamiento paralelo masivo y acceso a memoria muy eficiente, y Ironwood se ha construido, según la compañía, para minimizar el movimiento de datos y la latencia dentro del propio chip mientras maneja operaciones matemáticas a gran escala.

Cifras que superan al mayor supercomputador del mundo

Google ofrece Ironwood en dos configuraciones según la carga de trabajo: una de 256 chips y otra que escala hasta 9.216 chips refrigerados por líquido y conectados mediante una red de interconexión entre chips (ICI) de baja latencia y alto ancho de banda, que en su despliegue máximo abarca casi 10 megavatios.

En esa configuración de 9.216 chips, un solo pod alcanza 42,5 exaflops de cómputo, más de 24 veces la potencia de El Capitan, el supercomputador más grande del mundo, que ofrece 1,7 exaflops por pod, según los datos que aporta Google. Cada chip individual llega a un pico de 4.614 teraflops. Son cifras pensadas para entrenar y servir los modelos densos o de mezcla de expertos más exigentes, aquellos con capacidades de razonamiento.

Memoria y ancho de banda, el verdadero cuello de botella

Más allá de la potencia bruta, Google pone el acento en la memoria, que suele ser el factor que realmente limita el rendimiento cuando se sirven modelos grandes. Ironwood incorpora 192 GB de memoria de alto ancho de banda (HBM) por chip, seis veces más que Trillium, su predecesor de sexta generación anunciado el año pasado. El ancho de banda de esa memoria llega a 7,37 terabytes por segundo por chip, 4,5 veces el de Trillium, y la interconexión entre chips se ha ampliado a 1,2 terabytes por segundo bidireccionales, 1,5 veces más que en la generación anterior.

En eficiencia energética, Google asegura que Ironwood ofrece el doble de rendimiento por vatio que Trillium, y casi 30 veces más eficiencia que su primer TPU de 2018. La compañía subraya que su sistema de refrigeración líquida sostiene de forma fiable hasta el doble del rendimiento de la refrigeración por aire convencional incluso bajo cargas de IA continuas y pesadas, algo que cobra sentido en un momento en que la disponibilidad de energía es una de las limitaciones reales para desplegar capacidad de IA.

Ironwood también estrena una versión mejorada de SparseCore, un acelerador especializado en procesar los embeddings (representaciones numéricas de datos) de gran tamaño habituales en sistemas de recomendación y ranking, y que Google dice que ahora puede aplicarse también fuera del terreno tradicional de la IA, en dominios financieros y científicos.

Pathways: coordinar decenas de miles de chips

Para sacar partido a esta escala, Google pone a disposición de los desarrolladores Pathways, su propio entorno de ejecución de aprendizaje automático desarrollado por Google DeepMind, que permite coordinar de forma eficiente el cómputo distribuido entre múltiples chips TPU. Según la compañía, Pathways facilita ir más allá de un solo pod de Ironwood y componer cientos de miles de chips para acelerar el trabajo en la frontera de la IA generativa. Ironwood forma parte, además, de lo que Google llama su arquitectura AI Hypercomputer, que combina hardware y software optimizados conjuntamente para las cargas de IA más exigentes.

Como ejemplo de lo que ya corre sobre TPU, Google menciona que modelos de la familia Gemini 2.5 y AlphaFold, el sistema de predicción de estructuras de proteínas que ganó un Nobel, funcionan hoy sobre esta infraestructura.

Qué implica para el mercado de chips de IA

Durante los últimos años, cualquier empresa que quisiera entrenar o servir modelos de gran tamaño ha dependido en gran medida de las GPU de Nvidia, un cuello de botella que ha disparado su valor de mercado y ha dejado a muchos clientes cloud sujetos a la disponibilidad y el precio de un solo proveedor de hardware. Ironwood es la apuesta más ambiciosa de Google hasta la fecha para ofrecer una alternativa propia y verticalmente integrada, no solo en potencia bruta sino en el terreno específico -la inferencia- donde previsiblemente se concentrará el grueso del gasto en cómputo a medida que los modelos ya entrenados se despliegan a escala masiva en productos y agentes.

Google no ha dado un precio para Ironwood. La compañía indica que estará disponible para sus clientes de Google Cloud más adelante este mismo año, y remite a quienes quieran más información a solicitar detalles directamente a través de Google Cloud.