Intel lanza Gaudi 3 para disputar a Nvidia el mercado de la IA

Intel ha presentado este martes Gaudi 3, una nueva generación de aceleradores —chips especializados en cálculos de inteligencia artificial— con la que quiere abrir una alternativa real a Nvidia en los centros de datos. La compañía asegura que su plataforma puede entrenar modelos grandes con más rapidez que la H100 y rebajar de forma sustancial el coste de desplegarlos.

El anuncio llega en un momento en que la H100 de Nvidia se ha convertido en una pieza escasa y cara para empresas, laboratorios y proveedores de servicios en la nube. No se trata solo de quién tiene el chip más potente: la disponibilidad, el consumo eléctrico y el precio de los sistemas completos se han convertido en factores decisivos para llevar la IA generativa a producción.

Más memoria y red integrada para modelos grandes

Gaudi 3 sucede a Gaudi 2 y está pensado para dos tareas distintas. La primera es el entrenamiento, el proceso de ajustar un modelo con enormes colecciones de datos. La segunda es la inferencia, es decir, usar ese modelo ya entrenado para responder preguntas, generar texto o resumir documentos.

Intel ha equipado el chip con 128 GB de memoria HBM2e de alta velocidad y conexiones Ethernet integradas de 200 gigabits por segundo. Esa integración es una de las particularidades de la familia Gaudi: en vez de depender de una red propietaria para conectar muchos aceleradores, Intel apuesta por Ethernet, el estándar que ya domina los centros de datos.

La idea tiene una consecuencia práctica: construir servidores y grupos de servidores para IA podría requerir menos componentes especializados. Eso no elimina la complejidad de desplegar miles de chips, pero puede facilitar que fabricantes y clientes usen equipos de red que ya conocen.

Intel promete ventajas frente a la H100

Las cifras difundidas por Intel se apoyan en pruebas con Llama 2, la familia de modelos de lenguaje publicada por Meta. En una configuración de 64 aceleradores, la compañía afirma que Gaudi 3 puede entrenar Llama 2 de 70.000 millones de parámetros hasta un 40% más rápido que Nvidia H100.

En inferencia, Intel sitúa la ventaja entre 1,5 y 2 veces frente a la H100, según el tamaño del modelo y la configuración analizada. Estos resultados deben leerse con cautela: las comparativas de fabricantes se realizan con modelos, precisión numérica, software y número de usuarios simultáneos concretos. Un buen resultado en Llama 2 no garantiza la misma diferencia en todos los modelos ni en todas las cargas de trabajo de una empresa.

La baza más agresiva es el precio. Intel estima que un sistema con ocho aceleradores Gaudi 3 costará alrededor de 125.000 dólares, frente a unos 300.000 dólares para una configuración comparable con ocho H100. Es una estimación de la propia compañía y el coste final dependerá del fabricante del servidor, la red, el almacenamiento y los contratos de soporte, pero ilustra la estrategia: competir donde Nvidia ha dejado un margen amplio por la fuerte demanda.

El reto no es solo fabricar chips

Gaudi 3 estará disponible para fabricantes de equipos durante el segundo trimestre de 2024. Dell, Hewlett Packard Enterprise, Lenovo y Supermicro figuran entre los socios que preparan servidores con el nuevo acelerador.

Intel necesita, sin embargo, resolver un problema que no se mide solo en teraflops. Nvidia ha construido durante años un ecosistema de software alrededor de CUDA, su plataforma de programación para GPU. Muchas herramientas, bibliotecas y equipos de ingeniería ya están diseñados para ese entorno. Cambiar de proveedor exige adaptar flujos de trabajo, validar modelos y formar personal.

Intel ofrece su pila de software SynapseAI y ha trabajado para que Gaudi sea compatible con marcos habituales como PyTorch. Pero la adopción dependerá de que las promesas de coste y rendimiento se mantengan fuera de los laboratorios de la compañía y con los modelos que usan los clientes.

Para el mercado, Gaudi 3 es relevante incluso antes de demostrar una victoria técnica absoluta. La industria necesita más oferta de aceleradores para reducir los cuellos de botella de la IA generativa. Si Intel logra entregar equipos a escala y mantener su ventaja de precio, dará a empresas y proveedores cloud una capacidad de negociación que hoy apenas tienen frente a Nvidia.