Google abre Bard y NVIDIA refuerza la infraestructura de IA

Google ha abierto este martes el acceso inicial a Bard, su chatbot conversacional, mediante una lista de espera en Estados Unidos y Reino Unido. El movimiento coloca por fin frente a frente la respuesta de Google a ChatGPT y la ofensiva de Microsoft, pero con una disponibilidad todavía limitada y experimental.

La coincidencia con la conferencia GTC de NVIDIA ilustra la otra cara de esta carrera: no basta con crear un asistente que escriba texto. También hace falta una enorme infraestructura de centros de datos para entrenarlo y atender millones de consultas. NVIDIA ha aprovechado su evento para presentar productos dirigidos precisamente a ese mercado.

Bard sale del laboratorio con una lista de espera

Bard está basado en LaMDA, la familia de modelos de lenguaje de Google diseñada para mantener conversaciones. Un modelo de lenguaje es un sistema entrenado con grandes cantidades de texto para predecir y generar palabras; su aparente capacidad de diálogo procede de ese aprendizaje estadístico, no de una comprensión humana del contenido.

Google había anunciado Bard a comienzos de febrero, cuando ChatGPT ya había convertido los asistentes generativos en un fenómeno de masas. Sin embargo, la compañía mantuvo el producto en pruebas cerradas durante varias semanas. Ahora permite que usuarios mayores de edad con una cuenta de Google se apunten a una lista de espera, de momento sólo en inglés y en los dos países anglosajones.

La empresa presenta Bard como un complemento para explorar ideas, redactar borradores o explicar temas complejos. Su interfaz permite formular preguntas y ver varias respuestas posibles, una decisión que deja claro que Google trata de distinguirlo de un buscador convencional: una búsqueda devuelve enlaces y fuentes; un chatbot compone una contestación nueva a partir de patrones aprendidos.

Esa diferencia también concentra el principal riesgo. Bard, como ChatGPT y otros modelos similares, puede ofrecer una respuesta convincente que sea incorrecta o invente datos. Google advierte de que el sistema puede equivocarse y pide a los usuarios que aporten comentarios. La cautela no es menor: una demostración pública de Bard en febrero incluyó un error factual sobre el telescopio espacial James Webb, un recordatorio de que estos productos no son todavía una fuente fiable por sí mismos.

Google compite en un terreno que Microsoft ya ha llevado al buscador

La apertura llega una semana después del lanzamiento de GPT-4 por parte de OpenAI y tras la integración de tecnología de OpenAI en el nuevo Bing de Microsoft. Google conserva una posición dominante en las búsquedas, pero el éxito de ChatGPT ha puesto en cuestión una costumbre central de internet: introducir unas palabras clave y navegar por una lista de resultados.

Bard no está integrado por ahora en el buscador de Google. La separación tiene sentido técnico y comercial. Llevar respuestas generadas por IA a cientos de millones de búsquedas diarias multiplica el coste de computación y eleva el impacto de cada posible error. Una respuesta equivocada en un chat es problemática; una respuesta equivocada en la página principal del mayor buscador del mundo puede afectar a la confianza en todo el servicio.

Google parte además con una ventaja difícil de medir desde fuera: lleva años investigando modelos de lenguaje, desarrolló la arquitectura Transformer que sustenta buena parte de los sistemas actuales y cuenta con sus propios chips TPU para entrenamiento. La novedad no es que haya llegado tarde a la investigación, sino que ha decidido convertir esa investigación en un producto abierto al público.

NVIDIA vende las herramientas para la fiebre generativa

Mientras Google y Microsoft compiten por la interfaz que verán los usuarios, NVIDIA busca ser el proveedor de la maquinaria que permite operar esos servicios. En su conferencia GTC, la compañía ha anunciado NVIDIA AI Foundations, una serie de servicios en la nube para que empresas creen y adapten modelos generativos.

La oferta incluye NeMo para texto, Picasso para imágenes, vídeo y gráficos en 3D, y BioNeMo para investigación en biología y descubrimiento de fármacos. La propuesta es relevante porque entrenar un modelo desde cero exige datos, especialistas y una capacidad de cálculo al alcance de pocas empresas. Ajustar un modelo existente para una tarea concreta —por ejemplo, atención al cliente, diseño de productos o investigación científica— es una vía más realista para muchas organizaciones.

NVIDIA también ha presentado el H100 NVL, una plataforma que combina dos GPU H100 y está orientada a la inferencia de modelos de lenguaje grandes. La inferencia es la fase en la que un modelo ya entrenado responde a una petición del usuario. Es distinta del entrenamiento y puede convertirse en el gasto recurrente más importante si un servicio recibe millones de consultas.

El H100 NVL combina dos GPU H100, con 94 GB de memoria HBM3 cada una —188 GB en total—, y está pensado para ejecutar modelos de hasta 175.000 millones de parámetros, la escala de GPT-3. Los parámetros son los valores internos que un modelo ajusta durante su entrenamiento; no determinan por sí solos su calidad, pero dan una idea de la magnitud de los recursos necesarios.

La batalla se decide entre productos y capacidad de cálculo

Bard abre una nueva fase para Google: ya no podrá juzgarse sólo por las demostraciones de sus investigadores, sino por la utilidad y fiabilidad que perciban usuarios reales. Su despliegue gradual permite recoger fallos antes de extenderlo, aunque también concede tiempo a rivales que ya han incorporado asistentes conversacionales a productos comerciales.

Para NVIDIA, la oportunidad no depende de que venza Bard, ChatGPT o cualquier otro asistente. Cuantos más modelos generativos se lancen, mayor será la demanda de chips, redes y software para entrenarlos y servir sus respuestas. La GTC deja una conclusión clara: la competencia por la IA generativa se libra tanto en la ventana de chat como en los centros de datos que la sostienen.