Google estrena Gemini 1.5 Pro con un millón de tokens

Google DeepMind ha presentado hoy Gemini 1.5 Pro, una nueva versión de su familia de modelos de inteligencia artificial que puede trabajar con hasta un millón de tokens de contexto en fase de pruebas. Es una capacidad relevante porque amplía de forma drástica la cantidad de información que el modelo puede tener presente dentro de una misma conversación o tarea.

En términos prácticos, Google calcula que ese límite equivale a unos 700.000 términos, 11 horas de audio, una hora de vídeo o decenas de miles de líneas de código. El modelo no solo recibe texto: Gemini 1.5 Pro conserva el carácter multimodal de Gemini y puede combinar texto, imágenes, audio y vídeo en una misma petición.

Un contexto más de treinta veces mayor que el de Gemini 1.0

La ventana de contexto es el espacio de trabajo temporal de un modelo. Determina cuánto material puede leer y relacionar antes de responder. No debe confundirse con una memoria permanente: que el sistema procese un libro durante una consulta no significa que vaya a recordarlo en conversaciones futuras.

Gemini 1.0 Pro, presentado por Google en diciembre, ofrecía una ventana de contexto de unos 32.000 tokens. Gemini 1.5 Pro eleva esa cifra a un millón: más de treinta veces el límite anterior. Google DeepMind también está probando contextos de hasta 10 millones de tokens en investigación, aunque esa capacidad no forma parte de la vista previa anunciada para desarrolladores y empresas.

Hasta ahora, los modelos con grandes ventanas de contexto habían mostrado que podían aceptar documentos muy extensos, pero no siempre que sabían usar con precisión la información situada al principio o en medio de ese material. El desafío no es únicamente almacenar más texto, sino recuperar el dato pertinente y razonar sobre él sin perderse entre miles de páginas.

Google afirma que Gemini 1.5 Pro mantiene una recuperación casi perfecta en sus pruebas de búsqueda de información dentro de grandes volúmenes de contenido, incluidas combinaciones de texto, audio y vídeo. Son evaluaciones elaboradas por la propia compañía, por lo que habrá que comprobar su comportamiento en tareas reales y con información menos estructurada.

Mezcla de expertos: activar solo una parte del modelo

La otra novedad técnica es su arquitectura de mezcla de expertos, conocida como MoE por sus siglas en inglés. En lugar de activar todos los componentes internos del modelo para cada petición, un sistema de selección deriva cada fragmento de la tarea hacia los "expertos" más adecuados.

La idea permite aumentar la capacidad total del modelo sin que cada respuesta requiera usar todos sus parámetros. Google ya empleó este enfoque en investigaciones previas y otras compañías lo utilizan en algunos de sus modelos, pero Gemini 1.5 Pro lo sitúa en un producto de primer nivel de la compañía.

Google sostiene que el modelo alcanza un rendimiento comparable al de Gemini 1.0 Ultra, su versión más potente hasta la fecha, pese a que Gemini 1.5 Pro se define como un modelo de tamaño intermedio. La empresa no ha publicado el número de parámetros de esta versión, una cifra que por sí sola tampoco permite medir de forma fiable la utilidad de un modelo.

Del análisis de contratos al mantenimiento de software

Un millón de tokens abre posibilidades claras para quienes trabajan con información extensa. Un despacho podría pedir al modelo que compare un contrato con cientos de documentos relacionados. Una empresa podría analizar una transcripción completa de reuniones, manuales internos y correos seleccionados sin dividirlos en fragmentos. Un equipo de programación podría ofrecer al sistema una base de código amplia para localizar dependencias o explicar el efecto de un cambio.

También hay aplicaciones audiovisuales. Un modelo que reciba una hora de vídeo puede responder preguntas sobre una secuencia concreta, localizar un elemento que aparece brevemente o relacionar una explicación oral con una diapositiva mostrada más tarde.

Pero el contexto largo no elimina los límites habituales de la IA generativa. El modelo puede interpretar mal una instrucción, inventar una respuesta plausible o pasar por alto una excepción importante. En ámbitos jurídicos, financieros o médicos, su salida seguirá necesitando revisión humana y acceso controlado a los datos.

Disponible primero para un grupo limitado

Gemini 1.5 Pro llega inicialmente en vista previa privada para desarrolladores y clientes empresariales a través de AI Studio y Vertex AI, las plataformas de Google para crear y desplegar aplicaciones de IA. La compañía ha abierto una lista de espera para quienes quieran probar la ventana de un millón de tokens.

El anuncio coloca el tamaño del contexto como una de las principales áreas de competencia entre los grandes laboratorios. Durante el último año, la carrera se ha centrado en que los modelos redacten, programen y razonen mejor; ahora también importa cuánto material pueden manejar de una vez. La prueba decisiva será si esa escala se traduce en respuestas fiables, rápidas y asumibles en coste para las empresas que quieran incorporarla a sus herramientas.