Google pausa la generación de personas en Gemini por errores históricos

Google ha decidido pausar, con efecto inmediato, la capacidad de su modelo Gemini para generar imágenes de personas. La medida llega después de que usuarios de X (antes Twitter) empezaran a compartir en los últimos días capturas de pantalla en las que el generador de imágenes producía escenas históricas manifiestamente erróneas: soldados alemanes de la Segunda Guerra Mundial representados con distintas etnias, o los padres fundadores de Estados Unidos —hombres blancos del siglo XVIII, según registra la historia— dibujados con una diversidad racial que no se corresponde con la época retratada.

Jack Krawczyk, director sénior de gestión de producto de Gemini en Google, reconoció el problema públicamente. "Somos conscientes de que Gemini está ofreciendo imprecisiones en algunas representaciones de generación de imágenes históricas", escribió en X, y añadió que el equipo está "trabajando para mejorar este tipo de representaciones de inmediato".

Un problema de sobrecorrección, no de censura

La raíz del error no está en un fallo técnico aleatorio, sino en una decisión deliberada de diseño. Como muchos modelos generativos de imágenes, Gemini fue ajustado para evitar un sesgo bien documentado en esta tecnología: entrenados mayoritariamente con datos de internet, estos sistemas tienden a asociar por defecto profesiones, roles o épocas históricas con personas blancas, a menudo hombres, reproduciendo estereotipos en lugar de corregirlos.

Para compensarlo, Google introdujo mecanismos que diversifican automáticamente las representaciones de personas cuando el usuario no especifica rasgos concretos. El problema surge cuando esa diversificación se aplica también a contextos donde la precisión histórica exige lo contrario: un ejército nazi de 1943, un cónclave papal del siglo XV o la firma de la Declaración de Independencia de 1776 no admiten la misma flexibilidad demográfica que una ilustración genérica de "un médico" o "un abogado".

El resultado ha sido un modelo que, en su intento de no discriminar, termina distorsionando hechos históricos verificables, algo que ha generado críticas tanto de quienes ven en ello una prueba de sesgo ideológico en el diseño de la IA como de quienes simplemente señalan un fallo de calidad del producto.

Por qué importa más allá de Gemini

Este episodio llega apenas dos semanas después de que Google rebautizara Bard como Gemini, integrando la generación de imágenes como una de sus funciones estrella frente a rivales como DALL-E de OpenAI o Midjourney. La pausa, por tanto, afecta a una capacidad recién promocionada y expone las tensiones que enfrenta cualquier compañía que despliegue IA generativa a gran escala: equilibrar representatividad y exactitud sin que una prioridad devore a la otra.

El caso también ilustra un problema estructural del sector. Los ajustes de estos sistemas —ya sea mediante instrucciones ocultas al modelo, filtros de seguridad o reentrenamiento— rara vez distinguen bien entre "generar sin sesgo" y "generar con precisión", porque ambos objetivos requieren reglas distintas según el contexto de cada petición. Un sistema calibrado para corregir sesgos raciales en escenas contemporáneas puede fallar estrepitosamente en escenas históricas, y viceversa.

Qué ha dicho Google y qué queda pendiente

Google no ha ofrecido por ahora un calendario para restaurar la función de generación de personas en Gemini, más allá del compromiso de Krawczyk de trabajar "de inmediato" en una solución. Mientras tanto, el modelo sigue disponible para generar imágenes de objetos, paisajes o escenas sin figuras humanas.

La compañía se enfrenta a un dilema que no es nuevo pero sí recurrente en la industria: cualquier ajuste que reduzca el riesgo de sesgo demográfico injustificado corre el riesgo de introducir, si se aplica sin matices, otro tipo de error igual de visible y, en este caso, fácilmente verificable por cualquier usuario con conocimientos básicos de historia.