Geoffrey Hinton deja Google para alertar de los riesgos de la IA

Geoffrey Hinton, uno de los investigadores decisivos en el desarrollo de las redes neuronales modernas, ha dejado Google tras casi una década en la compañía. El científico británico-canadiense, de 75 años, quiere poder advertir con libertad sobre los riesgos de la inteligencia artificial generativa, justo cuando herramientas como ChatGPT y Bard han llevado esta tecnología al público general.

Hinton comunicó su salida este lunes, aunque abandonó su puesto la semana pasada. Hinton dijo a The New York Times que dejó la empresa para poder hablar de los peligros de la IA. En un mensaje publicado después, sostuvo que Google había actuado de forma responsable en el desarrollo de esta tecnología.

Su marcha importa por quién la protagoniza. Hinton fue uno de los grandes defensores de las redes neuronales, programas inspirados de forma muy simplificada en el funcionamiento del cerebro y capaces de aprender patrones a partir de grandes cantidades de datos. Durante años fue una línea de investigación minoritaria; hoy sostiene los asistentes conversacionales, los generadores de imágenes, los traductores automáticos y buena parte de los sistemas de reconocimiento de voz y visión artificial.

Del aprendizaje profundo a la IA generativa

En 2012, Hinton y sus alumnos Alex Krizhevsky e Ilya Sutskever demostraron que una red neuronal entrenada con grandes volúmenes de imágenes podía mejorar de forma drástica los resultados en reconocimiento visual. Aquel trabajo, conocido por el sistema AlexNet, aceleró la adopción industrial del llamado aprendizaje profundo.

Google adquirió al año siguiente DNNresearch, la empresa fundada por Hinton y dos de sus estudiantes, y el investigador pasó a trabajar en la compañía. Allí combinó su labor con la docencia en la Universidad de Toronto.

La diferencia ahora es la velocidad y la escala. Los modelos de lenguaje no se limitan a clasificar una fotografía o sugerir una palabra: redactan textos, programan, responden preguntas y mantienen conversaciones convincentes. No entienden el mundo como una persona, pero pueden producir contenido suficientemente persuasivo como para alterar cómo se informa, se trabaja o se toman decisiones.

La desinformación ya no necesita grandes medios

La preocupación más inmediata de Hinton es que la IA facilite la fabricación masiva de contenido falso. Una imagen manipulada requería antes conocimientos de edición; un vídeo convincente exigía todavía más recursos. Los sistemas generativos reducen esa barrera y permiten crear textos, voces, imágenes y, progresivamente, vídeos falsos a bajo coste.

El riesgo no consiste solo en una falsificación aislada. Una campaña puede adaptar miles de mensajes a públicos distintos, imitar estilos y responder en tiempo real. Eso complica la verificación para periodistas, plataformas y ciudadanos, especialmente en un contexto de elecciones y de creciente polarización política.

Hinton también ha señalado el posible impacto en el empleo. La automatización ya había transformado tareas físicas y repetitivas; los modelos generativos alcanzan ahora parte del trabajo de oficina: redactar documentos, resumir informes, atender consultas, escribir código o elaborar materiales comerciales. Eso no implica que todas esas profesiones desaparezcan, pero sí que empresas y trabajadores tendrán que decidir qué tareas delegan en una máquina y quién responde por sus errores.

Un debate que llega dentro de las grandes tecnológicas

La salida de Hinton no equivale a un rechazo total de la investigación en IA. Él mismo ayudó a construir sus fundamentos y reconoce sus posibles beneficios en ámbitos como la sanidad, la educación o la productividad. Su advertencia se dirige a la falta de tiempo y mecanismos suficientes para comprender sistemas que avanzan con rapidez y ya se están desplegando ante millones de usuarios.

Google ha presentado Bard como su respuesta a ChatGPT, lanzado por OpenAI en noviembre de 2022. Microsoft, principal socio de OpenAI, ya ha integrado tecnología similar en su buscador Bing y en productos de oficina. La competencia está empujando a las compañías a lanzar herramientas antes de que sus límites estén plenamente claros.

La cuestión no es si la IA debe detenerse por completo, sino bajo qué reglas se desarrolla y se distribuye. Las empresas tendrán que mejorar las pruebas de seguridad, identificar contenidos generados artificialmente y explicar con mayor claridad qué datos usan sus sistemas. Gobiernos y reguladores, por su parte, afrontan el reto de proteger a la ciudadanía sin convertir una norma pensada para el software tradicional en un freno inútil o imposible de aplicar.

Que una voz tan asociada al nacimiento del aprendizaje profundo se sume públicamente a estas advertencias cambia el tono del debate. La discusión sobre la IA ya no gira solo en torno a qué puede hacer un chatbot, sino a quién controla su despliegue y qué salvaguardas deben existir antes de que sus errores escalen a millones de personas.