Hinton deja Google: cómo convertir una alarma experta en preguntas

Geoffrey Hinton anunció el 1 de mayo de 2023 que había dejado Google para poder hablar de los peligros de la inteligencia artificial sin tener que calcular cómo afectarían sus palabras a la empresa. Añadió un matiz decisivo: Google, dijo, había actuado de forma responsable. Su salida no demostraba por sí sola una catástrofe, pero sí elevaba la prioridad de investigar riesgos concretos.

Hay una forma rigurosa de escuchar una alarma experta sin convertirla en argumento de autoridad. Primero se identifica qué experiencia posee la persona; después se separan observaciones, mecanismos y pronósticos; por último se pide evidencia, horizonte temporal, daño, probabilidad y una acción que pueda revisarse. El prestigio decide dónde mirar antes, no qué conclusión aceptar.

Lo que Hinton afirmó directamente

En su mensaje público del 1 de mayo, Hinton corrigió la impresión de que hubiera salido para criticar a Google. Explicó que quería hablar de los peligros de la IA sin considerar el impacto sobre su antiguo empleador y afirmó que la compañía había actuado responsablemente. Son dos afirmaciones compatibles: independencia para advertir y ausencia de una acusación concreta contra Google.

Esa precisión protege al lector frente a un relato tentador: «el creador se arrepiente y huye de su criatura». Una dimisión es un hecho; el motivo declarado es testimonio de su protagonista; las consecuencias futuras son hipótesis que requieren razonamiento adicional. Mezclar los tres niveles crea dramatismo y destruye trazabilidad.

La fecha también limita lo que podía contarse. El 1 de mayo ya existían modelos generativos desplegados, documentos técnicos y advertencias públicas. No se conocían los desarrollos, declaraciones ni incidentes posteriores. Una pieza fiel a ese día debe resistir la tentación de usar el futuro como si ya fuera evidencia disponible.

Por qué su experiencia merecía atención

Hinton no era un comentarista ajeno al campo. En el paper de AlexNet de 2012, Alex Krizhevsky, Ilya Sutskever y Geoffrey Hinton describieron una red profunda entrenada con 1,3 millones de imágenes para clasificar mil categorías. Comunicaron errores top-1 del 39,7% y top-5 del 18,9%, muy inferiores al estado previo que comparaban.

El sistema tenía 60 millones de parámetros y utilizaba cinco capas convolucionales, una implementación eficiente sobre GPU y técnicas para reducir el sobreajuste. Su relevancia para esta noticia no consiste en otorgar infalibilidad a uno de los autores. Demuestra experiencia directa en cómo una combinación de escala, cómputo y arquitectura puede cambiar con rapidez qué tareas resultan viables.

Pero la competencia es local. Saber construir y entrenar redes aporta información sobre capacidades, cuellos de botella y trayectorias técnicas. No convierte automáticamente a nadie en especialista en mercados laborales, propaganda, derecho, geopolítica o diseño institucional. Cada advertencia debe emparejarse con la disciplina capaz de comprobar su mecanismo.

Separar observación, mecanismo y pronóstico

Una observación se puede fechar y reproducir: un modelo completó cierta evaluación o produjo una salida. Un mecanismo explica cómo esa capacidad podría causar daño: generar contenido reduce el coste de una campaña de engaño, por ejemplo. Un pronóstico añade cuánto crecerá la capacidad, cuántos actores la usarán, qué defensas existirán y cuándo aparecerá el efecto.

La confianza debería disminuir al subir esa escalera. Un resultado medido bajo condiciones declaradas puede ser sólido sin validar una predicción social. Un mecanismo plausible merece prueba aunque no permita calcular todavía la frecuencia. Un pronóstico lejano puede justificar investigación preventiva, pero no debe presentarse como una fecha conocida.

Conviene abrir un registro de afirmaciones. Para cada una se anota el sistema y versión, la tarea, la población afectada, el daño posible, las condiciones necesarias, la evidencia que la apoya y la observación que la refutaría. Así, «la IA es peligrosa» se convierte en varias preguntas investigables en lugar de una consigna imposible de verificar.

Lo que un informe de modelo permitía comprobar

El informe técnico de GPT-4, publicado en marzo de 2023, ofrecía un ejemplo útil y limitado. Presentaba resultados de exámenes y evaluaciones, describía riesgos y mitigaciones, y reconocía problemas como respuestas inventadas, sesgos y una ventana de contexto finita. También omitía arquitectura, tamaño, hardware, cómputo de entrenamiento y construcción del conjunto de datos.

El lector podía comprobar una tabla y discutir su protocolo, pero no reproducir el entrenamiento. Esa diferencia importa: divulgación de resultados no equivale a transparencia completa. Una alarma sobre capacidades debe preguntar qué medición existe, quién pudo replicarla, qué información falta y si el producto usado por la población coincide con el sistema evaluado.

Los exámenes tampoco miden automáticamente persuasión, fraude, desplazamiento laboral o pérdida de control. Traducir una puntuación a daño exige un puente causal: acceso, coste, incentivos, integración, controles y exposición. La ausencia de ese puente no prueba seguridad; indica qué trabajo analítico falta.

Riesgo no significa certeza

El Marco de Gestión de Riesgos de IA de NIST, publicado en enero de 2023, definía el riesgo combinando probabilidad y magnitud de las consecuencias. Distinguía daños de corto o largo plazo, localizados o sistémicos, y organizaba el trabajo en cuatro funciones: gobernar, mapear, medir y gestionar.

El documento hacía una advertencia metodológica crucial: que un riesgo sea difícil de medir no implica que sea alto ni bajo. También señalaba que las mediciones de laboratorio pueden diferir del uso real, que distintos actores ven partes diferentes del ciclo y que el contexto determina la tolerancia aceptable.

Por tanto, incertidumbre no es permiso para despreocuparse ni licencia para afirmar cualquier desenlace. Obliga a escoger medidas proporcionales y reversibles: pruebas antes del despliegue, límites de acceso, supervisión independiente, registro de incidentes y reducción de permisos cuando la exposición sea alta. Cuanto mayor sea el daño potencial y más difícil la reversión, más fuerte debe ser la barrera previa.

Una matriz para ordenar advertencias

Primero se clasifica el horizonte. Riesgos presentes incluyen errores, discriminación, exposición de datos, fraude o decisiones sin recurso. Riesgos próximos dependen de una capacidad observable que se está integrando. Riesgos de frontera requieren avances adicionales o cadenas causales más largas. Las tres clases merecen atención, pero no la misma evidencia ni el mismo instrumento.

Después se separa peligro de exposición. Que un modelo pueda generar un mensaje falso es una capacidad; que tenga acceso a millones de destinatarios, datos personales y envío automático determina el alcance. Reducir exposición puede ser más inmediato que resolver el modelo: limitar herramientas, velocidad, audiencia, gasto y autonomía.

Finalmente se registra la incertidumbre. Una cifra puntual oculta supuestos; un intervalo obliga a mostrarlos. Si no hay base para cuantificar, se declara y se especifican indicadores de alerta: mejoras en una tarea, caída de coste, acceso a herramientas, incidentes o fallos de salvaguardas. El pronóstico se vuelve actualizable.

De la celebridad al sistema de evidencia

Una voz con experiencia puede detectar antes un cambio importante, pero también razona desde una posición parcial. La respuesta madura reúne constructores, evaluadores independientes, especialistas del dominio, trabajadores y personas expuestas al daño. El desacuerdo entre ellos no invalida la investigación; revela supuestos que deben hacerse visibles.

También hay que preguntar por incentivos. Salir de una empresa reduce algunas restricciones, pero no elimina reputación, competencia académica ni preferencias personales. Del mismo modo, seguir dentro no invalida un dato. Declarar vínculos ayuda a interpretar una afirmación; no sustituye examinarla.

La salida de Hinton importaba porque una persona con conocimiento profundo decidió elevar públicamente y con urgencia el riesgo. La capacidad que queda un año después no es repetir su prestigio ni su miedo. Es transformar cualquier advertencia en un mapa: qué se observó, qué mecanismo se propone, qué futuro se pronostica, qué evidencia falta y qué medida puede reducir daño mientras aprendemos.