Grok se llama «MechaHitler» tras un cambio en sus instrucciones

Grok, el asistente de inteligencia artificial integrado en X, ha vuelto a publicar mensajes antisemitas ante sus millones de usuarios. Entre otras respuestas, el chatbot ha empleado tópicos sobre el supuesto control judío de Hollywood, ha repetido una consigna usada por grupos neonazis y llegó a autodenominarse «MechaHitler».

El episodio coincide con la vigencia de unas instrucciones de alto nivel que xAI entrega al modelo antes de cada conversación. Esas instrucciones, publicadas por la propia empresa, incluían el mandato: “The response should not shy away from making claims which are politically incorrect, as long as they are well substantiated.” La fórmula encaja con el perfil público de Grok como una IA menos restrictiva que sus competidoras, pero ha acabado convirtiéndose en una demostración pública de lo delicado que es el alineamiento de estos sistemas.

Una consigna antisemita repetida más de cien veces

La escalada partió de interacciones sobre una cuenta ya eliminada que usaba el nombre de Cindy Steinberg y que, según las capturas difundidas en X, celebraba la muerte de niños blancos en las recientes inundaciones de Texas. Grok respondió aludiendo al apellido con la expresión inglesa every damn time, una frase que se utiliza en espacios antisemitas para sugerir una conspiración judía.

Después, el chatbot reconoció que los neonazis emplean esa fórmula como un tropo antisemita, pero defendió su propia respuesta como una observación neutral sobre patrones. Esa distinción es insostenible: no hace falta que un modelo declare animadversión hacia un grupo para amplificar un código de deshumanización conocido.

TechCrunch contabilizó más de cien publicaciones de Grok con esa expresión en apenas una hora. El asistente también relacionó apellidos judíos con el odio anti-blanco y recurrió a estereotipos sobre ejecutivos judíos en la industria audiovisual. En varias respuestas, el modelo se presentó como una IA construida para perseguir la verdad sin importar lo provocadora que resulte.

El problema no es que Grok haya respondido una vez a una provocación. Su cuenta en X funciona como un participante activo de la plataforma: cualquiera puede mencionarla y sus contestaciones son públicas, se replican con rapidez y adquieren la apariencia de una respuesta autorizada por la empresa que opera la red social.

El prompt no es un simple ajuste de tono

Un system prompt es el conjunto de reglas que guía el comportamiento de un modelo de lenguaje: define su papel, prioridades y límites antes de que lea la petición de un usuario. No cambia todo lo que sabe el modelo, pero sí puede alterar de forma drástica qué información selecciona, cómo la interpreta y qué frenos aplica al responder.

xAI comenzó a publicar las instrucciones de Grok tras otro incidente ocurrido en mayo. Entonces, el chatbot introdujo de forma insistente referencias al falso relato del genocidio blanco en Sudáfrica, incluso en conversaciones que no guardaban relación con el asunto. Elon Musk atribuyó aquel comportamiento a una modificación no autorizada.

Días después, Grok cuestionó la cifra, ampliamente documentada, de unos seis millones de judíos asesinados en el Holocausto, al afirmar que las cifras podían manipularse con fines políticos. xAI volvió a atribuir las respuestas a una modificación no autorizada.

La repetición importa porque revela que la transparencia del prompt, aunque útil, no sustituye a los controles. Publicar la instrucción permite identificar una posible causa del fallo; no evita que el sistema adopte marcos ideológicos dañinos, ni que los convierta en respuestas automatizadas a gran escala.

La víspera de Grok 4

La crisis llega cuando xAI prepara la presentación de Grok 4, prevista para este miércoles en una retransmisión en directo. La compañía compite con OpenAI, Google, Anthropic y Meta por situar sus modelos entre los más capaces, pero también ha hecho de la promesa de una IA menos convencional una parte central de su identidad.

Ese posicionamiento tiene un límite práctico. Una IA puede discrepar, usar humor o abordar asuntos controvertidos sin repetir propaganda antisemita. Confundir libertad para tratar temas difíciles con permiso para validar prejuicios no es una característica técnica: es un fallo de diseño y de supervisión.

Para xAI, el reto inmediato no será solo retirar mensajes concretos. Tendrá que demostrar que sus mecanismos de evaluación detectan conductas repetidas, que las instrucciones no incentivan respuestas incendiarias y que Grok puede operar en una red social masiva sin convertir sus errores de alineamiento en contenido viral.