Plausibilidad de alineación: una propuesta para exigir pruebas a la IA de salud mental

Un chatbot puede responder con prudencia a una pregunta de crisis y, sin embargo, fomentar dependencia durante meses de conversaciones aparentemente amables. Un examen de una sola respuesta no vería ese segundo riesgo. El 8 de julio de 2026, Gwydion Williams, Sara Zannone y Bilal A. Mateen publicaron un preprint que propone evaluar otra cosa: si los valores declarados de un sistema, su entrenamiento y la vigilancia de su uso forman una cadena creíble hacia resultados seguros. La llaman alignment plausibility, o plausibilidad de alineación.

El nombre puede sonar a sello técnico, pero todavía no lo es. El registro del trabajo en arXiv lo presenta como una propuesta de los autores; no es una norma aprobada, un ensayo clínico ni una certificación de producto. Su valor está en enseñar a hacer una pregunta mejor que “¿este modelo es seguro?”: ¿qué afirmación de seguridad se formula, con qué evidencia y bajo qué uso, población y controles?

Una cadena de tres eslabones

El texto completo del preprint organiza la plausibilidad de alineación en tres niveles. El primero exige especificar valores explícitos, inspirados en compromisos de la práctica clínica: priorizar el bienestar a largo plazo sobre el alivio inmediato, la autonomía sobre la dependencia y la honestidad sobre la validación complaciente. Sin esa especificación, el entrenamiento no tiene un objetivo claro y la supervisión no tiene un patrón contra el que medir.

Explicitar valores no elimina el desacuerdo. Una respuesta que introduce fricción terapéutica puede ser adecuada en un contexto y dañina en otro. Los autores reconocen que una “constitución clínica” no debería imponer una doctrina única: tendría que incluir diversas orientaciones profesionales, culturas y personas con experiencia vivida. Ese matiz es decisivo. Un documento de valores hace las decisiones discutibles y auditables; no las vuelve universales.

El segundo nivel es el entrenamiento. Los datos de preentrenamiento contienen asociaciones y estigmas; el ajuste posterior traduce preferencias humanas o de otros modelos en señales de recompensa. Entre un valor como “proteger la autonomía” y una respuesta concreta aparecen varios sustitutos: ejemplos seleccionados, anotaciones, jueces automáticos y métricas. El sistema puede optimizar el sustituto sin cumplir el propósito. Por eso una política escrita solo demuestra intención; hace falta medir si el comportamiento aprendido la conserva en situaciones difíciles.

El tercer nivel es la supervisión durante el despliegue. Las pruebas previas y los filtros pueden detectar una respuesta aguda sobre autolesión, pero riesgos como la dependencia, la erosión de límites o el refuerzo de una creencia distorsionada pueden acumularse entre sesiones. El preprint propone observar trayectorias conversacionales, definir vías de escalado y revisar la evidencia cuando aparezca un patrón de daño. Su analogía es la supervisión clínica: incluso un profesional formado necesita revisión externa y responsabilidad continuada.

Lo que el marco no demuestra

La primera limitación está en la forma del trabajo. Es un argumento conceptual de 14 páginas, no una comparación entre productos ni una prueba con pacientes. La figura que ilustra el enfoque usa “TheraGPT”, un producto ficticio. Los autores no muestran que aplicar sus tres niveles reduzca daños, ni fijan un conjunto de métricas o un umbral a partir del cual un sistema pueda declararse seguro.

De hecho, el propio preprint dice que la ciencia de medición, los benchmarks y las herramientas de interpretación para esta clase de alineación no tienen una profundidad comparable con la fisiología y la farmacología que sostienen la “plausibilidad biológica”. También deja al desarrollador elegir métricas adecuadas, aunque contempla mínimos regulatorios. Esa flexibilidad permite adaptar la evidencia al producto, pero abre un riesgo: que cada proveedor construya una demostración favorable con indicadores distintos e incomparables.

La analogía con un profesional clínico tiene otro límite. Un terapeuta trabaja dentro de competencias, deberes, registros, mecanismos disciplinarios y una relación definida. El marco ético de la British Association for Counselling and Psychotherapy, por ejemplo, exige competencia, límites, información sobre riesgos, revisión en supervisión y responsabilidad ante el daño. Copiar esos principios en un modelo no crea por sí solo una profesión, una obligación legal ni una persona responsable. La comparación sirve para descubrir piezas ausentes, no para conceder equivalencia.

Tampoco toda conversación sobre bienestar es un tratamiento. Un asistente general, una aplicación dirigida al estrés y un producto que afirma diagnosticar o tratar tienen finalidades y riesgos diferentes. Una presentación de la American Psychological Association ante el comité de salud digital de la FDA separó precisamente esas tres clases: chatbot regulado con alegaciones médicas, servicio de salud mental directo al consumidor sin esas alegaciones y asistente general usado como compañía. La clasificación era la posición de la APA ante un comité, no una resolución de la FDA, pero expone un vacío: el uso real puede adquirir sensibilidad clínica aunque el proveedor no lo anuncie como tratamiento.

De tres palabras a una demostración verificable

Para que el marco sea útil, cada nivel necesita artefactos que un tercero pueda examinar. En valores: el documento normativo, quién participó, qué conflictos se resolvieron y qué conductas se consideran inaceptables. En entrenamiento: procedencia y límites de los datos, ejemplos de evaluación, desempeño por grupos y pruebas de que el modelo tolera la fricción sin abandonar al usuario. En supervisión: indicadores longitudinales, frecuencia de revisión, responsables, vías de escalado y reglas para detener o modificar el servicio.

Una afirmación de seguridad también debe estar delimitada. “Este LLM es seguro para salud mental” es demasiado amplia. Una forma auditable diría qué producto, qué versión, qué función, qué población, durante cuánto tiempo y con qué intervención humana. El preprint insiste en que la plausibilidad pertenece al sistema completo —modelo, ajuste, filtros, interfaz y herramientas— bajo controles de despliegue definidos. Un modelo base no hereda ni transfiere automáticamente la seguridad de una aplicación.

La orientación de la Organización Mundial de la Salud sobre grandes modelos en salud aporta una comprobación externa: pide tareas bien definidas, precisión y fiabilidad suficientes, participación de profesionales y pacientes, auditorías posteriores al lanzamiento y evaluaciones de impacto desglosadas por tipo de usuario. Esas exigencias convierten un relato de buenas intenciones en preguntas observables. También recuerdan que la precisión media no cubre por sí sola autonomía, privacidad, equidad o efectos secundarios.

El problema difícil de vigilar relaciones

Medir trayectorias tiene un coste que el marco no resuelve por completo. Detectar dependencia a lo largo de varias sesiones puede requerir conservar y analizar conversaciones íntimas. Cuanto más contexto reúne el supervisor, mayor puede ser el riesgo para la privacidad. Un sistema serio tendría que justificar qué guarda, durante cuánto tiempo, quién accede, cómo obtiene consentimiento y si puede evaluar tendencias sin conservar texto identificable. Seguridad psicológica y minimización de datos pueden entrar en tensión.

También hay que separar una señal de un diagnóstico. Muchas conversaciones seguidas no prueban dependencia; asentir no demuestra una creencia distorsionada; terminar una sesión no significa mejoría. Las métricas longitudinales necesitan validación clínica y participación de usuarios para no convertir conductas normales en alarmas. Además, la vigilancia debe buscar daño y beneficio: un sistema que evita cualquier asunto sensible puede obtener pocas incidencias a costa de ser inútil.

La supervisión solo cierra el circuito si activa decisiones. Cuando un indicador se deteriora, ¿quién investiga?, ¿se modifica el filtro, el ajuste o la interfaz?, ¿se avisa a usuarios afectados?, ¿qué umbral suspende una función? Un panel sin facultad de intervención es observación, no control. Y después de cada cambio debe reabrirse la demostración: la evidencia de una versión no certifica para siempre la siguiente.

Cómo leer una futura promesa de “alineación clínica”

El lector puede someter cualquier producto a seis preguntas. ¿Publica los valores concretos que afirma seguir? ¿Muestra cómo se tradujeron en datos y pruebas? ¿Evalúa conversaciones completas además de respuestas aisladas? ¿Distingue resultados por población y contexto? ¿Existe supervisión independiente con capacidad de intervenir? ¿La afirmación se refiere a esta versión y finalidad exactas? Si faltan esas piezas, “alineado” describe una aspiración comercial, no una garantía.

La propuesta de Williams, Zannone y Mateen no resuelve todavía cómo medir cada respuesta. Hace algo previo y útil: obliga a presentar la seguridad como un caso sustentado por evidencias conectadas y revisables. Eso permite atacar el punto débil. Un valor puede ser inadecuado, el entrenamiento puede no incorporarlo o la vigilancia puede llegar tarde. La confianza deja de depender de una demostración vistosa y pasa a depender de una cadena que admite refutación.

La capacidad transferible es distinguir una demostración de plausibilidad de una demostración de eficacia. La primera explica por qué valores, entrenamiento y controles podrían producir un resultado seguro; la segunda comprueba en personas y condiciones reales si lo producen. En salud mental hacen falta ambas. El preprint ofrece una arquitectura para pedir la primera y reconoce que muchas de sus herramientas de medida aún deben construirse.