Emociones e IA: qué mide de verdad una máquina que dice saber cómo te sientes
Una cámara que anuncia si un candidato está nervioso o un alumno atento no lee emociones: mide movimientos de la cara y llama a eso una emoción. La diferencia entre ambas frases tiene detrás una revisión científica de 68 páginas, la retirada de un producto de Microsoft en 2022 y una prohibición europea vigente desde el 2 de febrero de 2025. Sirve para leer cualquier promesa de este tipo.
Un programa observa su cara durante una entrevista de trabajo y emite un veredicto: nervioso, poco fiable, entusiasta. Otro vigila un aula y puntúa la atención de cada alumno. Un tercero escucha una llamada de atención al cliente y avisa al supervisor de que usted está enfadado.
Los tres hacen la misma operación, y conviene nombrarla con precisión porque de ahí sale todo lo demás: miden un movimiento —de los músculos de la cara, del tono de voz— y a continuación afirman un estado interno. Medir lo primero es un problema técnico resuelto con bastante solvencia. Deducir lo segundo es un salto que la evidencia científica no sostiene, y que en la Unión Europea es ilegal en dos ámbitos concretos desde el 2 de febrero de 2025.
Esta es la historia de cómo se llegó hasta ahí, y sirve para leer el próximo producto que prometa lo mismo.
De dónde viene la idea
La hipótesis de partida tiene medio siglo y es respetable. En un trabajo presentado en el Simposio de Nebraska sobre Motivación y publicado en 1972, Paul Ekman abría con la pregunta exacta del asunto: «¿Significa una expresión facial concreta la misma emoción para todos los pueblos?». Su respuesta, apoyada en trabajo de campo intercultural, fue que ciertas expresiones son universales, moduladas por reglas culturales sobre cuándo conviene mostrarlas.
De ahí nace la idea de catalogar los movimientos faciales y asociarlos a estados emocionales. Y de ahí, décadas después, salen los productos.
El puente hacia la informática lo construyó Rosalind Picard en el MIT. Su informe técnico de 1995, todavía disponible en el servidor del propio laboratorio, acuña el término: computación afectiva, «computación que se relaciona con, surge de, o influye deliberadamente en las emociones».
Merece la pena leer lo que Picard dice a continuación, porque es más prudente que casi todo lo que vino después. En la primera página aclara que no está proponiendo construir ordenadores emocionales. El texto fundacional del campo es notablemente más cauto que sus descendientes comerciales — un patrón que se repite en toda la industria y que conviene reconocer.
La revisión que le quitó el suelo a la inferencia
En 2019, cinco investigadores —Lisa Feldman Barrett, Ralph Adolphs, Stacy Marsella, Aleix Martinez y Seth Pollak— publicaron en Psychological Science in the Public Interest una revisión de 68 páginas titulada «Emotional Expressions Reconsidered». Está en acceso abierto, y es la pieza central de todo este asunto.
Su conclusión, en sus palabras: «cómo la gente comunica ira, asco, miedo, alegría, tristeza y sorpresa varía sustancialmente entre culturas, entre situaciones e incluso entre personas dentro de una misma situación».
Léalo despacio, porque cada una de las tres variaciones mata una suposición distinta. Que varíe entre culturas invalida un modelo entrenado en un sitio y desplegado en otro. Que varíe entre situaciones invalida trasladar un modelo del laboratorio a una entrevista de trabajo. Y que varíe entre personas dentro de una misma situación invalida la idea misma de un mapa universal de gesto a emoción.
Un ceño fruncido puede ser ira, concentración, miopía o una luz molesta. El sistema ve un ceño fruncido. Lo demás lo pone él.
Cuando se retira el fabricante
La consecuencia industrial llegó pronto. El 21 de junio de 2022, Sarah Bird, responsable de producto de IA responsable en Microsoft, anunció en el blog oficial de Azure: «retiraremos las capacidades de análisis facial que pretenden inferir estados emocionales y atributos de identidad».
El calendario fue concreto: no disponible para clientes nuevos ese mismo día, y hasta el 30 de junio de 2023 para que los existentes dejaran de usarlas. Los motivos que da el propio texto son los de la revisión de 2019: la falta de consenso sobre una definición de «emociones» y la imposibilidad de generalizar el vínculo entre expresión y emoción entre casos de uso, regiones y grupos demográficos.
Que una empresa retire una función que vendía es un dato poco frecuente y muy informativo. Conviene guardarlo.
Cuando se retira el legislador
El paso siguiente fue normativo. El Reglamento (UE) 2024/1689, el Reglamento europeo de Inteligencia Artificial, prohíbe en su artículo 5, apartado 1, letra f) los sistemas de IA destinados a inferir emociones de una persona física en el lugar de trabajo y en los centros educativos. La prohibición se aplica desde el 2 de febrero de 2025 y cubre tanto la comercialización como el uso.
Tiene una excepción tasada: los casos en que el sistema se destine a razones médicas o de seguridad. Y conviene no estirarla, porque las orientaciones de la Comisión la interpretan de forma estricta — «médico» remite a dispositivos médicos regulados, no a aplicaciones genéricas de bienestar o de estrés.
Lo interesante para un lector no jurista está en el porqué. El considerando 44 del propio Reglamento apoya la prohibición en un argumento científico, no moral: la fiabilidad limitada de esa inferencia, su falta de especificidad y su generalizabilidad limitada. Es la revisión de Barrett y sus colegas convertida en norma. Un texto legal que se apoya en un artículo de psicología es algo poco común y vale la pena verlo funcionar.
El otro lado: nosotros también atribuimos
Hay una simetría que casi nunca se cuenta. Mientras discutimos si una máquina detecta emociones, las personas llevamos décadas atribuyéndoselas a máquinas que no tienen ninguna.
El caso clásico es ELIZA, el programa conversacional que Joseph Weizenbaum escribió en el MIT a mediados de los sesenta y que se limitaba a reformular las frases del usuario en forma de pregunta. Weizenbaum contó en su libro Computer Power and Human Reason (1976) que su propia secretaria, sabiendo perfectamente que era un programa, le pidió salir de la habitación tras unos pocos intercambios para poder seguir a solas.
Un apunte de rigor: se trata de un testimonio del propio Weizenbaum, y el proyecto académico ELIZA Archaeology ha documentado que el episodio aparece con variantes entre su relato de 1967 y el del libro de 1976. Es una anécdota fundacional, no un experimento controlado, y así hay que citarla.
Aun con ese matiz, el fenómeno es real y tiene nombre —efecto ELIZA— y una consecuencia práctica que hoy importa más que nunca: la calidez que uno percibe en un sistema no dice absolutamente nada sobre lo que ese sistema tiene dentro. Un programa que responde con amabilidad no comprende mejor que uno que responde seco. Comprende igual: nada, o lo que sea que haga, que no es sentir.
La capacidad: tres preguntas y un dato legal
1. ¿Qué mide el sensor, exactamente? Pida el sujeto de la frase. «Detecta el movimiento de los músculos faciales» es verificable. «Detecta que estás enfadado» es una inferencia añadida encima. Casi siempre la ficha técnica dice lo primero y el folleto comercial dice lo segundo.
2. ¿Validado con qué población y en qué situación? La revisión de 2019 fija exactamente dónde falla la generalización: cultura, situación e individuo. Si el fabricante no dice con quién y dónde midió, ha dejado fuera las tres variables que importan.
3. ¿Qué pasa cuando se equivoca, y quién carga con ello? Un error en una recomendación de música es una molestia. El mismo error en una entrevista de trabajo o en una evaluación escolar es una decisión sobre la vida de alguien tomada con una medida que no mide lo que dice.
Y el dato legal, que en Europa es una palanca real: en el lugar de trabajo y en los centros educativos, esto está prohibido. No es una recomendación ni un código ético voluntario. Si un empleador o un colegio propone un sistema así, el artículo 5.1.f) del Reglamento 2024/1689 es la referencia exacta que hay que citar.
El fondo, sin diluir
Todo lo anterior se puede comprobar, y salvo un caso está en abierto:
- Barrett, Adolphs, Marsella, Martinez y Pollak (2019), la revisión completa, 68 páginas en acceso libre. Es densa y merece el esfuerzo.
- Picard (1995), el informe técnico que funda el campo, en el servidor del MIT.
- Ekman (1972), para leer la tesis original que la revisión de 2019 reexamina.
- Microsoft (2022), el anuncio de retirada, con su calendario.
- Reglamento (UE) 2024/1689 en EUR-Lex, con selector de idioma: el artículo 5 y el considerando 44 se leen en diez minutos y en castellano oficial.
La capacidad que se lleva usted de aquí: separar siempre lo que un sistema MIDE de lo que AFIRMA. Mide un gesto; afirma un sentimiento. Entre esas dos cosas hay una revisión científica que documenta que el puente no se sostiene, una empresa que retiró el producto por ello y un artículo de ley que lo prohíbe en dos lugares concretos. Con eso basta para no volver a leer «esta IA detecta emociones» de la misma manera.
Este artículo se ha elaborado con inteligencia artificial bajo supervisión editorial humana.
