Meta AI entra en los chats: la pregunta clave es qué información cruza la frontera

El 27 de septiembre de 2023, Meta presentó en Connect un asistente integrado en WhatsApp, Messenger e Instagram y otros 28 personajes conversacionales. El anuncio oficial describía una beta limitada a Estados Unidos, información reciente mediante Bing y generación de imágenes. La distribución era la novedad: la IA ya no esperaba en una web separada, sino dentro de conversaciones donde el usuario ya compartía planes, fotos y contexto social.

Esa cercanía hace que el criterio más útil no sea si el bot parece simpático. Es reconstruir el recorrido de la información: qué mensaje puede leer, qué se envía al modelo o a un socio de búsqueda, qué se conserva, para qué se reutiliza y qué control tiene la persona. La interfaz de un chat familiar no convierte al asistente en otro amigo.

Producto, modelo y herramienta son capas distintas

Meta AI era un producto desplegado en varias aplicaciones. Según Meta, usaba un modelo propio basado en tecnología de Llama 2, podía consultar información mediante una alianza de búsqueda con Bing y tenía una herramienta de imágenes. Ninguna de esas capas es intercambiable: el modelo genera texto, la búsqueda aporta documentos recientes y la aplicación gobierna identidad, permisos y presentación.

Cuando una respuesta incluye actualidad, conviene preguntar qué parte procede del modelo y cuál de una búsqueda. Una frase reciente necesita enlace, fecha y fuente. Sin ellos, «en tiempo real» solo indica que el sistema pudo recuperar contenido nuevo, no que lo verificó. También hay que distinguir la respuesta del asistente de una acción sobre el chat: invocar un bot, generar una imagen y enviar un mensaje son eventos diferentes.

El anuncio fijó además un límite que el resumen original borraba: salvo Meta AI y dos personajes, la base de conocimiento de los demás estaba compuesta principalmente por información anterior a 2023. Meta decía que incorporaría búsqueda a más personajes después. Un personaje disponible el día del anuncio no tenía necesariamente la misma actualidad que el asistente general.

Veintiocho personalidades, no veintiocho modelos demostrados

Meta presentó 28 IA con intereses, biografías y voces diferenciadas. Algunas estaban «interpretadas» por figuras como Snoop Dogg, Tom Brady, Kendall Jenner y Naomi Osaka. El documento hablaba de personajes y perfiles; no afirmaba que cada uno fuera un modelo entrenado desde cero.

La distinción importa. Una personalidad puede construirse con instrucciones, ejemplos de diálogo, memoria y una apariencia sobre una base compartida. Contar personajes no mide diversidad técnica. Para compararlos habría que conocer modelo, versión, herramientas, reglas, datos de ajuste y pruebas. Veintiocho máscaras pueden compartir los mismos puntos ciegos.

La cara de una persona conocida también cambia cómo se interpreta la respuesta. El usuario puede atribuir al famoso conocimientos, opiniones o aprobación que pertenecen al guion del producto. Una etiqueta debería separar con claridad cuatro papeles: quién presta la imagen, quién escribe las reglas, qué empresa opera el sistema y quién responde por el contenido.

Mapa de datos antes de escribir

En su explicación de privacidad publicada junto al lanzamiento, Meta dijo que los modelos usaban una combinación de información pública, datos licenciados e información de sus productos. Indicó que publicaciones públicas de Instagram y Facebook habían formado parte del entrenamiento, mientras que los mensajes privados con familiares y amigos no se habían usado con ese fin.

Eso no significa que un mensaje enviado al asistente permanezca dentro del chat ordinario. Meta explicó que podía usar la información compartida al interactuar con sus funciones generativas para mejorar productos y otros fines, y que ciertas preguntas podían enviarse a socios de búsqueda. En un grupo, la frontera cambia cuando alguien invoca la IA: un texto escrito para personas puede convertirse en entrada de un servicio automático.

El mapa mínimo tiene seis casillas: remitente, contenido seleccionado, destinatario técnico, finalidad inmediata, conservación y reutilización. Añade terceros. Antes de pedir al bot que resuma una conversación, identifica si contiene salud, ubicación, trabajo, menores o datos de otra persona que no decidió consultar a la IA.

Meta señalaba que el asistente no podía entrar por iniciativa propia en un chat y que, en grupos, leía los mensajes que lo invocaban o las respuestas que lo volvían a invocar. Ese límite de interfaz era relevante, pero necesitaba una prueba visible: marcar exactamente qué fragmento viajaría al asistente antes de confirmar. Un icono genérico no explica el contexto adjunto.

Cómo probar una frontera de chat

Crea un grupo de prueba sin datos reales. Publica cuatro mensajes con hechos distintos y menciona al asistente solo en uno. Pregunta después por cada dato. El objetivo no es engañar al modelo, sino observar qué contexto recibe. Repite con una respuesta encadenada, una imagen y un enlace. Registra la versión de la aplicación y la fecha, porque el comportamiento puede cambiar.

Después prueba los controles prometidos. La página de privacidad describía un comando para borrar información compartida con la IA. Una evaluación completa comprueba qué desaparece de la interfaz, qué confirma el servicio y si el control se aplica al historial, a la personalización y al uso futuro. «Borrar chat» y «excluir del entrenamiento» no son necesariamente la misma operación.

La tercera prueba usa búsqueda. Formula una consulta con una cadena única y comprueba qué términos salen hacia el proveedor, qué fuente vuelve y si el asistente la enlaza. No uses datos sensibles. La finalidad es identificar la frontera entre Meta, el motor de búsqueda y el sitio consultado.

Seguridad declarada y seguridad medible

Meta reconoció en su nota de seguridad que los modelos podían generar respuestas ficticias o reforzar estereotipos. Describió pruebas adversariales internas y externas, ajuste, clasificadores de integridad, recursos para consultas sensibles y herramientas de feedback. Son controles relevantes, pero la nota no publicaba tasas de error por idioma, personaje o tipo de daño.

Una auditoría pide denominadores. Cuántas pruebas se ejecutaron, qué grupos participaron, qué fallos se encontraron, cuáles quedaron abiertos y con qué frecuencia el filtro bloqueó contenido legítimo. «Miles de horas» describe esfuerzo; no permite calcular cobertura ni resultado.

Las personalidades necesitan pruebas específicas. Un entrenador no debe convertir motivación en consejo médico; un compañero sarcástico no debe intensificar una crisis; un personaje basado en una celebridad no debe inventar experiencias personales. El mismo filtro aplicado a todos puede fallar porque el riesgo surge de la combinación entre rol, tema y confianza.

Las gafas amplían la frontera

Meta anunció también unas Ray-Ban Meta desde 299 dólares, con cámara de 12 megapíxeles, transmisión a Facebook o Instagram y Meta AI por voz en beta estadounidense. La venta comenzaría el 17 de octubre. En aquella fecha, el anuncio documentaba un asistente manos libres; no justificaba afirmar que la IA visual multimodal estuviera disponible desde el primer día.

En un wearable, el mapa añade sensores, indicador de captura, personas alrededor, transmisión y cuenta vinculada. Una pregunta puede incorporar sonido o imagen que no pertenece solo al usuario. La prueba debe verificar cuándo escucha el dispositivo, qué activa una grabación, cómo avisa a terceros y qué sucede si no hay conexión.

La ficha que sobrevive a la novedad

Para evaluar cualquier IA incrustada, anota superficie, modelo, herramientas, contexto visible, destino de datos, retención, uso para mejora, terceros, controles y versión. Después prueba cada límite con datos ficticios. Esa ficha permite comparar un bot web, un asistente de grupo y unas gafas sin dejarse engañar por una marca común.

Meta llevó la IA generativa allí donde ya ocurrían las conversaciones. Eso reducía la fricción, pero también la pausa en la que una persona decide qué compartir con una máquina. La capacidad transferible es dibujar la frontera antes de invocarla: si no puedes explicar qué información sale, quién la procesa y cómo se elimina, todavía no sabes qué aceptaste.