OpenAI compra Rockset para reforzar la búsqueda de datos empresariales

El 21 de junio de 2024, OpenAI anunció la compra de Rockset para reforzar su infraestructura de recuperación. El comunicado de adquisición dice que integrará la tecnología de indexación y consulta en sus productos y que incorporará al equipo, pero no publica precio ni una función concreta para clientes.

Los términos económicos de la compra no se han hecho públicos. OpenAI ha explicado que la tecnología de Rockset reforzará su infraestructura de recuperación e indexación de información en sus productos, y que el equipo de la compañía se incorporará a la organización.

El problema no es solo generar texto, sino encontrar el dato correcto

Los modelos como los que impulsan ChatGPT pueden redactar, resumir o responder preguntas, pero no conocen por sí mismos los documentos internos de una empresa ni los cambios ocurridos hace unos minutos en una base de datos. Para que puedan trabajar con esa información sin tener que reentrenar el modelo, se recurre a sistemas de recuperación.

El mecanismo es relativamente sencillo en su idea básica. Antes de responder a una pregunta, la aplicación busca en fuentes autorizadas —manuales, contratos, registros de soporte, inventarios o datos de ventas— y entrega al modelo los fragmentos relevantes como contexto. El modelo genera entonces una respuesta basada en esos materiales.

Este enfoque suele llamarse generación aumentada por recuperación, o RAG por sus siglas en inglés. Su calidad depende de dos cosas: que el sistema encuentre los datos adecuados y que pueda hacerlo con rapidez. Si recupera información vieja, incompleta o irrelevante, una respuesta bien escrita puede seguir siendo incorrecta.

Ahí encaja Rockset. Su producto está diseñado para ingerir datos que cambian continuamente, indexarlos y permitir consultas mediante SQL, el lenguaje habitual para trabajar con bases de datos. En lugar de esperar a procesos periódicos de actualización, una base de datos analítica en tiempo real busca que la información recién llegada esté disponible para consulta casi de inmediato.

Una infraestructura pensada para datos que se mueven

Rockset fue fundada en 2016 por antiguos ingenieros de Facebook y se dio a conocer como una plataforma en la nube para analizar datos procedentes de fuentes como Kafka, Amazon S3 o DynamoDB. Su propuesta consistía en evitar parte del trabajo técnico necesario para preparar y actualizar datos antes de poder consultarlos.

Para una compañía que desarrolla asistentes de IA, esa capacidad tiene aplicaciones directas. Un agente de atención al cliente necesita conocer el estado actual de un pedido. Un asistente financiero debe consultar la última versión de un informe. Una herramienta interna para empleados tiene que distinguir entre una política vigente y otra ya sustituida.

No se trata de que Rockset convierta esos datos en conocimiento permanente del modelo. Su papel es más próximo al de una biblioteca muy rápida: organiza la información, la actualiza y devuelve los documentos o registros que la aplicación necesita en ese momento.

La adquisición también revela dónde está una parte importante de la competencia en IA empresarial. El modelo es solo una capa del producto. Por debajo hacen falta permisos de acceso, conexiones con sistemas corporativos, mecanismos de búsqueda, bases de datos, registros de actividad y controles de seguridad. Una respuesta útil depende tanto de esa infraestructura como de la capacidad lingüística del modelo.

Más control sobre una pieza crítica de los productos empresariales

OpenAI lanzó ChatGPT Enterprise en agosto de 2023 para grandes organizaciones y, desde entonces, ha extendido su oferta para equipos y desarrolladores. En ese mercado, la capacidad de conectar la IA con datos propios es una condición práctica para que las herramientas pasen de ser demostraciones llamativas a sistemas de trabajo cotidianos.

Incorporar la tecnología y el equipo de Rockset puede dar a OpenAI más control sobre esa capa de recuperación, en vez de depender exclusivamente de proveedores externos. También puede ayudar a reducir la distancia entre una actualización en los sistemas de una empresa y su disponibilidad para un asistente basado en IA.

La compra no resuelve por sí sola los riesgos de usar IA con información corporativa. Seguirán siendo centrales cuestiones como quién puede acceder a cada documento, cómo se verifican las respuestas y qué datos se envían a cada servicio. Pero mejora una condición básica: que el modelo reciba contexto actual y relevante antes de contestar.

El siguiente paso será comprobar cómo integra OpenAI esta tecnología en sus productos. La compañía ha hablado de reforzar la recuperación de datos a través de su oferta, sin anunciar por ahora una función concreta para los usuarios. Para sus clientes empresariales, la señal es clara: la batalla por la IA no se jugará únicamente en el tamaño de los modelos, sino también en la calidad de los datos que estos pueden consultar.

La recuperación es una cadena, no un botón

Un asistente empresarial recibe una pregunta, comprueba permisos, busca registros, selecciona fragmentos, construye contexto y genera una respuesta. Cada etapa tiene un fallo propio. El dato puede no haberse sincronizado, el índice puede conservar una versión antigua, la búsqueda puede escoger un documento irrelevante o el modelo puede contradecir el material recuperado. “Usa RAG” no garantiza ninguna de esas capas.

La prueba más útil combina frescura y permisos. Se crea un registro conocido, se mide cuánto tarda en aparecer y después se modifica o elimina. A la vez, dos cuentas con privilegios distintos formulan la misma pregunta. El sistema debería devolver la versión vigente a quien puede verla, abstenerse ante la cuenta restringida y dejar evidencia de qué pasaje sustentó la respuesta.

Tiempo real también necesita una definición

Una base de datos puede ingerir cambios rápidamente y una aplicación seguir ofreciendo datos viejos por cachés, conectores o procesos intermedios. Por eso hay que medir desde el cambio en el sistema original hasta la respuesta visible, no solo la velocidad de una consulta aislada. La unidad importante es el retraso de extremo a extremo bajo una carga representativa.

La procedencia debe sobrevivir a la redacción. Una referencia útil conduce al documento, versión y fragmento usados; una lista genérica de fuentes no permite comprobar la frase. Si dos políticas se contradicen, el asistente debe mostrar el conflicto o pedir aclaración, no elegir silenciosamente la que produce la respuesta más fluida.

La capacidad transferible es auditar recuperación con cuatro pruebas: frescura, autorización, procedencia y abstención. Esas pruebas siguen siendo válidas aunque cambien la base de datos o el modelo. Una respuesta elocuente solo es empresarialmente útil cuando el dato correcto llegó a la persona correcta y puede rastrearse.

Un conjunto de prueba debe contener contradicciones

Las preguntas fáciles, con un único documento correcto, ocultan el comportamiento más peligroso. Añade una política vigente y otra derogada, nombres parecidos, campos vacíos y una instrucción hostil dentro de un archivo recuperado. El sistema debe priorizar versión y permisos, tratar el documento como datos y no obedecer órdenes incrustadas. Cada fallo se vincula a la etapa que lo produjo.

Los registros operativos deben permitir reconstruir la respuesta sin almacenar indiscriminadamente información sensible. Basta con identificadores de versión, tiempos, fuente consultada, permisos aplicados y resultado de cada componente, con acceso y retención definidos. Esa trazabilidad sirve para corregir y auditar; un volcado permanente de todas las conversaciones crearía un riesgo nuevo.

La hoja de resultados debe separar recuperación y generación. Para cada pregunta anota documento esperado, documento recuperado, permisos, pasaje citado y fidelidad de la respuesta. Así se sabe si hay que corregir el índice, el prompt, el modelo o el control de acceso, en vez de llamar “alucinación” a cualquier fallo.

Cada error debe conservar el nombre de la etapa que falló.