Ilya Sutskever crea SSI para desarrollar una superinteligencia segura

Ilya Sutskever ha anunciado este miércoles la creación de Safe Superintelligence Inc. (SSI), una nueva empresa dedicada a un único propósito: desarrollar una superinteligencia artificial que sea segura. Le acompañan Daniel Gross y Daniel Levy, dos perfiles con experiencia en investigación, producto e inversión tecnológica.

El anuncio llega poco más de un mes después de la salida de Sutskever de OpenAI, compañía que cofundó y donde ocupó el puesto de científico jefe. Su nueva aventura empresarial sitúa la seguridad de sistemas de IA muy avanzados en el centro del negocio, no como un equipo complementario ni como una condición añadida a un producto comercial.

Una empresa con un solo producto

SSI define su misión de forma inusualmente estrecha. La compañía señala que tiene un único objetivo y producto: desarrollar una superinteligencia segura.

La palabra superinteligencia describe, en este contexto, una inteligencia artificial que superaría las capacidades humanas en prácticamente todas las tareas cognitivas relevantes. Es un horizonte más ambicioso que la inteligencia artificial general, o AGI: una máquina capaz de realizar una amplia variedad de trabajos intelectuales al nivel de una persona. Ninguna de las dos existe hoy, pero son la referencia que guía buena parte de la investigación y la inversión de los grandes laboratorios.

La promesa de SSI es notable porque renuncia, al menos en su planteamiento inicial, a lanzar asistentes, modelos para empresas o herramientas de consumo mientras avanza hacia ese objetivo. Sutskever, Gross y Levy sostienen que ese enfoque les permitirá evitar las distracciones de los ciclos de producto y aislar la seguridad, la investigación y el progreso técnico de las presiones comerciales a corto plazo.

No es solo una declaración de principios. Construir sistemas de frontera exige enormes recursos de computación, especialistas escasos y financiación sostenida. Una empresa que no prevé productos intermedios tendrá que convencer a inversores de que la investigación a largo plazo merece capital pese a no ofrecer ingresos inmediatos.

El regreso de Sutskever tras OpenAI

Sutskever es una de las figuras más influyentes de la IA moderna. Antes de cofundar OpenAI en 2015, trabajó con Geoffrey Hinton en la Universidad de Toronto y contribuyó a avances decisivos en aprendizaje profundo, la técnica que permite a los modelos encontrar patrones a partir de grandes cantidades de datos.

En OpenAI fue una voz relevante en los debates sobre cómo desplegar modelos cada vez más capaces. También formó parte del consejo que destituyó temporalmente a Sam Altman en noviembre de 2023, una crisis que terminó con el regreso de Altman y la posterior salida de Sutskever del órgano de gobierno. El investigador anunció el 14 de mayo que dejaba la empresa y afirmó entonces que confiaba en que OpenAI desarrollaría una AGI beneficiosa.

Sus socios aportan perfiles distintos. Daniel Gross había dirigido iniciativas de inteligencia artificial y aprendizaje automático en Apple, además de cofundar Cue, una empresa adquirida por la compañía de Cupertino. Daniel Levy trabajó en OpenAI y participó en el desarrollo de productos y modelos de la organización.

SSI tendrá equipos en Palo Alto, California, y Tel Aviv, Israel. Esa doble ubicación conecta a la empresa con dos de los principales polos de talento tecnológico del sector.

La seguridad pasa de departamento a razón de ser

El anuncio refleja una tensión que atraviesa a toda la industria: los laboratorios compiten por entrenar modelos más potentes mientras intentan demostrar que pueden controlarlos antes de llevarlos al mercado.

La seguridad de IA abarca problemas concretos. Uno es el alineamiento, es decir, lograr que un sistema persiga los objetivos e instrucciones humanas incluso en situaciones nuevas. Otro es la capacidad de supervisar modelos que podrían razonar o ejecutar tareas con una complejidad superior a la de sus evaluadores. También importan la protección contra usos maliciosos, el control del acceso a modelos avanzados y la posibilidad de interrumpir un sistema si se comporta de forma inesperada.

Hasta ahora, las principales empresas han combinado esas líneas de investigación con lanzamientos rápidos de productos. OpenAI comercializa ChatGPT y acceso a sus modelos; Google, Anthropic, Meta y Microsoft también compiten por usuarios, desarrolladores y contratos empresariales. SSI plantea una alternativa: que el laboratorio no tenga que decidir entre retrasar una capacidad por motivos de seguridad o integrarla en la siguiente versión de un producto.

La propuesta, sin embargo, deja abiertas las preguntas más difíciles. La empresa aún debe mostrar qué métodos técnicos empleará para comprobar que una superinteligencia es segura y quién podrá auditar esas garantías. Declarar la seguridad como objetivo no resuelve por sí solo el problema de medirla, especialmente cuando se trata de capacidades que todavía no existen.

SSI entra así en un campo donde la credibilidad dependerá menos de su manifiesto que de sus futuros resultados de investigación. Su primera prueba será demostrar que puede convertir la preocupación por la seguridad en una ventaja técnica real, antes de que la carrera por modelos más capaces vuelva a imponer sus propios plazos.