Anthropic capta 450 millones para ampliar Claude y su seguridad

Anthropic ha anunciado este martes una ronda de financiación de 450 millones de dólares liderada por Spark Capital, con participación de Google, Salesforce Ventures, Sound Ventures y Zoom Ventures. El dinero servirá para ampliar Claude, su asistente basado en inteligencia artificial, y para financiar investigación sobre la seguridad de los modelos de lenguaje avanzados.

La operación coloca más recursos detrás de una de las empresas jóvenes que compiten directamente con OpenAI. Anthropic fue fundada en 2021 por antiguos empleados de OpenAI, entre ellos los hermanos Dario y Daniela Amodei, y ha construido su identidad alrededor de una idea difícil de resolver: hacer modelos potentes sin perder la capacidad de controlarlos.

Claude entra en la carrera de los asistentes

Claude es un modelo de lenguaje: un sistema entrenado con grandes cantidades de texto para responder preguntas, resumir documentos, redactar y mantener conversaciones. Anthropic lo presentó en marzo y lo ha puesto a disposición de un grupo limitado de empresas a través de su API, la vía que permite integrar el modelo en productos propios. También puede probarse mediante Poe, el servicio de asistentes de Quora.

La compañía anunció este mes una versión capaz de procesar hasta 100.000 tokens de contexto. En términos sencillos, eso equivale a manejar documentos muy largos o conversaciones extensas sin perder de vista lo que se ha dicho antes. Es una capacidad relevante para tareas como revisar contratos, analizar informes, consultar bases documentales o asistir a equipos que trabajan con grandes volúmenes de información.

OpenAI había elevado el listón con GPT-4, presentado en marzo, mientras Google acababa de abrir Bard al público en Estados Unidos y Reino Unido. La financiación no garantiza que Anthropic alcance a esos grupos en usuarios o distribución, pero sí le da margen para competir en un terreno donde entrenar y operar modelos grandes exige una infraestructura informática muy costosa.

La seguridad como producto y como apuesta científica

El principal rasgo diferencial de Anthropic es su trabajo en alineamiento, el campo que busca que una IA siga las intenciones y límites definidos por las personas. Su técnica más conocida es la IA constitucional: en vez de depender únicamente de evaluadores humanos que puntúan respuestas, el modelo aprende a revisarse con ayuda de un conjunto explícito de principios.

Esos principios funcionan como una especie de constitución: el sistema debe preferir respuestas útiles, honestas e inocuas, y rechazar peticiones que puedan causar daño. La empresa ha explicado que este método combina supervisión humana y retroalimentación generada por IA. No elimina los errores ni garantiza que Claude sea inmune a instrucciones maliciosas, pero intenta hacer más visible el criterio con el que el asistente rechaza o reformula una petición.

La cuestión importa porque los asistentes conversacionales ya no son simples demostraciones. Se están integrando en buscadores, herramientas de programación, atención al cliente y software de oficina. Un fallo puede producir desde una respuesta inventada hasta la filtración de información sensible o la automatización de contenido perjudicial. La seguridad, por tanto, empieza a ser una condición comercial para vender estos sistemas a empresas, además de un problema de investigación.

Google refuerza una segunda apuesta en modelos generativos

Google ya había invertido 300 millones de dólares en Anthropic en febrero, además de obtener una participación aproximada del 10% y un acuerdo para utilizar su infraestructura de computación en la nube. Su presencia en la nueva ronda confirma que el gigante tecnológico quiere mantener una posición relevante en un laboratorio independiente mientras desarrolla Bard y sus propios modelos.

Para Google, respaldar a Anthropic ofrece acceso a investigación y talento en seguridad sin absorber por completo a la empresa. Para Anthropic, significa disponer de capacidad de cálculo en Google Cloud, un recurso decisivo cuando el entrenamiento de un modelo de frontera puede requerir miles de aceleradores especializados durante semanas o meses.

La ronda eleva a cerca de 1.000 millones de dólares el capital captado por Anthropic desde su fundación. El próximo examen será menos financiero que técnico: demostrar que Claude puede ofrecer respuestas competitivas frente a GPT-4 y otros asistentes, conservar esa calidad al llegar a más usuarios y convertir sus mecanismos de seguridad en una ventaja verificable para clientes reales.