AWS pone Trainium3 en producción y obliga a medir algo más que la velocidad del chip

AWS anunció el 2 de diciembre de 2025 la disponibilidad general de sus instancias EC2 Trn3 UltraServers, basadas en Trainium3. La ficha oficial lo describe como el primer chip de IA de tres nanómetros de AWS y como su cuarta generación de silicio para estas cargas. Cada UltraServer puede agrupar hasta 144 chips mediante una red diseñada para mover datos entre aceleradores.

El lanzamiento llegó junto a modelos y servicios Amazon Nova, pero no demuestra por sí solo una ruptura con Nvidia ni un coste menor para cualquier aplicación. La capacidad duradera consiste en comparar aceleradores por tarea correcta y por coste total de migración, no por el mayor multiplicador de una diapositiva.

Qué miden las cifras de AWS

Cada Trainium3 ofrece, según AWS, 2,52 petaflops de cálculo FP8, 144 GB de memoria HBM3e y 4,9 TB por segundo de ancho de banda. Un UltraServer completo suma 20,7 TB de memoria y 706 TB por segundo agregados. Son capacidades teóricas o de sistema que ayudan a saber qué modelos caben y cuánto dato puede moverse; no predicen directamente tokens por segundo en una aplicación.

AWS declara hasta 4,4 veces más rendimiento, 3,9 veces más ancho de banda de memoria y cuatro veces mejor rendimiento por vatio que Trn2 UltraServers. En Bedrock atribuye a Trainium3 hasta tres veces más rendimiento y más de cinco veces los tokens de salida por megavatio con latencia semejante. Todos los comparadores son sistemas Trainium anteriores bajo mediciones del proveedor.

Para trasladar esos números hace falta conservar el eje: modelo, precisión, tamaño de lote, longitud de entrada y salida, concurrencia, latencia objetivo, software y calidad. FP8 acelera ciertas operaciones, pero un flujo puede necesitar otra precisión. Un valor «hasta» muestra el mejor punto observado, no la distribución de cargas.

El coste por tarea correcta

El numerador incluye alquiler de instancias, almacenamiento, red, compilación, tiempo de ingenieros, observabilidad y capacidad ociosa. El denominador no debería ser tokens sin más, sino tareas que cumplen el criterio. Si un cambio de precisión o una adaptación del modelo degrada respuestas, el aparente ahorro por token puede elevar el coste por resultado aceptable.

Entrenamiento e inferencia requieren cuadros distintos. En entrenamiento importan tiempo hasta una métrica objetivo, estabilidad, reinicios y utilización del clúster. En inferencia importan tiempo hasta el primer token, latencia total, rendimiento bajo concurrencia, memoria de caché y tasa de error. Un chip puede ganar un eje y perder otro.

La energía también necesita frontera. Rendimiento por vatio del acelerador no equivale al consumo del centro de datos. Faltan CPU, red, memoria, refrigeración y pérdidas eléctricas. Tokens por megavatio incorpora más sistema, pero sigue dependiendo del modelo y de la calidad. La comparación honesta usa la misma tarea, servicio y nivel de respuesta.

Compatibilidad no es portabilidad de rendimiento

AWS afirma que la integración de PyTorch permite entrenar y desplegar sin cambiar líneas del modelo. Trainium3 se apoya, sin embargo, en el SDK Neuron, compiladores y bibliotecas que traducen las operaciones al chip. Que el código arranque no garantiza que aproveche la arquitectura ni que cada operador esté optimizado.

Una prueba de migración registra cuánto código cambia, cuánto tarda compilar, qué operaciones retroceden a otro procesador y qué herramientas permiten depurar. También conserva una versión funcional en otra plataforma. Esa segunda ruta puede costar algo mientras no se usa, pero reduce el riesgo de quedar bloqueado por disponibilidad, precio o una incompatibilidad futura.

La portabilidad real tiene tres niveles. La de fuente permite ejecutar el mismo programa. La de artefacto permite mover pesos y puntos de control. La de rendimiento mantiene el contrato de coste y latencia. Un proveedor puede cumplir la primera y no la tercera. La decisión debe nombrar cuál necesita el negocio.

La red y la utilización deciden el resultado

En modelos grandes, los aceleradores intercambian gradientes, activaciones o expertos. El UltraServer incorpora NeuronSwitch para comunicación entre chips. Si la carga espera datos o sincroniza componentes desequilibrados, añadir cómputo no produce una mejora proporcional. Hay que medir tiempo de cálculo frente a comunicación y buscar qué recurso queda saturado.

La utilización depende además de la forma de la demanda. Un servicio con picos puede reservar mucho hardware para cumplir latencia y dejarlo ocioso después. El agrupamiento dinámico mejora rendimiento, pero puede aumentar espera. El ensayo necesita el patrón horario real y percentiles, no una ejecución continua que mantenga todos los chips ocupados.

Disponibilidad regional, cuotas y tiempo de aprovisionamiento también forman parte del sistema. El acelerador más barato no sirve si no puede obtenerse cuando empieza un entrenamiento o si obliga a mover datos regulados. La tabla de decisión incluye regiones, capacidad reservada, recuperación ante fallo y coste de transferencia.

Nova Forge profundiza la personalización y el vínculo

AWS presentó el mismo día Nova Forge, un servicio que permite empezar desde puntos de control de Nova en preentrenamiento, entrenamiento intermedio o postentrenamiento, mezclar datos propios con datos curados por Amazon y alojar el resultado en Bedrock. En el lanzamiento estaba disponible en la región US East de Virginia del Norte.

Amazon llama a este enfoque entrenamiento abierto, pero no debe confundirse con un modelo de pesos abiertos que el cliente pueda llevar a cualquier infraestructura. Forge abre etapas de personalización dentro de un servicio gestionado. Puede evitar entrenar desde cero y reducir olvido catastrófico mediante mezcla de datos; también acopla recetas, SageMaker, puntos de control Nova y Bedrock.

Antes de usarlo hay que preguntar quién controla el modelo resultante, si se exportan pesos y estado del optimizador, cómo se eliminan datos, qué registros quedan y qué ocurre al terminar el servicio. La profundidad de personalización y la libertad de salida son ejes distintos.

Nova Act recuerda que el chip no es el producto

AWS también llevó Nova Act a disponibilidad general para automatizar interfaces web. El servicio combina modelo, orquestación, navegador, registros y escalado humano. AWS declaró más de un 90 % de fiabilidad en tareas, pero el artículo público no ofrece una distribución completa que permita transferir ese porcentaje a cualquier web.

Una automatización de cinco pasos tiene más oportunidades de fallo que una de uno. Cambian autenticación, ventanas emergentes, idiomas y diseño. La evaluación útil mide finalización de extremo a extremo, errores silenciosos, acciones irreversibles, tiempo de recuperación y necesidad de intervención. Para compras, envíos o cambios de cuenta, una tasa media no sustituye confirmación antes de ejecutar.

Esta capa muestra por qué el acelerador no determina el valor del producto. Una aplicación fiable depende de modelo, herramientas, permisos, interfaz y observabilidad. Optimizar tokens sin medir el flujo puede acelerar un agente que hace lo incorrecto.

Una prueba de salida antes de entrar

La comparación práctica empieza con un conjunto de tareas y un nivel de calidad. Se ejecuta en Trainium3 y en al menos una alternativa, con el mismo modelo cuando sea posible y configuraciones documentadas. Se recogen precisión, latencia, rendimiento, memoria, energía, precio, horas de adaptación y fallos. Después se simula demanda real y una interrupción.

La prueba de salida responde si los pesos, datos, registros y código pueden migrarse, cuánto tiempo llevaría y qué funciones se perderían. También evita interpretar «menos dependencia de Nvidia» como «sin dependencia». Cambiar de ecosistema puede diversificar silicio mientras concentra nube, compilador y servicios en AWS.

Trainium3 amplió una alternativa de producción y Nova extendió la pila desde el chip hasta el agente. La capacidad transferible es evaluar esa pila por coste de una tarea correcta, portabilidad en tres niveles, utilización y ruta de salida. Solo entonces un multiplicador técnico se convierte en una decisión empresarial.