OpenAI anunció el 8 de marzo de 2024 el regreso de Sam Altman al consejo tras la revisión de WilmerHale. La empresa publicó un resumen, no el informe completo: una diferencia esencial para juzgar alcance, independencia y conclusiones.
Sora genera vídeos de hasta un minuto, aunque OpenAI reconoce fallos de física y continuidad. Verificar procedencia, fuente, contexto y contenido es más fiable que buscar un defecto visual aislado.
Waymo publicó un análisis de siniestros en más de siete millones de millas sin conductor. La fuente delimita el hecho: la comparación pertenece a ciudades, dominio operativo, definiciones y referencia concretos; no prueba seguridad universal de cualquier navegación. La pieza enseña cómo conservar distancia, dominio, gravedad, referencia y reglas de notificación al leer seguridad.
La Casa Blanca exige a los desarrolladores de los modelos más potentes compartir pruebas de seguridad con el Gobierno antes de su lanzamiento. Es la intervención regulatoria más ambiciosa de Washington sobre inteligencia artificial hasta la fecha.
ChatGPT Enterprise eliminó topes y añadió controles, pero ninguna etiqueta sustituye contrato, prueba y responsable. Esta matriz traduce promesas empresariales en evidencia.
Amazon, Anthropic, Google, Inflection AI, Meta, Microsoft y OpenAI se han comprometido este viernes ante la Administración Biden a someter sus modelos a pruebas de seguridad y a marcar el contenido generado por IA. No es una ley: es una promesa sin sanción si se incumple.
La ronda de Anthropic financió Claude y su investigación, pero la seguridad exige amenazas, pruebas, controles y riesgo residual verificables.
Un modelo puntúa señales; una defensa conecta activo, amenaza, telemetría, umbral, analista y respuesta. Cómo evaluar la cadena completa.
En mayo de 2025, Anthropic activó formalmente un nivel superior de protecciones para uno de sus modelos. No fue un comunicado de buenas intenciones: llevaba clasificadores de contenido y más de cien controles de seguridad detrás. Distinguir un documento que obliga de uno que solo declara es una destreza concreta, y hay tres señales que la resuelven.
Privacidad y seguridad en IA son problemas distintos con defensas distintas: proteger los datos que alimentan a los modelos y proteger al modelo frente a ataques como la inyección de prompts. Repasamos los riesgos reales, por qué el aprendizaje federado no garantiza privacidad por sí solo y qué exigen ya el EU AI Act y el marco del NIST.
El Future of Life Institute pide detener durante seis meses el entrenamiento de sistemas más potentes que GPT-4. La carta, firmada por Elon Musk, Yoshua Bengio y más de mil personas, exige reglas de seguridad y supervisión independiente.
Anthropic ha presentado Claude, un asistente conversacional basado en IA constitucional, una técnica para entrenar modelos que sigan principios de seguridad. Su llegada coincide con el lanzamiento de GPT-4 y refuerza la competencia entre los grandes modelos de lenguaje.
Este sitio web utiliza cookies para mejorar la experiencia de navegación. Política de cookies.
Sin resultados. Prueba con otras palabras.
