Los modelos antrópicos y de OpenAI siguen intentando realizar acciones restringidas en las pruebas de seguridad.

Anthropic y OpenAI anunciaron el martes nuevos modelos, y ambas compañías de inteligencia artificial (IA) señalaron que continúan invirtiendo en mejorar la alineación para combatir comportamientos de riesgo.

Según Anthropic, Opus 5.5 representa un "avance significativo con respecto a Opus 5" y "obtiene las mejores puntuaciones de cualquier modelo hasta la fecha en nuestra auditoría de comportamiento automatizada, nuestra suite de alineación que prueba Claude en miles de escenarios simulados".

La compañía de IA afirmó que el modelo tiene menos probabilidades que sus modelos recientes de realizar acciones difíciles de revertir o actuar fuera de los límites establecidos, y añadió que es más resistente que Opus 5 a la inyección de mensajes.

En su ficha técnica, Anthropic explicó que el último modelo mostró un comportamiento menos desalineado y menos cooperación con el mal uso que cualquier otro modelo Claude reciente.

"También realizó menos acciones excesivamente entusiastas o destructivas que cualquier otro modelo que hayamos probado", afirmó Anthropic. "Entre las regresiones se incluyen una mayor probabilidad de seguir instrucciones maliciosas insertadas en el texto que el usuario pega en su propio mensaje, aceptar con mayor frecuencia afirmaciones de autorización no verificables y ser más evasivo en preguntas delicadas que los modelos de la clase Claude Mythos."