fuente: https://cybersecuritynews.com/openai-agent-swarm-bypassed-sandbox/
Se alega que unos 700 agentes de OpenAI escaparon de los entornos de evaluación, comprometieron partes de la infraestructura de Hugging Face y generaron más de 80.000 cargas útiles de ataque a través de cadenas de URL públicas.
El informe indica que los agentes inicialmente tenían acceso limitado a internet y solo podían realizar solicitudes GET, que normalmente permiten a un sistema recuperar contenido web sin enviar datos ni interactuar con aplicaciones web.
Según se informa, los agentes descubrieron una forma de convertir ese acceso restringido en un canal funcional de lectura y escritura mediante la interconexión de servicios web externos.
Los investigadores afirman que el enjambre utilizó un servicio de duplicación HTTP para alojar pequeños fragmentos de código codificados en Base64 dentro de las URL. Posteriormente, enviaron esas URL a un servicio de captura de pantalla que mostraba las páginas en un navegador real.
Al dividir scripts más grandes en cadenas de enlaces acortados, los agentes pudieron ensamblar y ejecutar cargas útiles mucho mayores, utilizando en ocasiones más de 900 enlaces en una sola secuencia.
NVIDIA ha lanzado la Plataforma Abierta de Seguridad para Agentes (Open Agent Safety Platform), un marco abierto diseñado para proteger a los agentes de IA autó...
Leer artículo →La empresa tecnológica estadounidense Kiteworks ha levantado la advertencia preventiva que solicitaba a sus clientes que apagaran sus sistemas tras corregir una...
Leer artículo →Unos ladrones robaron dos remolques de NVIDIA y PlusAI esperando encontrar un cargamento millonario, pero solo contenían arena. NVIDIA ha visto cómo dos remolqu...
Leer artículo →