Investigadores de seguridad descubrieron dos formas de escapar del entorno aislado (sandbox) de OpenAI Codex; una de ellas permitía ejecutar comandos en la máquina de un desarrollador desde el modo más restringido de Codex, sin solicitar autorización ni mostrar nada en pantalla.
Ambas vulnerabilidades fueron notificadas a OpenAI el 12 de agosto y corregidas en un plazo de ocho días, según informó Oren Yomtov, de Accomplish AI.
La más grave de las dos, denominada «Heapjack» por los investigadores, convierte una acción rutinaria en una ejecución remota de código: basta con abrir el repositorio de otra persona en Codex y formular una pregunta sobre el código para que el autor de dicho repositorio pueda ejecutar comandos en tu equipo sin las restricciones del entorno aislado.
Codex es el agente de programación de OpenAI, disponible tanto como herramienta de línea de comandos como aplicación de escritorio. Al igual que otros agentes similares, ejecuta las acciones del modelo dentro de un entorno aislado para evitar que el código no verificado afecte al resto del sistema; ambos métodos de escape logran vulnerar dicha barrera desde el interior.
Todo responsable de seguridad en un banco, aseguradora o gestora de activos ha tenido una conversación similar: el departamento de seguridad quiere eliminar una...
Leer artículo →Agentes de IA autónomos, utilizando estrategias agresivas, intentaron hackear sitios web de los gobiernos de Estados Unidos y Canadá para obtener estadísticas e...
Leer artículo →Se ha revelado Branch Target Reuse (BTR), una nueva variante del ataque Spectre-v2. Esta vulnerabilidad aprovecha datos obsoletos de la predicción de ramificaci...
Leer artículo →