fuente: https://securityonline.info/indirect-prompt-injection-ai/
De hecho, los ciberdelincuentes ahora utilizan sitios web maliciosos para atacar sistemas automatizados. En concreto, ocultan instrucciones en el código web para explotar las vulnerabilidades de los agentes de IA. Por consiguiente, esta inyección indirecta de comandos busca controlar las acciones de la IA. En última instancia, los modelos ejecutan órdenes ocultas por los atacantes.
Microsoft desarrolla Project Perception, una IA diseñada para detectar y reparar vulnerabilidades de software automáticamente en Windows, posicionándose como co...
Leer artículo →Hugging Face reveló que detectó y contuvo una intrusión en su infraestructura de producción, la cual fue ejecutada íntegramente por un sistema de agentes de IA...
Leer artículo →Elon Musk ha anunciado que X será de código abierto «sin excepciones», publicando todo el código tras una revisión de seguridad para garantizar una transparenci...
Leer artículo →