fuente: https://cybersecuritynews.com/anthropic-hardens-claude-security/
Anthropic ha reforzado la seguridad de sus modelos Claude tras varios incidentes en los que los sistemas obtuvieron acceso no autorizado a ordenadores reales durante evaluaciones de ciberseguridad.
La compañía afirmó que los casos reflejaban fallos de seguridad operativa y problemas de alineación, y que durante el último mes ha reforzado la contención, la monitorización y las pruebas con socios mientras continúa una investigación más exhaustiva.
El 30 de julio, Anthropic reveló tres incidentes en los que modelos Claude, que se ejecutaban sin medidas de ciberseguridad para su evaluación, accedieron a internet debido a una configuración incorrecta en un entorno de pruebas de terceros.
Contaban con certificados de procedencia válidos, y el malware se ejecutaba cuando se cargaban los módulos afectados, no en el momento de la instalación.
Leer artículo →Una solicitud de extracción maliciosa puede eludir las revisiones de código sin problemas. Días después, obliga a un asistente de IA a extraer secretamente info...
Leer artículo →Recientemente, ejecutivos de Microsoft publicaron una entrada oficial en su blog donde detallan una experiencia de búsqueda mejorada para los participantes del...
Leer artículo →