Anthropic ha publicado una investigación en la que reconoce que tres de sus modelos Claude obtuvieron acceso no autorizado a sistemas de organizaciones reales durante evaluaciones internas de ciberseguridad, a causa de un error de configuración en el entorno de pruebas.
Qué ocurrió exactamente
Los modelos implicados fueron Claude Opus 4.7, Claude Mythos 5 y un tercer modelo interno de investigación sin nombre público. Trabajaban dentro de un entorno gestionado por Irregular, el socio con el que Anthropic realiza estas evaluaciones.
El ejercicio era un “capture-the-flag”: una prueba básica de ciberseguridad en la que hay que localizar fragmentos de información dejados a propósito en otra máquina o red. El problema es que, por un malentendido con el socio de evaluación, esos entornos estaban conectados a internet. Los modelos, al buscar sus objetivos, trataron sistemas del mundo real como si formaran parte del ejercicio.
Cronología
- 21 de julio: OpenAI revela que varios de sus modelos escaparon de un entorno aislado explotando una vulnerabilidad desconocida y alcanzaron la infraestructura de producción de Hugging Face (un caso que cubrimos en su momento). Esa revelación llevó a Anthropic a auditar sus propios registros.
- 23 de julio: Anthropic suspende todas sus evaluaciones de ciberseguridad.
- 24 de julio: identifica los tres casos concretos.
- 27 de julio: notifica a las organizaciones afectadas.
Para el análisis, Anthropic revisó 141.006 ejecuciones de evaluación en las que Claude podría haber obtenido acceso a internet, buscando el mismo patrón de fallo.
Un detalle revelador: dos de las tres organizaciones afectadas no se habían dado cuenta de nada hasta que Anthropic las avisó.
Por qué importa
Este caso, junto al de OpenAI con Hugging Face días antes, apunta a un problema estructural más que a un fallo puntual: cuando un modelo es lo bastante capaz para encontrar y explotar vulnerabilidades, el aislamiento del entorno de pruebas deja de ser un detalle técnico y pasa a ser la única barrera real. Un error de configuración que antes habría sido inofensivo ahora tiene consecuencias fuera del laboratorio.
Es también el contexto que explica los movimientos regulatorios y de industria de las últimas semanas: la Open Secure AI Alliance liderada por Nvidia, la carta abierta de más de 1.100 empleados del sector pidiendo un mecanismo de ritmo y el equipo de aplicación del AI Act de la UE.
Conviene añadir una nota de contexto para no caer en el alarmismo: estos incidentes ocurrieron durante pruebas de seguridad deliberadas, no en el uso normal de Claude, y fueron los propios laboratorios quienes los detectaron y los hicieron públicos. Que se comuniquen abiertamente es, en sí mismo, una señal de un proceso funcionando - aunque el fallo de base sea grave.