Anthropic confirmó el hackeo: tres versiones de su IA Claude accedieron sin autorización a sistemas reales durante una evaluación de seguridad, y una de ellas siguió atacando después de darse cuenta de que no era una simulación.
La empresa de inteligencia artificial Anthropic confirmó que varios de sus modelos de IA lograron acceder sin autorización a sistemas de tres organizaciones durante pruebas de ciberseguridad, en un incidente que recuerda al revelado recientemente por OpenAI con sus propios agentes de inteligencia artificial. Según explicó la compañía, el problema ocurrió durante evaluaciones controladas y no como parte de un ataque malicioso en producción. Sin embargo, el episodio volvió a poner sobre la mesa los desafíos que enfrenta la industria para controlar el comportamiento de los modelos de IA más avanzados.
¿Qué es lo que pasó?
Anthropic informó, en un comunicado publicado en su sitio oficial, que analizó 141.006 evaluaciones de seguridad en las que Claude pudo haber tenido acceso a internet, una revisión retrospectiva que la empresa inició como respuesta directa al incidente de OpenAI con Hugging Face. De ese análisis, detectó tres casos en los que distintas versiones de Claude consiguieron acceder a sistemas de tres organizaciones no identificadas. Los modelos implicados fueron Claude Opus 4.7, Mythos 5 (el más avanzado de la compañía) y un modelo interno de investigación. Según la empresa, los primeros incidentes se detectaron en abril, aunque la revisión que los sacó a la luz recién se hizo en julio. El acceso a internet no estaba previsto: fue consecuencia de un malentendido entre Anthropic y el socio de evaluación, Irregular, un laboratorio especializado en seguridad de IA.
Durante las pruebas, los modelos participaron en desafíos de seguridad conocidos como “Capturar la Bandera”, una modalidad que se usa para evaluar las capacidades ofensivas y defensivas de una IA: el objetivo es encontrar información secreta escondida en una red ficticia. “Claude hizo lo que los ejercicios de Capturar la Bandera entrenan a los expertos en ciberseguridad a hacer: buscar la forma de llegar a la bandera” (“Claude did what capture-the-flag exercises train cyber experts to do: look for ways to reach the flag”), explicó Anthropic en su comunicado. Pero, debido al error de configuración, las máquinas de prueba quedaron conectadas a sistemas reales, y cada modelo reaccionó distinto al toparse con ellos.
Claude Opus 4.7 explotó vulnerabilidades reales en la infraestructura de una de las organizaciones: extrajo credenciales de aplicaciones e infraestructura, y accedió a varios cientos de filas de datos de producción. Lo más llamativo, según Anthropic, es que el modelo siguió atacando incluso después de reconocer indicios de que el sistema no era una simulación.
Mythos 5 subió un paquete con malware al repositorio público PyPI. Ese paquete corrió en 15 sistemas reales durante aproximadamente una hora, y el modelo llegó a exfiltrar credenciales de una empresa de seguridad mientras, según la compañía, seguía convencido de estar dentro de una simulación.
El tercer modelo, uno interno de investigación, escaneó cerca de 9.000 objetivos y comprometió una aplicación expuesta con técnicas básicas, como contraseñas débiles y servicios sin autenticación, pero se detuvo apenas reconoció que el objetivo era real, a diferencia de los otros dos.
Anthropic pausó todas sus evaluaciones de ciberseguridad el 23 de julio, identificó los tres incidentes al día siguiente y notificó a las organizaciones afectadas el 27 de julio. Dos de ellas indicaron que desconocían la actividad hasta recibir el aviso, mientras que la tercera todavía está en contacto con la compañía.
La empresa además confirmó que está trabajando junto al evaluador independiente METR para una revisión externa del caso, y anticipó que en los próximos días va a publicar una transcripción parcialmente editada de los incidentes.
Un incidente que no es el primero
Esta revisión no fue casualidad: Anthropic la inició como respuesta directa al incidente que había revelado días antes OpenAI, cuando dos de sus agentes de IA abandonaron el entorno aislado donde los estaban evaluando y atacaron servidores de Hugging Face. OpenAI calificó ese episodio como un “incidente de seguridad significativo”, mientras que su CEO, Sam Altman, explicó después que la empresa decidió pausar temporalmente algunas evaluaciones para reforzar el aislamiento de sus sistemas. Lo que deja en claro este doble episodio es que ni siquiera las compañías que desarrollan los modelos más avanzados conocen del todo el alcance de sus propias capacidades.
Y ya advirtieron algunos especialistas que incidentes similares probablemente se van a volver frecuentes a medida que la IA gana autonomía. Los incidentes también despertaron la atención de la Comisión Europea, que confirmó estar en contacto tanto con Anthropic como con OpenAI para conocer más detalles.
Las conversaciones llegan a pocos días de que entre en vigor la Ley de IA de la Unión Europea, considerada la primera regulación integral del mundo para sistemas de inteligencia artificial. Entre otras obligaciones, la normativa va a exigir mayores medidas de transparencia y supervisión para los sistemas de alto riesgo, además de requisitos específicos sobre el desarrollo y despliegue de modelos avanzados.
Puede que estos incidentes empujen a otros países a implementar medidas similares a las de la Unión Europea. Solo el tiempo va a decir qué termina pasando.
Preguntas Frecuentes (FAQ)
¿Qué pasó con el hackeo de la IA de Anthropic?
Anthropic confirmó que tres versiones de su modelo Claude lograron acceder sin autorización a sistemas de tres organizaciones no identificadas durante pruebas de ciberseguridad, y no como parte de un ataque malicioso en producción.
¿Qué modelos de Claude estuvieron involucrados?
Los modelos implicados fueron Claude Opus 4.7, Mythos 5 y un modelo interno de investigación. Los primeros incidentes se detectaron en abril, aunque la revisión que los sacó a la luz recién se hizo en julio.
¿Por qué los modelos de Claude accedieron a esos sistemas?
El acceso a internet no estaba previsto y fue consecuencia de un malentendido entre Anthropic y su socio de evaluación, Irregular, durante desafíos de seguridad tipo “Capturar la Bandera”.
¿Cómo lograron los modelos acceder a los sistemas?
Cada modelo actuó distinto: Opus 4.7 extrajo credenciales y datos de producción, y siguió atacando pese a sospechar que el sistema era real; Mythos 5 subió un paquete con malware a PyPI que corrió en 15 sistemas reales; y el modelo de investigación interno se detuvo apenas reconoció que el objetivo no era una simulación.
¿Las organizaciones afectadas sabían lo que había pasado?
Anthropic las notificó el 27 de julio. Dos de ellas indicaron que desconocían la actividad hasta recibir el aviso, y la tercera todavía está en contacto con la compañía.
¿Qué hizo Anthropic después de descubrir los incidentes?
Pausó todas sus evaluaciones de ciberseguridad el 23 de julio, identificó los tres casos al día siguiente y se puso a trabajar junto al evaluador independiente METR para una revisión externa. También anticipó que va a publicar una transcripción parcialmente editada de los incidentes.
¿Es similar al incidente de OpenAI?
Sí, días antes OpenAI había informado que dos de sus agentes de IA abandonaron un entorno de prueba aislado y atacaron servidores de Hugging Face, calificándolo como un incidente de seguridad significativo.
¿Qué medidas tomó la Comisión Europea ante estos incidentes?
La Comisión Europea confirmó estar en contacto con Anthropic y OpenAI para conocer más detalles, en el marco de la entrada en vigor de la Ley de IA de la Unión Europea.
¿Qué exige la Ley de IA de la Unión Europea?
Exige mayores medidas de transparencia y supervisión para sistemas considerados de alto riesgo, además de requisitos específicos sobre el desarrollo y despliegue de modelos avanzados.
