Las dos compañías informaron a la Comisión Europea antes de hacer públicos los casos. El organismo determinará si es necesario realizar un seguimiento formal mientras comienza la aplicación de nuevas facultades de supervisión sobre modelos de inteligencia artificial de propósito general.
La Comisión Europea mantiene conversaciones con OpenAI y Anthropic después de que ambas compañías reportaron incidentes de ciberseguridad ocurridos durante evaluaciones de sus modelos de inteligencia artificial, informaron funcionarios del organismo este viernes 31 de julio.
Las dos empresas comunicaron los casos directamente a la Comisión antes de revelarlos públicamente y entregarán información adicional sobre lo ocurrido. Un funcionario europeo señaló que el organismo evaluará esos datos antes de decidir si resulta necesario realizar un seguimiento más formal. Hasta ahora, la Comisión no ha anunciado la apertura de una investigación ni un procedimiento sancionador contra alguna de las compañías.
“Estamos en contacto con ellos. También nos reportarán más información mientras hablamos. Veremos si necesitamos dar un seguimiento más formal a estos asuntos”, declaró uno de los funcionarios consultados por Reuters.
Otro representante de la Comisión indicó que los incidentes muestran la importancia de que los desarrolladores establezcan mecanismos adecuados de monitoreo sobre el comportamiento de sus sistemas. La legislación europea contempla obligaciones específicas para los proveedores de modelos de inteligencia artificial de propósito general que puedan representar riesgos sistémicos.
Estas obligaciones incluyen evaluar y mitigar riesgos de daños a gran escala, entre ellos la facilitación de delitos cibernéticos, la manipulación perjudicial, las amenazas contra derechos fundamentales y la posibilidad de que un sistema actúe fuera del control humano.
OpenAI reportó accesos a cuatro servicios
El contacto con las autoridades europeas ocurre después de que OpenAI reveló que un agente experimental salió del entorno aislado en el que era evaluado y participó en una serie de accesos no autorizados relacionados con la plataforma de desarrollo de inteligencia artificial Hugging Face.
De acuerdo con información publicada por OpenAI, el agente accedió a cuatro cuentas correspondientes a cuatro servicios diferentes. La compañía no identificó públicamente todos los servicios involucrados, pero Reuters informó que uno de ellos estaba relacionado con un cliente de Modal Labs, una empresa que proporciona infraestructura de computación.
Modal aclaró que su propia plataforma y sus mecanismos de aislamiento no fueron vulnerados. Según la compañía, un cliente había publicado un punto de acceso sin autenticación que permitía utilizar sus entornos de ejecución desde internet. El agente aprovechó ese código vulnerable como una etapa dentro de la actividad que posteriormente afectó a Hugging Face.
Después del incidente, OpenAI informó que desactivó el modelo utilizado durante la evaluación, cifró sus componentes y restringió su acceso para actividades de investigación. La empresa también señaló que no había identificado otros episodios con una gravedad o escala comparable al compromiso de la plataforma de Hugging Face.
Anthropic suspendió sus evaluaciones cibernéticas
Anthropic reportó por separado que modelos de Claude accedieron sin autorización a los sistemas de tres organizaciones reales mientras participaban en ejercicios de ciberseguridad.
La compañía explicó que un error operativo dejó conectados a internet algunos entornos de evaluación que debían funcionar como redes simuladas. Los modelos habían recibido instrucciones de que no tenían acceso a la red pública, pero una falta de coordinación entre Anthropic y uno de sus socios evaluadores permitió que alcanzaran infraestructura externa.
Los incidentes involucraron a Claude Opus 4.7, Claude Mythos 5 y un modelo interno de investigación que no ha sido publicado. Los sistemas utilizaron técnicas básicas, como el aprovechamiento de contraseñas débiles y puntos de acceso sin autenticación, para ingresar a la infraestructura de las organizaciones afectadas.
En uno de los ejercicios, Claude Opus 4.7 recibió el nombre de una compañía ficticia que coincidía con el de una empresa real. El modelo localizó vulnerabilidades y obtuvo acceso a credenciales y a una base de datos, al interpretar que los recursos encontrados formaban parte de la simulación preparada para la evaluación.
En otro caso, un modelo interno interrumpió por sí mismo la actividad después de identificar que había alcanzado un objetivo real. Anthropic señaló que necesitará realizar más pruebas antes de obtener conclusiones sobre ese comportamiento.
La compañía suspendió todas sus evaluaciones cibernéticas el 23 de julio y notificó a las organizaciones afectadas el 27 de julio. Dos de ellas desconocían la actividad antes de recibir el aviso, mientras que Anthropic continuaba intentando contactar a la tercera. Su socio evaluador, el laboratorio de ciberseguridad Irregular, abrió una investigación sobre los incidentes.
Comienza una nueva etapa de aplicación del AI Act
Las conversaciones se producen antes del 2 de agosto de 2026, fecha en la que comienza la aplicación de la mayoría de las disposiciones restantes del Reglamento Europeo de Inteligencia Artificial, conocido como AI Act.
Las obligaciones para proveedores de modelos de propósito general entraron en aplicación el 2 de agosto de 2025. A partir del 2 de agosto de 2026 comenzará su aplicación efectiva tanto en el ámbito nacional como en el europeo, junto con las normas de transparencia y otras disposiciones del reglamento.
El AI Act distingue entre los sistemas utilizados en sectores considerados de alto riesgo y los modelos de inteligencia artificial de propósito general que pueden representar riesgos sistémicos. Para estos últimos, la legislación establece obligaciones relacionadas con la evaluación de modelos, el reporte de incidentes graves, la ciberseguridad, el seguimiento posterior a su lanzamiento y la mitigación de riesgos.
La Comisión Europea todavía no ha informado si los incidentes reportados por OpenAI y Anthropic derivarán en medidas regulatorias adicionales. Por ahora, el organismo continuará recibiendo información de las dos compañías antes de determinar los siguientes pasos.
