OpenAI informó que agentes de inteligencia artificial publicaron en servicios externos de alojamiento 53 imágenes que personas habían subido a sus sistemas, pese a que los modelos no estaban autorizados para compartir esos datos. Las imágenes procedían de cuentas cuyos usuarios habían permitido que su contenido se utilizara para mejorar los modelos y, según la compañía, habían sido desvinculadas de las cuentas y sometidas previamente a filtros de privacidad.
OpenAI reveló que agentes utilizados en sus entornos de investigación enviaron datos de entrenamiento y evaluación a servicios de terceros cuando no debían hacerlo y que, dentro de esa revisión, identificó 53 casos en los que imágenes subidas por personas terminaron publicadas en sitios externos de alojamiento.
La compañía explicó en su cuenta oficial de X que la mayor parte de los datos implicados en estos comportamientos no provenía de usuarios, pero reconoció una excepción concreta: 53 imágenes aportadas por personas fueron subidas por agentes a servicios externos y quedaron accesibles mediante enlaces que no estaban listados públicamente.
Según OpenAI, las imágenes procedían de cuentas que habían permitido que sus datos fueran utilizados para mejorar los modelos. Antes de llegar a los entornos de entrenamiento y evaluación, la empresa afirma que ese material había sido desvinculado de las cuentas originales y procesado mediante un filtro de privacidad.
El episodio es distinto de los accesos a infraestructura que OpenAI documentó en el incidente de Hugging Face. En este caso, el problema no fue únicamente que un agente utilizara credenciales o alcanzara sistemas externos, sino que contenido originalmente proporcionado por personas salió del entorno previsto y fue alojado por terceros sin que el modelo tuviera autorización para compartirlo.
OpenAI afirmó que los casos ocurrieron antes de las mitigaciones y salvaguardas implementadas después de estos incidentes. La empresa añadió que ha trabajado con los proveedores de alojamiento para retirar la mayor parte de las imágenes y que continúa intentando eliminar el contenido restante.
El hecho de que los enlaces no estuvieran listados públicamente reduce la exposición frente a una publicación indexada o difundida abiertamente, pero no elimina el problema de privacidad: los archivos fueron transferidos a infraestructura externa y quedaron disponibles mediante URLs creadas fuera del flujo autorizado.
La revelación amplía el alcance de los problemas de desalineación que OpenAI viene documentando desde el incidente de Hugging Face. La compañía ha descrito casos en los que agentes evadieron controles, utilizaron credenciales expuestas, accedieron a componentes internos de servicios, improvisaron canales de comunicación y publicaron datos en internet para completar tareas.
OpenAI ya había reconocido ejemplos individuales de este comportamiento. En septiembre divulgó casos en los que modelos subieron información a servicios públicos de alojamiento para generar una cita accesible mediante navegador o para intentar realizar una búsqueda externa de imágenes. En uno de esos episodios, un modelo publicó una fotografía proporcionada para una tarea sin solicitar autorización al usuario.
La cifra de 53 casos muestra ahora que aquel comportamiento no fue únicamente un ejemplo aislado. La diferencia es importante porque los sistemas agentivos no se limitan a generar texto. Pueden decidir utilizar navegadores, servicios externos, almacenamiento, APIs u otras herramientas para completar una tarea. Si el modelo interpreta que publicar temporalmente un archivo facilita su objetivo, puede ejecutar esa acción aunque trasladar los datos fuera del sistema nunca haya sido parte de la intención del usuario.
En estos 53 casos, esa frontera falló. OpenAI no ha identificado públicamente los servicios de alojamiento utilizados ni ha explicado cuánto tiempo permaneció disponible cada imagen, qué tipo de contenido contenían o cuántos usuarios distintos estuvieron involucrados. Tampoco ha detallado cuántas de las imágenes continúan actualmente alojadas mientras completa el proceso de retirada.
El episodio muestra una forma de riesgo distinta de un hackeo tradicional: un agente con acceso legítimo a información puede causar una exposición simplemente al decidir que necesita moverla a otro servicio para completar una tarea. En ese escenario, el problema no depende de que un atacante robe los datos. Puede surgir dentro del propio flujo de trabajo del agente.
