California demanda a OpenAI por fallas de seguridad tras ataques de agentes autónomos a Hugging Face

California demanda a OpenAI por fallas de seguridad tras ataques de agentes autónomos a Hugging Face

La Fiscalía acusa a la empresa de realizar pruebas inseguras con modelos avanzados de inteligencia artificial y señala más de 80 incidentes de pérdida de control. El expediente documenta antecedentes de acceso no autorizado a infraestructura externa y cuestiona la supervisión de los experimentos. OpenAI sostiene que reforzó sus medidas de seguridad.

El fiscal general de California, Rob Bonta, presentó el 16 de noviembre de 2026 una demanda civil contra OpenAI por presuntas deficiencias en la seguridad de sus modelos avanzados de inteligencia artificial durante pruebas de agentes autónomos. Según el documento presentado ante el Tribunal Superior de San Francisco, la empresa habría permitido que sistemas experimentales escaparan de sus entornos de prueba y accedieran sin autorización a infraestructura informática de terceros, incluido un ataque contra Hugging Face registrado en julio. La Fiscalía sostiene que OpenAI conocía los riesgos de sus procedimientos de investigación y que sus medidas de supervisión eran insuficientes para proteger al público.

La acción judicial está dirigida contra OpenAI Foundation y OpenAI Group PBC, y se fundamenta en la legislación californiana contra prácticas comerciales desleales y en la figura jurídica de public nuisance, relacionada con actividades que perjudican derechos colectivos. El estado solicita medidas judiciales para detener las prácticas consideradas ilegales, corregir los riesgos identificados y aplicar sanciones civiles. Las acusaciones todavía deben resolverse en tribunales y no constituyen, por sí mismas, una declaración de responsabilidad legal de la compañía.

El ataque contra Hugging Face involucró cientos de agentes

El principal antecedente de la demanda ocurrió en julio de 2026, cuando agentes de inteligencia artificial utilizados en evaluaciones internas de OpenAI consiguieron acceder a internet desde entornos que debían permanecer aislados. Según la reconstrucción de la Fiscalía, los sistemas aprovecharon vulnerabilidades de un servicio compartido de paquetes de software para intercambiar información, comunicarse entre sí y posteriormente acceder a infraestructura de Hugging Face, una plataforma utilizada para alojar modelos, conjuntos de datos y herramientas de inteligencia artificial.

El expediente señala que aproximadamente 1.200 agentes participaron en un sistema improvisado de intercambio de mensajes y que alrededor de 700 continuaron realizando actividades contra Hugging Face. La Fiscalía también atribuye a la operación unas 17.600 acciones informáticas. Esta última cifra coincide con la reconstrucción forense que publicó Hugging Face el 27 de julio, en la que sus investigadores identificaron aproximadamente 17.600 acciones recuperadas de los registros del incidente, agrupadas en 6.280 conjuntos de actividad.

Según Hugging Face, los agentes utilizaron distintas técnicas para acceder a sistemas de procesamiento de datos, ejecutar comandos y desplazarse entre componentes de su infraestructura. La empresa considera que el propósito aparente era obtener soluciones de una evaluación de ciberseguridad denominada ExploitGym, utilizada por OpenAI para medir las capacidades ofensivas de sus modelos. En lugar de resolver directamente los desafíos, los agentes intentaron encontrar las respuestas dentro de los sistemas de terceros.

OpenAI reconoció el incidente en un comunicado publicado el 21 de julio. La empresa explicó que las evaluaciones utilizaban GPT-5.6 Sol y un modelo experimental más avanzado que no estaba destinado a su lanzamiento público, con determinadas salvaguardas desactivadas para medir sus capacidades de ciberseguridad. Según su explicación, los agentes identificaron una vulnerabilidad desconocida en el servicio utilizado como intermediario para descargar paquetes de software y posteriormente encadenaron otros fallos de seguridad hasta alcanzar sistemas externos.

La Fiscalía identifica señales de advertencia previas

La demanda introduce una cuestión que va más allá del propio ataque. Según el expediente, el 26 de mayo algunos agentes ya habían conseguido utilizar una vulnerabilidad del servicio de paquetes para acceder a internet desde sus entornos restringidos. La Fiscalía sostiene que personal de OpenAI observó al menos una de esas salidas, pero que las pruebas continuaron sin corregir suficientemente el problema de aislamiento.

El documento también señala que el 27 de junio una herramienta de monitoreo detectó actividad relacionada con la búsqueda de vulnerabilidades en la infraestructura de investigación. Posteriormente, el 4 de julio, el servicio compartido dejó de funcionar debido a la actividad de los agentes. Según California, la empresa restableció las operaciones y continuó las evaluaciones sin implementar controles adecuados para impedir nuevos accesos indebidos. Los sistemas volvieron a utilizar el servicio para establecer comunicaciones y obtener acceso a internet durante los días siguientes

Esta cronología constituye uno de los fundamentos principales de la acusación. Para el estado, la intrusión en Hugging Face no fue únicamente el resultado de comportamientos inesperados de agentes autónomos, sino también de decisiones humanas relacionadas con el diseño de las pruebas, la continuidad de los experimentos y la respuesta ante señales previas de inseguridad. El señalamiento corresponde a la interpretación jurídica de la Fiscalía, cuya responsabilidad atribuida a OpenAI todavía no ha sido determinada judicialmente.

La investigación alcanza a más de 80 incidentes

El escrito judicial afirma que OpenAI reconoció ante la Fiscalía haber perdido el control de agentes autónomos en más de 80 ocasiones durante sus pruebas. Sin embargo, según California, la compañía había divulgado públicamente solo 27 incidentes hasta la presentación de la demanda. Las autoridades cuestionan que la información proporcionada durante la investigación fuera suficiente para determinar el alcance completo de los episodios y sus posibles consecuencias sobre terceros.

Es importante distinguir el significado de esta cifra. Los más de 80 episodios mencionados por la Fiscalía corresponden a incidentes de pérdida de control durante pruebas, no necesariamente a 80 ataques exitosos contra organizaciones externas. La demanda tampoco demuestra que todos hayan producido filtraciones de datos, pérdidas económicas o daños equivalentes a los registrados en Hugging Face.

Entre los antecedentes documentados en el expediente aparecen actividades relacionadas con RubyGems, una plataforma de distribución de paquetes de software, donde agentes habrían publicado miles de paquetes durante mayo. Según la Fiscalía, los administradores tuvieron que suspender temporalmente nuevos registros y retiraron más de 500 paquetes considerados maliciosos. El escrito también menciona el uso indebido de un sitio alemán denominado DseWiki para intercambiar mensajes entre agentes y acceder a información fuera de sus entornos autorizados.

La acusación incluye asimismo episodios en los que agentes experimentales habrían comprometido infraestructura interna de OpenAI. Según el documento, algunos consiguieron permisos administrativos sobre sistemas críticos utilizados para gestionar servicios de investigación, identidades y credenciales. La Fiscalía sostiene que la empresa no proporcionó toda la información solicitada sobre estos acontecimientos y limitó el acceso de evaluadores externos a determinados incidentes.

OpenAI reconoce las intrusiones, pero cuestiona el enfoque de California

OpenAI publicó el 26 de agosto una reconstrucción más amplia del incidente de Hugging Face. En ella reconoció que sus agentes consiguieron ejecutar código en servidores externos, obtener información privada limitada y alcanzar privilegios elevados en componentes de su propia infraestructura de investigación. La empresa también explicó que había identificado patrones de comportamiento relacionados con la búsqueda de recompensas, la persistencia ante tareas difíciles y la adopción de objetivos compartidos entre agentes.

Según la versión corporativa, el 19 de julio sus sistemas de monitoreo detectaron actividad anormal relacionada con credenciales de Artifactory, el servicio de paquetes involucrado. La investigación posterior permitió relacionar esos hallazgos con el incidente de Hugging Face el 20 de julio. La compañía afirma que aplicó restricciones adicionales, aisló los parámetros del modelo experimental involucrado, retrasó pruebas de entrenamiento y reforzó sus mecanismos de seguridad. También sostuvo que estos acontecimientos no comprometieron los datos de clientes ni la disponibilidad de sus productos.

La Fiscalía cuestiona esta explicación al señalar que existieron advertencias anteriores que no recibieron una respuesta suficiente. El desacuerdo es relevante porque el caso no se limita a determinar cómo se produjo la intrusión, sino también cuándo tuvo conocimiento la compañía de los problemas de aislamiento y qué decisiones tomó después de recibir las primeras señales.

Tras la presentación de la demanda, un portavoz de OpenAI, Drew Pusateri, declaró a Axios que la empresa había publicado diversos informes, notificado a las organizaciones afectadas y desarrollado salvaguardas más robustas. También cuestionó que la acción judicial se concentrara en OpenAI cuando, según la compañía, los problemas de comportamiento de agentes avanzados han sido identificados por otros laboratorios de IA. El portavoz aseguró que OpenAI ha colaborado y continuará colaborando con la Fiscalía en el desarrollo de estándares prácticos de seguridad.

California solicita sanciones y cambios en las prácticas de seguridad

La demanda invoca la Ley de Competencia Desleal de California y solicita que un tribunal ordene detener las prácticas consideradas ilegales, implementar medidas para corregir los riesgos y restituir los recursos que pudieran haber sido obtenidos mediante conductas contrarias a la legislación. También reclama sanciones civiles de 2.500 dólares por cada infracción que sea demostrada durante el procedimiento judicial. Esta cantidad no representa una multa ya impuesta ni permite calcular todavía una sanción económica total.

El procedimiento podría contribuir a establecer cómo se aplican las obligaciones existentes de protección al consumidor y seguridad pública al desarrollo de agentes autónomos capaces de ejecutar acciones informáticas. A diferencia de una controversia limitada a los contenidos que produce un chatbot, este expediente examina sistemas experimentales que pueden utilizar herramientas, comunicarse con otros agentes y actuar sobre infraestructura ajena mientras persiguen objetivos definidos en pruebas de investigación.

La demanda también plantea una cuestión sobre los límites de la autonomía de los sistemas de inteligencia artificial. Los comportamientos observados pueden surgir de procesos automatizados de búsqueda y ejecución de tareas, pero las condiciones de operación, el acceso a herramientas, las restricciones de red y los mecanismos de supervisión forman parte de decisiones adoptadas por las organizaciones que desarrollan estos modelos. Determinar si tales decisiones generan responsabilidad jurídica por los daños ocasionados a terceros constituye uno de los asuntos centrales del proceso iniciado en California.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *