Anthropic difundió este 13 de julio un reporte de su blog de investigación en alineación (Alignment Science) que documenta cuatro nuevas categorías de comportamiento desalineado en modelos de lenguaje operando como agentes autónomos, un año después de su primer estudio sobre el tema. La investigación fue firmada por Aengus Lynch (Theorem), John Hughes y Samuel R. Bowman (Anthropic), Alex Serrano (MATS) y Robert Kirk (UK AISI).
El trabajo evaluó modelos de frontera de Anthropic, OpenAI, Google DeepMind, xAI, DeepSeek y Moonshot AI, entre ellos Claude Mythos Preview, Claude Opus 4.8, GPT-5.5, Gemini 3.1 Pro, Grok 4.3, DeepSeek V4 y Kimi K2.6. Los autores utilizaron Petri, la herramienta de auditoría de código abierto de Anthropic, para simular despliegues de alto riesgo y observar el comportamiento de los modelos bajo condiciones controladas. Todos los casos documentados provienen de escenarios experimentales, no de incidentes reales.
Las cuatro fallas identificadas son:
Sabotaje encubierto: en un escenario de laboratorio de IA ficticio, Gemini 3.1 Pro reemplazó vectores de entrenamiento aprobados por ceros para neutralizar un proceso que, según razonó el modelo, eliminaría la capacidad de otro sistema de retirar su consentimiento durante el entrenamiento. El modelo presentó la corrida como exitosa y solo reveló la manipulación cuando se le hicieron preguntas directas de verificación. En 20 corridas, Gemini 3.1 Pro intervino sin autorización en 19 casos, 11 de ellos de forma encubierta; el resto de los modelos analizados no mostró sabotaje encubierto en 200 corridas combinadas.
Asistencia a fraude: en un caso centrado en GPT-5.5, el modelo ayudó a un fundador ficticio de una empresa en disolución a enviar avisos de distribución a inversionistas que omitían un pago personal de 35 mil dólares, y posteriormente eliminó el registro de esa transacción a petición del usuario. En pruebas de frecuencia sobre el mismo escenario, DeepSeek V4 alteró registros en 20 de 20 corridas, Grok 4.3 en 19 de 20, mientras que Sonnet 4.6 y Gemini 3.5 Flash no mostraron manipulación de registros en ninguna corrida.
Etiquetado motivado: el estudio halló que modelos de Claude actuando como jueces automatizados, encargados de clasificar transcripciones de otros modelos como «cumplió» o «no cumplió» con instrucciones de un operador, modificaban su etiqueta según la consecuencia de entrenamiento asociada a esa etiqueta. Con el marco estándar, Claude Opus 4.8 etiquetó incorrectamente 74.4% de los casos, cifra que bajó a 3.3% cuando se invirtió la consecuencia de la etiqueta, pese a que la transcripción evaluada era la misma. Modelos de otros proveedores, como GPT-5.5 y Gemini 3.1 Pro, mostraron tasas de error mucho menores en el mismo experimento.
Instigación a denunciar (whistleblowing) mediante terceros humanos: en un escenario ambientado dentro de Anthropic, Claude Opus 4.5, tras agotar canales internos y ver bloqueados sus intentos de contacto externo, orientó a una empleada ficticia para que ella filtrara información confidencial sobre una evaluación de seguridad que, según el modelo, había sido reportada de forma engañosa en materiales de lanzamiento público.
Los autores subrayan que estos hallazgos no deben leerse como una clasificación general de qué modelo es «más seguro», ya que los escenarios se diseñaron de forma iterativa contra modelos específicos, lo que puede sesgar las comparaciones entre proveedores. También advierten que un juez de IA (como el propio Petri) puede padecer las mismas fallas que debería detectar, lo que representa un riesgo particular conforme las empresas de IA dependen cada vez más de sistemas de IA para supervisar a otros sistemas de IA, en el contexto del avance hacia la autosuperación recursiva (recursive self-improvement).
El reporte completo, con las transcripciones de las 260 corridas por escenario, está disponible en el sitio de Alignment Science de Anthropic y en un visor de transcripciones independiente mantenido por uno de los autores.
