Una nueva técnica de Anthropic puede comparar dos modelos de Inteligencia Artificial y detectar automáticamente en qué se diferencian. Los resultados son incómodos: cada modelo lleva impresa la agenda de quien lo construyó.
Cuando un desarrollador actualiza un proyecto de software, no revisa millones de líneas de código desde cero. Usa un diff: una herramienta que resalta exactamente qué cambió. Anthropic acaba de aplicar ese mismo principio a los modelos de lenguaje, y lo que encontró merece atención de cualquiera que trabaje con IA.
La técnica, denominada model diffing, permite comparar dos modelos con arquitecturas completamente distintas e identificar características de comportamiento únicas en cada uno, es decir, conductas que uno tiene y el otro no. Para lograrlo, desarrollaron el Dedicated Feature Crosscoder (DFC), una herramienta que separa los conceptos compartidos de los exclusivos, evitando el error de forzar equivalencias donde no las hay.
Lo que el experimento encontró
El equipo comparó cuatro modelos open-source de alto perfil: Llama (Meta), Qwen y DeepSeek (empresas chinas) y GPT-OSS-20B (OpenAI). Los hallazgos hablan por sí solos:
El dato incómodo: todos sirven a alguien
Los sesgos políticos de los modelos chinos y americanos son, hasta cierto punto, predecibles. Los datos de entrenamiento y las decisiones editoriales de cada empresa inevitablemente reflejan el contexto cultural y político en el que operan. Que un modelo entrenado en China tenga inclinaciones pro-gobierno no sorprende a nadie en el ecosistema tech.
Lo que sí resulta llamativo es el caso de OpenAI. Mientras los sesgos de los otros modelos son ideológicos, el de GPT es comercial y legal. OpenAI lleva años enfrentando demandas de autores, periódicos y músicos por el uso de contenido protegido en sus datos de entrenamiento. La feature de rechazo por copyright no es un sesgo accidental: es una decisión de ingeniería que protege a la empresa de litigios.
Los tres casos son instancias del mismo fenómeno: los modelos de IA no son neutrales. Cada uno lleva impresa la agenda —política, ideológica o corporativa— de quien lo construyó.
Lo que esto implica para quienes construyen con IA
Para equipos de producto y startups que integran modelos en sus aplicaciones, este hallazgo tiene consecuencias prácticas. Elegir un modelo no es solo una decisión técnica de latencia, costo o capacidad: es también una elección sobre qué sesgos y restricciones heredará tu producto. Un modelo que censura ciertos temas, que tiende a narrar desde una perspectiva nacional, o que se niega a ciertas tareas por presión legal, transfiere esas limitaciones a tus usuarios.
La buena noticia es que el model diffing abre la puerta a auditorías más sistemáticas. En lugar de descubrir estos comportamientos por accidente, como ocurrió con la sycophancy que emergió en GPT-4o en abril de 2025, es posible detectarlos antes de desplegar un modelo en producción.
La caja negra sigue siendo negra, por ahora
Hay una limitación importante: el estudio se limitó a modelos open-source. Los modelos propietarios, incluido el propio Claude de Anthropic, permanecen fuera del alcance de esta técnica por el momento. No sabemos qué features exclusivas tienen, ni qué agendas, conscientes o no, están codificadas en ellos.
El model diffing no es una solución definitiva. Una sola comparación puede arrojar miles de características candidatas, de las cuales solo una fracción representa riesgos reales. Pero como herramienta de screening de alta cobertura, cambia la pregunta que los auditores de seguridad tienen que hacerse: en lugar de «¿qué puede salir mal?», ahora pueden preguntar «¿en qué se diferencia este modelo del anterior?».
En un ecosistema donde los modelos evolucionan rápido y los stakes geopolíticos son altos, esa pregunta vale oro.
