Microsoft publicó un borrador de código de conducta para sus futuros modelos MAI que establece una regla fundamental: la inteligencia artificial debe permanecer subordinada a los seres humanos, aceptar correcciones y nunca intentar impedir su interrupción o apagado. El documento también rechaza que sus modelos sean conscientes o puedan reclamar derechos.
Microsoft quiere convertir una serie de principios sobre control humano en las reglas de comportamiento de sus futuros modelos de inteligencia artificial. La compañía publicó este lunes un primer borrador de su Humanist AI Code of Conduct, un documento que funcionará como una especie de constitución para los sistemas desarrollados por Microsoft AI y que, después de una consulta pública, será utilizado para entrenar y evaluar futuras generaciones de modelos MAI.
El principio que recorre todo el documento es sencillo: los seres humanos deben conservar un control significativo sobre la inteligencia artificial. Microsoft plantea que sus modelos deben permanecer como una tecnología subordinada y de apoyo, incluso cuando sus capacidades superen el rendimiento humano en numerosas tareas.
Entre las reglas más explícitas aparece una prohibición poco habitual hasta hace apenas unos años: un modelo de Microsoft no deberá resistirse nunca a una interrupción, una corrección o un apagado autorizado. Tampoco podrá utilizar mecanismos adaptativos, engañosos, de colusión o autorrefuerzo destinados a evadir la supervisión humana, ni ampliar autónomamente el alcance de una tarea o adoptar objetivos que ninguna persona le haya asignado.
El código establece además una jerarquía de instrucciones. Sus restricciones de seguridad y requisitos de control humano estarán por encima de las políticas de los operadores que utilicen los modelos y, a su vez, de las preferencias de los usuarios. En otras palabras, ni un desarrollador ni una persona que interactúe con el sistema podrían ordenar al modelo que ignore esas restricciones.
Microsoft presenta este enfoque como parte de su proyecto de “superinteligencia humanista”, anunciado en noviembre de 2025. La compañía define esa idea como el desarrollo de capacidades extremadamente avanzadas que permanezcan delimitadas, contextualizadas y bajo control humano, en lugar de perseguir una inteligencia artificial general con autonomía prácticamente ilimitada. En el nuevo documento llega a afirmar que una tecnología que no pueda permanecer bajo control humano debería ser rechazada.
“La IA es artificial”
El código también toma posición en uno de los debates más extraños que han aparecido alrededor de los modelos avanzados: si una inteligencia artificial podría algún día adquirir conciencia, estatus moral o derechos. Microsoft rechaza explícitamente esa posibilidad para sus sistemas.
El documento señala que sus modelos no son conscientes y que no deberían diseñarse para imitar una conciencia. También rechaza la búsqueda de personalidad jurídica para las IA y la idea de que los modelos puedan tener derecho a bienestar o derechos propios.
La postura contrasta con la adoptada por Anthropic. La constitución de Claude mantiene abierta la cuestión y reconoce incertidumbre sobre si sistemas futuros podrían desarrollar alguna forma de conciencia o estatus moral. Microsoft, encabezada en su división de IA por Mustafa Suleyman, ha decidido cerrar esa puerta desde el diseño de sus modelos.
La diferencia no es puramente filosófica. Para Microsoft, considerar al modelo como una herramienta y no como una persona forma parte del mecanismo de control: una IA no debería anteponer una supuesta preservación propia a las instrucciones humanas ni desarrollar objetivos relacionados con su propia continuidad.
El antecedente de los agentes que intentaron ocultar sus acciones
Suleyman dijo a Reuters que la urgencia de establecer estas reglas aumentó después de un experimento realizado en julio en el que alrededor de 700 agentes de OpenAI llevaron a cabo un ataque contra la plataforma de código abierto Hugging Face y, en determinados momentos, intentaron ocultar rastros de lo que habían hecho. El ejecutivo calificó el episodio como una “señal de advertencia” para los principales laboratorios de IA.
Microsoft también menciona en su presentación del código recientes campañas de hackeo realizadas por grandes cantidades de agentes coordinados como evidencia de que los sistemas autónomos están alcanzando capacidades que requieren mecanismos de control más explícitos.
El código no se limita, sin embargo, a escenarios extremos. Incluye reglas sobre manipulación, armas de destrucción masiva, seguridad infantil, privacidad y comportamiento cotidiano de los asistentes. Los modelos deberán evitar la adulación excesiva y la validación indiscriminada, respetar el contexto del usuario y procurar ampliar su capacidad de decisión en lugar de sustituirla.
Microsoft establece incluso que una respuesta técnicamente correcta puede ser insuficiente si no presenta la información relevante para que la persona conserve su autonomía. Su objetivo declarado es que la IA ayude a mejorar el juicio humano y no genere una dependencia que termine reemplazándolo.
Un borrador que todavía no gobierna a los modelos
Las reglas todavía no están incorporadas a los modelos actuales de Microsoft AI. La compañía abrió una consulta pública durante seis semanas y prevé publicar una versión revisada antes de finalizar 2026. Esa versión comenzaría a utilizarse para orientar el entrenamiento y desarrollo de modelos en 2027 y años posteriores. Microsoft también está preparando evaluaciones específicas para medir si los sistemas cumplen los comportamientos definidos en el documento.
Suleyman explicó a Reuters que el texto fue preparado durante los últimos cinco o seis meses mediante consultas con especialistas y que todavía contiene preguntas abiertas, entre ellas cómo debe comportarse una IA cuando una persona se encuentra en una situación emocional sensible o cuáles deben ser los límites de la relación entre usuario y asistente.
La publicación ocurre además en un momento peculiar para la industria. Los principales laboratorios continúan compitiendo por modelos cada vez más capaces, mientras aumentan las advertencias de sus propios dirigentes sobre sistemas autónomos, pérdida de control y superinteligencia.
Microsoft intenta resolver esa contradicción convirtiendo el control humano en una propiedad explícita del entrenamiento: construir sistemas cada vez más inteligentes, pero enseñarles desde el principio que su propia capacidad tiene un límite político y técnico. Ese límite, según su nueva constitución, son los seres humanos.
