Trump y Xi plantean mantener el control humano sobre la IA; Bessent revela entendimiento militar

Trump y Xi plantean mantener el control humano sobre la IA; Bessent revela entendimiento militar

Los presidentes de Estados Unidos y China expresaron su disposición a cooperar en seguridad de inteligencia artificial. El secretario del Tesoro estadounidense aseguró que también coincidieron en impedir que los sistemas autónomos inicien grandes operaciones militares sin intervención humana. El anuncio ocurre mientras México y otros seis países impulsan reglas internacionales obligatorias en Ginebra.

Los presidentes de Estados Unidos, Donald Trump, y China, Xi Jinping, plantearon la necesidad de establecer medidas de seguridad para la inteligencia artificial y preservar el control humano sobre esta tecnología durante su encuentro bilateral del 19 de noviembre de 2026 en Shenzhen, China. Las declaraciones de ambos mandatarios apuntan hacia una posible cooperación entre las dos mayores potencias tecnológicas, aunque todavía no se conocen compromisos públicos que establezcan restricciones específicas para el desarrollo y uso de sistemas de armas autónomas.

El alcance militar de las conversaciones fue revelado este viernes 20 de noviembre por Scott Bessent, secretario del Tesoro estadounidense, quien aseguró que los presidentes coincidieron en que los seres humanos deben participar siempre en las decisiones militares que involucren inteligencia artificial. El funcionario también afirmó que los sistemas autónomos no deberían ejecutar grandes operaciones militares sin intervención humana, una posición que, de confirmarse como compromiso bilateral, representaría un punto de coincidencia en medio de la competencia tecnológica y militar entre Washington y Pekín.

Xi Jinping pide que la inteligencia artificial permanezca bajo control humano

El presidente chino defendió expresamente la necesidad de mantener el control humano sobre la inteligencia artificial durante su encuentro con Trump, celebrado en el marco de la reunión de líderes del Foro de Cooperación Económica Asia-Pacífico (APEC). En el comunicado publicado el 19 de noviembre, el Ministerio de Relaciones Exteriores de China recoge la propuesta de Xi para reforzar la comunicación y coordinación bilateral, prevenir los riesgos de seguridad asociados con la IA y garantizar que esta tecnología permanezca siempre bajo control humano.

«China y Estados Unidos deben intensificar la comunicación y la coordinación, prevenir los riesgos de seguridad que plantea la IA y garantizar que esta se mantenga siempre bajo control humano», señala el comunicado. 

La declaración forma parte de una propuesta más amplia de cooperación entre China y Estados Unidos, que incluye asuntos comerciales, seguridad internacional y estabilidad estratégica. Sin embargo, el comunicado chino no identifica sistemas militares específicos, categorías de armamento ni mecanismos para garantizar el cumplimiento del principio de control humano. Tampoco establece si Pekín estaría dispuesto a aceptar restricciones jurídicamente vinculantes sobre las capacidades autónomas de sus sistemas de defensa.

El documento oficial recoge además la intención de ambos gobiernos de elaborar un plan de acción para fortalecer una relación bilateral de estabilidad estratégica. Aunque la inteligencia artificial aparece expresamente entre los asuntos de cooperación, todavía no se ha presentado públicamente un apartado específico que desarrolle sus implicaciones militares.

Trump plantea trabajar con China en reglas razonables de seguridad

Por su parte, Donald Trump afirmó durante una entrevista con Fox News que él y Xi comparten el interés por establecer regulaciones de seguridad para la inteligencia artificial y que ambos gobiernos podrían trabajar conjuntamente en reglas razonables para la tecnología. La declaración, recogida el 19 de noviembre, introduce la posibilidad de cooperación regulatoria entre dos países que mantienen una intensa competencia por el desarrollo de modelos avanzados, semiconductores y capacidades de cómputo.

La Casa Blanca también difundió un resumen oficial de la entrevista del presidente estadounidense, en el que destacó sus declaraciones sobre el liderazgo de Estados Unidos en superinteligencia y las conversaciones mantenidas con Xi. Trump sostuvo que el desarrollo estadounidense se encontraba por delante del chino, una posición que refleja la importancia estratégica que su administración atribuye a estas tecnologías. El resumen gubernamental, sin embargo, no reproduce un compromiso específico sobre armas autónomas ni detalla las reglas de seguridad mencionadas en la cobertura de su entrevista.

La diferencia entre las declaraciones presidenciales resulta relevante. Xi formuló expresamente el principio de control humano sobre la IA, mientras Trump habló de cooperación en seguridad y de regulaciones razonables. Ninguno de los dos presentó públicamente, en las declaraciones examinadas, un texto que establezca las condiciones técnicas o jurídicas para supervisar decisiones militares automatizadas.

Bessent asegura que ambos países alcanzaron un entendimiento militar

El secretario del Tesoro estadounidense, Scott Bessent, ofreció una interpretación más específica del encuentro durante una entrevista con Sara Eisen en el programa Squawk on the Street, de CNBC. El funcionario aseguró que Trump y Xi coincidieron en que los seres humanos siempre deben intervenir en las decisiones militares adoptadas mediante sistemas de inteligencia artificial y que estos sistemas no deben actuar autónomamente en operaciones militares de gran importancia.

Bessent destacó este entendimiento como uno de los principales resultados del viaje presidencial a Asia y defendió la posibilidad de cooperar en asuntos de seguridad pese a la competencia entre los dos países. En su explicación, distinguió la rivalidad por el liderazgo tecnológico de la necesidad de impedir que una operación militar importante sea iniciada sin participación humana, una preocupación vinculada con la creciente incorporación de sistemas autónomos a las capacidades de defensa.

La entrevista constituye una declaración directa y verificable de un integrante del gobierno estadounidense que participó en el viaje. Sin embargo, el contenido específicamente militar sigue dependiendo de su testimonio: no se ha identificado un documento bilateral público que establezca definiciones, obligaciones, mecanismos de inspección o procedimientos para verificar el cumplimiento del entendimiento. Tampoco está claro si la referencia a operaciones militares importantes abarcaría todos los usos de armas autónomas o solamente determinadas decisiones estratégicas.

«Bueno, Sara, creo que aquí hay dos cosas muy diferentes. Una es la carrera de inteligencia artificial, y obviamente Estados Unidos va a la cabeza. Debemos mantenernos a la cabeza. Lo que estamos viendo es esta proliferación de modelos extranjeros, predominantemente chinos, que se han extendido por todo el mundo. Y cualquier ataque basado en inteligencia artificial que veamos proviene de estos modelos chinos, y son peligrosos, y la mejor defensa para Estados Unidos es que nuestros laboratorios continúen en la vanguardia y nos proporcionen la mejor defensa contra estos otros modelos. Pero, ya sabes, no hay nada que ver con la competencia cuando se dice que ambas partes están de acuerdo en que ninguna operación militar importante debe lanzarse sin la participación de un ser humano», expresó Bessent a la CNBC.

¿Qué significa mantener a un ser humano en las decisiones militares?

El principio de control humano es uno de los asuntos centrales de las discusiones internacionales sobre sistemas de armas autónomas letales. Estas tecnologías pueden incorporar capacidades para identificar, seleccionar y atacar objetivos mediante sensores, algoritmos y otros mecanismos automatizados. Su grado de autonomía varía considerablemente, por lo que una de las dificultades regulatorias consiste en determinar qué decisiones deben permanecer bajo responsabilidad humana y cuáles podrían ser ejecutadas por una máquina.

La participación humana puede adoptar distintas formas. Una persona podría seleccionar previamente los objetivos que un sistema está autorizado a atacar, aprobar individualmente cada acción o supervisar una operación automatizada con capacidad para detenerla. Estas modalidades no son equivalentes, porque ofrecen distintos niveles de conocimiento, intervención y control sobre las consecuencias del empleo de la fuerza.

Por esta razón, el principio anunciado por Bessent deja abiertas preguntas fundamentales. No especifica si los operadores humanos deberán autorizar cada ataque, comprender las razones por las cuales un sistema identifica un objetivo o disponer de tiempo y medios suficientes para cancelar una operación. Tampoco establece quién asumiría la responsabilidad cuando una decisión automatizada produzca daños contrarios al derecho internacional humanitario.

La distinción es especialmente importante porque mantener formalmente a una persona dentro del proceso no garantiza que esa persona ejerza un control efectivo. Las decisiones tomadas bajo presión temporal, con información incompleta o mediante sistemas difíciles de interpretar pueden limitar la capacidad humana para evaluar las consecuencias de una acción militar.

México impulsa un instrumento obligatorio durante las negociaciones de Ginebra

Las declaraciones de Washington y Pekín coinciden con la Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales, celebrada del 16 al 20 de noviembre en Ginebra, Suiza. La reunión analiza el futuro de la regulación de los sistemas de armas autónomas letales después de más de una década de discusiones internacionales sobre sus implicaciones humanitarias, militares, técnicas y jurídicas.

En ese contexto, México presentó junto con Austria, Bélgica, Brasil, Irlanda, Nueva Zelanda y Panamá una propuesta para iniciar negociaciones sobre un instrumento jurídicamente vinculante. El documento oficial CCW/CONF.VII/WP.7, fechado el 18 de noviembre, plantea establecer un nuevo protocolo de la Convención que incluya prohibiciones y restricciones aplicables a determinados sistemas de armas autónomas, en lugar de limitarse a recomendaciones voluntarias o declaraciones generales de principios.

La propuesta contempla un proceso de negociación de aproximadamente un año, integrado por tres sesiones que sumarían 25 días de trabajo. También propone abordar los riesgos de sesgo en los algoritmos, las obligaciones de evaluación y prueba de sistemas, y la necesidad de mantener el juicio, el control y la responsabilidad humanos sobre el uso de la fuerza. El documento sostiene que las decisiones relacionadas con el empleo de la fuerza no deben transferir su responsabilidad a las máquinas.

La participación mexicana representa una posición diplomática concreta en favor de avanzar hacia obligaciones internacionales. A diferencia del entendimiento bilateral descrito por Bessent, el documento presentado en Ginebra busca iniciar la negociación de normas comunes para los Estados participantes. No obstante, se trata de una propuesta de trabajo y no de un tratado ya aprobado o vigente.

Entre el entendimiento diplomático y las obligaciones internacionales

La coincidencia entre Estados Unidos y China sobre la necesidad de intervención humana podría adquirir importancia diplomática por el peso militar y tecnológico de ambos países. Su participación resulta relevante para cualquier esfuerzo internacional destinado a establecer límites a los sistemas autónomos, especialmente cuando las capacidades de inteligencia artificial comienzan a integrarse con tecnologías de vigilancia, identificación de objetivos y operaciones militares.

Sin embargo, los pronunciamientos públicos no permiten concluir que las dos potencias hayan aceptado prohibir las armas autónomas letales ni que estén dispuestas a someter todos sus sistemas militares a una regulación internacional obligatoria. El principio de control humano ofrece un punto de partida, pero su efectividad depende de las definiciones, restricciones y procedimientos de supervisión que puedan desarrollarse posteriormente.

La propuesta promovida por México y otros seis países introduce precisamente esa diferencia entre reconocer un riesgo y establecer normas para reducirlo. Mientras Washington y Pekín expresan disposición a cooperar en seguridad de inteligencia artificial, el proceso multilateral de Ginebra plantea la necesidad de transformar los principios generales en prohibiciones y obligaciones verificables.

El resultado de ambas iniciativas dependerá de los compromisos que los gobiernos estén dispuestos a asumir. Por ahora, el anuncio representa una coincidencia política relevante sobre la necesidad de conservar participación humana en decisiones militares, pero todavía no constituye un marco jurídico capaz de determinar qué sistemas autónomos estarían permitidos, cuáles deberían prohibirse y quién respondería por sus consecuencias.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *