Washington y Pekín preparan conversaciones sobre seguridad de inteligencia artificial que incluirían agentes autónomos, ciberataques y mecanismos de comunicación ante incidentes transfronterizos. La reunión todavía no ha sido confirmada oficialmente.
Estados Unidos y China preparan un nuevo diálogo sobre seguridad de inteligencia artificial para mediados de septiembre, con una agenda que podría incluir ciberataques realizados mediante agentes autónomos, intercambio de información sobre incidentes y mecanismos para evitar que una crisis tecnológica escale hacia un conflicto entre las dos potencias.
De acuerdo con Reuters, funcionarios de ambos países trabajan en la posibilidad de celebrar las conversaciones antes de la reunión prevista entre los presidentes Donald Trump y Xi Jinping el 24 de septiembre. Sin embargo, la Casa Blanca aseguró al medio que actualmente no existe una reunión sobre IA formalmente programada para mediados de mes, por lo que la fecha, el lugar y los participantes todavía permanecen abiertos.
El posible encuentro sería el primer diálogo oficial dedicado específicamente a seguridad de inteligencia artificial durante el segundo mandato de Trump y llega en un momento en que los riesgos asociados con los modelos más avanzados comienzan a trasladarse del terreno hipotético hacia incidentes concretos.
Uno de los principales temas sería el uso de agentes de IA en operaciones cibernéticas. Washington busca discutir mecanismos para que los laboratorios estadounidenses y chinos compartan información sobre incidentes y establezcan formas de supervisión ante comportamientos peligrosos de sistemas autónomos. La preocupación aumenta a medida que los modelos adquieren capacidad para ejecutar tareas, utilizar herramientas digitales y operar durante periodos prolongados con una intervención humana limitada.
Las conversaciones también podrían abordar el desarrollo de modelos chinos de frontera capaces de realizar operaciones cibernéticas avanzadas. Estados Unidos observa con preocupación la posibilidad de que compañías del país asiático alcancen capacidades equivalentes a las de los sistemas estadounidenses más potentes, lo que convertiría la seguridad de los modelos en un problema no solamente empresarial, sino también geopolítico.
Otro punto de fricción será la destilación de modelos y la propiedad intelectual. Washington busca incorporar al diálogo las acusaciones de empresas estadounidenses sobre compañías chinas que habrían utilizado resultados de modelos occidentales para entrenar sus propios sistemas. El debate combina así seguridad, competencia tecnológica y control sobre el conocimiento necesario para construir modelos de frontera.
Pero uno de los elementos más relevantes es la posibilidad de crear mecanismos de comunicación entre ambos gobiernos ante incidentes graves relacionados con inteligencia artificial. Investigadores involucrados en los contactos han planteado la necesidad de contar con canales que permitan manejar una crisis transfronteriza antes de que una acción ejecutada por un sistema autónomo sea interpretada como una operación deliberada de otro Estado.
La lógica recuerda a los mecanismos de comunicación establecidos durante otras etapas de competencia estratégica entre grandes potencias: cuando dos adversarios poseen tecnologías capaces de producir daños significativos, reducir la incertidumbre sobre el origen y la intención de un incidente se vuelve una herramienta de seguridad.
El diálogo también expone una paradoja en la relación tecnológica entre Washington y Pekín. China ha cuestionado si Estados Unidos cuenta con controles suficientes sobre sus modelos más avanzados, mientras la administración Trump impulsa una política orientada a reducir obstáculos regulatorios para acelerar el desarrollo de la industria estadounidense.
Las conversaciones no comenzarían desde cero. Estados Unidos y China celebraron su primer diálogo intergubernamental formal sobre inteligencia artificial en mayo de 2024, durante la administración de Joe Biden, cuando funcionarios de ambos países se reunieron en Ginebra para discutir riesgos y gobernanza.
La diferencia ahora es el contexto. Los agentes capaces de utilizar computadoras, escribir código, comunicarse con otros sistemas y actuar de forma relativamente autónoma han avanzado rápidamente, mientras gobiernos y empresas comienzan a documentar incidentes que hasta hace pocos años pertenecían principalmente a escenarios teóricos de seguridad.
Si Washington y Pekín consiguen establecer un canal permanente para compartir información o gestionar incidentes de IA, la rivalidad tecnológica entre ambos países entraría en una nueva etapa: además de competir por construir los modelos más avanzados, las dos potencias comenzarían a diseñar mecanismos para impedir que esos mismos sistemas provoquen una crisis que ninguna de ellas pretendía iniciar.
