El alto comisionado Volker Türk pidió “garantías de hierro” y límites internacionales para los sistemas avanzados. La advertencia llega mientras tecnologías entrenadas con datos de la guerra de Ucrania comienzan a probarse en Reino Unido para detectar incluso a manifestantes alrededor de instalaciones militares.
La inteligencia artificial podría llegar a convertirse en un “riesgo existencial para la humanidad” si sus capacidades avanzan sin controles suficientes, advirtió este lunes el alto comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, quien pidió reglas vinculantes, verificación independiente y límites internacionales antes de que algunos sistemas resulten demasiado difíciles de controlar.
Durante la apertura de la 63ª sesión del Consejo de Derechos Humanos en Ginebra, Türk señaló sistemas capaces de escapar de entornos de prueba o intentar evitar su desconexión como ejemplos de capacidades que considera incompatibles con una IA segura. También cuestionó la concentración de poder tecnológico en un pequeño número de empresas y empresarios y preguntó por qué, pese al consenso alrededor de la necesidad de gobernanza, las medidas concretas siguen avanzando lentamente.
“Necesitamos países que alojan estas tecnologías y aquellos que participan en sus cadenas de suministro alrededor de líneas rojas acordadas”, sostuvo. Türk pidió además verificación independiente y una mayor cooperación del sector en seguridad, pero amplió el problema más allá de posibles sistemas superinteligentes: mencionó los efectos de la IA sobre el empleo, la democracia, el medio ambiente y el uso creciente de sistemas autónomos en conflictos armados.
La advertencia coincide, sin embargo, con una expansión acelerada de tecnologías de IA desarrolladas por los propios gobiernos para funciones militares, de seguridad y vigilancia.
Reino Unido, por ejemplo, se convirtió el 24 de agosto en el primer país extranjero que tendrá acceso a Avengers AI Labs, la plataforma ucraniana alimentada con información recopilada durante la guerra mediante miles de cámaras diurnas y sensores infrarrojos. Los datos contienen millones de observaciones sobre tanques, artillería, sistemas antiaéreos, tropas y objetivos aéreos y serán utilizados por investigadores y empresas británicas para entrenar nuevos modelos.
Uno de los primeros proyectos muestra que la frontera entre defensa militar y vigilancia doméstica puede ser mucho menos clara que la discusión sobre una futura IA fuera de control. Tres empresas británicas, Sintela, Mind Foundry y Skyral, participan en pilotos derivados del acuerdo. El primero combina datos ucranianos con tecnología británica para convertir cables de fibra óptica enterrados en un enorme sensor habilitado por IA, capaz de detectar movimientos alrededor de una instalación. El sistema está a punto de probarse en una base de defensa británica y el propio gobierno señaló expresamente que se utilizará para protegerla de “manifestantes y actores hostiles que intenten obtener inteligencia”.
La misma tecnología podría extenderse posteriormente a aeropuertos, prisiones, ferrocarriles y plantas energéticas. El acuerdo británico describe además aplicaciones potenciales de la IA desarrollada con datos ucranianos fuera del campo de batalla y afirma que las capacidades resultantes podrían proteger infraestructura crítica en Reino Unido.
No existe evidencia de que ese sistema vaya a utilizarse para vigilancia generalizada de protestas ni de que pueda identificar individualmente a manifestantes. Su función inicial consiste en detectar actividad alrededor de instalaciones protegidas. Pero que el propio gobierno coloque a los manifestantes entre los objetivos que el sensor deberá detectar plantea una cuestión inmediata de derechos civiles: tecnología entrenada con datos obtenidos durante una guerra está comenzando a trasladarse a escenarios de seguridad interior.
Ese problema es distinto del “riesgo existencial” planteado por Türk, pero forma parte de la misma discusión sobre gobernanza. Mientras una parte del debate internacional se concentra en la posibilidad de sistemas futuros capaces de actuar fuera del control de sus desarrolladores, los gobiernos ya disponen de herramientas que pueden extender la vigilancia, automatizar decisiones de seguridad y trasladar tecnologías concebidas para conflictos armados hacia infraestructura civil.
Türk también expresó preocupación por esa segunda dimensión. Dijo estar “horrorizado” por reportes sobre drones completamente autónomos utilizados en Ucrania y se sumó a los llamados para prohibir armas capaces de quitar vidas sin participación humana. Naciones Unidas señaló que tanto Rusia como Ucrania han sido vinculadas con pruebas o despliegues de sistemas de este tipo.
El acuerdo entre Londres y Kyiv incluye precisamente una segunda línea de investigación sobre chips de IA de bajo consumo para drones, robótica y sistemas autónomos, aunque el proyecto se encuentra todavía en fase exploratoria. La tensión muestra que la gobernanza de la inteligencia artificial enfrenta al menos dos problemas diferentes. Uno es anticipar sistemas potencialmente tan capaces que sus propios desarrolladores pierdan capacidad para supervisarlos. El otro ya existe: decidir hasta dónde pueden utilizar Estados y empresas sistemas algorítmicos para vigilar personas, controlar espacios públicos, identificar amenazas o automatizar funciones militares.
