La compañía alemana lanzó Clarity, una plataforma que utiliza cientos de agentes de inteligencia artificial para analizar información del campo de batalla, identificar objetivos militares y preparar operaciones de ataque. El anuncio ocurre en la antesala de una conferencia de Naciones Unidas que examinará los próximos pasos para regular las armas autónomas letales.
La empresa alemana de tecnología militar Helsing presentó Clarity, una plataforma de inteligencia artificial diseñada para procesar información de operaciones militares, identificar posiciones adversarias y preparar los datos necesarios para emplear distintos sistemas de armamento. El lanzamiento ocurre cinco días antes de la Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales, que se celebrará del 16 al 20 de noviembre en Ginebra, Suiza, y en la que los gobiernos discutirán los siguientes pasos para regular las armas autónomas letales.
De acuerdo con Helsing, Clarity funciona mediante cientos de agentes especializados de inteligencia artificial que analizan simultáneamente imágenes satelitales, transmisiones de drones, señales electrónicas, fuentes abiertas y reportes militares. La plataforma relaciona esa información para localizar activos militares enemigos, evaluar las evidencias disponibles y presentar posibles objetivos a los operadores humanos.
La compañía asegura que las decisiones de ataque permanecen bajo control humano y que ningún objetivo puede avanzar hacia el empleo de armamento sin autorización de un operador. Sin embargo, el desarrollo introduce una cuestión relevante para el debate internacional: hasta dónde llega el control humano cuando una parte sustancial del procesamiento de información y la preparación de decisiones militares se delega a sistemas automatizados.
El anuncio coincide con un momento decisivo para las negociaciones internacionales sobre autonomía militar. Según Naciones Unidas, la reunión de Ginebra deberá examinar los avances alcanzados por el Grupo de Expertos Gubernamentales sobre sistemas de armas autónomas letales y determinar cómo continuará el trabajo para establecer posibles instrumentos internacionales de regulación.
Cientos de agentes de IA conectados con sistemas de armamento
Clarity está construida alrededor de una arquitectura de inteligencia artificial multiagente. Según la descripción técnica publicada por Helsing, varios agentes especializados examinan diferentes categorías de información y un agente coordinador relaciona sus resultados para construir una representación unificada de la situación militar.
La compañía afirma que sus modelos fueron entrenados con datos militares obtenidos en condiciones reales, información sintética generada mediante inteligencia artificial y simulaciones de escenarios operativos. El objetivo declarado es permitir que los sistemas identifiquen patrones y relaciones entre fuentes que, por su volumen, resultarían difíciles de procesar manualmente en el mismo intervalo de tiempo.
De acuerdo con la presentación de Clarity, la plataforma realiza tres funciones principales: reunir y sintetizar información de inteligencia, identificar amenazas y preparar operaciones militares. En esta última etapa puede recomendar qué tipo de armamento resulta más adecuado para una situación determinada y verificar si los datos disponibles cumplen con sus requisitos técnicos.
Por ejemplo, Helsing explica que un misil de largo alcance necesita coordenadas precisas, mientras que algunas plataformas autónomas requieren información sobre las características del objetivo, un área de búsqueda y parámetros de misión. Clarity puede preparar esos conjuntos de datos después de que el operador humano haya tomado la decisión correspondiente.
La empresa sostiene que el sistema no debe proponer un objetivo basándose en una sola fuente. Para hacerlo, exige coincidencias entre evidencias independientes, un nivel suficiente de confianza y confirmación humana. También afirma que incorpora controles asociados con la doctrina militar y registra las decisiones junto con la identidad de los responsables que las autorizaron.
Estas características corresponden a la descripción proporcionada por el fabricante. Hasta el momento, no se dispone de una evaluación técnica independiente que permita establecer cómo funciona la supervisión humana en condiciones reales de combate o qué límites presenta el sistema ante información contradictoria, incompleta o errónea.
El control humano, en el centro del debate internacional
La presentación de Clarity permite observar una distinción relevante en el desarrollo de la inteligencia artificial militar: la diferencia entre automatizar la decisión final de disparar un arma y automatizar los procesos que conducen a esa decisión.
Clarity no ha sido presentada como un sistema que selecciona y ataca objetivos sin intervención humana. Por el contrario, Helsing asegura que sus operadores deben revisar las evidencias, seleccionar los objetivos y autorizar la transferencia de información a los sistemas de armamento.
Sin embargo, la participación de una persona en la última etapa de una operación no permite determinar por sí sola cuánto juicio independiente ejerció durante el proceso. Para examinar la calidad del control humano también resulta necesario conocer qué información recibió, cuánto tiempo tuvo para evaluarla, si podía cuestionar las conclusiones del sistema y si contaba con medios efectivos para rechazar o interrumpir la operación.
Esta cuestión adquiere relevancia frente a las preocupaciones del Comité Internacional de la Cruz Roja (CICR), que advierte sobre los riesgos de perder el control y el juicio humano en el empleo de la fuerza. El organismo considera necesario establecer prohibiciones y restricciones jurídicamente vinculantes para determinados sistemas autónomos.
El CICR distingue entre el uso general de inteligencia artificial en operaciones militares y las armas autónomas que, una vez activadas, pueden seleccionar y atacar objetivos sin una nueva intervención humana. Esta diferenciación es importante porque no toda tecnología militar que incorpora agentes de IA pertenece a la categoría de armas autónomas letales.
En consecuencia, la información pública sobre Clarity no permite clasificarla como una de esas armas. Su relevancia para el debate radica en su participación en etapas previas del proceso de ataque, donde también intervienen decisiones sobre identificación de objetivos, evaluación de evidencias y selección de medios militares.
Ginebra examina el futuro de las armas autónomas
Del 16 al 20 de noviembre, los Estados participantes en la Convención sobre Ciertas Armas Convencionales celebrarán su Séptima Conferencia de Examen en el Palacio de las Naciones, en Ginebra, bajo la presidencia del embajador suizo Julien Thöni.
La conferencia llega después de que el Grupo de Expertos Gubernamentales alcanzara, el 4 de septiembre, un consenso sobre elementos que podrían utilizarse para desarrollar un instrumento internacional relacionado con los sistemas de armas autónomas letales.
De acuerdo con la representación italiana ante la Conferencia de Desarme, ese resultado culminó un proceso de negociación desarrollado desde 2023 y permitió establecer una base compartida para futuras deliberaciones.
Naciones Unidas señala que la reunión de noviembre deberá considerar esos elementos y decidir el mandato y las modalidades de los trabajos posteriores. Esto no significa que exista ya un tratado internacional aprobado ni que se haya acordado prohibir todos los sistemas de armas autónomas.
Por su parte, el CICR solicita prohibir los sistemas autónomos cuyos efectos no puedan predecirse adecuadamente y aquellos diseñados para atacar directamente a personas. Para otros sistemas propone restricciones sobre los objetivos autorizados, las áreas geográficas, la duración de las operaciones y las condiciones de utilización.
La discusión comprende obligaciones del derecho internacional humanitario, entre ellas la distinción entre objetivos militares y civiles, la proporcionalidad de los ataques y la adopción de precauciones para reducir los daños a la población.
Europa desarrolla alternativas militares a Palantir
El lanzamiento de Clarity también responde a una transformación del mercado europeo de tecnología militar. Según Reuters, Helsing ingresa en un sector donde Palantir tiene una presencia consolidada mediante Maven, una plataforma de análisis de información militar utilizada en operaciones y procesos de trabajo del Pentágono y la OTAN.
La agencia señala que las fuerzas armadas europeas buscan aumentar su control sobre el software militar y los datos que utilizan, al mismo tiempo que reducen su dependencia de proveedores externos. Helsing presenta Clarity como una plataforma de tecnología soberana, desarrollada en Europa y diseñada para funcionar en infraestructura propiedad del cliente. Según la empresa, los datos, los modelos y las operaciones permanecen bajo el control de las fuerzas armadas que contratan el servicio.
Reuters confirmó que Helsing no informó si Clarity ya se encuentra desplegada con clientes militares ni cuándo podría comenzar a utilizarse. Por lo tanto, el anuncio permite conocer las capacidades ofrecidas por la empresa, pero no verificar su desempeño operativo.
La coincidencia entre el lanzamiento comercial y la conferencia de Ginebra ilustra una cuestión que trasciende a un producto específico: mientras los gobiernos buscan definir los límites jurídicos de la autonomía militar, las empresas desarrollan plataformas que incorporan inteligencia artificial en distintas etapas de la identificación y selección de objetivos.
El debate no se limita a determinar si una máquina puede ejecutar un ataque sin intervención humana. También comprende la capacidad real de las personas para comprender, supervisar y cuestionar las decisiones construidas mediante sistemas automatizados.
