El director ejecutivo de OpenAI comparecerá en persona ante una sesión abierta convocada por Francia sobre inteligencia artificial y seguridad internacional. La reunión abordará desde el uso malicioso de los modelos hasta el riesgo de pérdida de control sobre sistemas avanzados.
Sam Altman, director ejecutivo de OpenAI, comparecerá la próxima semana ante el Consejo de Seguridad de Naciones Unidas durante la Asamblea General de la ONU en Nueva York, en una sesión dedicada a las implicaciones de la inteligencia artificial para la seguridad internacional.
Un portavoz de OpenAI confirmó a Reuters que Altman participará personalmente en la reunión abierta. El encuentro está previsto para el miércoles 23 de septiembre y será presidido por el ministro francés para Europa y Asuntos Exteriores, Jean-Noël Barrot. Francia ocupa durante septiembre la presidencia rotatoria del Consejo de Seguridad.
De acuerdo con OpenAI, la intervención de Altman se centrará en la necesidad de coordinación internacional y estándares compartidos de seguridad, además de las medidas que la compañía asegura estar adoptando para que los beneficios de la inteligencia artificial alcancen a personas de distintas regiones del mundo.
La reunión ocurre en un momento particularmente sensible para la industria. En las últimas semanas, dirigentes de empresas de inteligencia artificial han vuelto a plantear públicamente la posibilidad de coordinar una desaceleración del desarrollo de sistemas cada vez más capaces ante escenarios en los que éstos pudieran aumentar sus capacidades y escapar del control humano, un contexto que Reuters señala como antecedente inmediato de la reunión.
Días antes de la reunión, Security Council Report publicó un informe dedicado a analizar cómo la inteligencia artificial está modificando el escenario de seguridad internacional. El documento advierte que los sistemas de IA pueden reducir las barreras para realizar actividades cibernéticas maliciosas, facilitar la producción y difusión masiva de desinformación y transformar los conflictos armados al acortar los tiempos de decisión y permitir sistemas de armas cada vez más autónomos. También señala que, conforme aumentan las capacidades de estos sistemas, podría disminuir el control humano sobre decisiones y acciones de consecuencias importantes. Al mismo tiempo, identifica una nueva dimensión de competencia geopolítica alrededor de los recursos necesarios para desarrollar IA avanzada, incluidos semiconductores, capacidad de cómputo, energía, datos y minerales críticos.
Anthropic también podría participar
Diplomáticos consultados por Reuters esperan además una representación de alto nivel de Anthropic, aunque hasta el viernes su participación todavía no había sido confirmada. La empresa no respondió inmediatamente a la solicitud de comentarios de la agencia.
La posible presencia de las dos compañías colocaría frente al Consejo de Seguridad a dos de los laboratorios que con mayor intensidad han llevado durante los últimos años la discusión sobre riesgos asociados con modelos de frontera.
La sesión será apenas la segunda gran discusión del Consejo dedicada específicamente a la inteligencia artificial. El primer debate formal ocurrió el 18 de julio de 2023, convocado entonces por Reino Unido. En aquella reunión, el secretario general António Guterres advirtió que la IA podía amplificar sesgos, discriminación, vigilancia autoritaria, desinformación y otros riesgos, y pidió desarrollar mecanismos internacionales de transparencia, rendición de cuentas y supervisión.
Durante aquel encuentro, China sostuvo que la tecnología no debía convertirse en un sistema fuera de control, mientras Estados Unidos advirtió sobre su posible utilización para censurar y reprimir poblaciones. Tres años después, el Consejo vuelve sobre el asunto en un escenario diferente: los modelos son considerablemente más capaces, comienzan a operar mediante agentes con mayores grados de autonomía y las propias compañías que los desarrollan han colocado la pérdida de control entre los escenarios que consideran necesario discutir internacionalmente.
