La empresa destinará 5 millones de dólares a capacitación, soporte técnico y créditos para organismos democráticos de supervisión. El objetivo es que estas instituciones puedan revisar cómo intervino una IA en decisiones gubernamentales de seguridad nacional y otros ámbitos de alto impacto.
OpenAI anunció una nueva iniciativa para ayudar a organismos públicos de supervisión a desarrollar capacidades técnicas y utilizar herramientas de inteligencia artificial para revisar cómo los gobiernos emplean estos sistemas en actividades de seguridad nacional.
La propuesta parte de un problema que la empresa considera creciente: mientras las agencias gubernamentales incorporan IA en tareas que pueden operar a gran velocidad y escala, las instituciones encargadas de vigilar esas actividades continúan dependiendo en muchos casos de procesos de revisión manuales. OpenAI sostiene que esa diferencia puede dificultar la detección de errores, objetivos mal configurados o decisiones tomadas con información incompleta.
La empresa aclara que no pretende asumir directamente una función de supervisión sobre los gobiernos. Esa responsabilidad, señaló, debe mantenerse en manos de funcionarios electos y organismos públicos legalmente constituidos. El papel de OpenAI será proporcionar tecnología y apoyo técnico para que esas instituciones puedan ejercer las facultades que ya tienen.
El programa se desarrollará durante el próximo año y contempla 5 millones de dólares en capacitación, soporte técnico y créditos de OpenAI para organismos gubernamentales democráticos de supervisión. La compañía también trabajará con funcionarios autorizados para identificar tareas en las que la inteligencia artificial pueda hacer más eficiente la revisión de actividades públicas.
Uno de los componentes centrales será el desarrollo piloto de herramientas capaces de examinar los registros relacionados con decisiones gubernamentales asistidas por inteligencia artificial. Los revisores autorizados podrían analizar información como los datos introducidos en los sistemas, las respuestas generadas y las herramientas utilizadas durante un proceso para reconstruir de qué manera la IA influyó en un resultado.
OpenAI señaló que buscará que estos instrumentos sean interoperables o independientes del modelo utilizado cuando sea posible. Esto permitiría que las instituciones no estuvieran necesariamente limitadas a revisar únicamente sistemas desarrollados por la propia compañía.
La evidencia, los resultados y los hallazgos obtenidos durante estas revisiones permanecerán bajo control de las instituciones participantes y no de OpenAI. De acuerdo con el anuncio, esta información solamente estará disponible para funcionarios gubernamentales autorizados, una medida destinada a proteger información clasificada, privada o sensible para la seguridad nacional.
La iniciativa se apoya en tres principios. El primero establece que la inteligencia artificial debe fortalecer, pero no sustituir, el juicio humano y de las instituciones. Las decisiones sobre si una actuación gubernamental es legal, apropiada o compatible con las reglas existentes deberán continuar correspondiendo a autoridades y organismos legalmente facultados.
El segundo principio establece que el uso gubernamental de inteligencia artificial debe ser trazable y comprensible para los organismos autorizados de supervisión. En otras palabras, quienes revisen una decisión deberían poder reconstruir el papel que desempeñó el sistema automatizado sin comprometer información confidencial.
El tercer principio propone utilizar inteligencia artificial también del lado de quienes supervisan al Estado. OpenAI considera que la revisión manual no podrá escalar al mismo ritmo que la utilización de sistemas automatizados en seguridad nacional y otros ámbitos gubernamentales de alto impacto.
La empresa también informó que consultará a organizaciones de la sociedad civil y expertos técnicos para incorporar sus perspectivas al desarrollo de estas herramientas y a la definición de las responsabilidades asociadas con su utilización. El anuncio no especifica todavía qué organizaciones o especialistas participarán.
La propuesta aparece en un momento en que los gobiernos comienzan a emplear sistemas avanzados de inteligencia artificial en ámbitos como ciberseguridad, protección de infraestructura crítica, detección de amenazas y análisis de información durante situaciones de crisis. OpenAI sostiene que esas capacidades pueden fortalecer la seguridad nacional, pero también aumentar la velocidad y escala con que pueden producirse errores.
La compañía plantea así una arquitectura en la que la inteligencia artificial no solamente sea utilizada por el gobierno, sino también por las instituciones encargadas de revisarlo: sistemas automatizados que producen o apoyan decisiones y herramientas adicionales que permiten a organismos de supervisión reconstruir posteriormente qué ocurrió.
OpenAI señaló que medirá el éxito del programa a partir de la capacidad de los revisores autorizados para cumplir mejor sus obligaciones y de si el público tiene mayores razones para confiar en que los sistemas gubernamentales de inteligencia artificial están siendo utilizados de la manera prevista.
La iniciativa no plantea mecanismos para supervisar el uso privado de inteligencia artificial por parte de ciudadanos, empresas o desarrolladores. Su alcance anunciado se concentra en fortalecer a las instituciones encargadas de fiscalizar el uso gubernamental de IA, especialmente en seguridad nacional y otras tareas públicas de alto impacto.
