La compañía identificó mensajes de al menos dos usuarios que expresaron intenciones de atacar al presidente de Brasil. Las alertas llegaron a la Policía Federal y al Tribunal Superior Electoral. Un caso reciente en Argentina también comenzó con una advertencia sobre consultas realizadas a ChatGPT.
OpenAI alertó a la Policía Federal de Brasil y compartió conversaciones de al menos dos usuarios de ChatGPT que habían expresado amenazas contra el presidente Luiz Inácio Lula da Silva, quien busca su reelección en los comicios de 2026. La información fue revelada este jueves 15 de octubre por el diario Folha de S.Paulo, que tuvo acceso a documentos remitidos por la compañía a las autoridades brasileñas.
De acuerdo con la investigación del periodista Mateus Vargas, OpenAI consideró que los mensajes contenían indicios suficientes de una posible emergencia con riesgo de muerte o lesiones físicas graves. A principios de octubre, la Policía Federal remitió la documentación al Ministerio de Justicia para determinar si corresponde abrir dos investigaciones, una por presuntas amenazas e injurias y otra específicamente por amenazas contra Lula.
Uno de los expedientes corresponde a un hombre que mantenía conversaciones con ChatGPT desde enero de 2026. En septiembre, el usuario relató que había observado al presidente durante un acto de campaña electoral y expresó deseos de asesinarlo. También compartió imágenes de lugares y armas, realizó preguntas sobre las consecuencias penales de un posible ataque y mencionó situaciones relacionadas con otras formas de violencia.
Los documentos muestran que el usuario alternaba declaraciones violentas con afirmaciones en las que negaba tener intención de actuar. Sin embargo, OpenAI consideró que el conjunto de las conversaciones justificaba una alerta. La empresa canceló su cuenta y entregó la información a la Policía Federal para que fuera evaluada de manera independiente.
La documentación obtenida por Folha no incluye las respuestas generadas por ChatGPT, por lo que no permite determinar cómo reaccionó el asistente ante las amenazas. Tampoco establece que los usuarios investigados contaran con los medios necesarios para ejecutar los ataques mencionados.
OpenAI confirmó al periódico que comunica situaciones de riesgo a las autoridades cuando identifica indicios de posibles daños graves contra terceros. Asimismo, informó que notificó al Tribunal Superior Electoral (TSE), de acuerdo con su plan de cumplimiento para las elecciones brasileñas. La Policía Federal y el Ministerio de Justicia no respondieron a las solicitudes de información del medio.
Cómo identifica OpenAI posibles amenazas
El 28 de abril de 2026, OpenAI publicó una explicación de sus procedimientos de seguridad en la que reconoció que utiliza sistemas automatizados para identificar actividades potencialmente peligrosas dentro de sus servicios. Estos mecanismos incluyen clasificadores, modelos de razonamiento y otras herramientas que analizan contenido y patrones de comportamiento de los usuarios.
Según la compañía, cuando sus sistemas identifican una conversación preocupante, esta puede ser examinada por personal especializado para determinar si constituye una infracción a sus políticas o representa una amenaza real. Los casos de mayor gravedad pasan por una evaluación adicional y pueden desembocar en la suspensión de cuentas o la notificación a organismos policiales cuando existe un riesgo creíble e inminente para otras personas.
El procedimiento demuestra que la moderación de ChatGPT no se limita a impedir que el asistente genere determinadas respuestas. También incluye mecanismos de detección y revisión de las conversaciones de los usuarios. OpenAI sostiene que estas medidas buscan prevenir actos violentos y que las revisiones humanas están sujetas a controles de privacidad y seguridad.
No obstante, los documentos conocidos sobre las amenazas contra Lula no permiten establecer qué sistema técnico originó las alertas, qué criterios específicos se utilizaron para valorar el riesgo ni cuántas conversaciones fueron examinadas antes de remitir el expediente.
Argentina investiga otro caso relacionado con ChatGPT
El caso brasileño se conoce dos días después de que las autoridades argentinas informaran sobre la detención de dos jóvenes en Presidencia Roque Sáenz Peña, provincia de Chaco, acusados de planificar un ataque armado contra establecimientos educativos.
Según un comunicado de la Gendarmería Nacional publicado el 13 de octubre, la investigación comenzó con una alerta del Buró Federal de Investigaciones (FBI) de Estados Unidos, relacionada con consultas realizadas a ChatGPT por uno de los sospechosos. Las autoridades estadounidenses advirtieron que el usuario había mencionado armas, explosivos y un supuesto plan para cometer un tiroteo.
La Gendarmería realizó investigaciones y allanamientos en los que decomisó agendas con anotaciones sobre el presunto ataque, armas blancas, dispositivos electrónicos y material con simbología nazi. Dos personas mayores de edad fueron detenidas y quedaron a disposición de la justicia federal.
A diferencia del caso brasileño, en Argentina las autoridades identificaron al FBI como la fuente de la alerta inicial, pero no explicaron públicamente cómo obtuvo esa agencia la información de las conversaciones ni confirmaron que OpenAI la hubiera proporcionado directamente.
Los dos episodios documentan la utilización de información procedente de interacciones con ChatGPT en investigaciones sobre posibles actos de violencia. Sin embargo, no existe evidencia pública suficiente para determinar que las alertas hayan seguido un mismo procedimiento técnico o un mecanismo compartido de colaboración policial.
En Brasil, la intervención reconocida por OpenAI también se produce durante el proceso electoral de 2026, para el cual la empresa mantiene un plan específico de cumplimiento ante el TSE. Los casos muestran cómo los mecanismos de seguridad de los asistentes de inteligencia artificial pueden trasladar información de conversaciones digitales a procedimientos de investigación penal y plantean interrogantes sobre los criterios de detección, la privacidad de los usuarios y las garantías aplicables al intercambio de datos con autoridades nacionales y extranjeras.
