Gobiernos y organismos internacionales han incorporado la desinformación a sus agendas de seguridad, mientras las plataformas construyen sistemas capaces de moderar miles de millones de contenidos. Los datos europeos muestran, sin embargo, que millones de esas decisiones son posteriormente revertidas. El costo de los falsos positivos sigue siendo difícil de medir y la llegada de nuevas reglas para identificar contenido generado con inteligencia artificial abre una nueva capa del problema.
La desinformación se ha convertido progresivamente en una categoría de riesgo para gobiernos, organismos internacionales y plataformas digitales. Un informe publicado el 15 de septiembre por Security Council Report, dedicado a analizar las implicaciones de la inteligencia artificial para el Consejo de Seguridad de Naciones Unidas, advierte que la IA puede reducir las barreras para realizar actividades cibernéticas maliciosas y facilitar la producción y distribución de información falsa o engañosa a gran escala. También identifica riesgos derivados de sistemas de armas cada vez más autónomos y de una posible disminución del control humano sobre decisiones de consecuencias importantes.
El diagnóstico describe amenazas reales. Sin embargo, existe otra parte del proceso que recibe mucha menos atención: ¿qué ocurre cuando esas categorías de riesgo tienen que ser convertidas en reglas que puedan ejecutar automáticamente las plataformas?
Un regulador puede exigir que una empresa mitigue desinformación, pero una plataforma que procesa millones de publicaciones no puede estudiar cada caso como una investigación periodística. Tiene que transformar conceptos complejos en políticas, métricas, clasificadores, señales de comportamiento y umbrales capaces de funcionar a escala. Es en esa traducción donde un actor que no intenta desinformar puede terminar siendo tratado por el sistema como un actor de riesgo.
Desde 2024, usuarios de la UE han apelado más de 165 millones de decisiones de moderación de las grandes plataformas y buscadores. Cerca del 30% (50 millones) fueron finalmente revertidas. Entre las plataformas que transparentan sus mecanismos de apelación, las reclamaciones se cuentan por cientos de miles o millones en periodos de apenas seis meses. En la Unión Europea, donde el DSA obliga a ofrecer mecanismos de impugnación, los usuarios han recurrido más de 165 millones de decisiones desde 2024 y casi tres de cada diez fueron posteriormente revertidas.
De una categoría política a miles de millones de decisiones
La Unión Europea ofrece actualmente uno de los mayores laboratorios para observar este proceso. La Ley de Servicios Digitales, conocida como DSA, comenzó a aplicarse de manera general el 17 de febrero de 2024. Entre otras obligaciones, exige a las plataformas y motores de búsqueda de muy gran tamaño identificar, analizar y evaluar periódicamente los riesgos sistémicos derivados de sus servicios.
El artículo 34 incluye entre esos riesgos los efectos negativos sobre derechos fundamentales, entre ellos la libertad de expresión e información y el pluralismo de los medios, pero también sobre el discurso cívico, los procesos electorales y la seguridad pública. La regulación ordena además evaluar cómo influyen en esos riesgos los sistemas algorítmicos, los mecanismos de moderación, las condiciones de servicio y su aplicación.
El propio reglamento deja claro que el análisis no debe limitarse al contenido ilegal. Su considerando 84 señala que las grandes plataformas también deben observar información que, sin ser ilícita, pueda contribuir a riesgos sistémicos, prestando particular atención a la difusión o amplificación de contenido engañoso, incluida la desinformación.
Después viene la segunda parte: la mitigación. El artículo 35 obliga a las compañías a aplicar medidas “razonables, proporcionadas y efectivas” para reducir los riesgos identificados. Entre esas medidas pueden encontrarse modificaciones de los propios servicios, de sus condiciones de uso y de la forma en que estas se hacen cumplir. La regulación exige al mismo tiempo considerar el impacto que estas medidas puedan tener sobre los derechos fundamentales.
Desde el 1 de julio de 2025 existe además otra capa. El Código de Conducta sobre Desinformación fue integrado formalmente al marco de la DSA y sus compromisos comenzaron a ser auditables. Para las grandes plataformas que voluntariamente forman parte del código, éste funciona ahora como un parámetro relevante para evaluar su cumplimiento frente a los riesgos de desinformación. Entre sus participantes están Google Search, YouTube, Facebook, Instagram, LinkedIn, Bing y TikTok.
Nada de esto significa que la Unión Europea ordene retirar automáticamente una publicación determinada por considerarla desinformación. La cadena es más compleja: la regulación establece obligaciones y categorías de riesgo; posteriormente, las compañías diseñan sus propias políticas y sistemas para demostrar que están mitigando esos riesgos.
Los datos disponibles permiten observar la escala de esa segunda capa. Durante el primer semestre de 2025, las plataformas reportaron a la base de transparencia de la DSA más de 9 mil millones de decisiones de moderación de contenidos. El 99% fue tomado proactivamente por las propias plataformas con base en sus términos y condiciones y sólo una fracción marginal estuvo relacionada con reportes de contenido ilegal.
Millones de decisiones terminan siendo revertidas
La DSA también permite observar algo que anteriormente era mucho más difícil de cuantificar: la frecuencia con la que una decisión de moderación es impugnada y posteriormente modificada. Desde 2024, usuarios europeos apelaron mediante los mecanismos internos de las grandes plataformas y buscadores más de 165 millones de decisiones de moderación. Casi 30% terminaron siendo revertidas, alrededor de 50 millones de decisiones que afectaban contenido o cuentas.
Las apelaciones pueden involucrar suspensiones de cuentas, eliminación de publicaciones, restricciones u otras formas de moderación. La propia Comisión Europea incluye entre las decisiones impugnables el llamado shadow banning, en el que el contenido o la cuenta pueden permanecer técnicamente disponibles pero pierden visibilidad.
Existe además una segunda vía de revisión. Durante el primer semestre de 2025, organismos extrajudiciales analizaron más de 1,800 disputas relacionadas con Facebook, Instagram y TikTok. En 52% de los casos cerrados, la decisión original de la plataforma fue revertida y se restauró el contenido o la cuenta afectada.
Estas cifras necesitan una precaución metodológica importante. No significan que 30% de toda la moderación sea incorrecta ni que 52% de las decisiones de todas las plataformas sean falsos positivos. Los usuarios que apelan constituyen una población seleccionada: probablemente recurren con mayor frecuencia quienes consideran que la decisión fue equivocada.
Pero los datos sí permiten afirmar algo más limitado y sólido: las decisiones erróneas o suficientemente discutibles como para ser modificadas posteriormente ocurren a escala de decenas de millones. Y todavía queda una pregunta que esos datos no responden: qué tipo de usuario o contenido ocupa esos falsos positivos.
El punto ciego del periodismo
Un periodista, un medio independiente o un proyecto especializado puede producir algunos patrones que, observados sin contexto, también aparecen en actividades que las plataformas intentan combatir: publicaciones frecuentes, distribución repetida de enlaces hacia un mismo dominio, automatización de procesos, reutilización de formatos, grandes volúmenes de contenido o una actividad concentrada alrededor de determinados acontecimientos.
Nada de eso demuestra que una plataforma vaya a clasificar automáticamente a un medio como desinformador. Tampoco existe actualmente evidencia suficiente para afirmar que estos sistemas perjudican más a periodistas legítimos que a operadores dedicados deliberadamente a campañas de manipulación.
Precisamente ése es uno de los vacíos.
La información pública permite conocer cuántas decisiones se toman y cuántas son posteriormente revertidas, pero resulta mucho más difícil determinar cuánto contenido periodístico legítimo fue eliminado, degradado, desmonetizado, bloqueado o clasificado erróneamente como resultado de sistemas diseñados para combatir abuso, spam, comportamiento inauténtico, manipulación o desinformación.
La propia Unión Europea parece haber identificado el riesgo. El Reglamento Europeo sobre la Libertad de los Medios de Comunicación, conocido como EMFA, incorporó salvaguardas específicas para proteger a determinados proveedores de medios frente a prácticas injustificadas de moderación de las plataformas de muy gran tamaño. Las directrices publicadas por la Comisión Europea el 6 de febrero de 2026 establecen que, cuando una plataforma pretenda retirar determinado contenido de un medio que cumple las condiciones previstas por la regulación, debe notificar previamente al proveedor, explicar los motivos y ofrecerle 24 horas para responder antes de que la retirada sea efectiva.
La existencia de esa protección resulta significativa. El marco regulatorio europeo no sólo exige controlar riesgos derivados del entorno informativo; también ha tenido que introducir un mecanismo específico para intentar evitar que la propia moderación produzca retiradas injustificadas de contenido periodístico.
El problema no termina en la desinformación
Desde el 2 de agosto de 2026 se añadió una nueva categoría a este ecosistema: el contenido generado o manipulado mediante inteligencia artificial. El artículo 50 del AI Act europeo introdujo obligaciones de transparencia destinadas a permitir que los usuarios identifiquen determinados contenidos creados o modificados por IA. La Comisión explica que estas disposiciones buscan responder, entre otros problemas, a riesgos de manipulación, fraude, suplantación y desinformación a escala.
Los proveedores de determinados sistemas generativos tienen obligaciones relacionadas con el marcado técnico de contenido generado o manipulado por IA, mientras que existen obligaciones adicionales para ciertos deepfakes y para textos generados mediante IA publicados con el propósito de informar al público sobre asuntos de interés público.
Pero la propia legislación establece una excepción particularmente relevante para el periodismo. Cuando un texto generado o manipulado mediante IA ha pasado por revisión humana o control editorial y una persona física o jurídica asume la responsabilidad editorial de su publicación, la obligación de revelar que el texto fue generado o manipulado por IA no se aplica en esos mismos términos.
La distinción es importante: jurídicamente, el AI Act no equipara automáticamente un texto producido con ayuda de inteligencia artificial con contenido sin responsabilidad humana. El siguiente problema será comprobar si esa diferencia sobrevive cuando la regulación sea traducida a sistemas automatizados de cumplimiento.
Una norma puede distinguir entre una publicación automática y una investigación periodística que utiliza IA como herramienta, es revisada por un editor y tiene detrás a una organización responsable. Para un sistema de clasificación masiva, reconocer esa cadena de responsabilidad puede ser considerablemente más complejo que detectar una marca técnica, determinados patrones de producción o señales asociadas con generación artificial.
El costo que todavía no medimos
Hasta ahora, gran parte del debate público ha formulado una pregunta: ¿cuánta desinformación pueden detectar o retirar las plataformas? Los datos disponibles sugieren que falta una segunda: ¿Cuánta información legítima se pierde, restringe o degrada para conseguirlo?
No tenemos todavía una cifra que permita responderla. Tampoco existe evidencia suficiente para sostener que los sistemas de moderación funcionen principalmente contra usuarios legítimos y fracasen principalmente frente a las campañas profesionales de desinformación. Sería necesario comparar tasas de detección, falsos positivos, apelaciones, tipos de cuenta, métodos de distribución y resultados de moderación para demostrarlo.
Lo verificable es otra cosa: la desinformación se ha incorporado formalmente a marcos de evaluación de riesgo; las grandes plataformas están obligadas a demostrar que mitigan riesgos sistémicos; ejecutan miles de millones de decisiones de moderación; decenas de millones de decisiones impugnadas han tenido que ser revertidas; la Unión Europea ha considerado necesario crear protecciones específicas para contenidos periodísticos, y desde agosto existe además una nueva infraestructura regulatoria para distinguir determinados contenidos producidos mediante IA.
Entre la definición abstracta de un riesgo y el mensaje que finalmente recibe un usuario diciendo que su publicación viola una política existe una enorme maquinaria de clasificación.
Esa maquinaria no necesita concluir que alguien está mintiendo. Puede bastarle con determinar que se parece suficientemente a aquello que fue construida para detener. Ahí se encuentra uno de los problemas menos visibles de la gobernanza contemporánea de la información: el falso positivo deja de ser únicamente un error técnico cuando las plataformas operan como infraestructura de distribución pública. Puede convertirse en una restricción efectiva de acceso a audiencias, ingresos y participación en la conversación pública.
Y mientras gobiernos, compañías y organismos internacionales preparan nuevas reglas para enfrentar la siguiente generación de riesgos informativos producidos con inteligencia artificial, todavía falta medir con precisión el costo que dejaron los sistemas construidos para combatir la generación anterior.
