Grandes medios llevan años usando IA para moderar comentarios. La promesa era combatir insultos y amenazas; el riesgo es que la tecnología termine filtrando también el desacuerdo.
Durante años, la sección de comentarios fue presentada como una extensión democrática del periodismo digital: el espacio donde los lectores podían responder, criticar, corregir, disentir o confrontar públicamente una nota. Pero en los medios con mayor presupuesto, esa conversación ya no depende únicamente de editores o moderadores humanos. Antes de llegar al resto de los lectores, muchas opiniones atraviesan una capa automatizada que analiza el lenguaje, puntúa el tono y decide si un comentario debe publicarse, retenerse, enviarse a revisión o ser rechazado.
No se trata de una práctica nueva. En 2017, Google y Jigsaw presentaron Perspective API, una herramienta de aprendizaje automático diseñada para detectar comentarios tóxicos. El sistema calculaba qué tan parecido era un comentario a otros que personas habían marcado previamente como tóxicos o capaces de hacer que alguien abandonara una conversación. Desde entonces, la moderación algorítmica se convirtió en una herramienta habitual para medios que procesan miles o cientos de miles de intervenciones de lectores.
Uno de los casos más citados fue The New York Times. En 2016, el diario solo podía abrir comentarios en alrededor de 10 por ciento de sus artículos porque la revisión manual exigía demasiado trabajo. Con Perspective, el medio pudo ordenar comentarios según su riesgo y ampliar el número de notas abiertas a la participación de los lectores.
El País también trabajó con Google para aplicar Perspective en español. Según Google, el medio recibía más de 300 mil comentarios al mes y utilizó ese volumen para entrenar el modelo en su idioma. Cuando un usuario escribía algo que podía percibirse como tóxico, el sistema mostraba una advertencia en tiempo real y sugería modificar o reescribir el comentario antes de enviarlo.
La promesa inicial parece razonable: retirar amenazas, insultos, acoso, spam o ataques discriminatorios para que la conversación no se vuelva inhabitable. Ningún medio está obligado a convertir sus comentarios en un espacio de agresión permanente, y ningún periodista debería quedar expuesto a campañas de hostigamiento bajo la excusa de la libertad de expresión.
El problema empieza cuando la moderación deja de concentrarse en conductas claramente dañinas y empieza a clasificar el tono, la intensidad, la supuesta calidad o la utilidad de una opinión. Ahí la frontera cambia. Ya no se trata solo de impedir agresiones, sino de administrar qué tipo de lector puede hablar y bajo qué forma debe hacerlo.
Coral, una plataforma de comentarios usada por medios, permite conectar Perspective para advertir al usuario cuando su mensaje supera un umbral de toxicidad. Si el comentario mantiene una puntuación alta, puede quedar fuera de la publicación inmediata y pasar a revisión. Disqus también integró Perspective a su filtro de toxicidad y define ese riesgo no solo como abuso o lenguaje ofensivo, sino como un comentario que podría hacer que una “persona razonable” abandone la conversación.
Esa definición abre una pregunta incómoda: ¿quién decide qué comentario hace que una persona razonable quiera irse? Una crítica dura al medio, una denuncia contra una autoridad, una frase escrita con enojo o una opinión política incómoda pueden deteriorar el tono de una conversación sin constituir una agresión. Si el sistema castiga ese tipo de intervenciones, la moderación deja de proteger personas y empieza a moldear el debate.
Las plataformas más recientes han ampliado todavía más esta capa. OpenWeb promociona Aida como un sistema de moderación apoyado en más de 25 modelos de inteligencia artificial y moderadores humanos, capaz de analizar el contexto del sitio y entregar un veredicto sobre los comentarios. Viafoura, otra empresa del sector, afirma que en algunos despliegues su motor de IA puede moderar automáticamente entre 85 y 90 por ciento de los comentarios, dejando los casos más dudosos a revisión humana.
El argumento empresarial es eficiencia. Un equipo humano no puede revisar manualmente todo lo que se publica en un medio grande, sobre todo cuando hay temas sensibles, brigadas coordinadas, spam o ataques masivos. Pero el hecho de que una solución sea eficiente no la vuelve neutral. Una sección de comentarios no es solo un problema de volumen; es un espacio de expresión pública dentro de una infraestructura privada.
La inteligencia artificial no entiende la conversación como una comunidad situada. Clasifica patrones a partir de datos, etiquetas y reglas definidas previamente. Por eso puede fallar con ironía, regionalismos, albures, enojo político, habla popular o discusiones donde una palabra fuerte no funciona como ataque, sino como parte del lenguaje ordinario de una comunidad.
Además, los estudios sobre clasificadores de toxicidad han documentado sesgos importantes. Investigaciones sobre Perspective han señalado que los modelos pueden asignar puntuaciones más altas a comentarios que mencionan identidades como “mujer” o “gay”, porque esas palabras aparecen con frecuencia en contextos abusivos dentro de los datos de entrenamiento. El riesgo es que personas que hablan de su propia experiencia o de su identidad sean castigadas por un sistema que confunde mención con agresión.
También se han encontrado diferencias por idioma. Un estudio sobre textos en alemán concluyó que Perspective podía asignar niveles de toxicidad más altos al contenido en alemán que a su traducción al inglés, con consecuencias directas para investigación y moderación si una plataforma confía demasiado en esas puntuaciones.
Esto importa especialmente para América Latina. Una conversación política en México puede sonar intensa, sarcástica, desconfiada o frontal porque el contexto también lo es. Si un sistema confunde enojo social con toxicidad, puede terminar favoreciendo una participación más dócil, más neutral y más parecida al lenguaje institucional que al lenguaje real de los lectores.
El caso de El País muestra otra dimensión del problema. Google señaló que, además de reducir la toxicidad promedio y aumentar el número de comentarios, el medio buscaba usar esos datos para mejorar la conversación: identificar artículos que no generarían comentarios positivos, crear insignias, destacar comentarios en productos como newsletters y decidir en qué conversaciones debían participar periodistas.
«Estamos incorporando la toxicidad de los artículos a nuestro almacén de datos (un sistema que utilizamos para el análisis de datos). Junto con el sentimiento de los artículos, ahora podemos comprobar si ciertos autores están asociados con comentarios tóxicos, si el sentimiento de los artículos influye en la toxicidad o si algunos comentaristas siempre presentan un alto nivel de toxicidad en todos sus comentarios. Con estos datos, pretendemos mejorar la conversación evitando publicar ciertos artículos que sabemos que no generarán comentarios positivos, desarrollando un nuevo sistema de insignias, destacando los mejores comentarios de la semana en nuevos productos como un boletín informativo e incluso animando a los periodistas a participar en ciertas conversaciones para ayudar a elevar el nivel del debate», señaló Pablo Delgado Director de Producto de Prisa Noticias, editorial de El País en un artículo publicado por Google en 2019.
Esa capa ya no solo modera comentarios individuales. También convierte la conversación de los lectores en una señal para gestionar el producto editorial. El medio puede saber qué temas generan conflicto, qué autores reciben más toxicidad o qué textos producen discusiones indeseables. La pregunta es si esa información se usa para proteger a la comunidad o para evitar temas que incomodan a la audiencia, a la marca o a los anunciantes.
| Herramienta | Función central | Punto crítico |
|---|---|---|
| Perspective | Puntúa toxicidad del texto. | Convierte el lenguaje en probabilidad de riesgo. |
| Coral | Gestiona comentarios y puede integrar Perspective. | Puede retener comentarios antes de que sean visibles. |
| Disqus | Etiqueta toxicidad dentro del panel de moderación. | Amplía la toxicidad hacia “trolling” o baja contribución. |
| OpenWeb / Aida | Modera con múltiples modelos, contexto y humanos. | La decisión depende de señales opacas del ecosistema. |
| Viafoura | Automatiza gran parte de la moderación para publishers. | Puede aplicar reglas comunitarias a escala masiva. |
La libertad de expresión dentro de un medio privado nunca ha sido absoluta. Un periódico puede fijar reglas, retirar amenazas y evitar que su sitio se llene de spam o acoso. Pero hay una diferencia básica entre moderar agresiones y moderar puntos de vista. La primera práctica protege la conversación; la segunda la sustituye por una versión administrada.
Por eso la discusión no debería plantearse como moderación sí o no. La pregunta central es qué se modera. Si se retiran amenazas, hostigamiento, doxxing, insultos dirigidos o ataques discriminatorios, hay una justificación clara. Si se retienen opiniones porque son incómodas, negativas, poco constructivas o demasiado ásperas, la moderación se acerca a una forma de censura editorial automatizada.
No toda moderación algorítmica equivale a censura. Pero cuando una máquina puede impedir que una opinión circule por su tono, su intensidad o su distancia frente a la línea aceptable de conversación, la libertad del lector queda condicionada por una clasificación que casi nunca puede ver ni apelar.
Los medios dicen querer conversaciones sanas. El riesgo es que, en nombre de esa salud, terminen produciendo comentarios más limpios, más obedientes y menos representativos del conflicto real que rodea a una noticia. Una democracia no necesita secciones de comentarios convertidas en basureros de violencia, pero tampoco necesita espacios públicos donde el desacuerdo solo pueda aparecer si se expresa con la cortesía que una máquina considera aceptable.
La frontera debería ser sencilla: se moderan agresiones, no opiniones. Se retiran amenazas, no críticas. Se sanciona el acoso, no la incomodidad que produce disentir. Cuando esa frontera queda en manos de sistemas opacos, el problema ya no es únicamente técnico. Es político, editorial y democrático.
