Existe una tendencia a la sobreregulación en las redes sociodigitales que recurre a diferentes estrategias: a los propietarios de las plataformas digitales les exigen apegarse a sus interpretaciones ambiguas sobre discurso de odio y coloborar o enfrentarse a sanciones, arrestos y multas; a los usuarios los censuran sin el alto costo político que tenían estas acciones anteriormente, cuando se cometían contra medios de comunicación; mientras que una palabra políticamente incorrecta, suele ser nterpretada como un discurso de odio, cuando nisiquiera cumple con el requisito mínimo para ser un discurso.
Los recientes eventos en torno a Pavel Durov, CEO de Telegram, y el bloqueo de X (anteriormente Twitter) en Brasil, subrayan la preocupante tendencia hacia la sobrerregulación de la libertad de expresión, impulsada por gobiernos, organizaciones y corporativos que buscan salvaguardar sus intereses y reputación a expensas de los derechos de los ciudadanos. Esta problemática, exacerbada en la Unión Europea, parece estar creando un ambiente donde las voces disidentes se enfrentan cada vez más al riesgo de ser silenciadas sin el debido proceso.
El 24 de agosto, Durov fue arrestado al aterrizar en París, enfrentando 12 cargos relacionados con la falta de moderación y la negativa a colaborar con las autoridades en investigaciones sobre delitos graves como terrorismo y pedofilia. Solo unos días después, el 30 de agosto, Elon Musk fue multado en Brasil por negarse a bloquear cuentas acusadas de difundir desinformación y contenido radical. En un acto de resistencia, Musk despidió a su equipo en Brasil y se negó a seguir las órdenes judiciales. En respuesta, el ministro del Tribunal Supremo, Alexandre de Moraes, ordenó el bloqueo temporal de X en todo el país.
Lo que estos casos ponen de manifiesto es la tendencia de control de las plataformas digitales por parte de gobiernos y grandes corporativos, quienes durante años y de manera silenciosa, han buscado controlar la opinión pública en las plataformas digitales para evitar que sus intereses se vean afectados. El diseño de las redes sociodigitales les ha resultado benéfico porque les permite desarticular comunidades y disolver conversaciones adversas a sus intereses al aplicar sanciones desde lo individual, ya que incluso cuando el afectado tiene una gran audiencia, la suspensión de cuentas individuales suele ser interpretado como un caso aislado, que no tendría posibilidad de escalar. A diferencia de los medios de comunicación tradicionales, que pueden apelar y recibir respaldo de sus audiencias, los usuarios individuales de plataformas como Telegram o X son eliminados sin generar mayor controversia pública. Cada cuenta bloqueada es vista como un caso aislado, lo que diluye la gravedad del problema a nivel colectivo.
La manipulación de la narrativa sobre lo que constituye censura y libertad de expresión es otra táctica empleada por quienes promueven esta sobrerregulación. A menudo, se justifican acciones represivas con base en el uso de términos clave, ignorando el contexto o el análisis detallado de las expresiones. El concepto de «discurso de odio», utilizado con ambigüedad, permite a las autoridades ejercer el poder de censura con una base endeble. Así, una palabra mal interpretada o una expresión políticamente incorrecta se convierten en pretexto para silenciar voces, sin importar la intención o el trasfondo de la discusión.
Las herramientas de moderación, que a menudo se basan en inteligencia artificial para detectar o medir el «contenido peligroso», exacerban el problema. Plataformas como TikTok utilizan estas tecnologías para bloquear automáticamente comentarios antes de que los usuarios siquiera puedan publicarlos, privándolos de su derecho a expresarse. En esta plataforma se ha documentado que las víctimas de violencia son silenciadas por usar palabras que las plataformas consideran dañinas, sin una evaluación justa del contexto.
Este enfoque miope en la moderación en las redes sociodigitales ya ha sido desafiado en los tribunales. En junio de 2020, el Tribunal Constitucional de Francia declaró inconstitucional la Ley Avia, argumentando que sus definiciones sobre el discurso de odio eran excesivamente amplias y podían llevar a la censura. Sin embargo, las iniciativas para controlar la expresión en Internet no han cesado. En Francia, se sigue debatiendo una ley para regular a los influencers y otra para establecer la mayoría de edad digital en 15 años. Además, la Ley de Regulación del Espacio Digital busca reforzar la seguridad en línea, imponiendo restricciones adicionales al anonimato y a las criptomonedas.
El concepto de «discurso de odio» ha sido estirado hasta incluir expresiones que antes no entraban en esta categoría. El Plan de Acción de Rabat de la ONU, impulsado en 2012, establecía restricciones claras para combatir el odio, pero hoy esas distinciones parecen diluirse. En este plan se delimitaron seis parámetros para tipificar la inicitación al odio, en uno de ellos se reconoció que: «La posición o estatus social de la o el orador debería ser tomada en cuenta». A más de una década de distancia, el emisor y su capacidad de convocatoria han dejado de ser trascendentes para identificar un discurso de odio. Asimismo, la distinción entre incitación y discurso se ha diluido de manera gradual.
La ambigua «Estrategia y Plan de Acción contra el discurso de odio» de la ONU, publicada en 2019, amplió tanto la definición de odio que cualquier improperio o expresión hostil podría considerarse como tal, sin tener en cuenta el contexto, o la capacidad de convocatoria del emisor. Esto ha facilitado acusaciones y sanciones poco fundamentadas.
A medida que los Estados avanzan en la implementación de controles más estrictos sobre las redes sociales, figuras como Anton Hofreiter, presidente de la Comisión de Política Europea del Bundestag, abogan por un mayor control de las plataformas para frenar la radicalización. Aunque advierte que el bloqueo total de plataformas debe ser el último recurso, sus declaraciones reflejan una preocupante tendencia hacia la censura de cualquier discurso que desafíe el statu quo.
