Sobre cómo detener los discursos que incitan al odio
La incitación al odio en línea puede parecer una marea imparable, pero los gobiernos, la sociedad civil y los individuos están empleando estrategias para combatirla.
El aumento y el impacto de la incitación al odio se están viendo amplificados, a una escala sin precedentes, por las nuevas tecnologías de la comunicación, una de las formas más comunes de difundir en la actualidad la retórica división a escala global, amenazando la paz en todo el mundo.
Según una de las principales organizaciones internacionales de derechos humanos, Minority Rights Group, un reciente análisis registró un aumento de 400 veces el uso en línea de términos que incitaban al odio en Pakistán entre el 2011 y 2021.
Ser capaz de monitorear la incitación al odio puede proporcionar información valiosa a las autoridades para predecir futuros delitos o tomar medidas posteriormente.
El Sentinel Project es una organización canadiense no lucrativa cuya iniciativa Hatebase [Base de datos del odio] monitorea las palabras desencadenantes que aparecen en diversas plataformas y que corren el riesgo de transformarse en violencia en el mundo real.
Chris Tucker, director ejecutivo de este proyecto, lo describe como un “indicador de alerta temprana que puede ayudarnos a identificar un mayor riesgo de violencia”.
Funciona mediante el monitoreo de plataformas en línea, especialmente Twitter, buscando determinadas palabras clave, en varios idiomas diferentes, y aplicando después ciertas reglas contextuales para determinar lo que tiene o no más probabilidad de ser realmente contenido despreciativo.
La base de datos está disponible para muchas otras organizaciones, desde el mundo académico, las ONG y la ONU hasta investigadores individuales u organizaciones de la sociedad civil que utilizan los datos para sus propios fines.
Relación entre odio y desinformación
Para Tucker, la incitación al odio y la desinformación están estrechamente relacionadas: "Los discursos de odio cargan el arma, la desinformación aprieta el gatillo. Esa es la relación que hemos llegado a comprender a lo largo de los años".
Y explica que ahora es teóricamente posible que cualquier ser humano que pueda acceder a una conexión a internet se convierta en productor de ese tipo de contenidos. “Y eso sí que cambia las cosas, y con un alcance mundial”.
Otra organización que realiza un tipo similar de cartografía de la incitación al odio es la Balkan Investigative Reporting Network.
La red monitorea todos y cada uno de los juicios relacionados con crímenes de guerra atroces en Bosnia y Herzegovina y suma 700 casos abiertos.
A la hora de rastrear el odio, busca cuatro aspectos diferentes:
- las narrativas de odio de los políticos
- el lenguaje discriminatorio
- la negación de las atrocidades
- los incidentes reales sobre el terreno en los que se ha atacado a grupos minoritarios
Según Dennis Gillick, director ejecutivo y editor de su filial en Bosnia y Herzegovina, los principales impulsores de las narrativas del odio en el país son los políticos populistas y etnonacionalistas.
"La idea que hay detrás a todo el proceso de rastreo es demostrar la correlación entre las declaraciones políticas y los impulsores políticos del odio y las atrocidades reales que tienen lugar", dijo Gillick.
La red también quiere demostrar que no hay una persecución sistemática de los delitos de odio y que el lenguaje de incitación al odio permite este círculo de violencia que se perpetúa, con más lenguaje discriminatorio por parte de los políticos y menos persecuciones.
"Como consecuencia del discurso del odio, hemos visto cómo se movilizaba un número creciente de grupos de extrema derecha", explica Gillick.
Y añade: "Estamos viendo cómo se movilizan falsas ONG o falsos grupos humanitarios para difundir un lenguaje de odio o discriminatorio, con el fin de ampliar esta brecha entre los tres diferentes grupos étnicos y religiosos de este país".
Las consecuencias en la vida real denunciadas por la red han incluido vandalizar o destrozar mezquitas, o iglesias, dependiendo de dónde un grupo religioso específico sea minoritario, y llamados abiertos a la violencia.
Según el Gillick, esto está alimentando la agenda de los partidos etnonacionalistas que quieren causar divisiones.
Cambiar la narrativa
La forma de combatir este ambiente tóxico, según Gillick, es crear contranarrativas, difundiendo información veraz y objetiva e historias que promuevan la unidad en lugar de la división.
Sin embargo, reconoce que es mucho pedir.
"Es difícil contrarrestar a las emisoras públicas, a los grandes medios de comunicación con varios cientos de periodistas y reporteros con miles de acciones diarias, con un grupo de 10 a 15 periodistas que intentan escribir sobre temas muy concretos, de forma diferente, y hacer el reportaje analítico y de investigación".
Una organización que intenta crear contranarrativas es Kirkuk Now, un medio de comunicación independiente de Irak, que intenta producir contenido con objetivos y de calidad sobre estos grupos y compartirlos en las plataformas de las redes sociales.
"Nos centramos en las minorías, los desplazados internos, las mujeres y los niños y, por supuesto, en la libertad de expresión", dijo Salaam Omer, redactor jefe de Kirkuk Now. "Vemos muy poco contenido [sobre ellos] en los principales medios de comunicación iraquíes. Y si aparecen, lo hacen como un problema".
En Pakistán, donde ciertos grupos religiosos o basados en la fe son muy vulnerables -en particular los ahmadíes y chiíes, y después los hindúes y cristianos- está Bytes for All, una organización de derechos humanos y grupo de reflexión que lanzó una campaña en línea para contrarrestar el discurso de incitación al odio.
La campaña buscaba el compromiso de distintas organizaciones de Pakistán y del público para amplificar el mensaje. Se lanzó en 2021 en Twitter, donde se convirtió en una de las diez principales tendencias del país.
En la siguiente fase se crearon mensajes en vídeo que resaltaban la difícil situación de las minorías religiosas en Pakistán, y se organizaron giras universitarias para atraer a los jóvenes.
La campaña iba dirigida a las personas de entre 15 y 35 años, quien conforma la mayoría de la población de Pakistán, porque, según Baloch, "eran en realidad las personas que utilizaban las plataformas de los medios sociales, se dedicaban a vomitar discursos llenos de odio y estaban expuestas también a estos mensajes".
Soluciones a largo plazo
Existe la creencia generalizada de que las empresas de redes sociales deben responsabilizarse de los contenidos que difunden, y ser sancionadas si se difunde incitación al odio en sus plataformas, pero, para Claire Thomas, directora adjunta de la ONG internacional Minority Rights Group, ésta no es una solución a largo plazo para el problema.
"Lo que vimos en Myanmar fue que cuando Facebook empezó a vigilar eficazmente lo que había en su plataforma, la incitación al odio se trasladó a Tik Tok. Cuando tienes múltiples plataformas con audiencias muy grandes, eres tan fuerte como tu eslabón más débil. Si tomamos en cuenta dónde están ubicadas esas plataformas y qué jurisdicciones las controlan, nuestra capacidad para obligarlas a vigilar eficazmente sus propios contenidos es bastante limitada", explica.
Desde el punto de vista de Thomas, habría que centrarse más en educar a la gente sobre los peligros y los efectos perjudiciales de la incitación al odio, y garantizar que tengan un mayor acceso a contenidos equilibrados.
"Ahora bien, sé que es una empresa enorme, y mucha gente no cree que sea posible", admite, "pero para mí, es donde debemos intentar poner nuestros esfuerzos pensando en el futuro".
El discurso del odio es ventajoso
Para Tendayi Achiume, antiguo experto independiente de la ONU en derechos humanos, es necesario prestar más atención a los modelos de negociación de las empresas de medios sociales.
“Muchas veces la gente quiere hablar de moderación de contenidos, de lo que debe permitirse en estas plataformas, sin prestar atención a la economía política de las mismas. Y resulta que la incitación al odio les es ventajosa”, asegura.
Achiume afirma que urge crear espacios en los que puedan conectar personas con opiniones diferentes. Al mismo tiempo, afirma que es necesario entablar una conversación más amplia sobre la forma en que se representa a las personas en los medios de comunicación y en Internet.
“Las maneras en que se explica nuestro mundo es realmente compleja. Y creo que los diálogos tienen que situarse al lado de todas las demás formas en que se construyen nuestros mundos y nuestras relaciones”.