Del discurso de odio al delito de odio: El papel del lenguaje violento en línea en la previsión de crímenes contra personas inmigrantes o LGTB

El discurso de odio promueve la intolerancia contra una identidad y puede evolucionar hacia actitudes más violentas (Allport, 1954). Nuestro trabajo pretende examinar la relación predictiva entre los mensajes de odio en las redes y los actos violentos, ampliando la comprensión de que estas plataformas no sólo reflejan, sino también influyen en el comportamiento humano. Nos apoyamos en estudios previos que indican la existencia de una asociación entre la incitación del odio en internet y otros crímenes violentos (Arcila-Calderón et al., 2020; Müller & Schwarz, 2020a; Müller & Schwarz, 2020b). Nuestra hipótesis es que la cantidad de mensajes de odio online anticipa un aumento de los delitos de odio offline. Para comprobarla, se empleó una combinación de métodos manuales y computacionales para analizar el discurso de odio relativo a la xenofobia/racismo y LGTBfobia en redes sociales, junto con incidentes de delitos de odio. La muestra de nuestro estudio comprende datos de delitos de odio procedentes de denuncias formales registradas en España entre 2016 y 2018, con 367 casos de víctimas inmigrantes y 227 casos de víctimas LGTB, facilitados por la ONDOD. Además, incluye 215.083 mensajes de medios sociales publicados entre 2016 y 2018, con 56.969 en Twitter relacionados con inmigrantes, 99.844 en Twitter relacionados con la comunidad LGBT, 40.651 en Facebook sobre inmigrantes y 17.619 en Facebook sobre la comunidad LGBT. Los mensajes fueron analizados con el empleo de varias herramientas. Utilizamos el sistema no supervisado SentiStrength para evaluar la intensidad de sentimiento positivo y negativo en función de polaridades de palabras predefinidas. Conjuntamente, empleamos la herramienta Perspective, que aprovecha modelos de aprendizaje automático para identificar niveles de toxicidad en el lenguaje. Además, hemos desarrollado dos clasificadores de odio utilizando BERT, con el detector de odio a inmigrantes logrando una precisión de aproximadamente 95% y el detector de odio LGBT alrededor del 90%. Construimos 48 modelos utilizando VAR, GLMnet y XGBTree para el análisis de series temporales de discursos de odio. Las series temporales se agruparon de forma diaria y semanal. Todas las predicciones se hicieron sobre 4 unidades temporales. Realizamos predicciones tanto para todo el territorio español como solo Madrid. Nuestro estudio explica hasta un 65% de la varianza en las denuncias de xenofobia/racismo y un 54% en las de LGTBfobia en Twitter y Facebook, a pesar de los elevados errores de predicción debidos a la rareza de los delitos. Los modelos semanales superan a los diarios, y los de datos nacionales a los de geolocalización limitada a Madrid. Los modelos predicen mejor el discurso de odio hacia los inmigrantes que hacia las personas LGTB. El algoritmo de lenguaje tóxico supera a los algoritmos de sentimiento y odio. El número total de publicaciones en Facebook sobre inmigrantes puede predecir delitos de odio contra inmigrantes entre 1 y 2 semanas. Del mismo modo, el lenguaje amenazante hacia la población LGTB en Facebook parece significativo para predecir los delitos de odio contra este colectivo.