1. Introducción: discurso de odio, delito de odio y libertad de expresión

Vivimos en una sociedad compleja en la que coexiste una población cada vez más diversa y plural: personas migrantes, de orígenes diferentes, apariencias y orientaciones sexuales dispares, distintas formas de pensar, de relacionarse y de vivir la religión, la cultura, la familia y otras manifestaciones sociales. Esta diversidad, que en principio podría ser enriquecedora, es percibida por algunas personas y grupos como una amenaza y provoca acciones y discursos violentos que están dando lugar a una gran inestabilidad política y social, lo que afecta gravemente la convivencia y violenta los derechos humanos.

La emisión de este tipo de mensajes no es un fenómeno nuevo en la historia de la humanidad, pero es innegable que la llegada de internet y las redes sociales ha agravado el problema por su capacidad de amplificación. Entendemos que es muy importante aclarar qué es el discurso de odio y su sentido y nos parece que debe ser abordado de forma amplia y holística incluyendo una toma de posición activa tanto de las instituciones como de la comunidad científica, las organizaciones y la ciudadanía.

El Comité de Ministros del Consejo de Europa definió el discurso de odio con anterioridad a la popularización de internet y la aparición de las redes sociales, enfatizando los conceptos de odio racial, xenofobia y antisemitismo. El discurso de odio

abarca todas las formas de expresión que propaguen, inciten, promuevan o justifiquen el odio racial, la xenofobia, el antisemitismo u otras formas de odio basadas en la intolerancia, incluida la intolerancia expresada en forma de nacionalismo y etnocentrismo agresivos, y de discriminación y hostilidad contra las minorías, los migrantes y las personas de origen inmigrante (^{Consejo de Europa, 1997}).

^{La Comisión Europea contra el Racismo y la Intolerancia (2016, p. 18}) del Consejo de Europa ha definido el discurso de odio como

;la; promoción o instigación del odio, la humillación o el menosprecio de una persona o grupo de personas, así como el acoso, descrédito, difusión de estereotipos negativos o estigmatización o amenaza con respecto a dicha persona o grupo de personas y la justificación de esas manifestaciones

por razones de «raza», color, ascendencia, origen nacional o étnico, edad, discapacidad, lengua, religión o creencias, sexo, género, identidad de género, orientación sexual y otras características o condición personales que los convierten en vulnerables.

No existe una definición consensuada a nivel internacional sobre el discurso de odio, principalmente porque su consideración como delito y sus niveles de apreciación son diferentes entre países y una definición excesivamente precisa podría no incluir todas las infracciones legales posibles.

En la literatura científica tampoco hay consenso sobre la definición de tan complejo concepto, aunque las varias definiciones que recogen ^{MacAvaney et al. (2019}) ponen de manifiesto el hecho de que el discurso del odio se dirige normalmente hacia «grupos». Estos grupos objeto del discurso de odio, por otro lado, pueden variar de un país a otro, y mientras en algunos, como Finlandia, pueden ser los refugiados, en otros países europeos ciertas personas pueden ser objeto del discurso de odio por su orientación sexual u origen étnico (^{Haasio et al., 2018}).

El discurso de odio o discurso de incitación al odio hace referencia al mensaje difundido de forma oral, escrita, en soporte visual, papel o audio, en los medios de comunicación, internet o cualquier otra vía que aliente conductas contra la dignidad e igualdad de derechos de las personas, colectivos minoritarios o mayoritarios y grupos vulnerables por ser distintos (^{Ibarra, 2017}).

A pesar de la falta de consenso en la normativa nacional e internacional y en la literatura científica el discurso de odio, según ^{Naciones Unidas (2023)} posee tres características esenciales:

1. Se puede encarnar en múltiples formas de expresión que pueden incluir imágenes, dibujos animados o ilustraciones, memes, objetos, gestos y símbolos y puede difundirse tanto en internet como fuera de él.

2. Es «discriminatorio», por tanto, sesgado, fanático e intolerante y «peyorativo», es decir, basado en prejuicios, despectivo o humillante de un individuo o grupo.

3. Se enfoca en «factores de identidad», que pueden ser reales o percibidos de un individuo o grupo. Estos pueden comprender: religión, etnia, nacionalidad, raza, color, ascendencia, género u otras peculiaridades como idioma, origen económico o social, discapacidades, estado de salud u orientación sexual.

La presencia de internet con todas sus posibilidades para buscar y recibir información y la fuerza de las redes sociales han provocado cambios muy importantes en la transmisión y recepción de ideas, e hicieron que el discurso de odio se vea asimismo fomentado por la desinformación y un uso ilícito y espurio de la información y las tecnologías. Según explican ^{Haasio et al. (2018}), el discurso de odio aparece en los medios sociales y a menudo en el marco de medios dedicados a la difusión de noticias falsas. En cualquier caso, tanto el discurso de odio como la desinformación plantean claras responsabilidades para las bibliotecas, los centros educativos y el conjunto de la sociedad, pues la combinación de hechos alternativos, el rechazo de afirmaciones basadas en hechos y las campañas políticas basadas en la división alcanzaron niveles preocupantes (^{Waltman, 2018}).

El discurso del odio puede usarse con sentidos diferentes: como referencia a un discurso atendiendo a la necesidad de combatirlo y evitarlo mediante la educación, la sanción ética y social y como algo que debe ser sancionado penalmente, esto es, la criminalización del discurso del odio (^{Risso Ferrand, 2020}).

La Organización para la Seguridad y la Cooperación en Europa entiende la expresión «delito de odio» como cualquier infracción penal, incluyendo infracciones contra las personas o las propiedades en las que la víctima, el local o el objetivo de la infracción se elijan por su -real o percibida- conexión, simpatía, filiación, apoyo o pertenencia a un grupo. Estos grupos se basan en una característica común de sus miembros, como su «orientación o identidad sexual» real o percibida.

En el delito de odio, el primer elemento a considerar es que la acción cometida constituye un delito tipificado en el Código Penal. El segundo elemento se refiere a que el «móvil» del delito ha de ser un prejuicio del perpetrador hacia una o más características de las personas que lo sufren (el color de la piel, la orientación sexual, la religión…). Es precisamente este móvil el que diferencia un delito de odio de un delito ordinario y es el que va a determinar su riesgo y capacidad de dividir e impactar en la sociedad.

Pero, en palabras del secretario general de las Naciones Unidas, António ^{Guterres (2019}, párr. 20),

responder al discurso de odio no implica coartar o prohibir la libertad de expresión, sino evitar que ese discurso se convierta en algo más peligroso, como una incitación a la discriminación, la hostilidad y la violencia, que están prohibidas por el derecho internacional.

Las libertades de opinión y de expresión forman parte de los derechos humanos y a su vez son principios fundamentales de una sociedad democrática. Estas libertades amparan otros derechos no menos importantes: el derecho a reunión, a participar en asuntos públicos y a la libertad religiosa. La libertad de opinión y de expresión son derechos básicos que recogen las constituciones de los países democráticos y, aunque el derecho internacional admita ciertos límites al ejercicio de la libertad de expresión, estas limitaciones solo pueden hacerse efectivas para algunos fines legítimos concretos, por ejemplo, la apología del odio o la protección de otras personas.

Regular la libertad de expresión es un asunto muy complejo y lleno de aristas que suscita no pocos debates legislativos, políticos y sociales. En este sentido, es importante tener presente que cuando se limita la libertad de expresión se está haciendo algo inusualmente grave y, en caso de duda, debe preferirse la libertad por encima de la limitación (^{Risso Ferrand, 2020}).

La censura de libros en bibliotecas, escuelas y universidades de Estados Unidos se ha convertido en un problema creciente. La ^{Asociación Americana de Bibliotecas (ALA) en 2022} registró 1269 intentos de censura de libros y otros recursos, una cifra que casi duplicó la del año anterior, un récord en las dos décadas que la organización lleva recopilando este tipo de datos (ALA, 2023). Según refiere la ALA en su informe, la mayoría de los libros «cuestionados» -2571- estaban escritos por personas de la comunidad LGBT+ o personas de raza no blanca, con historias que alteran el statu quo y ofrecen perspectivas frescas en cuestiones difíciles. Según el mismo informe, se trata de un movimiento político conservador creciente y organizado cuyas metas incluyen eliminar libros sobre raza, historia, identidad de género, sexualidad y salud reproductiva de las bibliotecas públicas y escolares de Estados Unidos que no cuentan con su aprobación.

Ante una situación como la que se vive, se impone un trabajo interdisciplinar en el que se trabaje con una actitud proactiva y comprometida en la defensa de la democracia, los derechos y los principios que las ciencias de la información y documentación han venido defendiendo desde sus orígenes.

2. Discurso de odio como objeto de investigación en información y documentación: objetivos y metodología

El objetivo central de este trabajo es estudiar el discurso de odio como objeto de investigación en ciencias de la información y documentación.

Para ello, hemos realizado un análisis bibliométrico sobre el discurso del odio como objeto de investigación en información y documentación, tomando como referencia las publicaciones científicas relativas al periodo 2017-2022 en la Web of Science categorizadas bajo la etiqueta «Library and Information Science».

Además de analizar los artículos académicos, también hemos incorporado las tesis doctorales relacionadas con ciencias de la información y documentación defendidas en la región iberoamericana. Estas tesis fueron recuperadas de las bases de datos La Referencia y TESEO, así como de la Biblioteca Digital Brasileña de Tesis e Dissertações del IBICT y RECOLECTA. Al incluir las tesis doctorales en nuestro corpus de análisis, buscamos obtener una perspectiva más amplia y representativa de la investigación sobre el discurso de odio, abarcando no solo los artículos científicos, sino también las contribuciones académicas en forma de tesis doctorales.

Por tanto, el presente estudio considera dos fuentes de datos principales para el análisis bibliométrico. Esta combinación de fuentes se justifica porque nos permite obtener una visión más completa y holística de la investigación sobre el discurso de odio a nivel internacional y en diferentes formatos académicos.

En un primer momento se realizó una búsqueda general sobre el tema en fuentes no estrictamente académicas, tales como estadísticas y documentación institucional de organismos como la ONU, la Unesco, la Unión Europea y legislación nacional e internacional sobre el tema. En un segundo momento, una vez contextualizado el elemento social donde surgen las investigaciones, se buscó por los términos «discurso* de* odio» o «hate speech» en las fuentes académicas, no solo centradas en investigación ya publicada, como Web of Science, sino también otras especializadas en tesis doctorales. A continuación, se listan las fuentes utilizadas y el número de resultados totales para cada una de ellas:

En total, las búsquedas en fuentes de datos académicas recuperaron 156 registros. Posteriormente, se realizó un proceso de análisis de duplicados, adherencia al área y normalización utilizando el gestor bibliográfico Endnote x20. Como resultado de este proceso, se eliminaron los registros duplicados o que no se corresponden con el área de ciencias de la información y la documentación y se normalizaron los datos, lo que redujo el conjunto de trabajos a un total final de 59 registros para el análisis bibliométrico.

El software Pajek versión 5.17 fue utilizado para realizar el análisis y visualización de la red de colaboración científica, mientras que el algoritmo Kamada-Kawai (1991) se utilizó para visualizar la red, teniendo en cuenta componentes separados. Este enfoque se centró en el análisis de colaboración a nivel de autores. Por otro lado, el software VOSviewer 1.6.14 se empleó para crear la red temática utilizando las palabras clave atribuidas por los autores y extraídas de los 59 trabajos recuperados. Con esta herramienta, se pudieron visualizar y analizar las relaciones y patrones temáticos presentes en los trabajos mediante la coocurrencia de palabras clave.

3. Resultados y discusión

Un análisis cuantitativo de los resultados muestra que durante el periodo de análisis de 2017 a 2022 ha existido un aumento de las publicaciones totales sobre discurso del odio incluidas en la Web of Science y en las bases de datos de tesis doctorales ya mencionadas. La figura 1 muestra que los números totales de publicaciones sobre el tema (59 investigaciones: 57 artículos y 2 tesis doctorales) presentan un aumento mayor al 200 % cada dos años, es decir, cada año se publican más del doble de documentos que dos años atrás. En 2017 se publicaron solo 2 trabajos, pero este número se duplicó en 2018 y llegó a 4 publicaciones. Luego, en 2019, hubo un aumento más notable, con 8 publicaciones, lo que indica un mayor interés en el tema. Este comportamiento continuó en 2020, con un total de 10 publicaciones, lo que sugiere que el tema comenzó a ganar más atención en la comunidad académica internacional de ciencias de la información y la documentación. El año 2021 marcó un salto significativo en la cantidad de publicaciones, con 16 trabajos, lo que indica un fuerte aumento en la investigación, y, en 2022, el número de publicaciones continuó aumentando a 19 trabajos, lo que refuerza la idea de que el tema sigue siendo relevante y constituye un área de interés activa para los investigadores.

Figura 1: Evolución temporal de las publicaciones entre el 2017-2022 

Estos datos indican el marcado impacto y relevancia del tema en el ámbito de las ciencias de la información y la documentación y su identificación como área emergente que va ganando espacio en sus temáticas de interés. Este aspecto coincide también con el aumento de interés en el área por temas relacionados con la Agenda 2030 de las Naciones Unidas (^{Santos et al., 2022}). Es posible, si se analiza el contexto social y político que envolvió a la sociedad a partir del 2020, que este aumento significativo esté relacionado con varios factores, incluidos la pandemia y el contexto político internacional relacionado con extremismos y desinformaciones en la red (elecciones de Estados Unidos y Brasil, Brexit, etcétera). Si bien el discurso de odio en línea ha sido una preocupación creciente en los últimos años, la pandemia sin dudas exacerbó aún más esta tendencia.

Durante el 2020, la mayor parte de las comunicaciones e interacciones sociales, tanto de personas no profesionales como de profesionales, se trasladaron al entorno en línea, lo que aumentó la exposición a diferentes opiniones y discursos, incluidos los discursos de odio. Además, la incertidumbre y la ansiedad generadas por la pandemia en la sociedad llevaron a un aumento en la expresión de opiniones extremas y hostiles en las plataformas digitales, muchas veces motivadas por intereses políticos, como pueden ser los de la extrema derecha.

Países más productivos

El análisis de este indicador relacionado con la distribución geográfica de las afiliaciones de los autores de las publicaciones es valioso para este estudio porque ayuda a comprender la dinámica global de la investigación sobre discurso de odio. Proporciona al campo información clave sobre el liderazgo de la comunidad científica y sobre qué regiones están reflejando en su investigación la resistencia al discurso del odio en un escenario geopolítico global en el que también podría haber diversos poderes que han amenazado o amenazan a las naciones y a su comunidad investigadora.

Los países más productivos en términos de publicaciones, tal como se representa proporcionalmente en la figura 2 de forma gráfica, son España, con 12 publicaciones, seguido de Estados Unidos, con 11 publicaciones, Brasil, con 8 publicaciones, Inglaterra y Alemania, con 4 publicaciones cada uno, e India e Italia, con 3 publicaciones cada uno. En cuanto al análisis por regiones geográficas agregadas, Europa es el continente con la mayor representación en la producción científica sobre el discurso de odio, con países como España, Inglaterra, Alemania e Italia aportando múltiples publicaciones. Aquí debe señalarse la relación especial de estos países con el discurso del odio, de manera histórica, como Alemania; de manera histórica y bajo amenaza continua, como España; de manera histórica y bajo gobierno en el momento de escribir este artículo, como Italia, y en relación con el Brexit y su parafernalia de noticias falsas y xenofobia, como Inglaterra. América también muestra una presencia considerable, con Estados Unidos y Brasil como países líderes en investigación sobre el tema (ambos habiendo sufrido gobiernos de extrema derecha en los últimos años). Asia y África también han realizado contribuciones en menor medida, con India, Turquía y Nigeria representando el interés en estas regiones. En general, la investigación sobre el discurso de odio muestra una distribución global, con diferentes regiones del mundo mostrando interés y preocupación por esta problemática en internet y muchas de ellas afectadas o bajo amenaza de los gobiernos y grupos productores de noticias falsas y discurso del odio.

Figura 2: Países más productivos 

Instituciones más productivas

En relación con la producción científica a nivel de instituciones, en la tabla 1 se muestran ordenadas por frecuencia de publicaciones las más productivas y destacadas en el ámbito de la temática del discurso de odio. Estas instituciones corresponden con las afiliaciones de los autores de las contribuciones e investigaciones sobre el tema y, de alguna forma, podrían reflejar el apoyo o tolerancia institucional.

Tabla 1: Instituciones más productivas 

Fuente: Elaboración propia con datos de la investigación

Al analizar estos resultados, destacan algunas universidades e instituciones que han realizado significativas contribuciones en el campo de las ciencias de la información y la documentación de España y Brasil: la Universidad Complutense de Madrid y la Universidade Federal do Paraná, ambas con 3 publicaciones cada una, además de otras instituciones de estos países, como la Universidade Estadual Paulista y la Universidade de Vigo. Estas instituciones y otras representadas también en la tabla han demostrado un interés y compromiso significativo en los últimos años en la investigación sobre el discurso de odio y contribuyeron activamente al avance del conocimiento científico en este campo.

Revistas que más publican sobre discurso de odio en ciencias de la información y la documentación

Las revistas científicas son un medio fundamental para la difusión de investigaciones y hallazgos en diversos campos del conocimiento, y el caso del discurso de odio no es una excepción. La figura 3 muestra las revistas científicas más prolíficas como canales de divulgación de investigaciones sobre discurso del odio en las ciencias de la información y la documentación.

Figura 3: Relación de revistas con mayor adherencia 

En general, la presencia reiterada de publicaciones sobre discurso de odio en estas revistas sugiere que ha existido un interés significativo en la comunidad académica de las ciencias de la información y la documentación por abordar y discutir este tema, y también indica cuáles son las revistas más prolíficas y activas en el campo del discurso de odio. Estas informaciones son de extrema utilidad para el investigador sobre este dominio de conocimiento, ya que lo ayudan a tomar decisiones estratégicas sobre investigación y publicación de sus futuros trabajos y a estar al tanto de las fuentes más importantes en el área sobre el tema.

Para comprender mejor la dinámica de las 37 investigaciones identificadas en dichas revistas, realizamos un análisis temporal, que confirma una evolución significativa en el interés por esta temática. Es en 2021 cuando se registra un punto de inflexión, con un total de 12 publicaciones relacionadas con el discurso de odio, lo que indica un claro aumento en la atención académica hacia este fenómeno. Este interés se mantiene constante en 2022, con 11 publicaciones adicionales.

Se observa también que la gran mayoría de los artículos (31 de 37) están escritos en inglés. Esto indica que el inglés es el idioma predominante para la comunicación de investigaciones sobre el discurso de odio en dichas plataformas de divulgación científica. Esto puede tener implicaciones para la accesibilidad global de esta investigación y su capacidad para llegar a audiencias internacionales. Cuatro de los 37 artículos fueron escritos en español. Aunque el número es menor en comparación con el inglés, esto indica que el español también desempeña un papel en la comunicación de investigaciones sobre el discurso de odio en el contexto de ciencias de la información y documentación, lo que refleja la contribución de investigadores de habla hispana, especialmente de países de América Latina y España.

Basándonos en el análisis temático de este conjunto de publicaciones, se confirma el carácter interdisciplinar, abordando el discurso de odio desde múltiples perspectivas académicas, incluyendo tecnología, comunicación y ciencias sociales. Se centra en el papel de la tecnología y las redes sociales en la propagación y detección del discurso de odio, con énfasis en el análisis de plataformas en línea como Twitter y Facebook. Además, se presta atención a cuestiones de género y discriminación, ya que se exploran temas relacionados con misoginia, sexismo y feminismo. La desinformación y la propagación de información errónea, especialmente en el contexto de la pandemia de covid-19, son áreas de interés. Se busca desarrollar herramientas de detección y prevención del discurso de odio, utilizando técnicas de aprendizaje automático y teorías de la actividad rutinaria. También se analiza el impacto del discurso de odio en las audiencias, considerando aspectos psicológicos y sociales. La investigación sobre el discurso de odio en estas revistas es diversa y se aleja de los enfoques teóricos de su delimitación conceptual, pues abarca una amplia gama de temas, con un enfoque global en la era digital.

Estas inferencias proporcionan a los investigadores del discurso de odio una visión valiosa de las tendencias actuales en el campo y las áreas de enfoque más prometedoras. Les permite identificar oportunidades de investigación, colaboración interdisciplinaria y desarrollo de herramientas para abordar de manera efectiva el discurso de odio en la era digital.

Autores más productivos

Del total de 159 autores, 152 presentan apenas una publicación sobre el tema en el período analizado, mientras que existe un grupo de 7 que presentan dos o más publicaciones entre tesis y artículos científicos: Lopes Silva, Pamungkas, Basile, Patti, Celik, Puerta-Díaz y Botelho-Francisco. Estos autores representan apenas el 4 % del total de 159 autores identificados en la recuperación de datos. El conjunto de investigadores restantes que contabilizan apenas una publicación en el periodo de análisis se refiere a aquellas indexadas por la Web of Science, lo que no quita que existan otras publicaciones no indexadas, que tendrían un menor impacto o visibilidad. La tabla 2 presenta este grupo de siete autores más productivos e incluye algunos elementos contextuales, como su institución y país.

Tabla 2: Autores más productivos en el dominio del discurso del odio en las ciencias de la información y la documentación  

Fuente: elaboración propia con datos de la investigación

Luiz Rogério Lopes Silva, de la Universidade Federal do Paraná de Brasil, destaca como el autor más productivo sobre discurso de odio en el ámbito de las ciencias de la información y la documentación. Sus trabajos muestran su enfoque en la investigación del discurso de odio en internet, con énfasis en la creación de ontologías y modelos conceptuales para abordar este fenómeno en el contexto brasileño y en redes sociales como Facebook, Twitter y YouTube. En su obra, el autor busca proporcionar una base de conocimiento y herramientas para combatir el discurso de odio, promover la tolerancia y proteger los derechos humanos en el ciberespacio. Además, si bien sus investigaciones se encuadran en el dominio de gestión de la información, su tesis de doctorado propone una ontología vinculada al contexto brasileño y al idioma portugués, con el fin de corregir y moderar las publicaciones y comentarios que fomentan el odio y la violencia contra grupos específicos en internet y buscando generar un impacto en el mantenimiento de entornos en línea para que sean tolerantes y respetuosos.

Del género femenino destaca como investigadora productiva en este dominio de conocimiento Mirelys Puerta-Díaz, también del entorno brasileño, cuyos estudios bibliométricos y de opinión pública se centran en analizar el impacto de la campaña #StopHateforProfit en Twitter como preludio del discurso de odio en las redes sociales. Los resultados de esta investigadora revelan la estructura de interacción en la red social y cómo la campaña se propagó a nivel internacional tras su lanzamiento en 2020. Además, su investigación identifica patrones y tendencias en la estructura científica internacional sobre el discurso de odio. Sus estudios utilizan técnicas avanzadas de procesamiento del lenguaje natural y análisis de redes sociales para comprender la propagación del discurso de odio en línea y su relevancia en la comunidad científica global.

Valerio Basile, Endang Wahyu Pamungkas y Viviana Patti destacan por su trabajo en coautoría titulado «A joint learning approach with knowledge injection for zero-shot cross-lingual hate speech detection», que aborda el desafío de la detección de discursos de odio en diferentes idiomas utilizando un enfoque de aprendizaje conjunto con inyección de conocimiento. Por otra parte, el artículo «Misogyny Detection in Twitter: a Multilingual and Cross-Domain Study» se centra específicamente en la detección de misoginia (odio o desprecio hacia las mujeres) en diferentes idiomas en la plataforma Twitter. Este trabajo resulta de gran importancia en el contexto actual, ya que el discurso de odio es un problema serio que afecta a las mujeres, de forma cada vez más grave. Los enfoques de aprendizaje y multilingüismo pueden ser valiosos para mejorar las estrategias de detección y ayudar a comprender cómo se manifiesta el odio en diferentes contextos culturales y lingüísticos.

Colaboración científica en el dominio discurso del odio (2017-2022)

La colaboración científica es un fenómeno social complejo en la investigación, que ha sido objeto de estudio sistemático desde la década de 1960 (^{Glänzel y Schubert, 2004}). El siguiente análisis de coautoría a nivel micro (autores) proporciona información valiosa sobre las características de la estructura científica en la colaboración a este nivel.

Tabla 3: Variables del análisis de la red de colaboración 

Fuente: Elaboración propia con datos de la investigación

En cuanto al tamaño de la red, está compuesta por 159 nodos (investigadores) que representan a los autores involucrados en el campo del discurso del odio en las ciencias de la información y la documentación. Por otro lado, la red contiene un total de 218 conexiones entre los autores (arcos y bordes). Del total de conexiones, 214 conexiones tienen un valor de 1, lo que indica que se trata de relaciones de coautoría entre dos autores en un artículo. Hay 4 conexiones que tienen un valor diferente de 1.

Según los datos de la tabla 3, la densidad de la red es de aproximadamente 0.017, tanto si se permiten bucles (Density1) como si no (Density2). Esta densidad relativamente baja puede indicar que no todos los autores están conectados entre sí en la red de coautoría, lo que sugiere que hay una cierta cantidad de investigadores que trabajan de manera individual y no colaboran con otros (característica propia de las investigaciones en humanidades).

Existen 214 conexiones directas entre autores en la red que representan dichas colaboraciones de coautoría. Cada línea con valor 1 indica una colaboración entre dos autores específicos, lo que sugiere que han trabajado juntos en una publicación conjunta. En particular, el número de líneas con valor diferente de 1 (otros valores) es de 4, lo que sugiere que algunos pares de autores han colaborado en más de una publicación conjunta.

El grado promedio de la red es de aproximadamente 2.742, lo que significa que, en promedio, cada autor tiene alrededor de 2.742 conexiones con otros autores en términos de coautoría. En un total de 59 trabajos recuperados, 11 fueron los publicados en autoría única -es decir, no establecieron colaboración con otros autores-, entre los cuales se encuentran las dos tesis doctorales. La proporción de esas cantidades permite afirmar que en los artículos internacionales publicados en el dominio del discurso de odio es habitual el desarrollo de investigaciones y la publicación de los resultados de manera predominantemente individual. Este aspecto confirma una tendencia, aunque muy discreta, al aumento de la colaboración científica en el dominio discurso del odio, si comparamos los datos arrojados en el estudio similar de ^{Puerta-Díaz et al. (2020}), en el que se identificó como tendencia habitual el desarrollo de investigaciones y la publicación de los resultados de manera predominantemente individual.

La red de coautoría tiene una baja densidad, lo que sugiere que no todos los autores están directamente conectados entre sí mediante colaboraciones. El grado promedio observado en la tabla 3 muestra que, en promedio, los autores tienen un número moderado de colaboradores, lo que indica una cierta cantidad de interconexiones en la red, pero aún muy baja.

Desde la perspectiva del análisis de redes sociales, la figura 4 permite visualizar las relaciones de colaboración en coautoría, así como los 15 nodos aislados sin vínculo de coautoría.

Figura 4: Red de coautoría de los artículos y tesis doctorales en el dominio «hate speech» del área ciencias de la información y la documentación (2017-2022) 

Los datos más relevantes de las colaboraciones en coautoría son:

• • La colaboración entre los autores con los ID 18 y 112 (Basile y Pamungkas) tiene un valor de 2. Esto indica que han coescrito juntos en 2 publicaciones.

• • La colaboración entre los autores con los ID 25 y 145 (Botelho-Francisco y Lopes Silva) también tiene un valor de 2, lo que significa que han coescrito juntos en 2 publicaciones.

En resumen, se puede inferir de estos resultados que la baja densidad y el grado promedio observados sugieren que existe cierta segmentación o separación entre los autores en la red, pero aún hay una conexión significativa a través de colaboraciones científicas. Si bien la densidad de esta red de coautoría, a este nivel, se ha incrementado en los últimos tres años -en los que se formaron equipos estables de coautores en detrimento de la creación temporal de colaboraciones en coautoría ocasionales-, aún se observa la desconexión o poca colaboración entre expertos en el tema. Hay conexiones entre los autores, pero la densidad relativamente baja y el grado promedio sugieren que todavía hay espacio para una mayor colaboración y conexión entre los investigadores en este ámbito.

Impacto de las publicaciones sobre discurso del odio

El análisis de citación en este estudio se centró exclusivamente en el corpus de artículos académicos. Esta decisión se basó en la limitada disponibilidad de datos de citación para las dos tesis doctorales recuperadas en el periodo de estudio, ambas publicadas en 2022. En el momento de la recolección de datos, no se contaba con información de citación para ambas, lo que impidió realizar un análisis completo y significativo de su impacto y relevancia en la literatura académica. Dado que el objetivo principal de este análisis era examinar las relaciones de citación entre los artículos científicos, se optó por centrarse en este conjunto de datos más extenso y establecido, garantizando así la calidad y robustez de los resultados obtenidos en el contexto de este estudio.

Según ^{Szomszor et al. (2020}), las citas recibidas de una publicación pueden ser un indicador de su importancia, utilidad o impacto de la publicación. La figura 5 reúne los artículos más citados de la lista que abordan diversos aspectos de la detección, prevención y confrontación de discursos de odio en línea. Esto sugiere un interés continuo y creciente en la investigación sobre este tema y su impacto en la sociedad y las comunidades en línea.

Figura 5: Trabajos que recibieron más citas 

Como muestra la figura 5, el artículo de ^{Arango et al. (2019}) es el más citado de la lista, con 57 citas en total. Su título, «Hate Speech Detection is Not as Easy as You May Think: A Closer Look at Model Validation», sugiere que la detección de discursos de odio no es tan simple como se puede pensar inicialmente y destaca la necesidad de una evaluación más precisa y objetiva de los métodos actuales en la detección de discursos de odio. Al identificar los problemas en la metodología y en los conjuntos de datos utilizados, los autores apuntan a que se deben realizar nuevos experimentos para obtener una imagen más precisa del estado actual de los métodos empleados en esta área de investigación. Estos hallazgos tienen implicaciones metodológicas de alta relevancia para las investigaciones actuales, ya que contribuyen a la mejora de los enfoques que abordan el fenómeno del discurso de odio en línea de manera más efectiva y precisa.

Por su parte, el estudio de ^{Mossie y Wang (2020}), «Vulnerable community identification using hate speech detection on social media», cuenta con 53 citaciones y se centra en la identificación de comunidades vulnerables utilizando la detección de discursos de odio en las redes sociales. El total de citaciones recibidas indica su relevancia en la identificación de grupos afectados por este fenómeno. Los hallazgos del estudio son importantes para proteger a las comunidades vulnerables aplicando un modelo automático de detección con la finalidad de eliminar contenido que pueda causar daño psicológico y conflictos físicos. También pueden impulsar el desarrollo de políticas, estrategias y herramientas para empoderar y proteger a las comunidades vulnerables detectadas.

El artículo de ^{Pamungkas et al. (2020}) titulado «Misogyny Detection in Twitter: a Multilingual and Cross-Domain Study» fue el tercer artículo más citado, con 43 menciones en total. Este estudio aborda la detección de misoginia en Twitter; su enfoque multilingüe y multidominio muestra su relevancia para la comunidad científica del área. El estudio va más allá de destacar desde el punto de vista teórico el fenómeno de la misoginia, como un tipo específico de lenguaje abusivo y diferente del sexismo, ya que muestra resultados prometedores en la detección de misoginia en un entorno multilingüe. La arquitectura de aprendizaje conjunta propuesta por los autores demostró un rendimiento sólido en varios idiomas, lo que abre la puerta a investigaciones futuras sobre este tema en la investigación internacional sobre discursos de odio.

Subtemas tratados en la investigación sobre discurso del odio

El análisis de coocurrencia de palabras clave con VOSviewer constituyó una herramienta útil para identificar no solo las temáticas con mayor frecuencia presentes en los trabajos recuperados, sino también las tendencias de investigación en el campo del discurso de odio. VOSviewer es un software de visualización y análisis de datos bibliométricos que permite identificar patrones de coocurrencia de palabras clave en la literatura científica.

La aplicación del algoritmo de frecuencia de palabras identificó un total de 348 términos diferentes, aplicando el método de conteo completo (^{Van Eck y Waltman, 2020}), de las cuales las 62 más representativas están incluidas en la nube de palabras de la figura 6. Esta nos permite visualizar los resultados del análisis en forma de un mapa de red, lo que facilita la identificación de relaciones y patrones entre los nodos (temáticas de investigación). En esta visualización de nube de palabras, el tamaño de la palabra representa el número de veces que aparece como temática en los documentos analizados (occurrences); las seis de mayor ocurrencia presentan un color en destaque que difiere del color azul de los términos con menor valor de frecuencia.

Figura 6: Nube de palabras de los términos 

Algunos puntos destacados de los datos de esta imagen son los siguientes: la palabra clave más frecuente es «hate speech», destacada en color rojo, que ocurre 29 veces en los documentos analizados, lo cual es un dato esperado ya que es el tema troncal de los documentos recuperados; otras palabras clave frecuentes incluyen «information science & library science» (52), el área de la ciencia donde se encuadra el presente estudio, «social media» (22), «computer science» (22) y «communication» (12). Se puede observar un conjunto de temáticas que son estudiadas desde diferentes áreas y por diferentes comunidades epistémicas, aún siendo publicadas por revistas centradas en el área de ciencias de la información y la documentación, y por tanto el énfasis en el área es considerado un aspecto importante para ser resaltado por los autores. En la tabla 4 se incluye la relación de tópicos y clusters de palabras clave extraídas de los documentos.

Tabla 4: Relación de tópicos y clusters de palabras clave 

Fuente: elaboración propia con datos del análisis y mapeamiento en VOSviewer

La figura 7 representa el mapa de tendencias en investigación en el dominio discurso del odio a partir del análisis bibliométrico de los temas emergentes. La fuerza de enlace entre las palabras clave identificadas varía en la red, lo que indica la importancia de las relaciones entre los conceptos. Por ejemplo, «information science & library science» tiene una alta fuerza de enlace total (233), lo que sugiere una fuerte conexión con otras palabras clave en la red. Se pueden identificar temas relacionados en la red a partir de las coocurrencias de palabras clave. Por ejemplo, palabras clave como «misinformation», «disinformation» y «fake news» sugieren, además de una similitud temática entre ellas, que hay un evidente enfoque en investigar y comprender cuestiones relacionadas con la desinformación, la información falsa y las noticias falsas o engañosas. La coocurrencia de estas palabras clave indica que existe una interconexión entre investigaciones y estudios que se centran en abordar estos temas específicos. La presencia de palabras clave relacionadas con diversas áreas como «computer science», «social sciences», «communication», «journalism» y «race» sugiere una perspectiva interdisciplinar en el campo de estudio del discurso del odio incluso dentro de las ciencias de la información y la documentación.

Figura 7: Mapa de tópicos 

Para obtener los tópicos emergentes (figura 8) fue utilizada la overlay visualization de VOSviewer para las temáticas de investigación que se encuadran en el período de análisis (2017-2022). El tópico 7, identificado por el color amarillo (más reciente) en la visualización, representa el cluster emergente en el campo de investigación sobre discurso del odio. La clasificación como emergente sugiere que este cluster ha ganado relevancia y ha experimentado un aumento en la producción de trabajos recientemente (2021-2022). Los trabajos relacionados con el tópico 7 pueden entonces considerarse como tendencias emergentes en el campo del discurso del odio y sugieren que han ganado prominencia debido a eventos recientes y actuales en la sociedad que han destacado la importancia de abordar dichos aspectos del discurso del odio desde nuestra área. Los investigadores de este tópico están explorando y analizando aspectos específicos que antes no habían sido objeto de una atención significativa, como es la desinformación y noticias falsas, uso de bots y aprendizaje automático como aspecto metodológico para su abordaje y detección.

Figura 8: Red de coocurrencia de palabras clave en el tiempo (overlay visualization) 

Sin dudas, esta emergencia en la producción científica está relacionada con los eventos y fenómenos que han captado la atención pública en los últimos años en relación con el discurso del odio, los que pueden haber llevado a un aumento en la investigación sobre temas específicos relacionados con dichos eventos. Más allá de lo hasta aquí analizado, esto podría estar sugiriendo también un vínculo a avances tecnológicos o metodológicos que han permitido a los autores de dichos estudios abordar nuevos aspectos del discurso del odio de manera más efectiva y detallada. En resumen, un análisis más profundo de ambos mapas (figuras 7 y 8) proporciona una valiosa perspectiva para comprender cómo está evolucionando la investigación en esta área y qué temas se han vuelto más relevantes en el contexto actual de las ciencias de la información y la documentación.

4. Conclusiones

Los resultados obtenidos indican que la investigación internacional sobre discurso de odio en las ciencias de la información y la documentación está caracterizada como un dominio emergente y de interés creciente acorde con la situación política y social actuales y las características formales del área donde se estudia. Desde que se dieron a conocer los últimos eventos relacionados con el uso de big data e internet para la persuasión del voto y creación de opinión con fines políticos en diferentes países (Cambridge Analytica, fake news, Brexit, Trump, Bolsonaro, etcétera), se puede observar un aumento constante de las publicaciones sobre discurso del odio en la literatura científica del área, lo que refleja la preocupación de la comunidad académica en el tema y en este problema de la sociedad. En este sentido, los resultados muestran que el país que más investigaciones ha realizado sobre el tema es España, que lleva siendo atacado por campañas de desinformación y extrema derecha por años, seguido de Estados Unidos, que ha sufrido el gobierno de Donald Trump hasta 2021, y Brasil, que tuvo en el gobierno a Jair Bolsonaro hasta 2022. Todos estos países tienen en común el haber sufrido campañas de desinformación y odio dirigidas o asesoradas por Steve Bannon.

Por otro lado, el presente estudio proporciona evidencia empírica de la existencia de un corpus de investigación asentado sobre discurso de odio en las ciencias de la información y la documentación que puede utilizarse para reforzar argumentos y justificar tanto proyectos de investigación como trabajos futuros. Se señalan instituciones, autores y revistas de prestigio que han publicado y validado estas investigaciones y, por lo tanto, han contribuido a la validación científica del dominio. Se demuestra que el área ha sabido dar respuesta científica a esa preocupante situación social y que se ha posicionado como uno de los actores involucrados en su investigación científica. En el estudio se presentan aquellos autores más productivos y redes de colaboración, así como revistas proclives a publicar sobre el tema, que pueden sugerir vías de colaboración o difusión a nuevas investigaciones en el área.

Como limitación del estudio se señala la rápida evolución de los acontecimientos relacionados con el discurso de odio, los que podrían tener un nivel de agregación temporal mucho más concentrado que el del periodo completo del estudio. Si bien es cierto que algunos autores, revistas o países podrían estar interesados principalmente en ciertos aspectos específicos del discurso del odio que se dieron en un momento dado y no en todos los casos de todo el periodo, entendemos que las bases conceptuales e incluso metodológicas de su estudio pueden ser extrapoladas y de interés para el total del estudio. Como continuación del trabajo se sugiere una desagregación y análisis minucioso de las investigaciones relacionadas con los diferentes acontecimientos sociales.