El discurso de odio en línea es un tipo de discurso de odio que se lleva a cabo en línea, en las redes sociales o en Internet, con el propósito de atacar a una persona o un grupo sobre la base de atributos como raza, religión, origen étnico, orientación sexual, discapacidad o género.
El discurso de odio en línea se sitúa en la intersección de múltiples tensiones: es la expresión de conflictos entre diferentes grupos dentro y entre sociedades; es un ejemplo vívido de cómo las tecnologías con un potencial transformador como Internet traen consigo tanto oportunidades como desafíos; e implica un complejo equilibrio entre los derechos y principios fundamentales, incluida la libertad de expresión y la defensa de la dignidad humana.
El discurso de odio es un término amplio y controversial. Los tratados multilaterales como el Pacto Internacional de Derechos Civiles y Políticos han tratado de definir sus contornos. Se han iniciado procesos de gobernanza de múltiples partes interesadas para aportar mayor claridad y sugerir mecanismos para identificar mensajes de odio. Y, sin embargo, el discurso del odio sigue utilizándose en gran medida en el discurso cotidiano como un término genérico, mezclando amenazas concretas a la seguridad de individuos y grupos con casos en los que las personas pueden simplemente estar desahogando su ira contra la autoridad. Los intermediarios de Internet (organizaciones que median en la comunicación en línea como Facebook, Twitter y Google) han avanzado sus propias definiciones de discurso de odio que vinculan a los usuarios a un conjunto de reglas y permiten que las empresas limiten ciertas formas de expresión. Los organismos nacionales y regionales han tratado de promover una comprensión del término más arraigada en las tradiciones locales. Definiciones El discurso de odio se encuentra en un nexo complejo con la libertad de expresión, los derechos individuales, de grupo y de las minorías, así como con los conceptos de dignidad, libertad e igualdad. Su definición se cuestiona a menudo.
En la legislación nacional e internacional, el discurso del odio se refiere a expresiones que abogan por la incitación al daño (en particular, la discriminación, la hostilidad o la violencia) basándose en la identificación del objetivo con un determinado grupo social o demográfico. Puede incluir, pero no se limita a, el discurso que defiende, amenaza o fomenta actos violentos. El concepto puede extenderse también a expresiones que fomenten un clima de prejuicio e intolerancia.
En momentos críticos, como durante las elecciones, el concepto de discurso del odio puede ser propenso a la manipulación: las acusaciones de fomentar el discurso del odio pueden intercambiarse entre oponentes políticos o ser utilizadas por quienes están en el poder para frenar la disidencia y las críticas. El discurso del odio (ya sea transmitido a través de texto, imágenes o sonido) puede identificarse por aproximación a través de las funciones degradantes o deshumanizantes a las que sirve. Características La proliferación del discurso de odio en línea, observada por el relator especial del Consejo de Derechos Humanos de las Naciones Unidas sobre cuestiones de las minorías (CDH, 2015), plantea un nuevo conjunto de desafíos. Tanto las plataformas de redes sociales como las organizaciones creadas para combatir el discurso de odio han reconocido que los mensajes de odio difundidos en línea son cada vez más comunes y han suscitado una atención sin precedentes para desarrollar respuestas adecuadas.See Council of Europe, "Mapping study on projects against hate speech online", 15 April 2012. See also interviews: Christine Chen, Senior Manager for Public Policy, Google, 2 March 2015; Monika Bickert, Head of Global Policy Management, Facebook, 14 January 2015 Según HateBase, una aplicación basada en la web que recopila instancias de discurso de odio en línea en todo el mundo, la mayoría de los casos de discurso de odio se dirigen a personas en función de su origen étnico y nacionalidad, pero las incitaciones al odio que se centran en la religión y la clase también han ido en aumento.See HateBase, Hate speech statistics, http://www.hatebase.org/popular
Si bien el discurso de odio en línea no es intrínsecamente diferente de expresiones similares que se encuentran fuera de línea, existen desafíos particulares para el contenido en línea y su regulación. Los desafíos relacionados con su permanencia, itinerancia, anonimato y carácter interjurisdiccional se encuentran entre los más complejos de abordar. Además, estudios recientes han analizado la relación entre el discurso de odio en línea y sus efectos fuera del entorno digital; en particular, la investigación de Arcila Calderón et al. (2024) demuestra la vinculación entre el aumento del discurso de odio en redes sociales y la ocurrencia de delitos de odio en España.Arcila Calderón, C. et al. (2024). From online hate speech to offline hate crime: the role of inflammatory language in forecasting violence against migrant and LGBT communities. Nature. https://www.nature.com/articles/s41599-024-03899-1
El discurso de odio puede permanecer en línea durante mucho tiempo en diferentes formatos en múltiples plataformas, que se pueden vincular repetidamente. Como ha señalado Andre Oboler, director ejecutivo del Online Hate Prevention Institute, "cuanto más tiempo esté disponible el contenido, más daño puede infligir a las víctimas y empoderar a los perpetradores. Si elimina el contenido en una etapa temprana, puede limitar la exposición. Esto es como limpiar la basura, no impide que la gente tire basura, pero si no te ocupas del problema, simplemente se acumula y se agrava aún más"Interview: Andre Oboler, CEO, Online Hate Prevention Institute, 31 October 2014. Las conversaciones de Twitter organizadas en torno a temas de actualidad pueden facilitar la difusión rápida y amplia de mensajes de odio, pero también ofrecen la oportunidad para que los oradores influyentes eviten los mensajes y posiblemente acaben con los hilos populares que incitan a la violencia. Facebook, por el contrario, puede permitir que varios hilos continúen en paralelo y pasen desapercibidos; creando espacios más duraderos donde determinadas personas y grupos son ofendidos, ridiculizados y discriminados.
El discurso de odio en línea puede ser itinerante. Incluso cuando se elimina el contenido puede encontrar expresión en otro lugar, posiblemente en la misma plataforma con un nombre diferente o en diferentes espacios en línea. Si un sitio web se cierra, puede reabrirse rápidamente utilizando un servicio de alojamiento web con regulaciones menos estrictas o mediante la reasignación a un país con leyes que imponen un umbral más alto para el discurso de odio. La naturaleza itinerante del discurso del odio también significa que los pensamientos mal formulados que no habrían encontrado expresión y apoyo públicos en el pasado ahora pueden aterrizar en espacios donde pueden ser visibles para grandes audiencias.
El anonimato también puede representar un desafío para lidiar con el discurso de odio en línea. "La Internet facilita el discurso anónimo y seudónimo, que puede acelerar el comportamiento destructivo con la misma facilidad que puede alimentar el discurso público". Como ha dicho Drew Boyd, director de operaciones de The Sentinel Project, "Internet otorga a las personas la capacidad de decir cosas horribles porque creen que no serán descubiertas. Esto es lo que hace que el discurso de odio en línea sea tan único, porque las personas se sienten mucho más cómodas hablando de odio que en la vida real cuando tienen que lidiar con las consecuencias de lo que dicen ".Interview: Drew Boyd, Director of Operations, The Sentinel Project for Genocide Prevention, 24 October 2014. Algunos gobiernos y plataformas de redes sociales han tratado de hacer cumplir las políticas de nombres reales. Estas medidas han sido profundamente cuestionadas porque afectan el derecho a la intimidad y su intersección con la libertad de expresión. La mayoría de los ataques de trolling y discursos de odio en línea provienen de cuentas seudónimas, que no son necesariamente anónimas para todos.Interview: Ian Brown, University of Oxford, 26 November 2014. Las comunicaciones en línea genuinamente anónimas son raras, ya que requieren que el usuario emplee medidas altamente técnicas para garantizar que no pueda ser fácilmente identificable.
Otra complicación es el alcance transnacional de Internet, que plantea problemas de cooperación entre jurisdicciones en lo que respecta a los mecanismos legales para combatir el discurso del odio. Si bien existen tratados de asistencia judicial recíproca en vigor en muchos países, estos son característicamente lentos para funcionar. El alcance transnacional de muchos intermediarios de Internet del sector privado puede proporcionar un canal más eficaz para resolver problemas en algunos casos, aunque estos organismos a menudo también se ven afectados por apelaciones de datos entre jurisdicciones (como revelar la identidad del autor de un contenido en particular. El enjuiciamiento estatal de la incitación al odio en línea puede resultar difícil cuando los países involucrados tienen diferentes compromisos y comprensión de qué es la incitación al odio. Esto es particularmente evidente en el contexto de los EE. UU., que albergan una gran parte de los servidores de Internet, además de tener un compromiso constitucional profundamente arraigado con la libertad de expresión.
A diferencia de la difusión del discurso del odio a través de canales convencionales, la difusión del discurso del odio en línea a menudo involucra a múltiples actores, ya sea a sabiendas o no. Cuando los perpetradores hacen uso de una plataforma social en línea para difundir su mensaje de odio, no solo lastiman a sus víctimas, sino que también pueden violar los términos de servicio en esa plataforma y, en ocasiones, incluso la ley estatal, según su ubicación. Las víctimas, por su parte, pueden sentirse indefensas ante el acoso en línea, sin saber a quién acudir en busca de ayuda. En los tipos de respuestas mapeados a lo largo del estudio, parece que la acción colectiva, generalmente llevada a cabo por organizaciones no gubernamentales y grupos de presión, ha sido un modus operandi efectivo para crear conciencia y alentar a diferentes partes interesadas a tomar medidas.
Principios internacionales El discurso de odio no se menciona explícitamente en muchos documentos y tratados internacionales de derechos humanos, pero algunos de los principios relacionados con la dignidad humana y la libertad de expresión lo invocan indirectamente. Por ejemplo, la Declaración Universal de Derechos Humanos (DUDH) de 1948, que fue redactada como respuesta a las atrocidades de la Segunda Guerra Mundial, contiene el derecho a igual protección ante la ley en el artículo 7, que proclama que: "Todos tienen derecho a la igualdad de protección contra cualquier discriminación en violación de esta Declaración y contra cualquier incitación a tal discriminación ".UDHR, Art 7. La DUDH también establece que toda persona tiene derecho a la libertad de expresión, que incluye "la libertad de opinar sin injerencias y de buscar, recibir y difundir información e ideas a través de cualquier medio y sin importar fronteras".UDHR, Art 19.