La Fundación CIEDES, junto a CIFAL Málaga y las entidades participantes en el proyecto europeo ReTo, han presentado hoy, coincidiendo con el Día Internacional contra los Discursos de Odio, una nueva plataforma de visualización y análisis orientada a comprender cómo se manifiestan los discursos de odio en el entorno digital andaluz. En este sentido, se trata de un proyecto pionero en Andalucía, al combinar tecnologías avanzadas de análisis y supervisión para monitorizar y evaluar de forma continua el discurso de odio.

Así, la nueva herramienta permite monitorizar y analizar comentarios publicados en medios de comunicación de Andalucía, dentro de sus plataformas de Youtube y X, transformando miles de mensajes en información clara y visible sobre cómo se generan, distribuyen y amplifican los discursos de odio en estos espacios.

Uno de los principales valores de la plataforma es la combinación de inteligencia artificial y supervisión humana. Los sistemas automatizados ayudan a identificar mensajes potencialmente relevantes, mientras que la validación final es realizada por personas expertas siguiendo criterios metodológicos establecidos, garantizando así la calidad y fiabilidad de los resultados.

Además, la plataforma permite identificar tendencias, categorías de discurso, niveles de intensidad y colectivos afectados, ofreciendo una visión global de la conversación digital y facilitando la detección de fenómenos emergentes.

El tratamiento de la información garantiza, por otro lado, estrictas medidas de protección de la privacidad. Los datos analizados son sometidos a procesos de anonimización irreversible y mantiene mecanismos de trazabilidad que permiten documentar y auditar todas las fases del proceso de análisis.

ReTo integra también información procedente de fuentes institucionales y estadísticas oficiales sobre delitos de odio, lo que permite contextualizar los resultados y generar análisis comparativos basados en evidencia.

Más allá de la visualización de datos, la iniciativa persigue un objetivo a largo plazo: la construcción de modelos propios de inteligencia artificial especializados en la detección y clasificación del discurso de odio. Para ello, cada mensaje revisado por el equipo de etiquetado contribuye al reentrenamiento del sistema para incrementar su eficiencia en estas capacidades. La plataforma es el resultado del trabajo conjunto de fundaciones y asociaciones que se han apoyado en experiencias, metodologías y buenas prácticas desarrolladas previamente en distintos proyectos locales y europeos relacionados con la monitorización del ecosistema informativo, la verificación de contenidos y el análisis de discursos dañinos en entornos digitales.

Con esta iniciativa, se pretende disponer de una herramienta innovadora para observar, analizar y comprender mejor la evolución del discurso de odio en internet, contribuyendo al desarrollo de políticas públicas, investigaciones académicas y acciones de sensibilización fundamentadas en datos objetivos.

Claves para entender la plataforma

 A continuación, se presentan las 12 claves que caracterizan la herramienta de forma sintética:

1. Monitorización del discurso de odio en medios digitales andaluces

La plataforma permite analizar de forma sistemática los comentarios publicados por usuarios en contenidos de medios de comunicación andaluces, generando una visión actualizada de las conversaciones públicas y de la presencia de discursos de odio en el entorno digital.

2. Combinación de inteligencia artificial y validación humana

El sistema utiliza herramientas automatizadas para detectar mensajes potencialmente problemáticos, pero mantiene la supervisión y validación humana como elemento central del proceso, garantizando mayor fiabilidad y transparencia.

3. Análisis contextual de los mensajes

La plataforma no se limita a detectar palabras ofensivas. Analiza el contexto, la intención, la intensidad y la categoría del mensaje para diferenciar entre crítica legítima, lenguaje ofensivo y discurso de odio.

4. Clasificación especializada del discurso de odio

ReTo emplea una taxonomía propia adaptada al contexto español, permitiendo identificar diferentes manifestaciones de hostilidad vinculadas a factores étnicos, culturales, religiosos, ideológicos, de género, condición social, edad o profesiones y roles públicos.

5. Generación de indicadores y tendencias

La herramienta transforma miles de comentarios en indicadores visuales que permiten detectar tendencias, cambios temporales, temas emergentes y colectivos más afectados por discursos de odio.

6. Integración de fuentes oficiales

Además de los comentarios procedentes de plataformas digitales, el sistema incorpora información oficial de organismos públicos, facilitando el análisis comparado y el seguimiento de la evolución del fenómeno.

7. Protección de la privacidad y anonimización

La plataforma ha sido diseñada siguiendo criterios de privacidad por defecto. Los identificadores personales son anonimizados mediante procedimientos irreversibles y únicamente se conservan los datos estrictamente necesarios para el análisis.

8. Trazabilidad y auditoría

Cada proceso de clasificación y validación queda registrado, permitiendo reconstruir todo el recorrido de un mensaje y garantizando transparencia metodológica.

9. Herramienta de apoyo para instituciones, investigadores y sociedad civil

La plataforma facilita el acceso a información útil para comprender la evolución del discurso de odio y apoyar la toma de decisiones basadas en evidencia.

10. Proyecto pionero en Andalucía

ReTo constituye una de las primeras iniciativas en Andalucía que combina monitorización digital, análisis de datos, inteligencia artificial, validación humana y visualización interactiva para el estudio continuado del discurso de odio.

11. Desarrollo de un modelo propio de inteligencia artificial

Cada mensaje validado por personas expertas contribuye a entrenar y mejorar modelos de inteligencia artificial especializados. El objetivo es disponer progresivamente de herramientas cada vez más precisas y adaptadas al contexto de la zona de trabajo.

12. Innovación basada en experiencias previas

ReTo no parte de cero. El proyecto se apoya en metodologías, investigaciones y experiencias desarrolladas previamente en Europa en ámbitos como la verificación de contenidos, la detección de discursos dañinos y el análisis del ecosistema informativo digital, incorporando además desarrollos propios adaptados a la realidad andaluza.

Sobre ReTo

ReTo es un proyecto europeo que aborda el discurso y los delitos de odio en España, con un enfoque estratégico en Andalucía como región modelo para su replicación a nivel nacional. Une a organizaciones de la sociedad civil (OSC), autoridades públicas, actores políticos y otras partes interesadas para fortalecer la colaboración y empodera a las comunidades para abordar eficazmente esta problemática. El proyecto incluye capacitación especializada para la aplicación de la Ley, talleres sobre información ética en los medios de comunicación, mejores mecanismos de recopilación de datos, campañas de concienciación pública y eventos deportivos y culturales para promover la tolerancia y la inclusión.