El Sistema FARO utiliza inteligencia artificial para combatir el discurso de odio en las redes sociales

La lucha contra el discurso de odio en internet está dando algunos pasos adelante con la implementación del Sistema FARO, una innovadora herramienta que utilizará la inteligencia artificial para monitorizar, identificar y analizar en tiempo real los contenidos discriminatorios en las principales plataformas de redes sociales.

Este sistema, desarrollado por el Observatorio Español del Racismo y la Xenofobia (OBERAXE) en colaboración con LALIGA, tiene como objetivo combatir el racismo, la xenofobia, la islamofobia y otras formas de intolerancia que proliferan en la red, especialmente en contextos como el deportivo.

El nuevo sistema de monitorización, que podrá consultarse en tiempo real a través de la web renovada del OBERAXE, permitirá a las autoridades identificar un mayor número de mensajes de odio y reportarlos a las plataformas sociales. De hecho, se prevé que se incrementen en un 20% los contenidos reportados. Este avance supone una mejora considerable frente a la metodología tradicional de vigilancia, proporcionando una herramienta más ágil y precisa para luchar contra la proliferación de discursos violentos y xenófobos en la red.

El sistema FARO se basa en dos herramientas principales: el Monitor FARO y ALERTODIO. El primero de estos permite capturar, clasificar y analizar los mensajes de odio de forma automatizada, mientras que el segundo facilita el reporte de estos contenidos a las plataformas y el seguimiento de las respuestas que éstas proporcionan. Ambas herramientas se alimentan de la inteligencia artificial, entrenada en el Monitor para la Observación del Odio en el Deporte (MOOD), lo que garantiza un análisis más exhaustivo y ajustado a las características del discurso de odio en redes sociales.

La secretaria de Estado de Migraciones, Pilar Cancela, ha subrayado la relevancia de esta nueva metodología para combatir el racismo y la xenofobia. Según Cancela, el Sistema FARO no solo representa un avance cuantitativo en la lucha contra el odio en internet, sino que también es un paso cualitativo que permitirá obtener datos más precisos y científicos sobre la magnitud del problema. Esta información será crucial para el diseño de políticas públicas más eficaces en la erradicación de estas formas de intolerancia.

El Sistema FARO no solo se concentra en el fútbol. Su implementación está pensada para abarcar toda la sociedad, ya que monitoriza las redes sociales más utilizadas en España, como Facebook, Instagram, TikTok, YouTube y X. Esta ampliación del alcance permitirá un análisis más completo del panorama del discurso de odio en línea, facilitando la identificación de patrones y el diseño de medidas concretas para su erradicación.