Pedro Sánchez impulsa una herramienta basada en inteligencia artificial para analizar la polarización en redes y señalar públicamente qué plataformas frenan —o permiten— los discursos de odio

Internet se ha convertido en una gigantesca plaza pública donde conviven información, debate… y también insultos, amenazas y campañas de odio. Con ese telón de fondo, el Gobierno de Pedro Sánchez ha puesto en marcha HODIO, una nueva herramienta tecnológica cuyo objetivo es medir y analizar cuánto odio circula por las redes sociales.

El nombre del proyecto no es casual. HODIO significa “Huella del Odio y la Polarización”, y pretende funcionar como una especie de termómetro digital que permita saber hasta qué punto los mensajes violentos o discriminatorios están influyendo en la conversación pública.

La idea es comparable a la conocida “huella de carbono” en el ámbito medioambiental. Si aquella mide cuánto contaminamos, HODIO busca medir cuánto odio se genera y se amplifica en internet.

Un radar del odio en redes sociales

La herramienta analizará millones de mensajes públicos publicados en redes sociales como X (antes Twitter), Instagram, TikTok, Facebook o YouTube.

Para hacerlo utilizará sistemas de inteligencia artificial capaces de detectar patrones de lenguaje agresivo, combinados con revisiones humanas que permitan confirmar si esos mensajes pueden considerarse discursos de odio.

El sistema examinará varios aspectos clave:

• la cantidad de mensajes agresivos que aparecen en redes

• la rapidez con la que se difunden

• qué usuarios o comunidades los amplifican

• y cómo reaccionan las plataformas ante ese contenido

En otras palabras, HODIO quiere convertirse en un mapa en tiempo real de la toxicidad digital.

Un ranking que pondrá en el punto de mira a las plataformas

Uno de los aspectos más llamativos del proyecto es que los resultados no quedarán en informes internos.

El Gobierno pretende elaborar informes públicos periódicos que revelen qué redes sociales están actuando con mayor eficacia contra el odio… y cuáles están permitiendo que ese contenido se viralice.

En la práctica, esto supondrá un ranking público de plataformas tecnológicas.

La intención es clara: ejercer presión sobre las grandes compañías digitales para que actúen con mayor rapidez contra los mensajes violentos o discriminatorios.

Por qué el Gobierno cree que es necesario

El Ejecutivo defiende que el discurso de odio en internet se ha convertido en uno de los grandes desafíos de la sociedad digital.

En los últimos años se ha detectado un aumento significativo de los delitos de odio en España, especialmente aquellos vinculados con racismo, xenofobia, orientación sexual o ideología política.

Además, numerosos estudios muestran que la mayoría de los jóvenes se encuentran con mensajes de odio en redes sociales de forma habitual.

Según el Gobierno, la arquitectura misma de las redes sociales —basada en algoritmos que premian los contenidos virales— puede favorecer que los mensajes más extremos se propaguen con mayor rapidez.

HODIO pretende poner números a ese fenómeno.

Quién gestionará la herramienta

El sistema estará gestionado por el Observatorio Español del Racismo y la Xenofobia, un organismo dependiente del Ministerio de Inclusión que desde hace años analiza la presencia de mensajes racistas y discriminatorios en internet.

Sin embargo, HODIO supone un salto tecnológico importante:

• utilizará algoritmos más sofisticados

• analizará más plataformas

• y generará indicadores públicos comparables.

Un proyecto que ya genera polémica

Como era previsible, la iniciativa ha abierto un intenso debate político y tecnológico.

Sus defensores sostienen que es imprescindible vigilar el discurso de odio en un mundo donde millones de personas se informan y debaten a través de redes sociales.

Pero sus críticos temen que una herramienta de este tipo pueda acabar convirtiéndose en un sistema de vigilancia del debate público o en una forma de etiquetar determinadas opiniones como odio.

El desafío será encontrar el equilibrio entre combatir los discursos violentos y proteger la libertad de expresión.

El nuevo campo de batalla de la política digital

Con HODIO, el Gobierno español entra de lleno en una batalla que ya se libra en todo el mundo: cómo controlar el impacto social de las grandes plataformas tecnológicas.

Porque detrás de la pregunta sobre el odio en internet se esconde otra mucho más profunda:

quién tiene el poder real sobre la conversación pública en la era digital.

Y en esa batalla —entre gobiernos, redes sociales y libertad de expresión— HODIO puede convertirse en una de las herramientas más controvertidas de los próximos años.