España lanza HODIO, sistema para medir discursos de odio en redes sociales y responsabilizar a plataformas

Pedro Sánchez presentó HODIO como parte de una ofensiva contra lo que denomina la "tecno-casta", en un enfrentamiento directo con los directivos de las principales plataformas digitales. "Ya no nos rendimos ante las plataformas; ahora son ellas las que tendrán que rendir cuentas ante las sociedades. Vamos a parar al odio", afirmó el presidente durante su discurso en la Galería de las Colecciones Reales de Madrid, según informó El País.

La nueva herramienta operará a través del Observatorio Español del Racismo y la Xenofobia (Oberaxe), organismo adscrito al Ministerio de Inclusión, Seguridad Social y Migraciones. Según explicaron fuentes del ministerio a El Confidencial, HODIO "calculará la prevalencia, el nivel de amplificación y el impacto del odio y la polarización utilizando técnicas de inteligencia artificial y revisión humana".

El sistema estará "basado en criterios académicos reconocidos y combinará análisis cuantitativo y revisión experta para garantizar precisión y representatividad", detalló Sánchez según RTVE. El objetivo es generar un ranking "público y transparente" que permitirá comparar la exposición al odio de los usuarios en cada plataforma.

Sánchez estableció una comparación directa con la huella de carbono: "Igual que hoy hablamos de la huella de carbono para medir el impacto ambiental de una actividad, queremos empezar a hablar también de la huella del odio para impedir el impacto social y democrático que estos discursos están generando en la convivencia", según recogió RTVE.

El presidente español no ocultó su confrontación con las plataformas tecnológicas. Según El País, Sánchez afirmó que desde que Elon Musk compró Twitter (ahora X), los discursos de odio en esta plataforma aumentaron un 50%. "El entorno digital no puede ser un espacio sin reglas, hoy las redes sociales son un estado fallido", declaró según RTVE.

Durante su intervención, Sánchez presentó datos contundentes sobre la magnitud del problema en España. "Tres de cada cuatro jóvenes españoles se cruzan con discursos de odio. Oberaxe localiza 1.300 mensajes de odio cada día. Los delitos de odio han crecido un 41% en 10 años", enumeró el presidente según El País. "Se ha pasado de la libertad de expresión a la libertad de agresión verbal. Se presenta el insulto como una opinión", añadió.

El presidente también destacó avances previos en la presión sobre las plataformas. Según sus declaraciones recogidas por El País, las plataformas que antes retiraban el 21% de los mensajes de odio alertados por Oberaxe, ahora lo hacen con el 50%, aunque reconoció que "aún queda mucho por avanzar".

HODIO se suma a un ecosistema de herramientas ya existentes. Según El País, el Oberaxe inició el análisis diario del discurso del odio en 2020, coincidiendo con la pandemia. Desde 2022, cuenta con Alertodio, una aplicación diseñada por la Universitat Politècnica de València que registra contenidos de discurso de odio identificados en las redes.

En 2024, el Ministerio de Inclusión lanzó en colaboración con LaLiga el sistema FARO (Filtrado y Análisis de Odio en las Redes Sociales), que aplica inteligencia artificial para detectar discursos de odio. Según explicó El Confidencial, FARO usa más de 100.000 reglas semánticas en español para filtrar y clasificar la información según distintos atributos, distinguiendo entre discurso puro de odio (potencialmente ilegal) y discurso odioso que, aunque no ilegal, promueve la intolerancia.

La efectividad de estas herramientas quedó demostrada durante la crisis de Torre Pacheco. Según El País, el fin de semana del 12 de julio de 2025, cuando decenas de jóvenes viajaron a la localidad murciana para "ir de cacería" contra inmigrantes, azuzados por bulos de la extrema derecha, Oberaxe detectó un 1.500% más de comentarios que incitaban al odio en las redes: unos 33.000, frente a los 2.000 de media de un día normal.

Según fuentes del Ministerio de Inclusión citadas por El Confidencial, HODIO "completará el sistema FARO" y se ocupará de "ordenar la información que ya se venía recogiendo" para publicarla "en forma de ranking que permitirá comparar la exposición al odio de los usuarios en cada plataforma". Sin embargo, las mismas fuentes reconocieron que "está todo aún en fase muy inicial" y los trabajos técnicos "se están llevando a cabo".

Sánchez vinculó directamente el fenómeno del odio en redes con intereses políticos y económicos. "El odio se fabrica. Se ha convertido en un arma política. Para algunos es su principal baza electoral. Han reducido el coste de odiar. Basta un tuit. Las redes permiten canalizar el odio. Hay gente que hace negocio del odio", declaró según El País.

El presidente fue más allá al anunciar la creación de un nuevo delito. "Vamos a implementar el delito de amplificación algorítmica, que quienes diseñan los algoritmos que amplifican el odio asuman su responsabilidad. La tecnología no es neutra, es política", afirmó según El País. Esta medida atribuiría responsabilidad penal a los directivos de las plataformas.

La iniciativa forma parte de un paquete más amplio de medidas anunciadas por Sánchez en febrero durante el World Governments Summit en Dubái, según informó Infobae. Entre ellas se incluye la prohibición de acceso a redes sociales a menores de 16 años, en línea con lo implementado en Australia y Francia, medida que actualmente se encuentra en fase de tramitación parlamentaria en España.

A principios de febrero, el Gobierno español solicitó formalmente a la Fiscalía investigar si las plataformas X, Meta y TikTok han podido incurrir en delitos por la creación y difusión de pornografía infantil con herramientas de inteligencia artificial, según Infobae. La petición fue aceptada y el Ministerio Público acordó abrir una investigación penal.

Sánchez citó a Gisèle Pelicot, víctima francesa de violación cuyo caso conmocionó a Europa, para reforzar su mensaje: "Hagamos que aquí también la vergüenza cambie de bando. A partir de ahora, las redes sociales tendrán que rendir cuentas públicamente por cada contenido de odio que permitan, y la sociedad podrá ser consciente", declaró según El País.

La comunidad académica y expertos en análisis de redes sociales mostraron reacciones mixtas ante el anuncio. Elias Said, catedrático de sociología de la Universidad Internacional de La Rioja, calificó el anuncio de "positivo" pero cuestionó su implementación práctica. "Está bien a nivel pedagógico y social, pero no deja de ser una 'idea cantinflas': ¿cómo van a medir exactamente la huella del odio? ¿Y la polarización? ¿Cómo van a integrar ese trabajo con lo que se lleva haciendo ya desde hace años en la Unión Europea o en Francia?", declaró a El Confidencial.

Said aportó datos sobre su propio trabajo de investigación: "Nosotros hemos medido una prevalencia del 88% de los discursos de odio en las principales redes sociales, es decir, del total de mensajes, el 88% serían de odio. Pero distinguimos 4 tipos de intensidad: mensajes incívicos, malintencionados, insultos y amenazas. Solo estos últimos son los que constituyen delito. La polarización es la antesala al odio", explicó según El Confidencial.

Javier Barriuso, experto en análisis de datos en redes sociales, señaló las dificultades técnicas que enfrenta este tipo de monitorización. "Cuando Elon Musk llegó a Twitter nos retiró la API que teníamos los investigadores para hacer este trabajo. Nos quedaron entonces técnicas como el scrapeo, pero eso también se ha complicado mucho en las últimas semanas", explicó a El Confidencial. "Hay una monetización demostrada de estas prácticas y no hay un interés real por parte de los implicados en solucionarlo, porque sacan beneficio", añadió.

Barriuso también advirtió sobre los desafíos adicionales que plantean plataformas como TikTok: "El video es extremadamente complejo de analizar en comparación con el texto: necesitas más tiempo, más dinero y equipos especializados. Y aunque se puedan tener sistemas de control bastante refinados, hay formas de esquivarlos al no ser tan explícito con las palabras que se usan", según El Confidencial.

Marcelino Madrigal, informático especializado en discursos de odio y desinformación en redes sociales, identificó el problema fundamental: "Existen herramientas y vías de monitorizar todo esto si se tiene presupuesto y recursos. Aquí el problema es del paso a la acción", declaró a El Confidencial. Señaló que se trata de un problema de "legislación local" que trata de controlar "a plataformas globales que no quieren colaborar".

Mariluz Congosto, analista y profesora honorífica de la Universidad de Málaga, coincidió en este diagnóstico. "Hay perfiles que diseminan odio de forma pública, sin esconderse, pero una gran mayoría, que suelen ser más agresivos y tienden a ir más lejos, suelen ser anónimos", explicó a El Confidencial. Congosto reconoció que se podrá monitorizar temas y campos de polarización, pero advirtió: "Lo que es realmente difícil es establecer el punto donde, por así decirlo, comienza el odio, porque ahí no hay consenso generalizado".

Barriuso se mostró pesimista respecto a los resultados efectivos: "Esto es una acción de buenas intenciones, pero creo que va a tener difícil llegar a algún lado, más allá de visibilizar el problema", según El Confidencial.

Elías Said aportó un dato revelador sobre la facilidad para generar discursos de odio: "Por 25 euros puedes comprar 1.000 cuentas verificadas en redes sociales para lanzar mensajes de odio. Eso te incluye un software para automatizar los envíos. No te hace falta ni montar bots, es mucho más caro", explicó a El Confidencial. "Es un negocio para todos, un negocio que España, con la herramienta HODIO o sin ella, no va a poder frenar", concluyó.

La reacción política no se hizo esperar. El líder del Partido Popular, Alberto Núñez Feijóo, criticó duramente la iniciativa. "Quiere dar lecciones de paz quien no la practica ni en su patria", afirmó en la red social X, según RTVE. Feijóo lamentó que Sánchez siente "cátedra sobre una materia que sí domina: el odio".

El primer Foro Internacional contra el Odio reunió a expertos y afectados para reflexionar sobre los efectos del odio y el acoso digital en la dignidad de las personas. Según RTVE, en la cumbre se incidió en la necesidad de crear salvaguardas para afrontar el impacto y los riesgos que genera la inteligencia artificial frente a la defensa de los derechos humanos, así como la influencia de la desinformación en la propagación de mensajes hostiles.

Sánchez enmarcó esta iniciativa en un contexto geopolítico más amplio, vinculándola con la llegada de Donald Trump a la Casa Blanca. Según El País, el presidente español señaló que las plataformas han relajado sus mecanismos de control "sobre todo desde la llegada de Donald Trump a la Casa Blanca", y que el proyecto "encaja con la estrategia política de enfrentamiento directo con la administración Trump".

El presidente español no ocultó su determinación: "Sabemos que esta tecno casta tiene más dinero e incluso más poder que muchos países, pero nuestra determinación es más fuerte que sus bolsillos. Vamos a seguir adelante pese a sus amenazas", declaró según RTVE.

La implementación de HODIO plantea interrogantes sobre su efectividad práctica y su capacidad para generar cambios reales en el comportamiento de las plataformas tecnológicas globales. Mientras el Gobierno español promete transparencia y rendición de cuentas, los expertos advierten sobre las limitaciones técnicas, legales y prácticas de intentar regular desde un marco nacional a empresas que operan a escala global y que han demostrado resistencia a colaborar con este tipo de iniciativas.

La herramienta HODIO representa el intento más ambicioso hasta la fecha del Gobierno español por confrontar directamente a las grandes plataformas tecnológicas y responsabilizarlas por el contenido que circula en sus redes. Su éxito o fracaso marcará un precedente para otros países europeos que enfrentan desafíos similares en la regulación del espacio digital.