El gobierno español presentó un mecanismo que permitirá medir y evaluar los discursos de odio y los mensajes violentos difundidos en redes sociales. La herramienta se denomina HODIO (Huella de Odio y Polarización) y su objetivo es generar información que incentive a las plataformas digitales a priorizar políticas y recursos orientados a garantizar entornos en línea más seguros.
La iniciativa fue presentada por Pedro Sánchez, presidente del Gobierno de España, durante el primer Foro Contra el Odio, celebrado en Madrid. En ese contexto, el mandatario aseguró que “el odio no nace por generación espontánea. Se cultiva y se promueve. Si el odio ya es peligroso, las redes sociales lo han convertido en un arma de polarización masiva. Un arma fácil de encontrar y de utilizar, y extremadamente lucrativa para algunos”.
Sánchez explicó que el funcionamiento de HODIO podría compararse con los instrumentos utilizados para calcular la huella de carbono de una actividad y medir su impacto ambiental. De forma similar, el nuevo sistema busca cuantificar la presencia y difusión de contenidos hostiles en internet, así como su alcance entre los usuarios.
Acoso, humillación, imágenes íntimas filtradas en redes sociales con miles de usuarios, deepfakes sexuales violentos, violencia asistida por Alexa. La tecnología facilita la violencia sexual contra las mujeres. El odio es el mismo, las herramientas para defenderse de él, no.
¿Cómo funciona HODIO?
La herramienta fue desarrollada por el Ministerio de Inclusión, Seguridad Social y Migraciones a través del Observatorio Español del Racismo y la Xenofobia (Oberaxe). Su diseño permite analizar la presencia de odio y polarización en las principales plataformas digitales utilizadas en España, entre ellas Instagram, TikTok, X, YouTube y Facebook. A partir de estos análisis se elaborará un informe semestral que incluirá un ranking público para comparar el nivel de exposición a contenidos degradantes entre servicios.
Las posiciones en esta clasificación se determinarán considerando dos factores principales: la prevalencia del discurso de odio en cada plataforma y las tasas de amplificación que esos contenidos pueden alcanzar dentro de cada ecosistema digital.
De acuerdo con las autoridades, HODIO utiliza un sistema de análisis mixto que combina herramientas de inteligencia artificial con “revisión humana experta”. Este enfoque permite evaluar la información tanto desde una perspectiva cuantitativa como cualitativa, con el propósito de garantizar “precisión, coherencia y respeto a los estándares internacionales”.
El lanzamiento de esta herramienta forma parte de un plan de cinco acciones presentado por Sánchez en febrero con el objetivo de contrarrestar “los peligros reales de las redes sociales” y asegurar que las grandes empresas tecnológicas cumplan con las normas destinadas a proteger a la ciudadanía.
