Llevamos meses rodeados de polémica en el entorno de los redes sociales. Desde la prohibición de su uso a menores de 16 años hasta el debate de la responsabilidad de las grandes plataformas por la creación de contenidos violentos contra la intimidad. Esto hace que últimamente se haya puesto el foco sobre ellas en todos los discursos políticos. La última novedad sobre el tema, es la creación de HODIO, una herramienta del Gobierno que intentará frenar los mensajes de odio en redes sociales.
¿Qué es HODIO?
HODIO son las siglas de: Huella de Odio y Polarización. Se trata de un sistema diseñado para medir cómo circulan los mensajes de odio en redes sociales y el alcance que logran dentro de las plataformas digitales.
Los mensajes de odio son algo que nacieron a la misma vez que las redes sociales, han existido de la mano. Son muchas las personas que lo han sufrido y lo sufren a diario, por eso, para algunos, esta herramienta llega tarde.
El objetivo del Gobierno mediante la creación de esta herramienta es doble. Lo primero es identificar los mensajes de esta categoría dentro de las redes sociales y el segundo es evaluar el impacto que estos comentarios negativos producen, para poder tener datos reales que permitan poner límites. Algo, que un principio debería estar regulado por la propia red social.
¿Cómo funciona HODIO?
HODIO utiliza tanto la tecnología como la revisión humana para detectar y analizar los mensajes de odio dentro de las redes sociales. El sistema cuenta con una base principal de inteligencia artificial. Esta parte integra técnicas cuantitativas para procesar grandes volúmenes de contenido en busca de ciertas palabras clave. Por otro lado, encontramos la parte humana. Esta se encarga de revisar todo lo que la IA ha detectado, garantizando su buen funcionamiento, precisión, coherencia y respeto a los estándares internacionales.
¿Qué redes sociales analizará?
Por ahora, esta herramienta analizará a las redes sociales más utilizadas en nuestro país. Se trata de Instagram, TikTok, X , YouTube y Facebook. Se han seleccionado aquellas con más usuarios y en las que más mensajes de odio se han registrado. En un principio, se empezará detectando los mensajes de odio existentes en cada una de estas redes sociales y observar cuáles presentan mayor o menor exposición a este tipo de contenidos.
¿Afectará a todos por igual?
Esto es algo que muchos usuarios se están preguntando. ¿Cómo va a afectar este sistema en el uso de rede sociales? ¿Hasta dónde nos vamos a encontrar protegidos? ¿Seguirá nuestra privacidad estando a salvo? Pues bien, desde el Gobierno aseguran que esta herramienta no está diseñada para identificar a personas concretas. Se trata más bien de un análisis global de aspecto general.
El sistema se centra en analizar tendencias generales y patrones de difusión de los mensajes de odio en el entorno digital, utilizando únicamente contenido público. Lo que no descarta la posibilidad futura de que funcione como medio de identificación. Lo que está claro, es que los haters tienen los días contados en redes sociales y que el respeto y la libertad de expresión con educación están ganando la partida.
El futuro de las redes sociales en el margen de aplicación de HODIO
La llegada de HODIO supone el fin de la autorregulación de las plataformas. En el nuevo escenario que plantea el Gobierno, el futuro de las redes sociales se resume en tres cambios críticos:
- El algoritmo bajo sospecha: ya no basta con moderar el contenido, ahora se analiza cómo la app lo difunde.
- Rankings de reputación: seguramente se publiquen informes sobre qué apps albergan más odio, la seguridad de marca (brand safety) será el KPI principal. Los anunciantes huirán de las plataformas que salgan mal paradas en los datos de HODIO.
- Moderación proactiva: el futuro apunta a sistemas de IA que bloqueen el discurso de odio antes de ser publicado, transformando la experiencia de usuario (UX) en algo mucho más vigilado y menos anónimo.
¿Pasarán las redes sociales ahora de medirse por cuántos usuarios capten, sino por cuánto odio son capaces de dejar de amplificar? Te leemos.
