MADRID (EFE).— La Universidad de Jaén, en España, creó un sistema generativo del lenguaje —al estilo ChatGPT— entrenado para responder los discursos de odio en redes sociales para desmontarlos, un modelo que se presentará ante la Comisión Europea como parte de un proyecto europeo liderado por el gobierno español.
“Ningún humano sería capaz de hacerlo mejor”, asegura la catedrática de Informática María Teresa Martín, una de las impulsoras del sistema, el primero de estas características en español.
El modelo es una de las ramas del proyecto Real-Up, dirigido por el Observatorio Español del Racismo y la Xenofobia (Oberaxe) del Ministerio de Inclusión, Seguridad Social y Migraciones, con la Oficina Nacional de Lucha contra los Delitos de Odio y las universidades de Barcelona (UB) y de Valencia (UV) entre sus socios.
Su objetivo es mejorar la capacidad de las autoridades para identificar discursos de odio en línea y fortalecer las contranarrativas hacia estos mensajes motivados por el racismo, la xenofobia, la islamofobia, el antisemitismo y el antigitanismo.
La aportación del grupo Sistemas Inteligentes de Acceso a la Información de la Universidad de Jaén consiste en una herramienta de inteligencia artificial basada en sistemas de procesamiento del lenguaje natural.
Surgió de constatar que la práctica habitual en las plataformas de eliminar los mensajes de odio o colocar una etiqueta de “contenido inapropiado” no resultan las medidas más adecuadas.
“Muchas veces, las personas que están leyendo el hilo de Twitter (ahora X) cuando ven que al ‘hater’ se le censura automáticamente, aunque ni siquiera esté de acuerdo con él, se pone de su parte”, explica Martín.
Da mejores resultados crear otro mensaje de respuesta, en este caso “positivo, informativo y veraz”, que “contrarreste” el discurso.
Por ejemplo, ante la afirmación “los inmigrantes vienen a quitarnos el trabajo”, la herramienta responde destacando el valor de la población extranjera en el mercado de trabajo del país, en muchas ocasiones asumiendo puestos que los ciudadanos locales rechazan, y resalta los aspectos positivos de la diversidad.
“Hemos comparado lo que hace un humano con esto y en el 80% de las ocasiones la contranarrativa generada por nuestro sistema tiene mejor calidad: son más informativas, más descriptivas y más específicas”, asegura Martín.
Esta herramienta la podrían incorporar las propias redes sociales, algo que Martín duda que pueda interesar a las empresas que las dirigen y (más probablemente) autoridades o entidades sociales que buscan combatir el odio en redes, algo que hoy en día hacen de forma manual.
“Muchos voluntarios acaban con unos problemas mentales horrorosos de estar leyendo barbaridades y contestar una y otra vez las mismas cosas”, admite Martín, para quien esta herramienta resolvería parte del problema.
Leer también: El SAT usará Inteligencia Artificial