Crean ’ChatGPT’ español que combate discursos de odio: "Ningún humano podría hacerlo mejor"

La Universidad de Jaén ha desarrollado un sistema generativo del lenguaje, al estilo de ChatGPT, diseñado para contrarrestar discursos de odio en redes sociales.

Este modelo pionero en español será presentado ante la Comisión Europea como parte del proyecto Real-Up, liderado por el Gobierno español.

El objetivo del proyecto Real-Up es mejorar la capacidad de las autoridades para identificar y contrarrestar discursos de odio en línea.

María Teresa Martín, catedrática en Informática y una de las impulsoras de este sistema, dijo a la Agencia EFE que “Ningún humano sería capaz de hacerlo mejor”.

Este proyecto, dirigido por el Observatorio Español del Racismo y la Xenofobia (Oberaxe), junto con otras instituciones como las universidades de Barcelona y Valencia, busca fortalecer las contranarrativas frente al racismo, xenofobia, islamofobia, antisemitismo y antigitanismo.

IA contra el odio: Una herramienta innovadora

El grupo de investigación Sistemas Inteligentes de Acceso a la Información (SINAI) de la Universidad de Jaén ha desarrolló la herramienta de inteligencia artificial basada en sistemas de procesamiento del lenguaje natural.

Según Martín, esta herramienta ofrece respuestas de mejor calidad que la simple censura, generando mensajes positivos, informativos y veraces que contrarrestan el discurso de odio.

De hecho, afirma que en comparación con respuestas humanas, el sistema generado por la IA tiene una calidad superior en un 80% de los casos.

También destacó que las contranarrativas generadas son más informativas, descriptivas y específicas.

Esta herramienta podría ser utilizada por las propias redes sociales o por autoridades y entidades sociales que buscan combatir el odio en línea de manera más efectiva.

María Teresa Martín también señala que esta herramienta podría aliviar la carga de los voluntarios que actualmente enfrentan problemas mentales debido a la exposición continua a discursos de odio en redes sociales. La automatización de respuestas permitiría resolver parte del problema y reduciría la fatiga emocional de quienes trabajan para contrarrestar el odio en línea.