La Universidad de Jaén ubicada en España ha dado un paso importante en la lucha contra los discursos de odio en las redes sociales a través del desarrollo de un innovador sistema de inteligencia artificial al estilo de ChatGPT.
Esta nueva inteligencia artificial creada, que será presentada ante la Comisión Europea y constituye un eje central en un ambicioso proyecto liderado por España, con el fin de hacer frente a los crecientes retos que suponen las manifestaciones de racismo, xenofobia, islamofobia, antisemitismo y antigitanismo en el ámbito digital.
Esta iniciativa de esta nueva IA se da como respuesta a la necesidad de equipar a las autoridades y actores sociales con herramientas más efectivas y precisas en la identificación y respuesta de discursos de odio en internet, comunes en la actualidad.
¿Cuál es su funcionamiento?
El proyecto, llamado Real-Up, es coordinado por el Observatorio Español del Racismo y la Xenofobia (Oberaxe), asignado al Ministerio de Inclusión, Seguridad Social y Migraciones, en colaboración con la Oficina Nacional de Lucha Contra los Delitos de Odio y las universidades de Barcelona y Valencia.
Su nueva función consiste en generar respuestas positivas, informativas y veraces a mensajes de odio, enfocadas en desmontar los argumentos discriminatorios de forma eficiente, a diferencia de las respuestas tradicionales que se limitan a eliminar o marcar el contenido ofensivo, una práctica que en ocasiones puede generar un efecto contraproducente.
Te puede interesar: Inventan nueva planta que convierte el CO2 en una roca
Lee también: ¿Cómo saber si alguien ha archivado o silenciado tu chat en WhatsApp?
María Teresa Martín, quien es catedrática de Informática y promotora del sistema, resaltó a un medio de comunicación, la eficacia de esta inteligencia artificial al generar debates de calidad superior en el 80% de los casos en comparación con las respuestas humanas, según un estudio que realizó.
Asimismo, también se ha desarrollado una aplicación por la doctora Rosa Elvira Lillo, que permite la identificación detallada de qué usuarios son los que generan contenido de odio en la red social X con una precisión notable, herramienta que promete ser de gran utilidad para las fuerzas de seguridad del Estado.
Por tal razón el proyecto Real-Up, con el sistema desarrollado por la Universidad de Jaén, representan un esfuerzo conjunto y multidisciplinario que promete marcar un antes y un después en la forma en que las sociedades contemporáneas enfrentan el desafío del discurso de odio en la era digital.
De igual forma, demuestra cómo la tecnología, cuando se aplica con fines sociales positivos, puede convertirse en un poderoso aliado en la construcción de una sociedad más inclusiva y respetuosa.