Detección de contenido radical en redes sociales mediante la IA

Investigadores de la Universidad Politécnica de Madrid (UPM) han desarrollado un sistema de aprendizaje automático para la detección de contenido radical en las redes sociales y la prensa que es capaz de entender las emociones y los valores morales.

Según informó la UPM en una nota, como parte del proyecto de investigación 'Participation', en el que colaboran distintas instituciones de varios países europeos como la Universidad de Roma Tre, la Universidad de Middlesex y la policía polaca, se han desarrollado varios modelos de inteligencia artificial con el objetivo de detectar, de manera automática, contenido radical que pueda resultar dañino para la sociedad.

Este tipo de contenido es, normalmente, propaganda dirigida a países de occidente que busca radicalizar a ciudadanos susceptibles.

El contenido radical que circula en redes sociales pone en peligro a la sociedad y sus valores, por eso la IA llega para detectarlo y frenarlo

'Participation', dotado con casi tres millones de euros, trabaja directamente con la detección de contenido radical propagandístico, analizando el lenguaje y las narrativas empleadas, así como un sistema de detección y monitorización completamente automático.

La investigación realizada en este proyecto trata de modelar la utilización de emociones y valores morales para despertar sentimientos de radicalización en los lectores.

De esta manera, los modelos de inteligencia artificial son capaces de comprender las emociones y valores morales expresados y, a partir de esa información, detectar si este contenido está orientado a radicalizar a los lectores.

La detección del contenido radical se consigue empleando técnicas de procesamiento de lenguaje natural y aprendizaje automático, dos subcampos de la inteligencia artificial.

“El uso de este tipo de sistemas se está revelando crucial a la hora de controlar el contenido radical que resulta dañino, cada vez más común en redes sociales y otros foros”, destacó Óscar Araque, profesor de la de la Escuela Técnica Superior de Ingenieros de Telecomunicación de la UPM.

“Esto es una necesidad acuciante, que la Unión Europea considera una prioridad de cara a la futura sociedad digital”, añadió el experto respecto al desarrollo del programa 'Participation'.

Una revolución que viene marcada por una necesidad muy grande para proteger a la sociedad mientras usan Internet

El Grupo de Sistemas Inteligentes, como parte de su intensa actividad investigadora, trabaja en multitud de proyectos en los que se desarrollan sistemas basados en inteligencia artificial, en colaboración con miembros nacionales e internacionales.

Un ejemplo de ello es la financiación recibida por el proyecto AMOR, cuyo objetivo es desarrollar sistemas de asistencia al ciudadano para el consumo de contenido de una manera responsable e informada.

Para ello, se van a emplear robots inteligentes y un sistema de hologramas, que permitirá acceder a la información de una manera novedosa y moderna.

Gracias a la financiación y propulsión de programas con estos, tanto la protección contra el contenido radical y el adecuado consumo en Internet y las redes sociales, aporta una tranquilidad y más en padres de menores, que son blanco directo para la radicalización y manipulación.