Meta implementa un sistema de detección de contenido generado por IA en Instagram y Facebook

Meta, la empresa matriz de Facebook, Instagram y Threads, anunció que comenzará a identificar contenido creado por inteligencia artificial para combatir la desinformación. Esta medida se implementará a partir de mayo de 2024, marcando un paso importante en la lucha por un ambiente digital más transparente y seguro.

Meta lanza la etiqueta “Made with AI” para controlar el contenido digital

Gran avance en la lucha contra la desinformación. Meta, la empresa matriz de Facebook, Instagram y Threads, ha revelado planes para identificar y etiquetar contenido de imagen y audio generado por inteligencia artificial (IA). Esta medida, anunciada por Monika Bickert, vicepresidenta de contenido de Meta, se implementará a partir de mayo de 2024. La etiqueta “Made with AI”, ya utilizada en imágenes fotorrealistas, se ampliará para incluir una variedad más amplia de contenidos, como videos, audios e imágenes.

La plataforma utilizará indicadores de imagen de IA según las normas de la industria, así como las indicaciones de los usuarios que suben contenido generado por IA, para marcar este tipo de contenido. Además de las etiquetas visibles, la empresa también aplicará una marca de agua invisible como una capa adicional de identificación.

Esta medida representa un paso significativo hacia la transparencia digital y la lucha contra la desinformación, algunos expertos, como Nicolas Gaudemet, director de IA del gabinete de análisis francés Onepoint, reconocen que aún pueden existir brechas en el sistema. Sin embargo, esta iniciativa demuestra el compromiso con la seguridad y la integridad de sus plataformas.

Este esfuerzo se suma a otros en la industria tecnológica para abordar la propagación de la desinformación en línea. Es un recordatorio de la importancia de salvaguardar la confiabilidad y autenticidad de la información en el entorno digital actual.

Eliminación del contenido en función de su enfoque

Después de consultar con su junta de supervisión, Meta está cambiando su enfoque sobre cómo manejar el contenido generado por IA. Ahora reconoce que la transparencia y proporcionar contexto son clave para abordar el contenido manipulado. En lugar de eliminarlo, Meta añadirá etiquetas y contexto para ofrecer más información sobre estos contenidos.

Sin embargo, Meta advierte que cualquier contenido, ya sea generado por humanos o IA, que viole sus reglas será retirado, incluyendo la interferencia en procesos electorales, intimidación, acoso, violencia u otras políticas comunitarias.

La empresa matriz de Facebook había anunciado previamente su intención de etiquetar todas las imágenes generadas por IA para combatir la desinformación.

Expertos como Gaudemet enfatizan la importancia de proporcionar contexto en las imágenes difundidas en redes sociales. Mientras tanto, otros gigantes tecnológicos como Microsoft, Google y OpenAI también han hecho compromisos similares en este ámbito.

Preocupación ante el uso de estas herramientas

A pesar de este avance, existe una preocupación creciente sobre el potencial uso de estas herramientas para sembrar el caos político, especialmente mediante la desinformación y noticias falsas. 

Con varias elecciones cruciales este año, especialmente en Estados Unidos, ya se están propagando videos falsos que apuntan tanto al presidente demócrata Joe Biden como al candidato republicano y ex presidente Donald Trump. 

Este escenario plantea desafíos significativos para la integridad de los procesos democráticos y resalta la urgente necesidad de abordar el problema de la desinformación en línea.