Cómo proteger la información en la era de la inteligencia artificial generativa

La adopción masiva de plataformas de inteligencia artificial (IA) generativa, como ChatGPT y DALL-E, tras la pandemia de COVID-19 ha revolucionado numerosos aspectos de nuestra vida digital. Utilizando tecnologías como la generación de lenguaje natural (NLG) y grandes modelos de lenguaje (LLM), estas herramientas se han convertido en soluciones eficaces para crear diversos tipos de contenido (desde textos y gráficos hasta videos, informes y narraciones) sin necesidad de instrucciones explícitas. Al igual que añadir sal a una receta, la IA potencia el rendimiento, pero requiere un manejo cuidadoso.

La llegada de la inteligencia artificial generativa ha impulsado la productividad, la creatividad y la eficiencia, aunque también plantea riesgos significativos, especialmente en relación con la integridad de la información y los derechos humanos, dado que estas tecnologías se integran cada vez más en las plataformas digitales.

Los riesgos de la inteligencia artificial generativa para la integridad de la información

El contenido generado o influido por la IA puede parecer extremadamente confiable, ser difícil de identificar como artificial y difundirse con rapidez. Cuando dicho contenido incluye información falsa o engañosa, contribuye a profundizar la desconfianza y los déficits en la credibilidad.

El éxito de las herramientas de inteligencia artificial se debe tanto a la calidad mejorada de sus resultados como a sus interfaces accesibles y fáciles de usar, lo que genera impactos tanto positivos como negativos. En el lado positivo, la IA ofrece mayor comodidad, eficiencia y un grado de democratización en la producción de contenido. Sin embargo, es fundamental comprender que los LLM no están diseñados para garantizar la veracidad. En lugar de proporcionar información completamente fiable, generan respuestas basadas en patrones encontrados en los datos con los que fueron entrenados, sin asegurar precisión ni exactitud. Como muchos usuarios desconocen esta limitación, los LLM pueden mezclar datos correctos e incorrectos, tratándolos como equivalentes, lo que pone en riesgo la integridad de la información.

La amenaza de la desinformación

Las plataformas digitales y la inteligencia artificial generativa son una combinación peligrosa para propagar información falsa, ya que los algoritmos de estas plataformas priorizan el contenido más interactivo en lugar de verificar su precisión. El uso de IA para distorsionar hechos puede acelerar la difusión de información engañosa. Aunque las tecnologías de verificación han mejorado, los algoritmos y plataformas todavía carecen de métodos fiables para confirmar regularmente la legitimidad del contenido. Además, los procesos de verificación varían según la plataforma y la región, lo que puede retrasar la corrección de información inexacta por horas o días.

Si no se mejora este proceso, la desinformación seguirá creciendo, afectando la confianza en la autenticidad, incrementando el sesgo y poniendo en riesgo la privacidad. Esto también amenaza a las instituciones democráticas y los derechos humanos fundamentales.

La IA y los derechos humanos

El artículo 19 de la Declaración Universal de Derechos Humanos garantiza la libertad de expresión, pero esta no debe ser usada para dañar a otros. Sin embargo, la Inteligencia Artificial se utiliza cada vez más para difundir discursos de odio, xenofobia y discriminación, afectando especialmente a grupos vulnerables como refugiados y minorías. Un estudio de 2019 de Deeptrace reveló que el 96 % de los videos deepfake eran pornográficos y no consensuados. Además, la IA se emplea en delitos como la trata de personas, dirigida principalmente a mujeres y niños.

Desde un punto de vista tecnológico, los algoritmos de IA dependen de grandes cantidades de datos recopilados en plataformas digitales y redes sociales. Estos datos, cargados o generados por humanos, son procesados por los modelos de IA para identificar tendencias, crear predicciones y generar contenido. Sin embargo, la inteligencia artificial no tiene la capacidad de analizar la información con el mismo detalle que los humanos, lo que puede resultar en sesgos e información falsa que violan los derechos humanos.