La Inteligencia Artificial influye negativamente a las decisiones humanas

Un estudio llevado a cabo por investigadores de Bikolabs (Jakala) en colaboración con la Universidad de Deusto analiza cómo los algoritmos de la Inteligencia Artificial (IA) influyen en el juicio humano.

De esta forma, los datos obtenidos con el profundo análisis nos acaban revelando que la confianza excesiva en el apoyo algorítmico incorrecto puede disminuir la precisión de las decisiones.

Este fenómeno, conocido como sesgo de automatización, resalta la tendencia humana a depender en exceso de los sistemas automatizados, incluso cuando estos cometen errores.

Las decisiones humanas no pueden basarse en una confianza excesiva del uso de la Inteligencia Artificial

Los investigadores diseñaron dos experimentos simulando procesos automatizados con Inteligencia Artificial de toma de decisiones en el ámbito judicial, donde los participantes tenían que juzgar a varios acusados de diferentes delitos.

Los resultados mostraron que el juicio humano fue más acertado cuando se emitió antes de recibir un apoyo incorrecto de la Inteligencia Artificial.

Sin embargo, una vez que los participantes vieron una evaluación errónea de la Inteligencia Artificial, la tasa de acierto se redujo, incluso en aquellos que habían juzgado correctamente al principio del proceso.

Según los impulsores del estudio, este hallazgo pone de relieve la influencia potencialmente perjudicial del apoyo de Inteligencia Artificial incorrecto en la precisión de las decisiones humanas, subrayando la importancia del orden en el que se presenta la información.

A parte de que la información se presenta de una forma desordenada, las decisiones humanas deben de continuar siendo algo propio de los humanos, no de mecanismos automatizados que carecen de emociones y sentimientos así como un juicio propio de la especie y que las máquinas, por mucho que avancen, nunca poseeran.

Aunque se trata de un análisis para comprobar cómo nos dejamos influir por las tecnologías, es algo que preocupa a los expertos, pues no se puede extrapolar el uso de estas herramientas para cosas tan serias como son la toma de decisiones personales o que afecten a terceras personas.

Ante este panorama, la equidad, corrección y ética de las decisiones automatizadas se ve altamente comprometida y preocupa bastante a los expertos

"La investigación también reveló un desafío persistente: la tendencia humana a confiar excesivamente en el apoyo de los sistemas. Este fenómeno puede llevar a los usuarios a aceptar acríticamente las recomendaciones de la IA, incluso cuando son erróneas, lo que plantea preocupaciones significativas sobre la equidad, la corrección y la ética de las decisiones automatizadas", remarcaron los estudiosos.

Por ello, los hallazgos sugieren que, mientras la Inteligencia Artificial tiene el potencial de mejorar la toma de decisiones, "es esencial abordar y mitigar el impacto de sus errores y sesgos para asegura procesos de decisión justos y precisos".

La ética y la justicia, así como la precisión en la toma de decisiones no puede basarse en los algoritmos de una máquina. Vale que puedan mejorarse estos aspectos para la IA, pero es cierto que, aunque se siga mejoran y avanzando en nuevas tecnologías, estas solamente tienen que ir centradas en la mejora del trabajo y tareas profesionales, no en algo tan personal y propio de la especie.