La Inteligencia Artificial crea voces clonadas, una nueva forma de estafa

La tecnología ha avanzado al punto en que la inteligencia artificial (IA) puede crear voces clonadas de manera sorprendentemente precisa. Pero, ¿cómo funciona realmente este proceso? Nieves Ábalos, ingeniera de interfaces conversacionales, revela algunos secretos en Newtral.es.

El auge de los delitos con voces clonadas

El año de la IA generativa y ChatGPT ha sido testigo del aumento de delitos que utilizan voces clonadas como herramienta. Medios de comunicación han reportado casos de secuestros virtuales y estafas en los que se usó IA para duplicar voces de personas. ¿Cómo está afectando esto al mundo?

¿Son detectables las voces clonadas con IA?

Detectar voces clonadas con IA puede ser un desafío. Un estudio revela que los humanos solo pueden identificar voces sintéticas el 73 % de las veces, y el entrenamiento no necesariamente mejora esta capacidad. ¿Hasta qué punto esta tecnología puede confundir nuestros oídos?

La inteligencia artificial ha alcanzado un nivel en el que puede imitar las voces humanas de manera asombrosa. Nieves Ábalos, ingeniera especializada en interfaces conversacionales, brinda información sobre cómo esta tecnología puede replicar la forma única en que hablamos.

En última instancia, la IA depende de los datos con los que se alimenta, ya que se trata de reconocer patrones de manera eficiente. Ábalos, originaria de Jaén, destaca que la IA puede reconocer las peculiaridades de su acento andaluz, como la pronunciación de las "eses," y contextualizarlas. Sin embargo, los modelos de IA pueden no comprender dónde colocar pausas en el discurso. Afortunadamente, estos modelos pueden aprender y replicar diferentes estilos narrativos con el tiempo.

Este año, la IA generativa y ChatGPT han sido utilizados en una serie de delitos en los que se han duplicado voces humanas

Casos de "secuestros" virtuales se han reportado en Canadá, y la estafa de suplantación de identidad ha aumentado en los Estados Unidos, según la Comisión Federal de Comercio. Sin embargo, en España, la falta de estadísticas dificulta evaluar el alcance de este problema en el idioma español.

Los delitos que involucran voces clonadas con IA varían, pero siguen un patrón similar: un impostor suplanta a alguien de confianza y convence a la víctima de enviar dinero debido a una supuesta emergencia. La tecnología de voces clonadas se suma a la presión emocional en estos casos.

Un estudio de la University College London revela que los humanos solo pueden detectar voces sintéticas generadas por IA el 73 % de las veces, y el entrenamiento apenas mejora esta cifra. La tecnología está avanzando constantemente, y existe la preocupación de que llegue un momento en que sea imposible distinguir una voz generada artificialmente de una voz real.

Entonces, ¿cómo se crea una voz clonada? La IA genera voces utilizando modelos de aprendizaje profundo alimentados con horas de grabaciones de voces reales de diversas personas. Estos modelos pueden crear una voz con una nueva identidad basándose en el aprendizaje de múltiples fuentes de audio. Sin embargo, se necesita tiempo y recursos para producir réplicas de alta calidad.

Así las cosas, la tecnología de voces clonadas con IA está en constante evolución y plantea desafíos en la detección de fraudes y estafas. A medida que avanza la tecnología, es fundamental mantenerse alerta y tomar medidas para protegerse contra estos delitos en línea.