Lectura fácil
El crecimiento acelerado de los modelos de lenguaje de última generación ha transformado tanto la productividad tecnológica como el catálogo de amenazas en ciberseguridad. Según detalla la plataforma de información y verificación Newtral a partir del informe de amenazas publicado por Anthropic, la compañía ha desarticulado diversas campañas maliciosas que empleaban su inteligencia artificial, Claude, para orquestar operaciones de influencia geopolítica, crear perfiles de periodistas falsos y sofisticar estafas financieras a gran escala.
Este informe de transparencia expone las tácticas emergentes de los ciberdelincuentes y actores estatales para instrumentalizar los modelos del lenguaje (LLM) en la manipulación de la opinión pública.
Operaciones de influencia geopolítica y desinformación coordinada
El uso de modelos avanzados permite a actores hostiles automatizar campañas de injerencia con un nivel de persuasión y adaptación cultural inédito:
- Generación masiva de propaganda: Redes coordinadas han intentado utilizar a Claude para redactar artículos de opinión, comentarios en foros y publicaciones en redes sociales orientados a polarizar el debate político en democracias occidentales.
- Tácticas de astroturfing: Simulación de movimientos ciudadanos orgánicos mediante la creación de miles de perfiles sintéticos que replican narrativas idénticas pero redactadas de forma diversa para eludir los detectores de spam.
- Adaptación lingüística impecable: Superación de las barreras idiomáticas tradicionales, permitiendo a grupos extranjeros publicar contenido en lenguas locales sin errores sintácticos o modismos delatadores.
Periodistas ficticios y suplantación en el ecosistema de medios
Una de las modalidades de engaño más complejas identificadas por Anthropic implica la suplantación de la figura del comunicador:
- Creación de identidades sintéticas: Desarrollo de huellas digitales falsas de supuestos periodistas —con biografías elaboradas y perfiles profesionales ficticios— para firmar reportajes manipulados.
- Artículos de investigación inventados: Uso de la IA para generar investigaciones periodísticas falsas con aparente rigor metodológico, citas inventadas y datos manipulados para introducirlos en portales de noticias secundarios.
- Ataques de pitching automatizado: Envío masivo de propuestas de artículos falsos a editores de medios reales para intentar colar desinformación dentro de cabeceras legítimas.
Estafas de ingeniería social, phishing hiperpersonalizado y mitigación
Más allá de la política, la ciberdelincuencia común aprovecha la fluidez de los modelos para maximizar el rendimiento económico de sus fraudes:
- Campaña de spear-phishing avanzadas: Redacción de correos corporativos fraudulentos hiperpersonalizados que imitan con precisión el tono, jerga y formato de directivos o entidades bancarias.
- Fraudes románticos y financieros: Automatización de interacciones en aplicaciones de citas y plataformas de inversión para ganarse la confianza de las víctimas durante semanas antes de ejecutar la estafa.
- Respuesta y salvaguardas de Anthropic: La empresa ha cancelado las cuentas identificadas, reforzado sus clasificadores de seguridad internos (red teaming) y compartido los indicadores de compromiso con la comunidad global de ciberseguridad para bloquear estos patrones.
La inteligencia artificial no ha inventado la manipulación ni el fraude, pero ha reducido a cero el coste de escala para los ciberdelincuentes y operaciones de influencia.
Añadir nuevo comentario