Vivimos en una época donde las guerras ya no se libran solo con armas o sanciones, sino con información. Y en esa nueva realidad, la guerra cognitiva —la lucha por controlar percepciones, emociones y decisiones— se ha convertido en un terreno estratégico clave.
Hace poco descubrí una investigación que me dejó con más preguntas que respuestas. En la conferencia IEEE Big Data 2024, Sonali Singh y Akbar Siami Namin (Texas Tech University) presentaron un estudio fascinante y, al mismo tiempo, inquietante: entrenaron modelos de lenguaje para generar noticias falsas tan bien elaboradas que incluso engañan a los detectores de fake news.
Sí, estamos hablando de IA que aprende a burlar otras IA.
¿Qué investigaron exactamente?
El estudio compara tres enfoques:
- GPT-Neo
- RoBERTa
- Y un modelo personalizado de Retrieval-Augmented Generation (RAG)
Este último combina generación de texto con recuperación de información real. Es decir, no solo inventa narrativas plausibles, sino que las construye sobre datos que son ciertos, lo que hace que el contenido final parezca aún más creíble.
Para evaluar la peligrosidad del sistema, entrenaron un clasificador de noticias reales/falsas. El resultado: el modelo RAG generó textos falsos que fueron clasificados como reales en múltiples casos.
La verosimilitud —no la verdad— se está convirtiendo en el nuevo estándar.
¿Por qué esto importa en el contexto de la guerra cognitiva?
Porque la desinformación ya no es solo un problema de contenido viral o de bots en redes sociales. Ahora hablamos de sistemas capaces de construir narrativas personalizadas, sofisticadas y difíciles de refutar. En manos equivocadas, esta tecnología puede:
- Manipular debates electorales
- Explotar divisiones sociales
- Desacreditar instituciones
Y todo esto, sin que detectores automáticos puedan frenar su difusión.
Para pensar:
La guerra cognitiva no es futuro: es presente. La batalla por la verdad está ocurriendo aquí y ahora, en nuestros feeds, chats y motores de búsqueda.
Los modelos generativos necesitan más que potencia: necesitan principios. Su potencial ético o destructivo dependerá de cómo los entrenemos, qué datos usen y qué objetivos persigan.
No basta con detectar fake news: hay que anticipar cómo se crean. Este estudio muestra que los métodos de generación evolucionan tan rápido como los de detección.
Este tipo de investigaciones deben estar en el radar de nuestros servicios de inteligencia. No para frenar la innovación, sino para garantizar que avancemos con responsabilidad.
📎 El paper se titula: “Adversarial Training of Retrieval-Augmented Generation to Generate Believable Fake News” – Singh & Siami Namin, IEEE Big Data 2024.
Si conoces proyectos que trabajen en guerra cognitiva, desinformación automatizada o modelos IA aplicados al entorno cognitivo, me encantaría conocerlos. Por favor, escríbelo en comentarios.