Los videos falsos creados con inteligencia artificial (IA) se multiplican en la red social X, mostrando escenas impactantes que nunca ocurrieron: soldados estadounidenses supuestamente capturados por Irán, ciudades israelíes destruidas o embajadas de Estados Unidos en llamas.
Esta ola de desinformación digital se ha intensificado en medio del conflicto en Oriente Medio, generando preocupación entre investigadores y verificadores de contenido que advierten que la cantidad de material manipulado supera lo visto en guerras anteriores.
Según expertos, la proliferación de imágenes y videos generados con IA dificulta cada vez más que los usuarios distingan entre contenido real y material fabricado, lo que amplifica la confusión en redes sociales.
Ante esta situación, la plataforma propiedad del empresario Elon Musk anunció recientemente nuevas medidas para frenar la difusión de contenido engañoso durante conflictos internacionales.
La semana pasada, la red social informó que suspenderá durante 90 días el acceso al programa de monetización a los creadores que publiquen videos sobre la guerra sin advertir que fueron generados con inteligencia artificial. Además, quienes reincidan podrían enfrentar una suspensión permanente.
El anuncio fue confirmado por la jefa de producto de la plataforma, Nikita Bier, quien explicó que la medida busca proteger la “información auténtica” en momentos de alta tensión geopolítica.
La decisión representa un cambio significativo para la plataforma, duramente criticada por especialistas en desinformación desde que Musk adquirió la empresa en octubre de 2022 por 44.000 millones de dólares.
No obstante, investigadores advierten que las nuevas reglas aún no han logrado frenar la propagación de contenido manipulado.
“El contenido generado con IA sobre la guerra sigue inundando los hilos que monitoreo”, afirmó Joe Bodnar, investigador del Institute for Strategic Dialogue.
Según Bodnar, muchos creadores continúan publicando imágenes y videos engañosos sobre el conflicto sin aparentes consecuencias. Incluso citó el caso de una cuenta verificada —con la marca azul y elegible para monetización— que difundió un video generado con IA que mostraba un supuesto ataque iraní con “capacidad nuclear” contra Israel.
Incentivos económicos impulsan los “fakes”
La expansión de este tipo de contenido también está vinculada al sistema de monetización de la plataforma, que permite a las cuentas verificadas obtener ingresos por interacción, lo que incentiva la publicación de material viral, incluso si es falso.
Hasta el momento, la empresa no ha respondido a consultas sobre cuántas cuentas han sido desmonetizadas desde el anuncio de las nuevas políticas.
Investigaciones de la red global de verificadores de la agencia AFP han detectado un flujo constante de videos falsos generados con IA que circulan desde cuentas de pago dentro de la plataforma.
Entre ellos aparecen escenas fabricadas de soldados estadounidenses llorando dentro de una embajada bombardeada, tropas capturadas arrodilladas junto a banderas iraníes o flotas militares destruidas.
Los especialistas advierten que la mezcla de imágenes reales con material manipulado está creciendo a un ritmo que supera la capacidad de los verificadores para identificarlo y desmentirlo a tiempo.
