L’Insikt Group, la divisione di ricerca sulle minacce di Recorded Future, ha identificato una rete di influenza che utilizza siti web non autentici negli Stati Uniti, nel Regno Unito e in Francia che pubblica contenuti politici su larga scala attraverso l’uso dell’AI.
Il network denominato CopyCop utilizza la tecnica di ingegneria dei prompt per introdurre un bias politico sfruttando grandi modelli di linguaggio (LLM) per diffondere oltre 19.000 notizie false già da marzo 2024. I temi oggetto della propaganda sono correlati alla guerra in Ucraina, Israele, Stati Uniti, UK e Francia.
Secondo quanto riportato dai ricercatori dell’Insikt Group, CopyCop sarebbe gestita dalla Russia e dunque allineata con il governo russo.
CopyCop utilizza l’AI per coprire la guerra in Ucraina da una prospettiva filo-russa così come anche il conflitto Israele-Hamas, puntanto sulle accuse contro Israele di commettere crimini di guerra. Le narrazioni sulle elezioni presidenziali statunitense del 2024 si concentrano principalmente nel sostenere i candidati repubblicani e criticare il presidente Joe Biden e minare i democratici alla Camera e al Senato.
“Oltre ai contenuti plagiati, la rete ha iniziato a ottenere un significativo coinvolgimento pubblicando contenuti mirati prodotti dall’uomo nelle ultime settimane”, avverte l’Insikt Group.
Decine di nuovi domini registrati imitano pubblicazioni di notizie dall’America, e l’infrastruttura ruota intorno al noto sito web di disinformazione DCWeekly, gestito dal cittadino americano John Mark Dougan, fuggito in Russia nel 2016.
Altri attori russi sponsorizzati dallo Stato, come Doppelgänger e Portal Kombat, contribuiscono ad amplificare i contenuti di CopyCop. La campagna allo stesso tempo promuove anche altre forme di propaganda russa, incluso i contenuti del noto Foundation for Battling Injustice (FBR), precedentemente finanziato dall’oligarca russo Yevgeny Prigozhin, o InfoRos, un’agenzia di stampa non autentica, “molto probabilmente gestita dalle Forze Armate della Federazione Russa (GRU) Unità 54777”.
“L’operazione del network è molto probabilmente automatizzata. L’operazione è rudimentale e piena di errori. Alcuni articoli pubblicati, plagiando fonti in lingua francese, contenevano promemoria utilizzati dagli operatori. Rivelano che gli operatori hanno chiesto agli LLM di ‘assumere una posizione conservatrice contro le politiche liberali dell’amministrazione Macron a favore dei cittadini francesi appartenenti alla classe lavoratrice'”.
Inoltre, l’utilizzo di AI generative per creare e diffondere contenuti su larga scala introduce significative sfide, soprattutto per coloro che sono incaricati di salvaguardare le elezioni. L’uso dell’AI consente ai network di ingerenza straniera di mirare a target specifici.
