Come smascherare i bot di fake news

Ottenere le informazioni giuste al momento giusto può salvarci la vita o renderci ricchi, ma la dura realtà odierna è che, in tutto il mondo, il settore delle informazioni è infestato dalle fake news. Al giorno d’oggi ci sono persone che costruiscono la propria carriera sulle fake news, si inventano false informazioni e le diffondono online. E non è tutto: oltre a persone in carne e ossa, questo settore impiega migliaia di bot sui social network per ottenere i migliori risultati possibili. Durante il Security Analyst Summit di quest’anno, i ricercatori di Recorded Future ci hanno spiegato come individuare questi bot.

Perché esistono ancora i bot di fake news?

A nessuno piacciono i bot, in particolare i social network li detestano perché, grazie a loro, i social diventano meno attraenti agli occhi degli utenti. Ad esempio, Twitter individua periodicamente grandi quantità di bot e li blocca (mentre gli utenti veri si lamentano di assistere a un calo importante e improvviso dei propri follower). Ciò vuol dire che i social network hanno i propri metodi per scovare i bot, ma sembra che i loro sforzi non siano sufficienti per eliminarli completamente.

I social network non svelano i loro algoritmi ma sembra chiaro che gli sforzi si concentrino sull’identificazione di comportamenti anomali. L’esempio più ovvio: se un account prova a pubblicare cento post al minuto, sicuramente si tratta di un bot. Oppure, se un account retwitta pubblicazioni di tanti account ma non pubblica nulla di proprio, anche in questo caso possiamo dire che molto probabilmente abbiamo a che fare con un bot.

Tuttavia, i loro creatori provano continuamente a modificarli per riuscire a bypassare le tecniche di controllo adottate dai servizi dei social network, i quali non si possono permettere troppi falsi positivi (se venissero bloccati troppi account appartenenti a persone realmente esistenti, potrebbe essere una bella grana). Per questo ci vanno molto cauti e il risultato è che un certo numero di bot non sempre viene individuato.

Per capire fino in fondo come si comportano i bot, Recorded Future scelto una determinata caratteristica per evidenziare un certo gruppo di bot: parlare di eventi terroristici che vengono menzionati solo su Twitter. Se un account retwitta, probabilmente è un bot (o sta retwittando un bot). Ora diamo un’occhiata a cos’altro hanno in comune questi account.

Come si comportano i bot di fake news?

Innanzitutto, gli eventi menzionati da questi account sono avvenuti per davvero e gli articoli si trovano su siti in qualche modo rispettabili (o almeno parliamo di siti per i quali non è stato dimostrato chiaramente che diffondano fake news). L’unico piccolo ma importante dettaglio è che questi eventi sono avvenuti anni fa e gli account che diffondono queste notizie non ne fanno riferimento. Tuttavia, il collegamento a media rispettabili sembra placare gli algoritmi di Twitter che identificano i bot, per questo i creatori di bot hanno scelto questa strategia.

In secondo luogo, nel caso di questa particolare rete di bot, i proprietari degli account fingevano di trovarsi negli Stati Uniti ma parlavano principalmente di paesi europei. Con queste informazioni, Recorded Future è riuscita a identificare oltre 200 account accomunati da questo tratto di somiglianza, per poi scavare più a fondo e trovare altre somiglianze o connessioni.

Ad esempio, i ricercatori hanno elaborato uno schema di attività e si sono resi conto che molti di questi bot erano attivi solo durante certi periodi di tempo (che coincidevano). Alcuni erano stati bannati a maggio scorso, ma poi ne sono stati creati di nuovi dallo stesso comportamento (ed erano ancora attivi).

Un’altra somiglianza è che questi account, per pubblicare queste notizie “non completamente fake”, si affidavano ad alcuni accorciatori di URL, utilizzati per offrire analytics alle menti creatrici dei bot (come quante volte si è cliccato su ognuno dei link, ad esempio). Non si tratta dei soliti accorciatori che userebbero le persone normali (come t.co o goo.gl), ma di altri non pubblici, creati con l’unico scopo di raccogliere analytics. A proposito, sorprendentemente questi accorciatori hanno tutti un design minimalista, caratterizzato dai colori bianco e arancione. E il loro uso collega e accomuna questi account.

I dati WHOIS sui siti di questi accorciatori mostrano che si trovano tutti sulla piattaforma su cloud Microsoft Azure e registrati in anonimo. Coincidenza? Probabilmente no. Esistono altre somiglianze tra gli account, anche se possono cambiare da una campagna all’altra. In generale, però, analizzando un account bot, si possono individuare delle peculiarità e, per scoprire le reti di bot, si può andare alla ricerca di queste caratteristiche su altri account. 

Bot di fake news: elenco delle caratteristiche

Abbiamo preparato un breve elenco di caratteristiche tipiche dei bot; gli account utilizzati in una rete o in una campagna di solito hanno in comune molte di queste caratteristiche. Per cui, sullo stesso social network, certi account probabilmente sono dei bot se:

• Hanno somiglianze nei nomi o nei titoli;
• Sono stati creati esattamente nella stessa data;
• Il post reindirizza agli stessi siti;
• Scelgono le stesse parole;
• Fanno gli stessi errori grammaticali;
• Gli account si seguono vicendevolmente o seguono account simili;
• Utilizzano gli stessi tool come gli accorciatori di URL;
• Sono attivi solo durante certi periodi di tempo (che coincidono);
• Hanno descrizioni simili;
• Come immagini di profilo utilizzano foto generiche o foto di persone che si trovano facilmente su Google.

Ovviamente, ciò non vuol dire che se vari account hanno una sola somiglianza in comune, debbano essere considerati bot. Sicuramente non è così, ma se c’è più di una somiglianza (o, per evitare falsi positivi, meglio quattro o cinque), allora esiste un’alta probabilità che vi troviate davanti all’ennesima rete di bot sui social network.

Ambarabà, cicì co.. bot

La ricerca condotta dal team di Recorded Future dimostra che l’uso dell’analisi comportamentale può ancora funzionare per indentificare i bot. I ricercatori hanno trovato un paio di bot, hanno visto qualcosa di particolare nel loro comportamento e sono andati alla ricerca di altri account che agivano allo stesso modo. Ciò ha aiutato a identificare altri bot e a trovare altre somiglianze da aggiungere ai loro criteri di ricerca e che portavano ad altri account di campagne adiacenti.

Si tratta di un lavoro che si evolve continuamente (e probabilmente non finirà mai), dal momento che appaiono nuovi bot ogni giorno, ognuno con i propri schemi di comportamento. Non si possono identificare tutti i bot applicando un’unica serie di regole, ma l’analisi comportamentale almeno aiuta a identificare tutti gli elementi facenti parte di una rete di bot, aiutando i social network ad eliminarle, rendendo queste piattaforme un luogo migliore per gli utenti.

Naturalmente, tutti sui social media dovrebbero essere al corrente del fatto che i bot esistono, ce ne sono molti e non bisogna mai abbassare la guardia.