Social rating: attenzione a cosa pubblicate

Ormai è difficile immaginare la vita senza i social network. Li usiamo per chattare, comunicare, condividere le nostre creazioni, discutere le notizie più scottanti e molto altro ancora. Vale la pena ricordare, però, che altre persone possono consultare i vostri profili sui social per valutare, ad esempio, la vostra capacità di far fronte un prestito bancario o per decidere se siete adatti a un particolare lavoro.

La misura del potenziale di una persona sulla base delle azioni passate, del circolo sociale e simili è chiamata social rating (valutazione sociale). Il social rating di una persona è simile per certi versi al rating di credito che le banche utilizzano quando concedono prestiti, ma può includere una gamma molto più ampia di informazioni.

Molti paesi vedono già l’uso del social rating in diversi ambiti. Ad esempio, le assicurazioni a New York sono ufficialmente autorizzate a determinare i premi delle polizze analizzando le informazioni sui social network.

Inoltre, la Cina sta sviluppando un sistema di credito sociale che ad alcuni ricorda il famoso libro 1984. Tuttavia, a non tutti preoccupano tali sistemi, alcuni pensano che siano utili perché renderebbero la vita più sicura. Le persone e le tecnologie sono pronte per un futuro di questo tipo?

Social rating: cosa pensano le persone

Per valutare l’atteggiamento degli utenti nei confronti del social rating, abbiamo intervistato più di 10 mila persone in tutto il mondo. Ecco cosa abbiamo scoperto.

Poco meno della metà (il 46%) ne aveva sentito parlare. Il fenomeno è conosciuto meglio in Asia; ad esempio, in Cina, dove questo genere di valutazioni si sta diffondendo a livello nazionale, il 71% degli intervistati sa cosa sia il social rating, mentre la percentuale scende al 13% in Germania e in Austria. Inoltre, anche in questo caso quasi la metà degli intervistati (il 45%) ha ammesso di avere problemi a capire come vengono calcolati i rating. Solo uno su cinque (il 21%) ha avuto un riscontro di tale fenomeno nella vita reale (anche se è possibile che alcune persone semplicemente non siano consapevoli del fatto che queste valutazioni delle informazioni sui social hanno un ruolo nell’ottenere un prestito o un mutuo).

Ciononostante, molti sono generalmente d’accordo con l’idea di fondo del social rating: Il 70% afferma che è giusto e corretto limitare l’accesso alle risorse pubbliche (trasporti, istruzione, alloggi, etc.) in base al comportamento delle persone.

A molti non importa essere monitorati se c’è una buona ragione. Per esempio, per migliorare la sicurezza, quasi la metà degli intervistati è pronta a permettere al governo di analizzare i social network, e due su cinque condividerebbero i loro dati con un’azienda in cambio di sconti e altri benefici. Solo il 20% circa degli intervistati ha espresso il timore che gli enti pubblici e le aziende private si interessino alle informazioni personali.

Social rating: la tecnologia

Molte delle persone che abbiamo intervistato sono a favore del social rating, probabilmente nella convinzione che, nel complesso, possano offrire una valutazione equa e imparziale. Purtroppo, con la tecnologia attuale, questo è improbabile.

Per prima cosa, è difficile rintracciare gli errori. I sistemi attuali si basano su reti neurali, i cui principi di funzionamento sono opachi anche per gli sviluppatori, per non parlare degli operatori o le persone in generale. Quando si abbassa o si alza il rating di qualcuno, la rete neurale non rivela la base informativa della sua decisione. Se il computer dice che non si ha diritto a un prestito, non lo si ottiene, anche se di fronte c’è una persona rispettabile e con un buon reddito.

Nel linguaggio dei test medici e della sicurezza informatica, si parla di “falso positivo”, lo stesso che si verifica quando una soluzione di sicurezza segnala un file infetto che in realtà non lo è, o quando un test medico segnala per errore una malattia nel campione di un paziente.

Per quanto riguarda il nostro argomento preferito, ovvero il mondo antivirus, il livello di falsi positivi varia molto da un prodotto all’altro. Alcuni prodotti emettono verdetti errati molto più spesso della media e altri molto meno (le nostre soluzioni di sicurezza hanno un livello minimo di falsi positivi). Il punto è che è impossibile eliminare completamente gli errori. Quindi nel caso di valutazioni che riguardano i diritti umani e persino la vita di una persona, il prezzo di un tale errore può essere molto alto.

Oltre agli errori causati da algoritmi imprecisi o da dati imperfetti, i sistemi possono anche essere violati intenzionalmente. Per quanto riguarda il social rating a livello nazionale, i nostri esperti hanno individuato tre tipi di potenziali attacchi.

1. Attacchi su dispositivi di raccolta dati

Per valutare con precisione il social rating di una persona, il sistema ha bisogno di molte informazioni a riguardo. Questi dati non provengono solo dai social network, ma anche da varie telecamere e sensori, il cosiddetto Internet delle cose. Questi dispositivi sono spesso vulnerabili e vengono ripetutamente attaccati. Solo nella prima metà del 2019 abbiamo rilevato 105 milioni di tentativi di hackeraggio.

2. Attacchi all’implementazione del software

Per assegnarvi una valutazione sociale, non è sufficiente che il sistema raccolga informazioni su di voi, ma deve anche elaborarle e interpretarle. Anche il meccanismo che gestisce questo aspetto può essere vulnerabile sia ai tentativi di infezione da malware che agli attacchi non standard.

Ad esempio, un malintenzionato potrebbe indossare occhiali colorati. Un essere umano riconoscerebbe facilmente la persona, ma una telecamera intelligente potrebbe scambiarla per qualcun altro, quindi tutto ciò che ha fatto davanti alla telecamera potrebbe essere attribuito a un’altra persona.

3. Attacchi alla logica del sistema

Infine, un cybercriminale può individuare azioni che, se ripetute più volte, modificano il rating al di là di ogni riconoscimento, sia in positivo che in negativo. Ad esempio, sfruttando le lacune della logica del sistema, potrebbe essere possibile aumentare il proprio rating o, al contrario, rovinare quello di una potenziale vittima.

Prepararsi al mondo del social rating

In sintesi, le valutazioni sociali potrebbero non essere così eque e imparziali come vorremmo o supponiamo. Tuttavia, tali sistemi sono già impiegati in alcuni campi e probabilmente avranno sempre più diffusione con il passare del tempo. Anche se non c’è modo di proteggersi completamente dai loro difetti, vale la pena cercare di minimizzare i rischi:

• Pensateci due volte (o tre) prima di pubblicare sui social network foto ambigue che vi riguardano o altre informazioni potenzialmente compromettenti. Alcune cose è meglio tenerle private o, per lo meno, non renderle disponibili a tutti;
• Proteggete i vostri account in modo che i cybercriminali non possano hackerarli e utilizzarli contro di voi. Create password forti e uniche, abilitate l’autenticazione a due fattori e non digitate le vostre credenziali di accesso su siti sospetti;
• Proteggete la vostra privacy. In questo modo la banca non si rifiuterà di concedervi un prestito perché, ad esempio, sa che state cercando un lavoro. Proteggetevi dalla raccolta di dati online: vi spieghiamo come in questo post.