Il lato oscuro della tecnologia di riconoscimento facciale

Linciaggio, perdita di privacy, commercio ributtante, furto dell’identità digitale: in quali altri modi si può abusare del sistema di riconoscimento facciale?

Potete cambiare nome o usare uno pseudonimo. Potete anche modificare o eliminare gli account dei vostri social. Ma non potete cambiare volto così facilmente. Il riconoscimento facciale ci aiuta a risolvere tanti problemi (ma allo stesso tempo ne crea di altri). In questo post parleremo delle minacce che sopraggiungono con la maggiore diffusione di tali sistemi.

  1. Perdere il diritto alla privacy (su scala globale)

L’FBI possiede ufficialmente il Next Generation Identification-Interstate Photo System (NGI-IPS), un database che contiene le foto delle persone accusate o condannate in procedimenti civili o penali. È una cosa buona, no?

Non del tutto! A maggio, l’American Government Accountability Office statunitense ha elaborato un audit per l’FBI e ha scoperto che il suo database contenente 412 milioni di foto include foto di persone che non sono mai state oggetto d’indagine. L’uL’FBI ha anche un’unità separata responsabile del riconoscimento facciale chiamata Facial Analysis, Comparison, and Evaluation Services (FACE).

Da quanto risulta, i rappresentanti dell’FBI hanno preso accordi con diversi stati e hanno ricavato foto dalle patenti di guida e dalle domande per i passaporti e per i visti, così come anche foto di sospetti criminali e condannati. Il database include anche foto di cittadini stranieri (circa 100 milioni).

L’FBI utilizza attivamente il riconoscimento facciale durante le indagini. Abbiamo già scritto qualcosa su come questo metodo possa dare buoni risultati. Ma la situazione è più complicata di così. La tecnologia di riconoscimento facciale è nata da poco ed è imperfetta, e il sistema dell’FBI non è un’eccezione: contiene pregiudizi razziali e, nel migliore dei casi, raggiunge una precisione dell’80%-85%. Allo stesso tempo, l’FBI ha nascosto deliberatamente la portata dell’uso che fa del riconoscimento facciale, nonostante ci siano determinati requisiti non rispettati del Privacy Impact Assessment.

Altro aspetto da sottolineare: il consiglio comunale di Mosca e le forze dell’ordine russe hanno cercato di tenersi al passo con la tecnologia e si stanno preparando ad applicare la tecnologia FaceN (gli sviluppatori di questo sistema forniscono anche il codice per FindFace, un servizio che consente alle persone di cercare altra gente utilizzando le proprie foto). Questi nuovi sistemi saranno connessi a centinaia di migliaia di telecamere di sorveglianza presenti per tutta Mosca.

Stando al giornale russo Meduza, non esiste un sistema simile in nessuna altra città del mondo. L’algoritmo può confrontare le persone per strada con il database dei criminali, ma non è tutto. Può anche rilevare individui in qualsiasi parte della città e confrontare le loro foto con gli account dei social network, che contengono generalmente numerose informazioni personali.

Dovremmo anche segnalare che, all’inizio di quest’anno, il Senato russo ha costretto le corti di giustizia russe a considerare foto e video come prove giudiziarie. Prima di tutto questo, la decisione veniva presa a discrezione della corte.

  1. Abusi da parte delle forze dell’ordine

Il riconoscimento facciale commette errori. Le persone responsabili di questi sistemi a volte ne fanno un uso improprio, si sa. Ad esempio, ad agosto, il New York Times ha riportato che la polizia di San Diego raccoglieva foto di gente colpevole e innocente senza il loro permesso.

Aaron Harvey, un giovane americano di 27 anni di origini africane che vive a San Diego, ha sostenuto di essere stato trattato dalla polizia con pregiudizi. Harvey vive in una delle zone più violente della città. È probabilmente per questo che la polizia l’ha fermato più di 50 volte affermando che fosse un membro sospetto di una gang. Nel momento in cui si è rifiutato di fornire all’ufficiale di polizia la propria foto, quest’ultimo si è vantato di poterlo fare ugualmente.

“Mi ha detto che l’avrebbero fatto ugualmente, in maniera legale o illegale. Poi mi ha spinto fuori dall’auto”, afferma Harvey, descrivendo l’incidente al New York Times.

Qualche anno prima, nel 2013, anche le autorità di Boston hanno provato il sistema di riconoscimento facciale. Era connesso alle telecamere di sorveglianza che scansionavano di nascosto i volti delle persone ai concerti e altri eventi all’aperto. Alla fine del periodo di prova, il progetto è stato scartato per motivi etici. Ma Boston è una cosa, l’uso globale un’altra. I sistemi di riconoscimento facciale adesso sono ampiamente utilizzati dalle agenzie governative.

  1. Aziende che spiano chiunque

Ci sono altre organizzazioni che possiedono database dei volti molto più grandi di quelli dell’FBI. I social network sono in cima alla lista: Facebook, Instagram (che appartiene a Facebook), Google (con il suo Google +), VC.com e altri social. La maggior parte di queste aziende possiedono le proprie soluzioni di riconoscimento facciale che sono costantemente sviluppate e migliorate.

Microsoft sta lavorando a una tecnologia simile per l’app FamilyNotes che consente al software di distinguere un utente dall’altro con l’aiuto di una telecamera incorporata al portatile o al tablet. Microsoft sviluppa uno dei sistemi operativi più famosi al mondo e questa app sarà una sostanziale integrazione al suo database di volti.

Il sistema di riconoscimento facciale di Facebook è uno dei più precisi al mondo. L’azienda ha lanciato questo strumento nel 2012 e lo mantiene attivo di default sulla maggior parte dei profili degli utenti. Successivamente, l’azienda ha affrontato dozzine di cause (il numero sta ancora aumentando) e anche Google è stata citata in tribunale per accuse simili. Di conseguenza, Facebook ha dovuto disabilitare il riconoscimento facciale in alcuni paesi.

Bisogna evidenziare, inoltre, che Facebook ha un approccio unilaterale sull’argomento: ad esempio, nella sua Knowledge base non sono presenti articoli su come disabilitare la funzione di riconoscimento facciale (e non basta solo un click per farlo).

Anche se non siete iscritti a un social network (o se evitate di caricare le vostre vere foto), il vostro volto può essere inserito nel database di un’azienda di social media. L’anno scorso, un cittadino di Chicago ha fatto causa al servizio di photosharing Shutterfly perché il sito aveva aggiunto la sua foto al database senza il suo consenso. Una terza persona (sicuramente un amico) aveva caricato la sua foto su Shutterfly e aveva salvato l’immagine.

  1. Tutti possono trovarvi

Qualsiasi sistema di riconoscimento facciale che sia disponibile a tutti, può essere usato come un potente strumento per il linciaggio, o per farsi giustizia da sé. Quest’anno, ad esempio, due uomini hanno dato fuoco all’atrio di un edificio a San Pietroburgo. Dopo aver finito, i piromani hanno causato una lite nell’ascensore dello stesso edificio. Le telecamere dell’ascensore e del quartiere hanno filmato il modo in cui i due si sono intrattenuti.

Quando la polizia locale si è rifiutata di avviare un procedimento penale, gli affittuari di casa hanno preso in mano la situazione: hanno realizzato degli screenshot in cui si vedevano i volti dei colpevoli e hanno utilizzato FindFace per trovarli sui social network.

Gli investigatori dilettanti hanno riportato le proprie scoperte alla polizia, e di conseguenza i giovani sono stati accusati. In un’inchiesta della Ren TV (un canale della TV russa), uno degli affittuari di casa ha detto che avevano abbastanza dati e prove per inviare un messaggio agli amici dei teppisti e all’indirizzo di casa e del lavoro.

Sebbene gli abitanti di San Pietroburgo siano stati così pazienti da chiedere aiuto alla polizia, non tutti gli utenti di Internet hanno la testa sulla spalle. Volendo, ci si può trasformare in veri bulli. Se avete sentito parlare di FindFace, conoscerete il suo caso più famoso: quando i membri dell’imageboard 2ch anonima hanno utilizzato il servizio per prendere di mira le attrici porno online. I troll hanno trovato le pagine dei social delle donne e hanno inviato messaggi scandalosi ai loro amici e parenti con relative foto.

Allo stesso tempo, Maxim Perlin, fondatore di FindFace, è sicuro del fatto che al giorno d’oggi la gente abbia bisogno di pagare per salvaguardare la propria privacy. In un’intervista televisiva, ha affermato che la gente che vuole eliminare i propri dati dal database di FindFace, dovrà comprare un account premium. Un mese di privacy del servizio costa circa 8 dollari.

  1. La sottile linea tra sicurezza e disastro

Molti esperti ne sono certi: la biometria sostituirà le password e renderà il mondo ancora più sicuro. Quindi, in futuro, la gente permetterà che i sistemi scansionino le proprie iridi, le impronte digitali e anche il proprio viso per sostituire il processo di inserimento di complicate combinazioni di simboli.

Microsoft sta ancora sviluppando una tecnologia che permetta agli utenti di dare l’autorizzazione attraverso i selfie. NEC sta studiando l’uso del riconoscimento facciale per proteggere i pagamenti elettronici. MasterCard sta lavorando a un sistema di identificazione dei selfie che permetterà agli utenti di inviare denaro senza password.

Abbiamo già parlato degli svantaggi della dattilografia, quindi adesso focalizziamoci sulla debolezza del riconoscimento facciale. Si riduce ai recenti progressi nella stampa in 3D: oggi è possibile stampare una copia molto realistica del volto di una persona. Gli sviluppatori dei nuovi sistemi di identificazione avranno bisogno di tenere in considerazione tutto questo se vogliono creare soluzione realmente sicure.

Ad esempio, MasterCard e Google chiedono agli utenti di sbattere gli occhi (un’azione semplice che non permette ai truffatori di ingannare il sistema con l’aiuto di un volto stampato in 3D o anche solo con una foto). Sfortunatamente, la soluzione di Google non ha avuto successo (la gente è riuscita a bypassare le misure di sicurezza con l’aiuto di una semplice immagine animata). Il sistema di MasterCard è in via di sviluppo, quindi nessuno sa se potrà essere ingannato allo stesso modo.

3d-printed-face

“Il volto del mio collega stampato in 3D”

  1. Non condividete il volto con un qualsiasi Tom, Dick o Harry

Avrete sentito parlare di Anaface, un sito che analizza la vostra foto e misura il vostro grado di fascino? Il criterio principale che utilizza è la simmetria (un criterio un po’ discutibile, non credete?). Angelina Jolie, ad esempio, su Anaface ha ottenuto solo 8.4 su 10. Ma la precisione del sito non è il suo unico problema.

In primo luogo, i proprietari di Anaface hanno ammesso di aver lanciato il progetto per incoraggiare le persone a sottomettersi alla chirurgia plastica. Beh, almeno sono stati chiari.

In secondo luogo, i termini e le condizioni del sito web sono difficili da leggere e sono molto ambigue. Sono scritte in una finestrella molto piccola , quindi un utente ha bisogno di scorrere molto il sito per leggere le oltre 7000 parole scritte con caratteri minuscoli. Ecco perché molti non sanno che ogni utente del sito fornisce una “licenza non esclusiva, trasferibile a terzi, cedibile in sublicenza, esente da royalty, su scala mondiale” per utilizzare tutte le foto caricate su Anaface. In parole povere: il servizio può vendere le foto che le persone caricano senza essere obbligato a pagare il vero proprietario delle foto.

Allo stesso tempo, gli utenti si impegnano a caricare esclusivamente le proprie foto: “Non è possibile postare, caricare, visualizzare o rendere disponibile contenuto che contenga video, fotografie audio, o foto di un’altra persona senza il suo permesso (o, in caso di minorenni, del tutore legale del minore)”. Le condizioni includono anche osservazioni vaghe sulla privacy e sulla possibilità di rimuovere foto dopo aver registrato l’account di un utente (ma nessuno può farlo su Anaface: il sito non lo permette).

In sostanza, tutti raccolgono foto: i governi, le società, le aziende e la gente normale. Al giorno d’oggi, tutti possono usare e abusare dei sistemi di riconoscimento facciale (e tutto quello che possiamo fare è provare a nasconderci da essi).

Consigli
Iscriviti per ricevere le nostre notizie via e-mail
  • Tutti gli altri paesi