Da febbraio molti utenti hanno notato (e si lamentano) dell’improvvisa comparsa dell’app Android System SafetyCore sui loro telefoni Android. Non ha né interfaccia utente né impostazioni, ma Google Play afferma che lo sviluppatore è Google stesso, il numero di installazioni supera il miliardo e la valutazione media è di appena 2,4 stelle. Lo scopo dell’app è descritto in modo vago: “Fornisce la tecnologia di base per funzionalità come la futura funzionalità Avvisi sui contenuti sensibili nei messaggi di Google”. Non è difficile indovinare cosa si intende per “contenuto sensibile”, ma come e perché Google intende metterci in guardia al riguardo? E come si può scoprire se il contenuto è effettivamente di natura sensibile?
Innanzitutto, qualche rassicurazione sulla privacy: né Google né esperti indipendenti hanno segnalato problemi di privacy. SafetyCore viene eseguito in locale, senza inviare foto o informazioni associate a server esterni. Quando l’utente riceve un’immagine in Google Messaggi, un modello di apprendimento automatico eseguito localmente sul telefono la analizza e la sfoca se rileva qualcosa di “audace”. Per rimuovere la sfocatura, l’utente deve toccare l’immagine e confermare di voler realmente visualizzare il contenuto. Una cosa simile accade durante l’invio: se l’utente prova a inviare un’immagine contenente nudità, il telefono verifica due volte se è davvero necessario inviarla. Google sottolinea che non invia i risultati della scansione a nessuno.
L’app SafetyCore gestisce l’analisi delle immagini, ma non è progettata per un utilizzo autonomo. Altre app utilizzano SafetyCore quando ricevono o inviano immagini, ma spetta a loro decidere come utilizzare l’output. Finora, l’analisi AI può essere utilizzata solo in Google Messaggi: le immagini riconosciute come “sensibili” verranno sfocate. In futuro, Google promette di rendere le funzionalità di SafetyCore disponibili anche ad altri sviluppatori, consentendo anche ad app come WhatsApp e Telegram di rilevare le immagini di nudo. Altre app potrebbero essere configurate per bloccare, ad esempio, i contenuti per adulti o filtrare immediatamente tali immagini come spam.
A differenza dei precedenti tentativi di Google e Apple di proteggere i bambini da contenuti indesiderati, SafetyCore evita l’analisi di server esterni, il che migliora la privacy ma sovraccarica l’hardware. Google prevede che SafetyCore verrà installato su tutti i telefoni sufficientemente potenti (2 GB RAM, Android 9+). Per impostazione predefinita, la funzionalità sarà disattivata per gli utenti adulti, ma abilitata per i minorenni. Se non hai bisogno di questo tipo di assistenza o non ti piace avere app extra, puoi semplicemente rimuovere SafetyCore dal telefono. A differenza di molti altri servizi Google, questa app può essere facilmente disinstallata tramite Google Play e tramite la sottosezione “App” delle impostazioni del telefono. Tieni presente, tuttavia, che Google potrebbe reinstallare l’app con un futuro aggiornamento.
SafetyCore è il sistema di protezione basato sull’intelligenza artificiale più sofisticato, anche se non l’unico, che Google sta sviluppando e che opera sul dispositivo (ovvero senza utilizzo del cloud e senza condivisione dei dati degli utenti). Accanto a SafetyCore, a ottobre 2024 Google ha annunciato modelli linguistici progettati per analizzare i messaggi provenienti da sconosciuti in Google Messaggi e suggerire di terminare la conversazione se il testo del messaggio assomiglia a una tipica truffa.
Oltre a SafetyCore, un’altra app sta spuntando sui dispositivi senza alcun preavviso: Android System Key Verifier. Anche questa app non ha un’interfaccia utente, può essere facilmente disinstallata ed è progettata per una comunicazione sicura. Tuttavia, non prevede alcuna analisi basata sull’intelligenza artificiale. Questa app consente a due utenti di verificare le proprie chiavi durante la messaggistica criptata end-to-end. WhatsApp e Signal hanno i loro metodi per farlo (gli utenti analizzano reciprocamente i codici QR quando si incontrano di persona oppure confrontano lunghe stringhe di numeri che compaiono sullo schermo). Google vuole semplificare questa operazione per tutte le app di messaggistica inserendo un’interfaccia standard in Android.
Il problema principale degli utenti con Google, nonché la ragione delle scarse valutazioni, non è cosa fanno le app, ma come vengono installate: senza avvisi, senza spiegazioni e senza possibilità di scelta da parte dell’utente. Gli utenti vedono spuntare dal nulla una nuova app sui telefoni. Molti recensori di Google Play temono che si tratti di un virus e alcuni affermano che le prestazioni dei telefoni o di app specifiche sono ridotte. Non si sono verificati problemi diffusi legati all’installazione di queste app Google, ma in caso di dubbi, puoi eliminare manualmente l’app e verificare se il tuo telefono funziona effettivamente meglio.