Intelligenza Artificiale
Da quasi vent’anni Kaspersky è in prima linea nell’integrazione dell’intelligenza artificiale (AI), in particolare delle tecniche di machine learning (ML), nei propri prodotti e servizi. La nostra profonda competenza ed esperienza nell’applicazione di queste tecnologie alla sicurezza informatica, insieme ai nostri set di dati esclusivi, ai metodi efficienti e a un’infrastruttura avanzata di addestramento dei modelli costituiscono la base del nostro approccio alla risoluzione delle complesse sfide di machine learning. Il nostro Kaspersky AI Technology Research Center riunisce data scientist, tecnici ML, esperti di minacce e specialisti delle infrastrutture per affrontare le attività più impegnative all’incrocio tra AI/ML e la sicurezza informatica. Non parliamo solo di sviluppo di tecnologie applicate, ma anche di ricerca sulla sicurezza degli algoritmi di AI, compreso l’uso di approcci promettenti come il machine learning neuromorfico, la consapevolezza dei rischi dell’AI e molto altro.
Le nostre tecnologie e i nostri prodotti
Kaspersky ha sviluppato una grande varietà di tecnologie di rilevamento delle minacce basate su AI/ML, principalmente per l’identificazione di malware. Tra queste citiamo un algoritmo profondo di rete neurale per il rilevamento di file eseguibili dannosi in base a funzionalità statiche, la tecnologia di machine learning con struttura decisionale per la creazione automatizzata di regole di rilevamento efficaci nei dispositivi degli utenti e le reti neurali per il rilevamento di comportamenti dannosi nei programmi in esecuzione. Usiamo inoltre un sistema per identificare le risorse online dannose basato sulla telemetria anonima ricevuta da soluzioni installate nei dispositivi dei clienti e da altre sorgenti. Ulteriori informazioni in merito sono disponibili nel white paper Machine Learning for Malware Detection (Machine Learning per il rilevamento di malware). Altri modelli, come il modello ML per il rilevamento di siti Web falsi e DeepQuarantine per la quarantena delle e-mail sospette, proteggono gli utenti dalle minacce di phishing e spam. L’infrastruttura cloud di KSN rende i nostri sviluppi di AI disponibili quasi istantaneamente sia per gli utenti privati che per quelli aziendali.
Guidati dalla promessa dell’AI generativa e dai modelli linguistici, in particolare quelli di grandi dimensioni (LLM), abbiamo creato un’infrastruttura per esplorarne le capacità e prototipare rapidamente nuove soluzioni. Questa infrastruttura, che distribuisce strumenti LLM simili a ChatGPT, non è solo accessibile ai dipendenti di tutti i reparti per le attività quotidiane, ma funge anche da base per nuove soluzioni. Ad esempio, il nostro Kaspersky Threat Intelligence Portal sarà presto dotato di una nuova funzionalità OSINT basata su LLM che fornirà rapidamente riepiloghi dei report sulle minacce per IoC specifici.
Per migliorare la sicurezza delle infrastrutture dei nostri clienti, stiamo sviluppando attivamente tecnologie di AI su misura per i nostri prodotti e servizi aziendali di punta. Da diversi anni ormai l’analista AI di Kaspersky Managed Detection and Response contribuisce a ridurre il carico di lavoro dei team SOC filtrando automaticamente i falsi positivi. Solo l’anno scorso, questa tecnologia ha chiuso oltre 100.000 avvisi senza l’intervento umano. In questo modo gli esperti SOC possono rispondere più velocemente alle minacce reali, dedicare più tempo alle indagini su casi complessi e a cercare proattivamente le minacce. Un’altra delle nostre soluzioni, il punteggio del rischio dell’host basato sull’intelligenza artificiale in Kaspersky SIEM (Piattaforma Kaspersky Unified Monitoring and Analysis) e Kaspersky XDR, usa algoritmi di machine learning per cercare comportamenti sospetti dell’host senza la necessità di trasferire i dati all’esterno dell’azienda.
Un’altra area chiave dello sviluppo di Kaspersky è l’uso di AI/ML negli ambienti industriali. È incluso Kaspersky MLAD (Machine Learning for Anomaly Detection), una soluzione software di analisi predittiva che riconosce automaticamente nei segnali di telemetria i sintomi precoci (nascosti) di guasto imminente delle apparecchiature, interruzione dei processi, errore umano o attacco informatico. Addestrando continuamente la rete neurale, MLAD analizza il flusso di eventi “atomici” provenienti dall’oggetto, li struttura in schemi e identifica il comportamento anomalo. Un altro dei nostri progetti è Kaspersky Neuromorphic Platform (KNP), un progetto di ricerca e una piattaforma software per soluzioni di intelligenza artificiale basate su reti neurali spiking e AltAI, il processore neuromorfico a basso consumo energetico sviluppato dalla Motive Neuromorphic Technologies (Motive NT) con sede in Russia, in collaborazione con Kaspersky.
L’adozione diffusa delle tecnologie di AI richiede il controllo della sicurezza, motivo per cui abbiamo anche istituito un team di sicurezza per l’AI. Questo team offre una gamma di servizi volti a garantire la protezione affidabile dei sistemi di AI e a contrastare le potenziali minacce ai dati, ai processi aziendali e al’infrastruttura di intelligenza artificiale.
Le nostre persone
In passato, le attività basate su ML venivano eseguite dai reparti direttamente coinvolti nel rilevamento di minacce specifiche. Tuttavia, a causa del numero crescente di attività e della crescente importanza delle tecnologie ML, abbiamo deciso di trasferire a un Kaspersky AI Technology Research Center separato la nostra esperienza nei sistemi basati sull’AI. Ciò ha portato alla creazione di tre team principali che indirizzano l’uso dell’AI in Kaspersky:
- Il Detection Methods Analysis Group sviluppa algoritmi ML per il rilevamento del malware in collaborazione con il Global Research and Analysis Team (GReAT) e il Threat Research Center. I relativi sistemi di intelligenza artificiale per il rilevamento di malware sia statico che basato sul comportamento contribuiscono direttamente alla sicurezza dei nostri utenti.
- La ricerca tecnologica, nell’ambito del dipartimento Tecnologie future, è specializzata in ricerca di tecnologie di intelligenza artificiale promettenti, sviluppo di Kaspersky MLAD e KNP, sviluppo del processore neuromorfico AltAI di prossima generazione in collaborazione con Motive NT, e fornitura di servizi AIST per la sicurezza dell’AI.
- Il team MLTech è responsabile dello sviluppo dell’infrastruttura ML aziendale per l’addestramento di modelli di ML, la creazione di modelli di rilevamento delle minacce ai contenuti (phishing e spam) e l’implementazione delle tecnologie di AI, comprese quelle basate su LLM, nei nostri servizi e soluzioni aziendali avanzati, come MDR e Kaspersky XDR
Ciò non significa che la nostra esperienza nell’AI sia limitata ai team sopra indicati. Il campo dell’AI è oggi così complesso e sfaccettato che è impossibile concentrare tutto il know-how in pochi gruppi di ricerca. Anche altri team danno un contributo significativo al lavoro del Centro e applicano il machine learning in molte attività: tecnologie di visione artificiale nel team Anti-droni; ricerca sugli assistenti di codifica AI nei dipartimenti CoreTech e KasperskyOS; Ricerca APT in GReAT; e studio sulla legislazione sull’AI nel team per le relazioni con il governo.
Le nostre ricerche e i nostri brevetti
L’unicità delle nostre tecnologie di AI è sottolineata dalle decine di brevetti ottenuti in tutto il mondo. Si tratta innanzitutto di brevetti per tecnologie di rilevamento, ad esempio il rilevamento di malware basato sui registri del comportamento dei programmi, il rilevamento di server dannosi nella telemetria, siti Web falsi e spam con l’ausilio del ML. Ma il portfolio Kaspersky copre una gamma molto più ampia di attività: tecnologie per il miglioramento dei set di dati nel machine learning, il rilevamento delle anomalie e persino la ricerca di contatti sospetti con minori nei sistemi di controllo genitori. E, naturalmente, stiamo brevettando attivamente le nostre tecnologie di intelligenza artificiale per sistemi industriali e approcci esclusivi con reti neurali all’elaborazione dei flussi di eventi.
Kaspersky condivide attivamente la propria esperienza di intelligenza artificiale con la community. Alcuni studi, ad esempio quelli sugli algoritmi di machine learning monotonici o sull’applicazione delle reti neurali per il rilevamento dello spam, vengono pubblicati come articoli accademici in occasione di importanti conferenze sulle tecniche di machine learning. Altri sono pubblicati su portali specializzati e in occasione di conferenze sulla sicurezza informatica. Ad esempio, pubblichiamo ricerche sulla sicurezza dei nostri algoritmi di intelligenza artificiale, in particolare sugli attacchi al rilevamento dello spam e algoritmi di rilevamento del malware. Studiamo l’applicazione delle reti neurali per l’analisi delle serie temporali ed esploriamo l’uso delle reti neuromorfiche in attività rilevanti per l’industria. La nostra Kaspersky Neuromorphic Platform (KNP) è un software open source che sarà disponibile per l’utilizzo e lo sviluppo dell’intera community di ML.
Il tema dello sviluppo e dell’applicazione sicura dell’AI è di fondamentale importanza per noi, poiché dobbiamo poterci fidare dei nostri algoritmi e avere fiducia nella loro affidabilità. Altri argomenti trattati includono la nostra partecipazione alle sfide della sicurezza informatica che simulano gli attacchi ai sistemi e l’uso di tecnologie avanzate come gli LLM per rilevare le minacce nei registri di sistema e nei link di phishing. Si parla anche di minacce per l’AI generativa, inclusi dal punto di vista della privacy attacchi a vari sistemi basati su LLM, uso dell’AI da parte di utenti malintenzionati e applicazione delle nostre tecnologie nei SOC. Talvolta apriamo la porta e sveliamo il nostro funzionamento, parlando del processo di addestramento dei nostri modelli e persino della complessità della valutazione della loro qualità.
Aumento della consapevolezza
Infine, la funzione più importante di Kaspersky AI Technology Research Center è sensibilizzare i clienti e il pubblico sui pro e i contro delle tecnologie di AI e sulle minacce che rappresentano. I nostri esperti del Centro illustrano i pericoli dei video deepfake. Parliamo dei punti salienti dell’uso dell’AI (ad esempio, come ChatGPT influisce sul processo di assunzione degli sviluppatori) e condividiamo le nostre esperienze attraverso webinar e tavole rotonde.
Il team di FT Technology Research organizza conferenze sulle tecnologie neuromorfiche con un percorso separato dedicato ai problemi di sicurezza dell’AI, inclusi i sistemi basati sull’approccio neuromorfico. Insieme al nostro partner, l’Istituto per la programmazione di sistemi dell’Accademia delle scienze russa (ISP RAS), stiamo ricercando vari vettori di attacco alle reti neurali nelle aree di Computer Vision, LLM e serie temporali e modi per proteggerli. Nell’ambito della partnership industriale di Kaspersky con ISP RAS, il team sta testando campioni di framework di machine learning attendibili.
Siamo inoltre coinvolti nello sviluppo di corsi di formazione, incluso un modulo sull’utilizzo dell’AI nella sicurezza informatica presso l’Università tecnica statale Bauman di Mosca. Un altro esempio è il nostro modulo sull’uso sicuro dell’AI in Kaspersky ASAP, la nostra soluzione per sensibilizzare i dipendenti alle minacce informatiche. Infine, stiamo contribuendo alla creazione di una serie di standard internazionali per l’uso dell’AI. Nel 2023 abbiamo presentato i primi principi per l’uso etico dei sistemi AI nella sicurezza informatica all’Internet Governance Forum.
In sintesi, le attività principali del Kaspersky AI Technology Research Center sono lo sviluppo di tecnologie di intelligenza artificiale, la loro corretta applicazione nella sicurezza informatica, il monitoraggio delle minacce apportate con uso improprio o dannoso dell’AI e la previsione delle tendenze. Tutte queste attività hanno un unico scopo: garantire il massimo livello di sicurezza ai nostri clienti.
