AI & Cybersecurity

Il Gruppo di Lavoro su Artificial Intelligence e Cybersecurity è parte dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Il gruppo di lavoro si occupa di attività di ricerca e innovazione sugli aspetti di sicurezza e privacy dell’Intelligenza Artificiale, e delle applicazioni dell’AI alla cybersecurity.

Mentre l’AI diventa sempre più pervasiva, con l’introduzione nella vita quotidiana di nuove applicazioni e servizi basati sull’intelligenza artificiale, sorgono preoccupazione relative a sicurezza, privacy e etica. Infatti, con l’aumentare del numero di stakeholders che vedono nell’AI uno strumento essenziale per processare l’enorme quantità di informazioni prodotte da ogni ambiente applicativo, autorità governative e legali stanno iniziando ad osservare le implicazioni relative a privacy, sicurezza software e fisica, e all’etica.

 L’intelligenza artificiale è uno strumento molto potente per chi lavora in cybersecurity, dove viene utilizzata per identificare, contrastare e prevenire cyber attacks, identificare malware prima dei convenzionali antivirus, oltre a identificare comportamenti indesiderati Tuttavia, recentemente anche chi attacca sta sfruttando meccanismi basati su AI per condurre attacchi più efficaci e efficienti. Più nel dettaglio, l’AI può essere utilizzata per apprendere le caratteristiche comportamentali di un software, di un sistema, o degli utenti umani, diventando un elemento fondamentale per attività di sicurezza come identificazione, autenticazione e autorizzazione.   Contestualmente, le tecnologie basate sull'intelligenza artificiale sono state ampiamente utilizzate dalle agenzie di intelligence e dai governi repressivi per violare sistematicamente la privacy dei cittadini e tenere traccia allo stesso tempo dei movimenti e della vita privata di criminali e dissidenti. Pertanto, l'intelligenza artificiale è una tecnologia potente e flessibile, che è diventata uno strumento essenziale nella lotta ai crimini informatici. Tuttavia, può essere utilizzata per una pletora di scopi dannosi che mirano all'integrità dei sistemi informatici ed alla privacy delle persone. Ciò ha sollevato diverse preoccupazioni sui possibili abusi di queste tecnologie, spingendo di recente a istituire un quadro normativo, come quello recentemente proposto dalla Commissione Europea, finalizzato a  classificare le applicazioni di intelligenza artificiale in base al loro livello di rischio e regolamentare il loro possibile utilizzo.

Da queste considerazioni, il Gruppo di lavoro AI & Cybersecurity mira a promuovere la ricerca e la pratica su due grandi temi principali in cui si intrecciano AI e Cybersecurity:

• applicazioni e servizi di sicurezza informatica abilitati/potenziati dall'IA (Cybersec attraverso l'IA)
• IA consapevole della sicurezza e della privacy, secondo i concetti di intelligenza artificiale affidabile ed IA centrata sull'individuo (Cybersec per l’ IA)

 Di seguito, un elenco non esaustivo dei topic del GdL

• Trustworthy AI

• Privacy Preserving Data Analysis

• Explainable AI

• AI powered cyberattacks

• AI based malware analysis

• Resilient and Robust AI

• Human Centric and Ethical AI

• Behavioral Analysis

• Intrusion Detection

• Resilience and Robustness of AI

• Adversarial attacks

• Misbehavior detection through AI-based multimedia analysis

• Threat Prediction

• Legal and ethical aspects of AI and its applications

• AI-based policy management

• Privacy aware AI training

• Dataset Protection

• Secure Federated Learning

• Biometric Recognition

Steering Committee 

• Andrea Saracino, IIT-CNR
• Francesco Mercaldo, Università degli Studi del Molise
• Mario G.C.A. Cimino, University of Pisa, Department of Information Engineering
• Davide Maiorca, University of Cagliari, Department of Electrical and Electronic Engineering
• Luca Sambucci, SNGLR Group, Head of AI
• Tamara Devalle, Intelligent Process Automation Manager
• Andrea Pasquinucci, Ucci.it
• Fiammetta Marulli, University of Campania “Luigi Vanvitelli”, Dept. of Maths and Physics