Progetto Sec4AI4Sec - Cybersecurity for AI-Augmented Systems

L’intelligenza artificiale (IA) sta gradualmente diventando onnipresente, ed è integrata nello sviluppo di software sicuri, e questo richiede lo sviluppo nuove tecnologie e nuove metodologie per garantire la sicurezza delle infrastrutture digitali, come evidenziato nel Piano strategico dell’UE 2021-2024. Per raggiungere questo obiettivo, il progetto Sec4AI4Sec, finanziato dall’UE, sviluppa tecniche avanzate di verifica e certificazione del software, sicure fin dalla fase progettazione, e adattate ai sistemi potenziati dall’intelligenza artificiale. Questi sistemi possono democratizzare le competenze in materia di sicurezza, consentendo di eseguire codifiche e test sicuri, intelligenti e automatizzati, riducendo al contempo i costi di sviluppo e migliorando la qualità del software. Tuttavia, introducono anche sfide di sicurezza uniche, in particolare per quanto riguarda l’equità e l’interpretabilità delle decisioni prese dai modelli di IA. Sec4AI4Sec è in prima linea nell’affrontare queste sfide con un approccio globale, incarnando la visione di una migliore sicurezza per l’IA e di una migliore IA a supporto della sicurezza del software.

Project portal: https://www.sec4ai4sec-project.eu

Budget: 4.283.037,50 €€

Funding: European Commission-EU – HORIZON Research and Innovation Actions – Programme(s): HORIZON.2.3 - Civil Security for Society; HORIZON.2.3.3 - Cybersecurity. Topic: HORIZON-CL3-2022-CS-01-02 - Trustworthy methodologies, tools and data security “by design” for dynamic testing of potentially vulnerable, insecure hardware and software components. Grant agreement ID: 101120393.

Duration: October 2023 – September 2026

Research Area: AI Security

Principal Investigator: Battista Biggio