Large Language Models e Cybersecurity: fiducia, vulnerabilità e nuovi scenari di rischio
Cefriel analizza rischi e vulnerabilità dei Large Language Models, spiegando come applicare il framework Zero-Trust AI per una cybersecurity più efficace.
, che sono alla base di qualsiasi soluzione di AI. Senza una chiara comprensione dei dati richiesti e della loro composizione, non è possibile realizzare nulla. “Nella nostra esperienza in Cefriel – sottolinea Davide Stenner, uno degli autori del white paper – l’approccio più efficace si basa su sessioni di lavoro strutturato che riuniscono rappresentanti del business e dell’IT, con l’obiettivo non solo di identificare i dati, ma anche di strutturarli in un modello di alto livello che ne evidenzi le relazioni e consenta di verificare se la base informativa esistente risponde alle domande di business che scaturiscono dal caso d’uso in esame”. La progettazione dell’architettura applicativa si basa sulle buone pratiche di ingegneria del software: in particolare, un’architettura “a strati” ben pensata, che preveda per esempio l’isolamento del modello di AI dagli altri componenti applicativi, renderà più semplice la manutenzione in esercizio, facilitando la determinazione della causa degli eventuali problemi e l’evoluzione applicativa. Tuttavia, un aspetto specifico delle applicazioni basate su AI è costituito dall’ambiente di sviluppo, in quanto l’addestramento dei modelli richiede spesso grandi risorse di memoria e di calcolo. “Le aziende prive di un ciclo di sviluppo di AI consolidato – aggiunge un altro degli autori del white paper, Manuel Vimercati – devono definire anche l’ambiente di sperimentazione e sviluppo, che tipicamente ha requisiti tecnici diversi dall’ambiente di produzione dove verrà installata l’applicazione finale”. Una volta creati uno o più modelli, si passa alla fase di verifica degli stessi, necessaria per testarli su nuovi dati . “Questo passaggio è particolarmente critico “– conclude Diego Ragazzi. “Sono noti diversi esempi di progetti basati sull’Intelligenza Artificiale finiti male, a dimostrazione che lo sviluppo responsabile deve diventare un obiettivo primario. Il processo di verifica assume, a tal proposito, un ruolo centrale”.
. L’obiettivo, in una fase preliminare alla realizzazione della soluzione, è identificare i principali fattori di rischio, che dovranno poi essere analizzati a fondo nelle fasi successive. Tale valutazione va fatta a livello di sistema complessivo, includendo tutti i componenti dell’applicazione e le interazioni prevedibili con gli utenti finali e, se rilevante, con la società più in generale. L’aspetto di valutazione del rischio assume ancor più importanza alla luce della nascente normativa europea sull’IA. Per quanto riguarda, poi, la fase di analisi, diventa fondamentale la
Cefriel analizza rischi e vulnerabilità dei Large Language Models, spiegando come applicare il framework Zero-Trust AI per una cybersecurity più efficace.
Se desideri partecipare, ti invitiamo a registrarti e attendere la nostra conferma di iscrizione che ti verrà comunicata tramite mail.
Pubblicato dal MISE il Decreto Direttoriale 24 giugno 2022 che stabilisce modalità e termini per la concessione e l’erogazione delle agevolazioni nell’ambito del Fondo per…
Il corso Industrial Cybersecurity forma professionisti nella governance, gestione del rischio e protezione dei sistemi OT e delle infrastrutture critiche.
Il futuro dell’IA in Italia: nel report Anitec-Assinform un’analisi di come sta evolvendo il mercato dell’Intelligenza Artificiale con il contributo di Gianluca Ripa, Head of AI…
Per trasformare il potenziale dell’AI in valore di business serve una figura professionale dedicata che sappia tradurre obiettivi strategici in soluzioni concrete, per connettere…
Cybersecurity per le PMI: due Instant Paper realizzati all'interno del progetto APPtake, e a cura di Cefriel, su Cyber Resilience Act, DevSecOps e sicurezza dei sistemi di AI.
Evento sulla gestione della conoscenza aziendale con Intelligenza Artificiale per valorizzare competenze, documenti e processi interni