In arrivo la soluzione Cisco progettata per affrontare le sfide emergenti di sicurezza e affidabilità dei modelli AI
«In futuro ci saranno solo due tipi di aziende. Quelle che saranno capaci di sfruttare l’AI, e quelle che non ci riusciranno, diventando progressivamente irrilevanti». Tranchant la previsione di Jeetu Patel, Executive Vice President e Chief Product Officer Cisco a sottolineare l’importanza strategica dell’AI per il futuro delle imprese. A patto però di non sottovalutarne la sicurezza. Uno scenario in cui la forza lavoro sarà sempre più affiancata da agenti AI, robot e applicazioni autonome. Evoluzione, che determinerà l’aumento esponenziale delle capacità produttive, nell’ordine di 1 a 10. Che tuttavia, «introdurrà una nuova classe di rischi, mai affrontati prima, che richiederanno soluzioni altrettanto innovative» avverte Patel.
Particolare enfasi viene posta sulla natura non deterministica dei modelli AI, che li rende imprevedibili rispetto alle tradizionali applicazioni IT. «Quando un modello fallisce, le conseguenze possono essere gravi e impreviste» mette in guardia DJ Sampath, VP of Product, AI, Cisco. «Un modello non deve mai deviare verso l’autolesionismo, la tossicità o fornire risposte dannose per l’utente. È qui che interviene la sicurezza del modello, prevenendo derive comportamentali inaccettabili». Tra i rischi maggiori gli attacchi di tipo prompt injection, la manomissione dei dati utilizzati per addestrare i modelli e il jailbreak.
Garantire sicurezza e protezione
Per affrontare da subito queste sfide, Cisco annuncia il lancio di Cisco AI Defense, una soluzione progettata per affrontare le sfide sul terreno della sicurezza e dell’affidabilità dei modelli di AI e la protezione degli utenti durante l’interazione con le applicazioni AI, per evitare fughe di dati sensibili. Cisco AI Defense – spiega DJ Sampath – è progettata per assicurare che i modelli AI operino come previsto, evitando problematiche come risposte dannose o induzione a comportamenti pericolosi da parte degli utenti, allucinazioni (risposte fuori contesto), e per preservare i modelli da manipolazioni esterne, attacchi di prompt injection e manomissione dei dati sui quali vengono addestrati i LLM.
La validazione dei modelli, tradizionalmente un processo che richiede 7-10 settimane, è stata compressa a pochi secondi grazie a tecniche avanzate, che consentono di testare modelli AI su larga scala simulando miliardi di possibili scenari di attacco utilizzando anche dati provenienti da team di ricerca come Talos e fonti esterne (Splunk). «È qui che interviene la sicurezza del modello, prevenendo derive comportamentali inaccettabili» sottolinea DJ Sampath. «Grazie alla fusione tra sicurezza tradizionale e AI, Cisco ha reso possibile l’implementazione di barriere di protezione direttamente nella rete, in modo che gli sviluppatori possono concentrarsi sull’innovazione».
Integrazione e innovazione
Un aspetto cruciale è l’integrazione completa di Cisco AI Defense nella piattaforma Cisco Secure Access, ampiamente diffusa soprattutto in ambito corporate, che garantisce continuità e coerenza delle policy di sicurezza. «La sicurezza non deve essere un ostacolo, ma un motore per l’adozione e l’evoluzione dell’AI» afferma Patel, citando come esempio il ciclo di sviluppo delle applicazioni, che permette ai team di sviluppo di integrare la sicurezza direttamente nel processo DevSecOps: «La sfida non è quella di aggiungere la sicurezza a posteriori ma di integrarla sin dalle fasi di ideazione nel processo di sviluppo» sottolineando altresì l’importanza di un approccio collaborativo con gli estensori di standard internazionali (MITRE, NIST, ecc.) e i partner. Cisco AI Defense sarà disponibile a partire da marzo 2025, ma clienti e prospect possono già ora provare in anteprima la soluzione. «Ogni app diventerà un’app AI, e la sicurezza sarà un elemento intrinseco. Con Cisco AI Defense abbiamo costruito qualcosa di unico. Non una nuova soluzione isolata da gestire, ma parte integrante di un ecosistema sicuro e consolidato. Ora – conclude Patel – con l’aiuto di clienti e partner, continueremo a innovare e ad adattarci a un mercato in rapido cambiamento».
