A cura di Jeetu Patel, Executive Vice President & Chief Product Officer, Cisco
Il mondo si trova nel pieno di un’era straordinaria, un’era in cui la protagonista principale è, senza ombra di dubbio, l’innovazione legata all’intelligenza artificiale. In futuro le aziende si divideranno in due categorie: quelle che sapranno guidare lo sviluppo dell’IA e quelle destinate a diventare irrilevanti.
La composizione della forza lavoro delle aziende che intendono sfruttare il potenziale dell’intelligenza artificiale subirà una trasformazione radicale.
Oggi questa forza lavoro è composta esclusivamente da esseri umani. In futuro, crescerà esponenzialmente per integrare una vasta gamma di lavoratori basati sull’intelligenza artificiale, tra cui applicazioni, agenti virtuali, robot e persino umanoidi. Vivremo in un contesto in cui agenti intelligenti e persone collaboreranno fianco a fianco per gestire flussi di lavoro complessi. Ritengo che ciò porterà a straordinari incrementi di produttività e capacità, con benefici significativi per tutti. Immaginate cosa potrebbe ottenere una popolazione di 8 miliardi di persone se avesse una capacità di 80 miliardi.
La vera sfida, però, è capire come affrontare questa transizione in modo sicuro e responsabile, garantendo protezione e stabilità lungo il percorso.
L’adozione dell’IA introduce nuovi rischi
Garantire la sicurezza dell’intelligenza artificiale all’interno di un’azienda rappresenta una sfida complessa e relativamente nuova. Ciò dipende dal fatto che le applicazioni di intelligenza artificiale vengono sviluppate in modo diverso rispetto a quelle tradizionali, introducendo un nuovo elemento nel panorama tecnologico: i modelli.
A differenza delle applicazioni classiche, i modelli di IA possono presentare comportamenti imprevedibili. Inoltre, la maggior parte delle aziende farà uso di numerosi modelli distribuiti tra cloud pubblici e privati. Questo panorama – caratterizzato da un approccio multi-modello, multi-cloud e multi-agente – richiede una strategia di sicurezza completamente nuova.
Il fallimento dei modelli può avere conseguenze disastrose. Problemi di sicurezza come distorsioni, contenuti contaminati o output inappropriati richiedono una gestione attenta, oltre alla necessità di fronteggiare minacce esterne, come attacchi mirati al furto di dati sensibili o alla compromissione della sicurezza.
Sebbene i fornitori di modelli e gli sviluppatori di applicazioni adotteranno misure di sicurezza proprie, queste iniziative, per quanto fondamentali, risulteranno inevitabilmente frammentarie e insufficienti.
I team di sicurezza dovranno disporre di un livello comune di visibilità e controllo. Sarà essenziale non solo monitorare e comprendere come e dove l’IA verrà impiegata all’interno dell’organizzazione, ma anche convalidare e applicare costantemente le politiche di protezione per il comportamento di modelli, applicazioni e agenti di IA.
AI Defense: reinventare la sicurezza per l’IA
È fondamentale muoversi rapidamente nel campo dell’intelligenza artificiale, ma senza mai compromettere la sicurezza e la protezione. Proprio per questo motivo abbiamo recentemente presentato Cisco AI Defense, una soluzione pensata per superare questo compromesso, offrendo la possibilità di innovare senza timori.
AI Defense fornisce una solida protezione in due aree cruciali:
- Accesso alle applicazioni di intelligenza artificiale: le applicazioni di intelligenza artificiale di terze parti possono migliorare significativamente la produttività, ma comportano anche rischi come la perdita di dati o il download di contenuti dannosi. Cisco AI Defense garantisce una visibilità completa sull’utilizzo di queste app, applicando policy che assicurano un accesso sicuro e protetto. Questo è possibile grazie a Cisco Secure Access, arricchito da protezioni avanzate specifiche per l’IA.
- Creazione ed esecuzione di un’applicazione IA: gli sviluppatori devono avere la libertà di innovare senza dover temere vulnerabilità o problemi di sicurezza nei loro modelli di intelligenza artificiale. Cisco AI Defense consente di rilevare l’impronta dell’IA, convalidare i modelli per individuare eventuali vulnerabilità, applicare protezioni e farle rispettare in tempo reale su cloud pubblici e privati.
Cisco AI Defense si fonda su due innovazioni rivoluzionarie: la convalida continua dell’IA e la protezione su larga scala.
Convalida su larga scala
È fondamentale garantire che i modelli di intelligenza artificiale siano idonei allo scopo e privi di vulnerabilità, di comportamenti imprevisti e di contaminazione dei dati. Per le applicazioni tradizionali, si ricorre a un “red team” di esperti che tentano di violare l’applicazione e scoprire eventuali falle. Purtroppo questo approccio non è applicabile ai modelli di intelligenza artificiale, che comportano dinamiche decisamente più complesse e difficili da prevedere.
È qui che entra in gioco il nostro “AI Algorithmic Red Team”. Questo è uno dei principali motivi per cui Cisco ha acquisito Robust Intelligence lo scorso anno. Si tratta di un team di esperti pionieri nella sicurezza dell’intelligenza artificiale, che ha sviluppato quella che consideriamo la prima soluzione di red teaming algoritmico al mondo.
Il nostro AI Algorithmic Red Team invia una serie di varianti di prompt a un modello per cercare di ottenere risposte che non dovrebbe generare. Invece di avere un team di migliaia di persone che cercano di eseguire il jailbreak di un modello per settimane, Cisco è in grado di farlo in pochi secondi.
È un po’ come cercare di fare 100 domande, ma grazie all’IA, diventano un trilione. E con l’intelligenza artificiale, un trilione di domande sembra quasi insignificante.
Una volta identificate le vulnerabilità, Cisco AI Defense suggerisce le protezioni da applicare, e lo fa in modo continuo. Ogni volta che il modello viene aggiornato o che emerge una nuova minaccia, il modello viene riconvalidato e vengono implementate misure aggiornate per garantire la massima sicurezza.
Protezione su larga scala
Grazie al nostro approccio basato su piattaforma, siamo in grado di proteggere l’intelligenza artificiale su larga scala in modi che solo Cisco è in grado di offrire. Integrando la sicurezza tradizionale direttamente nella rete, forniamo migliaia di punti di controllo distribuiti, ovunque sia necessario, vicino agli utenti e ai carichi di lavoro. Questi punti possono trovarsi in un’applicazione nel cloud pubblico, in un’infrastruttura su cloud privato, su un server, su uno switch o sull’Edge Computing.
Cisco AI Defense sfrutta appieno questa architettura, garantendo che i controlli per l’IA siano distribuiti e disponibili ovunque serva. In questo modo è possibile ottenere una visibilità e un controllo completi sulle applicazioni di IA.
Un aspetto cruciale di AI Defense è che è totalmente privo di attriti per gli sviluppatori. Non richiede agenti, librerie aggiuntive o altro che possa rallentare lo sviluppo. Questo significa rapidità di sviluppo e innovazione continua.
Una tecnologia supportata da un’intelligenza senza pari
Cisco AI Defense si basa su una tecnologia progettata appositamente e sui nostri modelli di intelligenza artificiale personalizzati, sviluppati in collaborazione con Scale AI. Lavorando a stretto contatto con leader come Scale AI e sfruttando la nostra intelligenza proprietaria, Cisco AI Defense offre informazioni senza precedenti, assicurando una protezione rapida, efficiente e precisa.
Sbloccare il potenziale dell’IA
Cisco AI Defense permette alle organizzazioni di agire con rapidità, innovare con audacia e sbloccare il pieno potenziale dell’intelligenza artificiale, il tutto in modo sicuro e senza alcun compromesso.
