L’obiettivo è prevenire i problemi prima che sia troppo tardi. Nel mirino le AGI
OpenAI sta formando un team dedicato per gestire i rischi dell’intelligenza artificiale. Il fine è anticipare i problemi che potrebbero insorgere con le AGI, le artificial general intelligence, il prossimo modello capace non solo di sostituirsi all’uomo ma, teoricamente, anche superarlo in molti campi. OpenAI ritiene che un tale modello potrebbe arrivare prima della fine del decennio. “La superintelligenza sarà la tecnologia di maggior impatto che l’umanità abbia mai inventato e potrebbe aiutarci a risolvere molti dei problemi più importanti del mondo”, ha affermato l’organizzazione no-profit. “Ma il vasto potere della superintelligenza potrebbe anche essere molto pericoloso e portare all’impotenza dell’umanità o addirittura all’estinzione”. Il nuovo team sarà co-guidato dal capo scienziato di OpenAI Ilya Sutskever e da Jan Leike, capo dell’allineamento del laboratorio di ricerca. Inoltre, OpenAI ha affermato che dedicherà il 20% della sua potenza di calcolo attualmente protetta all’iniziativa, con l’obiettivo di sviluppare uno strumento di allineamento automatizzato.
Un tale sistema teoricamente aiuterebbe OpenAI a garantire che una superintelligenza sia sicura da usare e in linea con i valori umani. “Anche se questo è un obiettivo incredibilmente ambizioso e senza un successo garantito, siamo ottimisti sul fatto che uno sforzo mirato e concertato possa risolvere questo problema”, ha affermato OpenAI. “Ci sono molte idee che hanno mostrato risultati promettenti negli esperimenti preliminari, abbiamo metriche sempre più utili per il progresso e possiamo utilizzare i modelli odierni per studiare empiricamente molti di questi problemi”. Il laboratorio ha aggiunto che condividerà una tabella di marcia in futuro. L’annuncio arriva mentre i governi di tutto il mondo valutano come regolamentare la nascente industria dell’IA. Negli Stati Uniti, Sam Altman, CEO di OpenAI, ha incontrato almeno 100 legislatori federali negli ultimi mesi. Pubblicamente, Altman ha affermato che la regolamentazione dell’IA è “essenziale” e che OpenAI è “desiderosa” di lavorare con i responsabili politici. Il team Superalignment di OpenAI saprà mitigare le preoccupazioni dell’opinione pubblica sulle IA di prossima generazione? Non è possibile saperlo oggi ma ci sono già tante criticità di cui compagnie come OpenAI devono occuparsi nel merito dei loro progetti, come ad esempio l’utilizzo dei LLM per confondere le persone e creare notizie false, contenuti multimediali fuorvianti e non veritieri. Uno scenario da approcciare oggi, prima di qualsiasi sviluppo futuro.
