Evoluzione, Morpheus

All'orizzonte si intravedono innovazioni che promettono di sconvolgere il nostro mondo, facendoci tornare a un tempo in cui l'Uomo tentava di evocare e controllare demoni e spiriti irrequieti.

Leopold Aschenbrenner è un giovane ricercatore di origini tedesche che fino a poco tempo fa era parte del “Superalignment team” di OpenAI.

Il team è stato fondato dall’azienda per affrontare i rischi legati alla futura creazione di un modello di Artificial Superintelligence (ASI), cioè un modello d’intelligenza artificiale molto più “intelligente” anche dei migliori esseri umani.

Leopold ha scritto sul tema un breve saggio chiamato “Situational Awareness: The Decade Ahead”, in cui descrive ciò che secondo lui accadrà entro i prossimi 4-5 anni. L’ho trovato molto interessante, e credo si presti bene a qualche riflessione delle nostre.

Dal GPT all'AGI… fino alla Superintelligenza

L’autore sostiene che, guardando al progresso lineare dell’intelligenza artificiale negli ultimi 3 anni, è possibile presumere che si possa arrivare a una intelligenza generale artificiale (AGI) entro il 2027, per poi arrivare rapidamente, e in modo quasi esponenziale, verso la superintelligenza (ASI).

Nel campo dell’IA si definisce una intelligenza generale artificiale (AGI) come un modello in grado di svolgere qualsiasi compito “intellettuale” in modo versatile, avere capacità di comprensione al pari degli esseri umani, ed essere facilmente adattabile a situazioni nuove. Gli assistenti IA attuali, come GPT4o, non sono ancora ritenuti AGI.

La superintelligenza artificiale (ASI) invece è un gradino in più: questa non soltanto è più intelligente del più intelligente degli esseri umani, ma arriva a livelli di autonomia e auto-innovazione impensabili per i modelli precedenti. L’ASI è sostanzialmente l’inizio della singolarità — il momento in cui l’avanzamento tecnologico non sarà più prevedibile dagli esseri umani.

Molti direbbero che Leopold è fin troppo entusiasta e sopravvaluta le capacità della ricerca nel campo dell’intelligenza artificiale. Alcuni infatti già parlano di un nuovo “inverno” dell’IA dopo GPT4.

Eppure, lui sostiene che nei prossimi 2-3 ci sarà una rincorsa, sopratuttto da parte del governo degli Stati Uniti, per costruire nuovi data center e cluster da mille miliardi di dollari, in una gara con la Cina che ricorderà molto quella spaziale del secolo scorso.

In particolare, lui sostiene che il vero punto di accelerazione si avrà quando riusciremo ad avere algoritmi direttamente applicati alla ricerca algoritmica.

Secondo lui infatti le AGI avranno la capacità di automatizzare gran parte della ricerca sull'IA stessa, comprimendo decenni di progresso in un solo anno. Sarà questo che darà la spinta necessaria per scoprire le innovazioni necessarie per aumentare di diversi ordini di grandezza il progresso.

Una tesi interessante è quella dell’AGI/ASI che diventerà un asset per la sicurezza nazionale statunitense. Secondo Leopold, presto tutta la ricerca e sviluppo di questi algoritmi finirà sotto il grande ombrello governativo-militare degli Stati Uniti. Il recente ingresso in CDA di OpenAI dell’ex capo della National Security Agency (NSA — quelli della sorveglianza di massa) sembra confermare la sua previsione.

Evoluzione, Morpheus…

Evolution, Morpheus. Evolution! Like The Dinosaur. Look Out That Window. You've Had Your Time. The Future Is OUR World, Morpheus. The Future Is OUR Time. — Agent Smith

L’autore discute poi della nascita dei cosidetti Agenti IA e del loro impatto sulla società.