Superintelligenza artificiale: da dove nasce l'idea e che cosa dice la ricerca

La superintelligenza artificiale è, nel linguaggio comune, l'idea di un sistema di intelligenza artificiale più capace delle persone nella maggior parte dei compiti. È una definizione di lavoro, non una definizione tecnica: le fonti che abbiamo consultato non ne danno una e non attribuiscono il termine a un autore preciso. Soprattutto, non documentano nessun sistema che la realizzi. Oggi è un'ipotesi, non un prodotto.

L'idea si colloca dentro una storia più lunga. Si collega al desiderio, presente fin dagli inizi dell'informatica, di costruire macchine intelligenti quanto gli esseri umani, e alla storia delle reti neurali. Il punto di partenza che la letteratura indica per l'era moderna è il lavoro di McCulloch e Pitts del 1943, come racconta la ricostruzione dell'enciclopedia Treccani.

Per un imprenditore la domanda utile non è se arriverà una superintelligenza, ma che cosa si sa davvero oggi e che cosa cambia nelle decisioni quotidiane. In questa guida mettiamo in fila le origini dell'idea, i dati disponibili e i limiti documentati dei modelli attuali. Se vuoi il quadro generale del tema, trovi la guida di riferimento in superintelligenza artificiale: significato e applicazioni.

Che cos'è la superintelligenza artificiale e chi ha coniato il termine?

In questo articolo usiamo la definizione di lavoro già vista: un sistema ipotetico che supera le persone nella gran parte dei compiti. Va tenuta distinta dall'intelligenza artificiale che usiamo oggi, che esegue compiti specifici e a volte sorprende, ma non è questo. Per la distinzione tra intelligenza artificiale, AGI e ASI c'è un approfondimento dedicato: differenze tra AI, AGI e superintelligenza.

Sulla paternità del termine, onestamente, i materiali verificati non dicono nulla. Non possiamo quindi indicare chi per primo abbia parlato di superintelligenza, e preferiamo lasciare la domanda aperta piuttosto che attribuirla a qualcuno senza prove.

Un dato invece è documentato: secondo Our World in Data, fin dagli inizi di questa storia alcuni informatici hanno cercato di rendere le macchine intelligenti quanto gli esseri umani. L'ambizione, dunque, precede di molto i modelli di oggi.

Da dove nasce la ricerca su una macchina che pensa?

L'era moderna delle reti neurali e dell'intelligenza artificiale, scrive Treccani, inizia con il lavoro di W.S. McCulloch e W. Pitts del 1943. Un dettaglio umano: nel 1942 Pitts, allora studente diciassettenne di Rashevsky, fu presentato a McCulloch.

Secondo la stessa fonte, quel risultato fu notevole perché stabilì una volta per tutte la validità dei modelli formali dei meccanismi cerebrali, se non la loro veridicità. In parole semplici: si poteva descrivere il cervello con modelli matematici, senza che questo dimostrasse che il cervello funzioni davvero così. Treccani ricorda anche che gli studi oggi noti come neurodinamica iniziarono con Rashevsky nel 1938.

Un altro tassello è l'ipotesi di Hebb: le connessioni nel cervello cambiano continuamente mentre l'organismo apprende compiti diversi, e questi cambiamenti creano insiemi organizzati di cellule, come spiega ancora la voce Treccani.

Ecco le tappe principali in una vista unica.

Perché la ricerca si è fermata e poi è ripartita?

La storia non è stata lineare. Il materiale divulgativo del Nobel per la fisica racconta che alla fine degli anni Sessanta alcuni risultati teorici scoraggianti spinsero molti ricercatori a sospettare che le reti neurali non sarebbero mai state davvero utili.

La ripartenza passa da due nomi. Il fisico John Hopfield scoprì nel 1982 una memoria associativa, e il processo di cercare tra parole simili per trovare quella giusta, nei sistemi attuali, ricorda proprio quella memoria, secondo la stessa fonte. Il metodo di Hinton, che usava un'equazione della fisica, fu pubblicato nel 1985 con il nome vistoso di macchina di Boltzmann.

La fonte nota anche che lo sviluppo dell'apprendimento automatico è esploso negli ultimi quindici-venti anni e si basa su una struttura chiamata rete neurale artificiale. E precisa un punto che spesso si perde nei titoli: i computer non possono pensare, ma le macchine possono ormai imitare funzioni come la memoria e l'apprendimento (Nobel Prize Outreach). Per capire meglio la base tecnica puoi leggere che cos'è il machine learning.

Quando potrebbe arrivare un'IA di livello umano?

Nessuno lo sa, e le fonti lo trattano come un tema di previsione, non di fatto. Our World in Data cita lo studio forse più discusso di questo genere, pubblicato dalla ricercatrice Ajeya Cotra, e riferisce che molti esperti ritengono ci sia una possibilità concreta di sviluppare un'IA di livello umano entro i prossimi decenni; alcuni pensano molto prima.

La stessa pagina spiega l'idea che un sistema così potente porterebbe il mondo in un futuro "qualitativamente diverso". Sono scenari, non dati osservati: nessuna fonte consultata documenta una superintelligenza esistente.

C'è invece un dato misurabile sulla potenza di calcolo usata per addestrare i sistemi. Per i primi sei decenni è cresciuta in linea con la legge di Moore, raddoppiando circa ogni 20 mesi; dal 2010 circa la crescita esponenziale è accelerata, con un raddoppio in appena sei mesi circa (Our World in Data). Attenzione: questo misura il calcolo impiegato, non quanto un sistema sia intelligente.

Un modello che sembra bravo capisce davvero il mondo?

Qui la ricerca recente è utile perché frena gli entusiasmi. MIT News riporta uno studio secondo cui anche i migliori modelli linguistici di grandi dimensioni non formano un vero modello del mondo e delle sue regole, e possono quindi fallire in modo inatteso su compiti simili.

Nel test sulle strade di New York, i ricercatori hanno scoperto che le mappe generate implicitamente dal modello contenevano molte strade inesistenti, che curvavano tra la griglia e collegavano incroci lontani (MIT News). Il modello dava risposte plausibili, ma la mappa che aveva "in testa" era sbagliata.

Il dato più chiaro è questo: Vafa, uno degli autori, dice di essere rimasto sorpreso da quanto in fretta le prestazioni peggiorassero con una deviazione. Chiudendo appena l'1 per cento delle strade possibili, l'accuratezza crolla da quasi il 100 per cento a solo il 67 per cento, come si legge su MIT News.

Nello stesso studio, un transformer riusciva a prevedere mosse valide a Connect 4 quasi sempre, senza comprendere nessuna delle regole (MIT News). Le implicazioni, avverte la fonte, possono essere serie per i modelli generativi usati nel mondo reale: un modello che funziona bene in un contesto può rompersi se il compito o l'ambiente cambiano leggermente. È lo stesso tema dei rischi di errore e allucinazioni dei modelli.

Che cosa cambia per una PMI italiana?

La superintelligenza non è una tecnologia che si compra, ma l'IA di oggi è già dentro processi che toccano le imprese. Our World in Data osserva che i sistemi di IA determinano sempre più spesso se si ottiene un prestito, se si ha diritto a un sussidio o se si viene assunti per un certo lavoro, e che aiutano a programmare il software che usiamo e a tradurre i testi che leggiamo.

Due esempi, ipotetici e costruiti per illustrare il ragionamento:

• Un'azienda manifatturiera che seleziona personale. Adotta uno strumento che ordina i curriculum. Il test sulle strade di New York ricorda che un sistema può sembrare affidabile finché le condizioni sono quelle della prova. Prima di affidargli la selezione, l'azienda lo prova su casi diversi da quelli del fornitore e tiene una persona responsabile della decisione finale.
• Uno studio professionale che usa un assistente per il codice. Un consulente scrive piccoli programmi per automatizzare fogli di lavoro con l'aiuto di un assistente. Funziona, ma MIT News avverte che un risultato corretto in un contesto non garantisce lo stesso risultato quando il compito cambia: il codice va quindi controllato ogni volta che cambiano i dati in ingresso.

Per capire come questi ragionamenti si traducono in valutazione dei costi e dei benefici, ti può servire aspettare la superintelligenza o usare l'AI oggi.

Quali errori evitare quando si parla di superintelligenza?

Dare per esistente ciò che non è documentato

Succede perché i titoli mescolano previsioni e fatti. Le fonti verificate riportano pareri di esperti sull'IA di livello umano, ma nessuna documenta una superintelligenza già presente. Si evita separando sempre ciò che è misurato da ciò che è ipotizzato.

Attribuire il termine a un autore senza prove

È comodo citare un nome per dare autorevolezza, ma nei materiali verificati la paternità resta aperta. Meglio scrivere "non è chiaro chi abbia introdotto il termine" che inventare una citazione.

Fidarsi di un modello perché brilla in una prova

Il caso di New York mostra che un'accuratezza quasi perfetta può crollare con un piccolo cambiamento. Si evita provando lo strumento su casi vicini ma diversi da quelli del fornitore, e non solo sulla demo (MIT News).

Confondere calcolo e intelligenza

La crescita rapida del calcolo di addestramento, descritta da Our World in Data, è un fatto. Che ne derivi una macchina più intelligente di noi è invece una previsione. Si evita guardando i risultati sui propri compiti, non la potenza dichiarata.

Come usare queste informazioni in azienda?

Non serve diventare esperti di storia dell'IA. Basta una piccola routine di prudenza prima di introdurre uno strumento.

1. Separa i fatti dalle previsioni: quando leggi una notizia sulla superintelligenza, cerca la fonte e controlla se descrive qualcosa di misurato o di ipotizzato.
2. Elenca i processi in cui un sistema di IA ha già un ruolo, come selezione del personale, valutazioni su clienti o scrittura di software, perché sono quelli che le fonti indicano come già influenzati.
3. Prova ogni strumento su casi leggermente diversi dal solito, per vedere se regge quando il compito cambia.
4. Assegna a una persona la responsabilità finale delle decisioni importanti e documenta come verifichi i risultati.

Per strutturare la verifica, puoi appoggiarti alla guida su come valutare i rischi di un sistema AI e a quella sul controllo degli agenti. Se ti serve una base per chiarire i termini, c'è anche che cos'è l'intelligenza artificiale e il ruolo del deep learning spiegato in modo semplice.

Da dove cominciare?

La superintelligenza resta una domanda aperta, ma la storia della ricerca, dalle reti neurali degli anni Quaranta ai modelli di oggi, aiuta a ragionare con calma. Se vuoi capire dove l'IA può servire davvero alla tua azienda, e dove invece conviene aspettare o verificare di più, puoi cominciare da una consulenza AI pensata per aziende e professionisti.