La Superintelligenza Artificiale

Dopo essersi dimesso da Anthropic, il giovane ricercatore britannico Jacob Coxon ha dichiarato in un tweet che le principali aziende del settore dell’Intelligenza Artificiale, nel tentativo di farsi concorrenza tra di loro, stanno sviluppando sistemi che potrebbero arrivare a prendere il sopravvento sull’umanità. Secondo Coxon, questi sviluppi sarebbero talmente rapidi che l’umanità non sarebbe in grado di fronteggiarne i rischi e quindi di conservare il controllo dei sistemi cui lei stessa sta dando vita.

La reazione di personaggi del calibro di Dario Amodei, Sam Altman ed Elon Musk non si è fatta attendere. E visto che i principali leader dei più grandi colossi dell’Intelligenza Artificiale, per la prima volta, sembrano parlare all’unisono, allora significa che qualcosa di veramente grosso è già successo, o sta per succedere. Finora, non erano riusciti ad andare oltre una competizione sempre più feroce ed agguerrita. Ora, all’improvviso, tutti sembrano essere d’accordo nell’individuare un nemico comune, un nemico che li starebbe convincendo a stringere una ‘Santa alleanza’ per ‘rallentare’ la corsa verso un futuro sempre più vicino, e allo stesso tempo sempre più imprevedibile e inquietante.

Quel nemico comune si chiama “Superintelligenza artificiale”, la cosiddetta “AGI” (“Intelligenza Artificiale Generale”), una definizione che in nessun modo lascia immaginare cosa c’è dietro. Perché l’AGI è una tecnologia molto, ma molto più potente, e quindi potenzialmente più pericolosa, della sua sorella maggiore, l’Intelligenza Artificiale.

In un articolo pubblicato sul nostro Minotauro Riformista, oramai quasi due anni fa, abbiamo messo in evidenza come la principale novità dell’Intelligenza Artificiale, rispetto alle tecnologie informatiche precedenti, fosse la sua capacità di apprendimento. Un sistema basato sulla Intelligenza Artificiale è capace di acquisire nuove conoscenze, di migliorare le proprie abilità, in una parola ‘di imparare’. Un po’ come ognuno di noi. Certo, l’Intelligenza Artificiale è capace di fare progressi molto più rapidamente rispetto agli esseri umani. Basta riflettere su quante cose sono cambiate nella nostra vita quotidiana proprio grazie, o per colpa dell’Intelligenza Artificiale. In pochissimi anni!

Le potenzialità dei sistemi basati sull’Intelligenza Artificiale sono illimitate e limitate allo stesso tempo. Sono illimitate, perché riescono ad acquisire sempre più rapidamente ogni sorta di conoscenza e di abilità. Ma anche limitate, perché lo fanno sviluppando il proprio ragionamento all’interno di meccanismi ben precisi, i famosi “modelli” creati dall’uomo. Insomma, l’Intelligenza Artificiale è in grado, sì, di produrre cose incredibili e meravigliose, ma senza mai riuscire a sviluppare dei nuovi meccanismi di ragionamento che le consentano di andare oltre i confini disegnati dall’uomo.

Ecco, i sistemi basati sull’AGI si ripromettono (e promettono) di superare tutte queste ‘limitazioni’, chiamiamole così, dell’Intelligenza Artificiale. A differenza dell’Intelligenza Artificiale, l’AGI sarà in grado di migliorare autonomamente le fondamenta stesse della propria intelligenza. Sarà in grado di sviluppare autonomamente nuove capacità di ragionamento ed elaborare strategie intellettive più efficaci di quelle che l’uomo stesso le ha messo a disposizione. In una parola, i sistemi AGI saranno in grado di auto-migliorarsi, di cambiare la propria stessa natura. E quindi di raggiungere capacità sovrumane.

Abbiamo detto che l’Intelligenza Artificiale è in grado di imparare, come ognuno di noi. In una parola si potrebbe dire che l’AGI promette di fare lo step successivo, sarà in grado di evolvere. Esattamente così come ha fatto, e continua a fare, il genere umano. Con la differenza per nulla trascurabile che l’umanità ha impiegato milioni di anni per evolvere fino al livello di progresso che conosciamo, mentre l’AGI potrebbe raggiungerlo e addirittura superarlo in un solo decennio. È questo il grande timore alla base delle recenti dichiarazioni di Coxon, Amodei, Altman e Musk: che i sistemi superintelligenti potranno evolvere più rapidamente di quanto l’uomo sia in grado di gestire. Cosa potrebbe succedere quando (non se…) i sistemi informatici avranno superato le capacità e i limiti del genere umano? A quali rischi andremo incontro? I sistemi sviluppati dall’uomo potrebbero mai rivoltarsi contro l’umanità stessa, fino a causarne la distruzione?

A differenza di fantomatici viaggi interstellari, o di imminenti invasioni del nostro (amato?) pianeta da parte di orde di alieni, personalmente ritengo lo scenario di sistemi sviluppati dall’uomo che si ribellano contro l’umanità stessa come plausibile e realistico. Il tweet di Coxon ha il merito di aver trasformato uno scenario finora considerato da fantascienza in un tema di stringente attualità. La gestione e il controllo degli sviluppi nel campo dell’Intelligenza Artificiale e dei suoi derivati si sono improvvisamente imposti come un problema da affrontare con urgenza. Con ogni probabilità, l’8 settembre 2026, il giorno in cui Coxon ha pubblicato il suo tweet, sarà ricordato al pari del 1° settembre 1939, o dell’11 settembre 2001. Giorni che hanno cambiato la storia dell’umanità. Speriamo che questa volta, però, sia un giorno che la cambi in meglio!

È grazie ai timori di Coxon che ora ci stiamo chiedendo in molti quali siano i rischi cui stiamo andando incontro, e quali le possibili contromisure. Purtroppo per noi umani, temo sia molto più facile enumerare i rischi, molto più difficile concepire e realizzare le possibili contromisure. Il primo rischio già prospettato da molti è quello dello sviluppo e dell’utilizzo di sistemi intelligenti progettati per competere con l’uomo nel mondo del lavoro. Una competizione che l’uomo sarebbe destinato a perdere. È vero, anche in passato i grandi sviluppi tecnologici sono stati accompagnati dal timore che avrebbero comportato una riduzione dei livelli occupazionali. Ed è altrettanto vero che le moderne tecnologie hanno trasformato il mondo del lavoro in modo positivo, contribuendo a migliorare le condizioni dei lavoratori da tutti i punti di vista. Ma questa volta c’è una differenza dirimente, e inquietante.

La rivoluzione industriale ha dotato operai ed agricoltori di mezzi meccanici che hanno consentito di aumentarne la produttività, non certo di fare a meno di loro. La rivoluzione informatica, e l’avvento di Internet ancor di più, hanno consentito ad ogni genere di lavoratore di svolgere le proprie mansioni in modo più rapido ed efficiente, oltre che di creare nuove opportunità produttive e professionali. I sistemi basati sull’Intelligenza Artificiale, invece, promettono di sostituire ogni genere di lavoratore ‘in toto’, non di affiancarlo nelle sue mansioni. E quanti imprenditori saranno tentati di ‘acquistare’ un dispositivo che può essere sfruttato senza sosta, che non ha bisogno di riposo né di ferie, che non ha rivendicazioni sindacali, che non si ammala, che non ha bisogno di formazione o quant’altro? Il timore di molti, che io personalmente condivido, è che molte delle mansioni attualmente svolte da lavoratori umani potranno essere prese in carico, completamente ed autonomamente, da sistemi bisognosi solo di energia, e nient’altro. E l’essere umano sarà pronto ad accettare che qualcun altro lavori al posto suo?

Ma c’è un altro rischio, ancora più catastrofico, che personalmente temo potrebbe diventare realtà, più rapidamente di quanto si possa immaginare. I sistemi superintelligenti potrebbero presto escogitare il modo di sabotare, o addirittura di prendere il controllo di altri sistemi informatici, incapaci di difendersi di fronte ad attacchi del tutto imprevedibili, e quindi imprevisti, nel tempo passato in cui sono stati ideati e sviluppati. E ve lo immaginate cosa succederebbe se uno di questi sistemi finisse nelle mani di qualche criminale visionario che vuole distruggere altre nazioni, per poi poterle soggiogare con facilità? Cosa succederebbe se qualcuno riuscisse a prendere il controllo dei nostri sistemi finanziari, bancari, amministrativi, di comunicazione, di approvvigionamento energetico o di controllo del traffico? Il caos che ne conseguirebbe sarebbe talmente distruttivo da non essere neppure paragonabile all’utilizzo di armi nucleari. Nel senso che lo sarebbe molto di più!

Coxon ha paventato il rischio che, in un giorno neppure troppo lontano, lo scontro tra uomini che si fanno concorrenza (e guerra) tra di loro si trasformerà in una vera e propria lotta per la sopravvivenza tra l’intera umanità e i sistemi superintelligenti che lei stessa ha concepito. Senza nulla togliere alla gravità e alla drammaticità di uno scenario così apocalittico, personalmente io penso che sia arrivato il momento di preoccuparsi anche di un altro rischio, altrettanto catastrofico, che una corsa così sfrenata e incontrollata verso sistemi sempre più intelligenti potrà comportare: quello che gli uomini potranno usarli per distruggersi tra loro.