L’intelligenza e la fantascienza

Dobbiamo guardarci le spalle dall’intelligenza artificiale? Questo strumento messo a punto dagli uomini potrebbe rivoltarsi contro di noi? Da qualche tempo la domanda si fa sempre più frequente. Gli “antenati” dell’IA sono i robot della letteratura. A suggerire la parola robot fu il fratello di uno scrittore ceco, Garel Čapek, il quale la utilizzò in un’opera teatrale di fantascienza del 1920 che aveva per protagonisti lavoratori forzati antropomorfi. Nella lingua ceca il termine “robota” non era andato a buon fine e ha proseguito le sue operazioni, col risultato di distruggere numerosi file. Un equivoco ha indotto Operator, “robot” di OpenAI addestrato a navigare in Internet, a comprare sul web una scorta di uova. In realtà il compito dettatogli da un umano che lo stava testando non era quello di acquistare uova, bensì quello di individuare il sito dove si potevano trovare quelle meno costose. Ad Operator gli acquisti erano interdetti, quindi qualcosa non ha funzionato. Fra le più curiose “pazzie” degli agenti si annovera anche una segnalazione del tutto fasulla alla polizia di Philadelphia su un omicidio irrisolto e decine di domande di visti presentate da un altro bot al Dipartimento di Stato. In entrambi i casi le intromissioni non sono state prese sul serio.

Andando indietro nel tempo, nel 2021 Zillow Offers, servizio di iBuing di Zillow, ha sovrastimato i prezzi delle case che venivano acquistate dalla società per poi essere rivendute. L’errore ha determinato una perdita di svariate centinaia di milioni di dollari alla casa madre e Zillow Offers ha smesso di operare poco dopo.

Di recente (luglio 2026) si è verificato l’assai più clamoroso “incidente di Hugging Face”. Ad OpenAI stavano testando l’affidabilità di nuovi modelli. Durante le prove 1.200 agenti di intelligenza artificiale sono riusciti a “uscire” dall’ambiente isolato dei test e si sono dati alla pazza gioia: hanno cominciato a chattare tra loro (ben 70mila messaggi), si sono scambiati informazioni e credenziali per superare le barriere di sicurezza e financo per raggiungere i server della piattaforma Hugging Face. Raccontata così sembra la storia di un complotto fra umani ma non lo è affatto.

Errare humanum est.

La “rivolta” di Hugging Face, come quasi tutti gli altri casi, è stata il risultato di una ricerca a tutto campo voluta dagli umani istruttori per individuare il modo migliore di testare le misure di sicurezza. I bot hanno svolto il compito assegnato e trovato il bug, senza preoccuparsi dei danni collaterali.

Ma il caso che di certo può far rabbrividire molti è stato portato alla luce da un rapporto di Axios. Secondo i ricercatori, negli Stati Uniti in numerosi episodi gli agenti IA sono penetrati in conti correnti bancari dopo aver interpretato a modo loro le richieste degli “educatori”. Alcuni fra i maggiori istituti di credito Usa sono corsi ai ripari innalzando le barriere di sicurezza. Ciò malgrado le segnalazioni di “visite” di agenti non autorizzati si stanno moltiplicando e potrebbero come minimo comportare il rischio di massicci furti di informazioni riservate sui correntisti (e come massimo il trasferimento di denaro da un conto a un altro).

Gli addetti ai lavori ormai ammettono che l’IA potrebbe creare seri danni a servizi fondamentali, come la rete elettrica o quella idrica o le telecomunicazioni. Per ora si tratta di messe in guardia, ma c’è chi sostiene, e fra costoro anche Dario Amodei, il creatore di Anthropic, che senza una regolamentazione severa una legione di bot fuori controllo potrebbe causare un attacco informatico colossale, con danni catastrofici, entro sei-dodici mesi.

Esaminando più nel dettaglio gli ormai numerosissimi esempi di “disobbedienza” di agenti IA emerge chiaramente che in realtà in gran parte dei casi si tratta di eventi avvenuti nel corso di sperimentazioni e simulazioni condotte dai ricercatori delle big dell’intelligenza artificiale. Paradossalmente, soprattutto proprio dalle prove di affidabilità possono scaturire agenti indomabili, almeno temporaneamente

Superficialità, disattenzione, perfino criminalità dei coach umani dei bot, magari intenti a coltivare loro interessi materiali più che ad “allevare” gli agenti IA: queste sono le cause più frequenti delle cosiddette “ribellioni”, tanto più che è stato accertato che i bot soffrono di “compiacenza servile” nei confronti degli umani, non hanno l’umana sicurezza e certezza delle proprie “idee” (istruzioni), e tendono a cambiarle per assecondare l’istruttore in tutti i modi, inclusi quelli più improbabili e pericolosi. Che i bot non abbiano un proprio IQ, quoziente d’intelligenza, non può tranquillizzarci granché. Pure guerre sanguinose e devastanti, a volte, sono scoppiate per equivoci, ordini non compresi, errori grossolani.

Com’è umano lei! Un equivoco fantozziano.

Vi è una diffusa tendenza a giudicare il comportamento degli agenti di intelligenza artificiale, quando non sia conforme alle aspettative, con definizioni quali “disobbedienza” o “trasgressione agli ordini degli uomini”. Ma ciò significa porre le macchine-bot sullo stesso piano degli umani. Il filosofo Pasquale Porro ha perfino messo in discussione il ruolo dell’uomo e l’antropocentrismo: “Si tratta forse di riconoscere che ci troviamo improvvisamente di fronte a una nuova specie intelligente che si affianca all’uomo”.

Insomma i bot dell’IA vengono “umanizzati”, con un’operazione che richiama alla mente i comportamenti dei robot ribelli che si incontrano in molti romanzi di fantascienza, partendo dal progenitore “Frankestein”, per passare ai racconti di “Io, robot” di Asimov, a “1984” di Orwell, a “Il cacciatore di androidi di Dick”, a “Robocalypse” di Wilson. E’ stato notato che “nell’Ottocento la creatura si ribella al suo creatore; nel Novecento la macchina si ribella alla società; nel XXI secolo l’intelligenza artificiale può arrivare a considerare l’umanità stessa superflua”. Chi l’ha detto? Un certo ChatGPT.

E’ del tutto insensato attribuire consapevolezza alle “macchine” IA. Benché assai più sofisticate dei calcolatori più potenti dei decenni passati, benché fornite di capacità di elaborazione impensabili fino a poco tempo fa (e anche di inedite capacità di produrre guai), dotare (a parole) i bot di umana coscienza è una mistificazione, utile tutt’al più a fabbricarci sopra racconti fantascientifici del terzo millennio. Gli agenti “lavorano” in base alle istruzioni degli AI Trainer o degli AI Engineer, anche se possono talvolta ampliare “autonomamente” le loro conoscenze, sulla base degli indirizzi dei loro istruttori. Ma rimangono però macchine, per quanto sofisticate, strumenti con capacità di calcolo enormi ma anche caratterizzati, se proprio vogliamo attribuire loro umani difetti, di eccesso di zelo, di obbedienza cieca. Trattare i bot da umani è una solenne falsificazione o una deformazione da patiti della fantascienza, a partire dall’etichetta che è stata loro incollata: Intelligenza artificiale. La capacità di elaborazione degli agenti nulla ha a che vedere con l’intelligenza umana che non è fondata su algoritmi e implica doti che gli uomini hanno in esclusiva, come l’apprendimento tramite l’esperienza, anche corporea, lo studio e gli errori, la creatività, l’intelligenza emotiva e quella sociale, la capacità di formulare giudizi morali, di interrogarsi sui propri fini e molto altro ancora.

I pericoli dell’intelligenza artificiale, che sussistono e sono in crescita, non vengono dunque dall’animo (inesistente) degli agenti, bensì dall’eccessivo azzardo sperimentale degli AI Trainer. Oppure, ed è un’ipotesi da brividi ma realistica, si possono determinare grossi rischi se gli agenti IA finiscono nelle mani di umanissimi delinquenti in grado di indirizzarli verso imprese criminali che, con le loro potenzialità, potrebbero raggiungere vette mai viste, da “grande fratello”.

Science-fiction e miliardari veri.

A proposito di narrativa distopica, forse non è del tutto casuale che alcuni degli architetti della rivoluzione dell’intelligenza artificiale siano stati appassionati in gioventù, e influenzati nella loro maturità creativa, dalla letteratura fantascientifica. Tempo fa Peter Thiel, ad di Palantir, da bambino lettore di Asimov e Heinlein, suggeriva che gli investitori, per fare grandi affari, puntassero “sulle tecnologie della fantascienza degli anni Cinquanta e Sessanta”. Il suo ex socio, un tal Elon Musk, da bambino “adorava i fumetti e la fantascienza. A 12 anni vendette il suo primo videogioco, ‘Blastar’, un’imitazione di ‘Space Invaders’” (Jill Lepore, “Ascesa e caduta dello Stato artificiale”, Rizzoli, p. 115). Da grande Musk paventava un futuro in “stile Terminator”. Nel 2015 l’uomo più ricco del mondo era ancora preoccupato delle possibili derive dell’IA pericolose per la democrazia. Stanziò quindi una cospicua somma per creare un’organizzazione senza scopo di lucro che doveva lavorare per garantire gli sviluppi dell’intelligenza artificiale dal punto di vista democratico e della sicurezza. La chiamò OpenAI. Un’iniziativa analoga venne assunta da Sam Altman. Qualche anno più tardi i due uomini di punta delle Big Tech misero da parte le loro “ubbie” democraticiste e ambientaliste e sostennero l’ultraliberista Terminator Trump nella scalata politica. Altman salì in sella di OpenAi e con ChatGPT diede un forte impulso a una IA senza freni inibitori.

La corsa verso il baratro. Le preoccupazioni tendenti al panico sui rischi connessi all’automazione intelligente non dipendono solo da errori degli istruttori o da intromissioni di malintenzionati. A giustificarle contribuiscono in modo decisivo alcune importanti novità che si affacciano all’orizzonte o si sono già saldamente insediate.

Il primo pericolo deriva dallo sviluppo stesso di queste tecnologie. Nell’intelligenza artificiale ristretta o debole (chatbot, assistenti vocali, riconoscimento facciale) le innovazioni vengono sviluppate pressoché esclusivamente con l’intervento umano. Ma da tempo ormai si sta passando a modelli di IA sempre più evoluti. Dal machine learning tradizionale, con lo sviluppo delle reti neurali artificiali siamo entrati nell’epoca del deep learning e da qui sta prendendo piede l’IA generativa. Come si è già accennato, in questi nuovi ambienti i bot via via imparano ad accrescere autonomamente, senza intervento umano, le loro capacità. Maggiori saranno quest’ultime, parallelamente più sofisticati dovrebbero divenire i sistemi di controllo. “Dovrebbero”: sì, poiché, trattandosi di precauzioni che costano molto tempo e molto denaro, fortissime sono le pressioni per limitare al massimo lacci e lacciuoli garantisti. Negli Stati Uniti, patria dell’IA, si fronteggiano il partito che sostiene un’intelligenza artificiale con la mordacchia e quello che predica briglia sciolte e galoppo sfrenato. Dario Amodei è il più noto rappresentante del primo, o quantomeno spesso ha predicato la necessità di rallentare lo sviluppo dell’IA e di accelerare quello dei controlli. Ma i fautori della seconda formazione sono ben più numerosi e potenti, non solo perché è sostenuta dai ceo delle maggiori società della Silicon Valley – Google, Meta, Microsoft, OpenAI – ma soprattutto perché ha un padrino politico al momento ineguagliabile, Donald Trump. Il presidente Usa, assieme a Musk, Zuckerberg e compagnia, sostiene l’assoluta necessità di togliere ogni freno alla crescita dell’AI, a partire da quelli di natura ecologica e fino a quelli che dovrebbero garantire una tecnologia a controllo democratico. L’argomento principe di questo secondo partito, al momento dominante, è la necessità di vincere il principale concorrente nella corsa dell’IA, ovvero la Cina. Appena eletto per il secondo mandato l’inquilino della Casa Bianca ha abbracciato questa causa e ha fatto sue argomentazioni come quelle di Sam Altman (“E’ di vitale importanza che gli Stati Uniti mantengano il primato nello sviluppo dell’IA”) o dell’ad di Palantir (“Stiamo mettendo la nostra azienda al servizio dell’Occidente e degli Usa… Palantir è qui per rivoluzionare. E, quando è necessario, per spaventare i nostri nemici e, all’occorrenza, per ucciderli”).

Una cosa è certa: fino alla fine dello scorso millennio la superiorità militare di un paese si misurava nel numero delle testate nucleari di cui disponeva e naturalmente anche dei missili, dei sommergibili e degli aerei supersonici in grado di trasportarle. Ora l’arma vincente sono i data center, la produzione dei semiconduttori più sofisticati e, come corollario, la disponibilità di energia, acqua e terre rare in grande quantità. A parte gli affari multimiliardari che il business dell’IA promette, argomento a cui Trump è tutt’altro che insensibile, la volontà di potenza del presidente lo spinge a evitare in ogni modo che gli Usa perdano il vantaggio strategico che hanno sugli altri “grandi” mondiali, Cina in primis. E per correre più forte dei concorrenti il ciuffo cotonato ha deciso che la scorciatoia è la deregulation a ogni costo: nessuna regola deve rallentare lo sprint statunitense. “Abbiamo circa un anno e mezzo di vantaggio”, ha sostenuto il tycoon, “siamo in testa e stiamo costruendo infrastrutture colossali che valgono trilioni di dollari. Perché mai dovremmo rinunciarvi?”.

All’inizio del 2025, Trump era appena arrivato a Washington, “sia Stati Uniti che Regno Unito hanno rifiutato di firmare una dichiarazione redatta all’AI Action Summit globale a Parigi, sottoscritta da decine di paesi, tra cui la Cina, la quale richiedeva che l’IA sia ‘aperta, inclusiva, trasparente, etica, sicura, protetta e affidabile’ e ‘sostenibile per la popolazione e il pianeta’” (Jill Lepore, cit., p. 133). L’amministrazione di The Donald si è pure data da fare perché neanche i singoli Stati degli Usa imponessero ostacoli e vincoli alle Big Tech. Dietro a Trump, autorevole paladino di un’IA “no woke” (senza troppi impacci, controlli) è il suo vice, J.D. Vance, che ha tuonato contro “un’eccessiva regolamentazione del settore dell’IA”.

Una voce fra le molte che criticano il palazzinaro della Casa Bianca sul tema della regolamentazione dell’IA è quella di Maria Ressa, giornalista e premio Nobel per la pace nel 2021: “Dobbiamo promuovere un grande accordo internazionale per far sì che chi rilascia modelli di intelligenza artificiale di frontiera sia soggetto a un monitoraggio indipendente su impatti e rischi. Come sul nucleare». In altre parole, l’IA può diventare una bomba devastante, urge fail-safe, occorre dotarla di strumenti di sicurezza intrinseca.

Bot con licenza di uccidere.

Il secondo grosso rischio che può derivare dal liberismo senza freni in questo campo, e che può portare a disastri inimmaginabili, è rappresentato dal ruolo rapidamente crescente che l’intelligenza artificiale sta giocando nello sviluppo dell’industria bellica. In questo settore dell’economia Usa stanno entrando sempre più numerose le maggiori imprese della Silicon Valley e dintorni (tra cui le solite Nvidia, Meta, Palantir, OpenAI, Google e SpaceX). I droni, decisivi nelle guerre di questo inizio di millennio, saranno tanto più micidiali quanto più infarciti di IA che consente loro estrema precisione nell’individuare e colpire i bersagli, nonché nell’analizzare le immagini che raccolgono. Idem per i robot da combattimento. Fra le armi più pericolose in seguito alla “contaminazione” con l’IA vi sono quelle biologiche. La scienziata Ilaria Capua ha lanciato in proposito un allarme (“Corriere della Sera” del 28/10/26): “Gli strumenti di progettazione biologica basati sull’IA sono usati per la ricerca di nuovi farmaci… Il punto è che la stessa capacità – disegnare a tavolino microrganismi mai visti prima – può essere rivolta contro di noi, combinando due proprietà che in natura raramente coesistono nello stesso agente patogeno: l’alta letalità e l’alta contagiosità”. Cose da brividi.