“Mi sono sempre domandato cosa succederebbe se

una specie superiore atterrasse sul nostro pianeta

e ci mostrasse come gioca a scacchi.

Ora lo so.”

Peter Heine Nielsen

L’IA che decide, tra “apocalittici” e “integrati”.

Nel mondo degli scacchi l’avvento dell’Intelligenza Artificiale (IA) è stato a dir poco devastante. Mentre i motori di scacchi tradizionali si affidavano a strategie predefinite e calcoli rigidi, AlphaZero, un sistema di IA creato da DeepMind (Google), ha segnato una svolta senza precedenti nella comprensione del gioco. Inventa strategie sorprendenti e prende decisioni “autonome” che esulano dalla più fervida immaginazione e dalla capacità deliberativa dei suoi programmatori umani.

L’idea che una macchina possa prendere decisioni senza il controllo umano scatena le preoccupazioni degli “apocalittici” della nuova era digitale, animati dal timore che un giorno le macchine intelligenti potranno decidere, in maniera appunto autonoma, di sterminare il genere umano.

Al di là della visione del mondo che si intende abbraciare, tra “apocalittici” e “integrati” (Eco, 1965), è ormai evidente che stiamo chiedendo all’IA di aiutarci a decidere – oppure a decidere in vece nostra – su una quantità crescente di questioni. Le ragioni di questa “delega deliberativa” dipendono, fondamentalmente, dall’enorme volume di dati generati e della varietà e velocità del processo deliberativo, che vanno ben oltre la capacità di memorizzazione e di computazione umana. Per trasformare i dati in conoscenza serve una macchina intelligente. Anzi, il processo deliberativo, affinché produca risultati efficaci e inferenze corrette, deve essere autonomo dall’intervento umano.

L’abilità delle macchine di prendere decisioni e di apprendere strategie deliberative che sfuggono alla logica umana solleva interrogativi etici che si estendono oltre la scacchiera.

AlphaZero: ovvero l’IA che ha stravolto il gioco degli scacchi

La principale innovazione di AlphaZero risiede nella capacità di apprendere dall’esperienza di gioco e  decidere in maniera autonoma le mosse migliori. Le sue decisioni non dipendono da algoritmi predeterminati o da strategie fornite dai programmatori. In virtù del reinforcement learning (apprendimento per rinforzo), impara dall’esperienza attraverso tentativi ed errori, ottimizzando continuamente le proprie strategie. Come nelle decisioni umane, riceve un “rinforzo positivo” in termini di punteggio se la decisione è esatta, oppure una “punizione” se la decisione è sbagliata.

All’inizio i programmatori hanno spiegato ad AlphaZero solo le regole del gioco, dopodiché ha iniziato a giocare contro sé stessa. Nelle prime 9 ore di vita ha disputato 44 milioni di partite. Ha raggiunto un impensabile livello di gioco in pochissimo tempo. Sebbene non abbia un rating ufficiale, le sue prestazioni si attestato intorno ai 4500 punti Elo. Magnus Carlsen, il campione del mondo, ha un rating di 2800 punti circa. Con gli umani non c’è gara. Quindi ha sfidato direttamente il motore di scacchi più forte al mondo, Stockfish, in una sfida a senso unico di 100 partite: AlphaZero ne ha vinte 28, ne ha pareggiate 72 e non ha mai perso. Negli incontri successivi AlphaZero si è sempre dimostrato più forte.[1]

La reazione del mondo scacchistico è stata al limite dell’incredulità. Le manovre e le decisioni strategiche di AlphaZero hanno spinto i giocatori professionisti a riconsiderare le teorie tradizionali sulle aperture e sulle tecniche di gioco. Proprio commentando questa sfida Peter Heine Nielsen ha paragonato AlphaZero a un extraterrestre d’intelligenza superiore che atterra sul nostro pianeta per mostrarci come si gioca a scacchi.

Come decide la mossa migliore?

L’intelligenza deliberativa di AlphaZero dipende dall’integrazione di reti neurali profonde con l’algoritmo Monte Carlo Tree Search (MCTS). Questa tecnologia consente di analizzare milioni di posizioni di gioco, valutare la situazione in tempo reale e simulare molteplici mosse future prima di decidere quale sia la migliore in base alle probabilità di successo. In base a MCTS, AlphaZero costruisce un “albero di decisione” per valutare le alternative e prendere la decisione migliore “qui e ora”. Si consideri che i pezzi possono essere arrangiati su 64 caselle della scacchiera in 10⁴⁴ differenti posizioni; ci sono circa 10^{(10^50)} differenti partite possibili, che è maggiore del numero di particelle dell’intero universo visibile. Visto il numero di permutazioni effettivamente infinito, si riteneva impossibile giocare a scacchi perfettamente. Tuttavia, ci stiamo avvicinando alla perfezione.

AlphaZero ha rivoluzionato il mondo degli scacchi e rappresenta un avanzamento significativo nel campo dell’IA. Non ritengo sia necessario essere “apocalittici” per intuire che le sue capacità di autoapprendimento e di prendere decisioni in base a strategie che, non solo non erano state previste, ma che vanno ben oltre le aspettative degli stessi  programmatori umani, pongono interrogativi sulle implicazioni etiche dell’estensione della tecnologia di AlphaZero in altri settori cruciali come, ad esempio, la medicina.

L’IA in ospedale.

Il cugino medico di AlphaZero si chiama Dottor Watson e lavora presso il Centro per le malattie non diagnosticate e rare (ZusE) a Marburg, in Germania. È una machine learning prodotta da IBM, l’azienda che ha progettato Deep Blue che, nel 1997, ha vinto contro il campione del mondo di scacchi  Garry Kasparov. Deep Blue ha chiaramente dimostrato che un computer può trattare i dati statistici e fare predizioni probabilistiche meglio di un essere umano, ma gli scacchi sono un gioco complesso ma a regole definite mentre la diagnostica medica – in particolare nell’ambito delle malattie rare e complesse – è un processo privo di regole esatte che implica un’ampiezza e complessità tale che sembrava esulare dalle possibilità di una macchina intelligente.

L’addestramento di Watson è iniziato nel 2011 con la sua partecipazione a Jeopardy, il più popolare quiz show americano dove vince chi risponde esattamente alle domande nel minor tempo possibile. Ha surclassato i suoi avversari umani quanto a rapidità di prenotazione ed esattezza della risposta. Oltre alla sua capacità di ascoltare e interpretare le domande, nonché a una straordinaria potenza di calcolo, Watson aveva accesso a duecento milioni di pagine di enciclopedie scritte in tutte le lingue del mondo, agli articoli sui blog specializzati e ai tweet dei social network. Questo bagaglio di conoscenza era custodito in 90 server, con 2880 thread di processori e 16 terabyte di memoria Ram: analizza ed elabora circa 500 gigabyte al secondo.

La partecipazione a Jeopardy era un test per mettere alla prova la sua intelligenza e la sua capacità di interpretare il linguaggio umano. Superata brillantemente questa sfida, Watson si è “iscritto” alla Facoltà di Medicina del Maryland e alla Columbia University. Si è specializzato in medicina diagnostica per le malattie rare, complesse e senza diagnosi. Quando è stato assunto al ZusE di Marburg, è stato messo alla prova con i dati clinici di 500 pazienti affetti da una malattia rara con una diagnosi certa: Watson ha fornito in pochi secondi una lista di diagnosi e di possibili trattamenti in ordine di probabilità. In cima alla lista c’era sempre la diagnosi che anche i medici avevano già fatto, mentre in alcuni casi proponeva soluzioni che i colleghi umani non avevano intravisto. Grazie alla sua capacità di analizzare enormi quantità di dati clinici, genera insight che non sono immediatamente evidenti ai suoi colleghi umani. Elabora informazioni genetiche per supportare i ricercatori nel comprendere le mutazioni genetiche associate a condizioni rare, facilitando la scoperta di nuovi potenziali trattamenti. Utilizza algoritmi di apprendimento automatico per fornire raccomandazioni personalizzate sui trattamenti in base alla storia clinica del paziente e alla letteratura medica disponibile.

Insomma, Watson “vede”, “sente”, “parla”, “pensa” e “ragiona”. Non mi soffermo in questa sede a discutere se una macchina possa “pensare” e “ragionare”. Fatto sta che Watson raccoglie informazioni ascoltando e interpretando le narrazioni dei pazienti, confronta in tempo reale ciò che “percepisce” con i database che “conosce”, e quindi decide quale sia il piano diagnostico-terapeutico-assistenziale (PDTA) più adatto per il singolo paziente che incontra.

Watson può decidere in autonomia il PDTA dei pazienti, come AlphaZero decide in autonomia la migliore strategia per ottenere la vittoria. Ma il processo deliberativo che ha luogo in ambito medico ha un peso valoriale diverso rispetto al gioco degli scacchi, perché dalle decisioni intraprese dipende la vita, la salute e il rispetto dei diritti dei pazienti.

L’innovazione tra tecnologia ed etica.

L’avvento dirompente dell’IA nel mondo degli scacchi e in ambito medico (il discorso si potrebbe allargare ad altri settori strategici come la sicurezza, l’economia e la politica in senso lato), rappresentato magistralmente da AlphaZero e da Watson, mostra quanto sia profondo e complesso il potere delle macchine di prendere decisioni autonome. Sebbene il potenziale di queste tecnologie apra orizzonti entusiasmanti, come la possibilità di elaborare enormi volumi di dati, innovare strategie scacchistiche che sfuggono alla logica tradizionale o fare diagnosi complesse non intraviste dall’occhio umano, non si possono ignorare le implicazioni etiche e sociali di tale cambiamento davvero epocale.

Sospesi tra le visioni del mondo degli apocalittici e degli integrati, la delega deliberativa all’IA solleva quesiti inquietanti riguardo alla responsabilità, alla trasparenza e alla nostra stessa abilità deliberativa affiancata a quella delle macchine. In un’epoca in cui l’IA non solo assiste, ma addirittura sostituisce l’intelligenza umana in un numero di ambiti che sta crescendo a livello esponenziale, si sente l’impellente necessità di sviluppare un dialogo critico, inclusivo e interdisciplinare su come integrare tali tecnologie nella nostra vita quotidiana e per definire criteri etici e linee guida che garantiscano che le decisioni delle macchine rimangano al servizio dell’umanità e non viceversa.

La sfida che abbiamo di fronte è stato in parte accolta dal Regolamento dell’Unione Europea sull’intelligenza artificiale (Regolamento 1689/2024), che ha l’obiettivo di garantire che i sistemi di IA siano sviluppati e utilizzati in modo sicuro e responsabile. Uno dei punti chiave del regolamento riguarda proprio la capacità delle macchine di prendere decisioni autonomamente. Viene dato particolare rilievo ai sistemi di IA ad alto rischio, che devono seguire requisiti rigorosi, come la necessità di fornire spiegazioni relative alle decisioni automatizzate e garantire che ci siano misure di sorveglianza umana adeguate.

All’inizio di una nuova era digitale, non si tratta di accettare o meno che l’IA sia una parte essenziale della nostra realtà e che plasmerà la società in maniera sempre più massiccia, ma di intervenire attivamente nel plasmare il suo sviluppo e il suo utilizzo, assicurandoci che la nostra umanità rimanga al centro di queste profonde trasformazioni. In definitiva, il futuro dell’umanità per come l’abbiamo conosciuta finora, dipenderà dalla nostra capacità di affiancare all’estrema innovazione tecnologica un pensiero etico di natura critica, creativa e valoriale, “umano troppo umano”.

Pur nella più profonda consapevolezza che ritenere di frenare il progresso tecnologico con l’etica è come pensare di frenare un Jumbo Jet con i freni di una bicicletta.

All’interno del Master in Counseling Filosofico e Pratiche Filosofiche di Milano c’è un gruppo di lavoro che si occupa di nuove tecnologie e, in particolare, di IA. Stiamo organizzando un grande evento sull’argomento che avrà luogo a giugno 2025. Seguiteci su:

https://pragmasociety.org/master-counseling-filosofico/

https://www.facebook.com/pragmasociety

https://www.linkedin.com/company/pragma-societ%C3%A0-professionisti-pratiche-filosofiche

[1] Si possono vedere alcune di queste partite, ad esempio, qui.