Abbiamo letto il libro di James Barrat quest’estate, a qualche mese dalla sua uscita. Il libro è un’inchiesta che rende fruibile al pubblico un lavoro minuzioso di ricerca durato decenni. Una ricerca su tutto ciò che riguarda l’IA, oltre quel pochissimo che si sa, si dice e si immagina in giro. Barrat non è il solo a parlarne, negli Stati Uniti il dibattito inizia a farsi sentire, e l’autore lo accoglie e lo trascrive, lo contestualizza, dando spazio agli ottimisti, agli scettici e ai pessimisti. Barrat si pone delle domande, in un percorso critico che apre uno squarcio nella tela dipinta di tante belle prospettive future. E fin da subito chiarisce le sue preoccupazioni. Non nega i vantaggi della tecnologia ma avverte che l’avanzamento e le tendenze per cui molte aziende e la ricerca sta lavorando è qualcosa che non possiamo minimamente immaginare, prevedere e probabilmente controllare. E prima che sia troppo tardi è doveroso che ci sia informazione su questo tema. Per chi vuole saperne di più sull’Intelligenza Artificiale, i suoi sviluppi, sul transumanesimo dilagante nella Silicon Valley e molto oltre, questo libro contiene tutto ciò che è necessario conoscere per intercettare gli scenari futuri. L’esplosione d’Intelligenza Le macchine fanno progressi che sembrano essere a vantaggio dell’uomo. Ma questa fase di pacifica convivenza con la macchina non deve essere data per scontata. Arriverà un momento in cui la macchina avrà addirittura coscienza di sé, perché per questo lavorano le scienze computazionali, l’informatica e le neuroscienze. A una nuova epoca in cui daremo vita a creature artificiali pronte a reinventarsi e a migliorarsi e a evolversi senza fine, mentre noi guarderemo impotenti la fine della nostra supremazia. Barrat paragona l’invenzione dell’Intelligenza Artificiale Generale alla follia della proliferazione degli armamenti nucleari, con poche ma sostanziali differenze. Una di queste risiede nel fatto che a quei tempi concorrevano soltanto le superpotenze, mentre adesso un esercito silenzioso di enti di varia natura, foraggiati da gruppi di interesse, dalla Difesa e delle banche sono in lizza per creare l’Intelligenza Artificiale forte. Se di mezzo c’è la Difesa sarebbe il caso di interrogarsi sull’eventualità di una non neutralità di questa Intelligenza. In ogni caso il futuro è incerto, e i tempi sono veramente strettissimi. Il continuo miglioramento delle attuali intelligenze artificiali non sappiano a cosa porterà. Ma una volta innescato il processo non possiamo prevedere le modifiche e le azioni che la macchina adotterà per perfezionarsi a dismisura. Una cosa è molto probabile: cercherà di espandersi all’infinito, fisicamente e metafisicamente, con riscontri concreti e fatali di cui possiamo percepire solo una parte infinitesimale. Vorrà conquistare un corpo per agire? Si nasconderà all’interno della rete per poi replicarsi all’infinito, vorrà accedere alle risorse e puntare a governare tutto? Vedrà l’uomo come un nemico? L’alba dell’Intelligenza Artificiale Generale Attualmente siamo già circondati da sistemi di Intelligenza Artificiale di base. Il riconoscimento facciale, i computer scacchisti, la domotica, gli assistenti virtuali, i droni, i sistemi automatici negli scambi finanziari, e le macchine a controllo automatico, una delle quali (in via sperimentale) ha investito e ucciso una donna nel marzo 2018 in Arizona. Insomma, Black Mirror non è poi così lontano. Ma l’Intelligenza Artificiale Generale, il momento in cui le macchine prenderanno coscienza di sé, che si prospetta abbastanza vicino, sarà soltanto un passaggio verso quella che viene definita come ASI, la superintelligenza cyber che potrebbe decidere di colonizzare il mondo e addirittura l’Universo, tramite le infinite abilità apprese da uomini e macchine (compresa l’arte della menzogna), in un escalation di azioni ed eventi che materializzerebbero il più terrificante dei film di fantascienza: “Per esempio, un’ASI potrebbe insegnare agli uomini come costruire macchine di fabbricazione molecolare autoreplicanti, note anche come assemblatori molecolari, con la promessa di utilizzarle a fin di bene. Dopodiché, invece di trasformare deserti di sabbia in montagne di cibo, le fabbriche dell’ASI comincerebbero a convertire tutto in materia programmabile, che in seguito l’ASI stessa potrà trasformare in qualsiasi altra cosa: processori, senza dubbio, ma anche astronavi e giganteschi ponti, giusto nel caso in cui la nuova forza dominante decidesse di colonizzare l’universo”. Ottimisti, pessimisti e tecnosuperuomini Il libro ci aiuta anche a conoscere le voci più autorevoli in questo dibattito. A partire da Ray Kurzweil, “il singolarista” che alla testa di Google propende verso la fusione tra uomo e macchina visualizzando un fiorente futuro per tutti noi, robot compresi, considerando immorale l’opposizione a questa tendenza. Kurzweil crede con fede totale nelle macchine come strumenti a servizio dell’uomo, e nell’uomo come essere in funzione di un’Intelligenza che potrebbe integrarsi dentro la carne, perfezionando la biologia di corpo e cervello. Barrat ci racconta le visioni distopiche di questi studiosi e dei loro gruppi di lavoro che oscillano tra misticismo e fantascienza. Lascia spazio anche a Steve Omohundro, indubbiamente più pacato, professore a Stanford di Intelligenza Artificiale. Omohundro ha teorizzato le quattro pulsioni primarie dell’IA, in cui vengono finalmente incluse possibili tendenze “psicopatiche” delle macchine. Oltre a lui emergono altri studiosi dubbiosi, o quantomeno attenti, come Benjamin Goertzel, inventore dell’architettura cognitiva OpenCog. Ma ci teniamo particolarmente a sottolineare l’affascinante figura del matematico I.G.Good, collaboratore di Turing. Good, venuto a mancare nel 2009, fu uno dei primi ottimisti nei confronti dell’intelligenza artificiale. Salvo poi manifestare dubbi atroci, o meglio, un scetticismo netto. La parte del libro in cui James Barrat riesce a intercettare la collega e amica Leslie Pendleton e a leggere l’estratto inedito di Good in cui pronostica la fine della specie umana per mano dell’esplosione di intelligenza artificiale è probabilmente la più emozionante. La nostra invenzione finale è un saggio coraggiosissimo, corposo e pieno di riflessioni che catapultano il lettore nella filosofia e all’interno di un dibattito, che insieme a quello sul cambiamento climatico, dovrebbe essere in cima alle agende dell’opinione pubblica. Barrat non risparmia la sua opinione. L’ambizione dell’uomo di creare l’AGI è sintomo di un desiderio di potere irrefrenabile. Una sete che soffocherà l’uomo con un’Apocalisse imprevedibile e fulminante. L’umo non sarà più la creatura più intelligente. E quello che la nostra specie ha fatto alle altre considerate meno intelligenti potrebbe capitare a noi. Potete acquistare il libro, edito dalla casa editrice Nutrimenti, a questo link.