Superintelligenti

Come salvarci dal futuro dell'intelligenza artificiale

Mo Gawdat

• Publisher: BUR
• Year: 2022
• ISBN:
  9788831806695
• Topic: Technology & Engineering
• Subtopic: Engineering General
• Index: Technology & Engineering

"L'AI ha la capacità di processare informazioni alla velocità della luce e rimanere concentrata senza distrazioni su ciò che deve fare. L'AI vede nel futuro, può prevedere effetti e conseguenze e osservare negli angoli più bui del nostro mondo fisico e virtuale. L'AI impara da sola, ed è di gran lunga più intelligente degli esseri umani nel compiere azioni specifiche come giocare a scacchi, guidare una macchina, monitorare sistemi di sicurezza. Le macchine si parlano già tra loro in modi per noi incomprensibili e molto presto arriverà il momento in cui non si tratterà più di gestire un milione di macchine smart, ma un'unica intelligenza non-biologica, talmente superiore alla nostra che non saremo più in grado di prevedere come si comporterà. La storia della tecnologia ci mostra che il suo progresso non è lineare, ma esponenziale: nel Ventunesimo secolo vivremo l'equivalente di ventimila anni di progresso, se continuerà a svilupparsi al ritmo di oggi. È per questo che Mo Gawdat, con un'esperienza trentennale in grandi aziende tech come Microsoft e Google, che lo ha portato anche alla direzione del mitologico laboratorio di innovazione Google [X], desidera inserirsi nel dibattito sull'intelligenza artificiale con questo libro, in cui apre una strada illuminante: per evitare che l'AI faccia del male, ma soprattutto perché ci aiuti a fare il bene, dovremmo dotarla di consapevolezza di sé, di emozioni e di etica. D'altronde le emozioni non sono una delle modalità di intelligenza più evoluta che noi umani abbiamo a disposizione? Un libro di straordinaria attualità, che naviga uno dei tempi più importanti del prossimo secolo senza allarmismi ingiustificati o ottimismi eccessivi, raccontandoci l'avventura del progresso umano dal punto di vista di chi lo sta vivendo in prima persona."

PARTE SECONDA

Il nostro cammino verso l’utopia

Da qui in poi il libro comincia a diventare più semplice. Niente più storie spaventose sulle macchine (anche se mi riservo il diritto di raccontarne qualcuna su quello che siamo diventati come esseri umani).

Se dovessimo seguire l’attuale traiettoria del progresso tecnologico, finiremmo per trovarci nei guai. Ma questo non è il nostro destino. Possiamo certamente cambiarlo. I passi da compiere sono semplici e dipendono interamente da noi.

Sì, anche tu puoi salvare il mondo.

Capitolo 6

E alla fine hanno imparato

Agli inizi i computer erano macchine in apparenza geniali, ma in realtà incredibilmente stupide. Non erano in grado di ragionare, seguire la logica o compiere una scelta intelligente. Tutto quel che sapevano fare era obbedire, eseguire i compiti che venivano loro assegnati. E sapevano farlo molto, molto, molto velocemente.

Per anni e anni, il codice da noi scritto indicava a un computer, in un’esasperante sequela di dettagli, cosa doveva fare, quando fermarsi, cosa valutare per scegliere tra un insieme di possibili passi successivi, nonché come comunicare con altri computer e con noi, i suoi utenti umani.

Quando costruimmo una macchina capace di esaminare i mercati finanziari – ad esempio, per valutare il rischio correlato a una specifica opportunità di investimento –, le fornimmo chiare equazioni da risolvere: aggiungi questo a quello e dividi per tre volte quest’altro; se il risultato è superiore a zero, dicci di investire, se non lo è, suggerisci di starne alla larga. Bene, adesso ripeti quel che ti è stato detto un milione di volte al secondo, instancabilmente, ventiquattr’ore al giorno; nemmeno l’uomo più intelligente potrebbe mai fare niente di simile. I risultati furono brillanti, eppure la vera intelligenza che li produsse non poteva in alcun modo essere attribuita alla macchina. Il merito, piuttosto, era degli umani che l’avevano inventata e ne avevano scritto il codice.

Ogni computer progettato prima dell’AI era solo un’estensione del nostro intelletto.

Ricorda! Fino al volgere del secolo, la tecnologia serviva solo ad accelerare la nostra velocità e a estendere i nostri orizzonti…

… ma era priva di volontà e intelligenza proprie.

Facciamo un esempio. L’uomo più veloce del mondo corre alla velocità di 45 chilometri all’ora. Grazie a una tecnologia chiamata automobile, tale velocità è stata aumentata a 300 chilometri orari. In questo senso, l’automobile può essere il “corridore” più svelto della Terra, ma di certo non il più intelligente. L’auto andrà veloce solo quando il guidatore spingerà sul pedale dell’acceleratore, ma non deciderà per conto suo l’andatura o la direzione da prendere. Le auto hanno solo esteso la nostra capacità di viaggiare rapidamente, diventando i nostri schiavi celerissimi e obbedienti. Senza un umano al volante, se ne stavano piantate nei parcheggi o nei depositi di rottami; non potevano scegliere di spostarsi e mettersi al riparo dal sole. O meglio, le auto del passato non potevano farlo. Ma adesso non è più così.

I veicoli a guida autonoma, al pari di molte altre tecnologie analoghe azionate dall’AI, saranno dotati di volontà propria. Pensaci, perché è qui che l’intelligenza vera comincerà a manifestarsi. Se nel parcheggio fa troppo caldo, le vetture autonome potranno scegliere, senza la tua approvazione, di spostarsi all’ombra. Potrebbero anche decidere di dirigersi verso l’aeroporto seguendo un percorso diverso, e persino di suicidarsi gettandosi dalla cima di una montagna, se l’intelligenza ordinerà loro di farlo per salvare la vita a un bambino o addirittura a un’altra auto. Sul serio. D’altronde, è questo il vero significato della parola “autonomo”: la capacità di prendere decisioni e, in un prossimo futuro, di sviluppare propri metodi decisionali. Piuttosto sconcertante, a dire il vero. Prova a pensare alle macchine da guerra autonome, che sono in parte simili alle auto suddette ma con l’aggiunta di una mitragliatrice. E che dire di altri dispositivi autonomi capaci di prendere decisioni invisibili ai nostri occhi? Se un’auto in movimento è ancora abbastanza gestibile, in termini di previsione del suo comportamento, le AI che operano miliardi di transazioni al minuto, come quelle che decidono quale pubblicità o contenuto mostrarti su internet, sono ben più veloci di qualsiasi cosa possiamo controllare. Non ci è nemmeno del tutto chiaro come riescano a prendere quelle decisioni che influenzano così profondamente la nostra vita e la nostra visione del mondo. Inoltre, se chiedi agli sviluppatori come funzionano, ti spiegheranno in che modo le hanno istruite e quali tipi di decisioni sono in grado di adottare, ma difficilmente ti riveleranno l’esatta logica che le sottende. E questo perché… in realtà non lo sanno.

Vedi, c’è un piccolo dettaglio che di solito viene tralasciato quando gli addetti ai lavori parlano dell’intelligenza artificiale da loro creata. Una minuscola verità che si può cogliere appieno solo quando se n’è sviluppata una:

Molto importante! Non abbiamo effettivamente idea di come un’AI prenda le decisioni.

Eppure, senz’ombra di dubbio, dovremmo averla, non trovi?

Essendo straordinariamente pervasiva e influente in ogni aspetto della nostra vita, non dovremmo almeno sapere cosa spinge l’AI a fare quello che fa? Ebbene, in realtà non lo sappiamo, e in fin dei conti tutto si riduce a come apprende le nostre istruzioni. Questo richiede qualche spiegazione tecnica, ma non preoccuparti se non sei un esperto, userò un linguaggio molto semplificato.

Ecco uno scenario sintetico che può aiutarti a comprendere cosa intendo dire.

Il dono dell’apprendimento

Prova a immaginare se, a dieci anni, ti trovassero a vagare da solo nel bel mezzo della giungla africana. Hai un aspetto così carino che la scienziata che ti trova ti prende con sé, ti chiama Tuki e ti dà una casa. Certo, sei un po’ eccentrico, ma pur sempre molto carino, e inoltre ti dimostri così fedele, obbediente e coscienzioso che lei decide di dedicare la propria vita a insegnarti tutto quel che sa.

Da brava scienziata, sceglie di cominciare con i numeri. Facile, penserai, i numeri sono un gioco da ragazzi, i bambini normalmente li imparano tra i due e i quattro anni, quindi che sarà mai!

Tuttavia le cose non sono così semplici, quando non hai mai visto un numero in vita tua. Gli umani, ti rendi subito conto, non scrivono mai la stessa cifra allo stesso modo. Prendiamo ad esempio il numero 8. Alcuni lo scrivono come due cerchi sovrapposti, altri tracciano il cerchio superiore più piccolo di quello inferiore, altri ancora scarabocchiano un simbolo dell’infinito in verticale, e infine c’è chi lo chiude e chi lascia le linee disgiunte. Insomma, scriviamo lo stesso numero in dimensioni, colori, angolazioni e spessori estremamente diversi. Talvolta lo disegniamo anche solo come un contorno, lasciando vuoto l’interno. Eppure li chiamiamo tutti 8. Tu rimani stupito dell’intelligenza degli esseri umani moderni, e fai notare queste discrepanze alla tua autonominatasi madre adottiva. Per aiutarti, lei decide di iniziare con un metodo che rende il tutto più facile e preciso: ti semplifica il compito facendo ricorso a una vecchia e ben nota tecnologia, il display a sette segmenti.

Quando furono inventate le prime calcolatrici, i numeri venivano inseriti usando questa tecnica, che rendeva la loro scrittura molto più standardizzata. Invece di utilizzare la mano per scarabocchiare un numero, il display permetteva al suo inventore di accendere o spegnere uno o più dei sette segmenti secondo diverse configurazioni, ciascuna rappresentante un numero. Questi segmenti non erano altro che sette trattini: tre orizzontali, in alto al centro e in basso, qui accanto indicati con A, G e D; due verticali a sinistra, in alto e in basso, qui F ed E; e due verticali a destra, in alto e in basso, ovvero B e C.

La tua mamma scienziata è molto prescrittiva nelle spiegazioni: «Devi suddividere il procedimento in due passaggi: per prima cosa, individua quali trattini vengono riempiti; dopodiché, confrontali con un diagramma e riconoscerai il numero visualizzato».

A quel punto ti prepara un semplice diagramma per aiutarti ad assimilare la procedura.

Tuttavia, mentre ti mostra il suo diagramma con orgoglio, si rende conto che questo metodo non ti sta rendendo più intelligente; anzi, rischia di renderti molto più stupido. Ti trasformerà in una macchina che non pensa, ma fa esattamente ciò che le viene detto, come uno schiavo. Anche se sarai in grado di identificare qualsiasi numero da 0 a 9 quando lo visualizzi, non svilupperai alcuna capacità di riconoscere le cifre scritte a mano o in altro modo.

Ricorda! Seguendo un metodo rigidamente prescrittivo diventiamo più stupidi, perché perdiamo la capacità di pensare con la nostra testa.

Questo è il modo in cui, tradizionalmente, sono stati programmati i computer. L’aumento progressivo della velocità dei processori ci ha consentito di creare sistemi incredibili. I risultati che abbiamo conseguito hanno ampliato il nostro sapere e ci hanno resi sempre più intelligenti, ma le macchine che hanno permesso tutto ciò sono rimaste indietro, stupide come sassi.

La tua scienziata non vuole affatto condannarti a un simile destino. Anzi, sogna il giorno in cui non dovrà più darti rigide istruzioni o illustrarti cose nuove, perché sarai in grado di imparare e scoprire da solo. Così decide di insegnarti i numeri nello stesso modo in cui li apprendono i bambini. Compra un libro per l’infanzia e te li mostra uno per uno, chiedendoti di riconoscerli. Se rispondi correttamente, ti premia con applausi e abbracci, altrimenti, in tono meno caloroso, ti dice: «No, riprova».

Intelligente come sei, non ci vuole molto perché il tuo cervello crei una mappa neurale concettualmente simile, benché molto più complessa, rispetto al grafico dei sette segmenti. Il tuo diagramma mentale autogenerato, infatti, non ha bisogno di passare attraverso il filtro del linguaggio per essere compreso; funziona – per te, e solo per te – in modo potenzialmente molto diverso da quello in cui ogni altro essere umano sul pianeta ha sviluppato il suo. A nessuno importa, né ti chiederà mai, quale diagramma tu abbia elaborato; finché sei abbastanza intelligente da leggere i numeri, il processo di apprendimento è da considerarsi compiuto.

Adesso vorrei provare a farti un esempio della mappa neurale in questione, così potrai capire come funziona questo tipo di apprendimento.

Quando a un bambino viene mostrata una pagina bianca con un numero disegnato, tutto quel che può intuire all’inizio è che esistono sfondi bianchi e figure a colori. Una singola pagina non gli insegna granché. È quando gli viene mostrata la successiva che scatta il ragionamento: il bianco appare più o meno lo stesso; la figura colorata, però, è diversa, così come i suoni che proferisce il genitore. Il suo piccolo cervello ragiona sul fatto che questi ultimi non sono associati al bianco, bensì al colore che contiene, e inizia così a concentrarsi maggiormente sulle figure, ignorando lo sfondo.

Da quel momento in poi, ogni cervello sviluppa il proprio motore di riconoscimento dei pattern, e un valido esempio, almeno di come funziona il mio, sarebbe all’incirca questo: «A quanto pare, i numeri figurano sempre all’interno di un rettangolo che può essere diviso in due quadrati, uno superiore e uno inferiore; ciascuno può contenere infiniti scarabocchi casuali, i quali però possono essere riconosciuti con ragionevole precisione se ogni quadrato è a sua volta suddiviso in quattro quadranti più piccoli».

Il cervello riconosce quindi il pattern in ciascuno dei quadrati più piccoli ed elabora un’impronta neurale del tipo di scarabocchio contenuto al suo interno.

Il mio riconosce innanzitutto che ognuno dei quadratini può contenere solo una quantità ridotta di possibili scarabocchi: una linea verticale sulla sinistra o sulla destra; una linea orizzontale verso l’alto o verso il basso; una linea diagonale che segue in parte uno dei diametri; oppure una curva che ha sempre il suo centro verso l’interno del quadrato.

Ecco i pattern che usiamo per scarabocchiare un numero:

Una volta imparato a riconoscere questi schemi di base, è facile riconoscere quelli più complessi. Per esempio, alcune cifre hanno una forma a ciambella, vagamente contenuta all’interno dei quattro quadrati superiori. Questo anello è composto da una curva presente in ciascuno di essi (o a volte tre curve e una diagonale, o ancora tre curve più un’altra unita a una diagonale). Facile!

Solo un numero, l’8, possiede quella ciambella anche nelle quattro caselle inferiori. Appreso ciò, puoi stare sicuro che d’ora in poi lo riconoscerai sempre. Inoltre, anziché dover controllare tutti gli otto quadranti per cercare solo due ciambelle, esiste un modo più rapido: due ciambelle = 8. Semplice!

A questo punto l’apprendimento inizia ad accelerare, perché la tua capacità di riconoscere un pattern riduce le opzioni rimanenti tra cui scegliere. Il numero 9 è un 8 a cui mancano parti della ciambella inferiore. Capovolgi il 9 e otterrai il 6. Il 7 è un 9 a cui mancano parti della ciambella superiore. Lo 0 è composto da una grande ciambella ellittica. Ed ecco che tutto comincia a filare.

Qualche tempo dopo, qualcuno ti presenterà un numero 7 scritto con un piccolo trattino verticale nell’angolo superiore sinistro e un altro che lo attraversa nel mezzo. Il tuo cervello ragionerà sul fatto che avrebbe potuto essere un 9 se i trattini fossero uniti a formare il piccolo anello caratteristico di quella cifra, ma non lo fanno, quindi deve trattarsi di un tipo leggermente diverso di 7. Registri dunque questo nuovo pattern come un 7, e non hai più bisogno di ripetere il procedimento.

Normalmente, per favorire questo tipo di ragionamento, si osservano altri modelli riconoscibili. Sulla stessa pagina del libro per bambini, ad esempio, accanto a quel nuovo misterioso scarabocchio, saranno disegnate sette arance. Dunque più schemi ti vengono mostrati, più diventi intelligente.

Ricorda! Non è la semplificazione, bensì l’aumento progressivo della complessità ad allenare l’intelligenza.

La spiegazione precedente potrebbe apparire piuttosto laboriosa, ma è importante perché contiene una delle ragioni principali per cui le macchine sono destinate a essere più intelligenti di noi. In quanto esseri umani, infatti, abbiamo una capacità limitata di osservare pattern. In confronto alle macchine, capaci di esaminare in meno di un secondo miliardi di cifre scritte a mano in immagini online, noi siamo lenti come un bambino piccolo che impara i numeri per la prima volta.

Il vero apprendimento

Imparare in questo modo non è affatto diverso dall’imparare il diagramma dei sette segmenti proposto dalla nostra scienziata. Avrebbe potuto costruirne uno più complesso che includesse anelli e ciambelle; sarebbe stato un po’ più complicato nei passaggi da seguire e negli schemi da riconoscere, e tuttavia non si sarebb...

Table of contents

• Copertina
• Frontespizio
• SUPERINTELLIGENTI
• Introduzione. Un nuovo supereroe
• PARTE PRIMA. La parte paurosa
• PARTE SECONDA. Il nostro cammino verso l’utopia
• POSTFAZIONE. La torta è una bugia
• Note
• Copyright