capitolo 1
Introduzione
Ogni giorno si alza la posta del progresso tecnologico. Sommate i database di riconoscimento facciale a micro droni sempre piĂš economici e avrete una forza omicida globale del tutto anonima, letale e precisa come mai era stato possibile. Quel che può uccidere può anche curare: i robot potrebbero rendere piĂš accessibile la medicina, se investissimo di piĂš in ricerca e sviluppo. Le imprese stanno facendo una quantitĂ enorme di piccoli passi verso lâautomazione di assunzioni, servizio clienti e perfino management. Sono tutti sviluppi che cambiano lâequilibrio tra macchine e umani nella nostra vita quotidiana. Evitare le conseguenze peggiori della rivoluzione dellâintelligenza artificiale (AI) e allo stesso tempo sfruttare il suo potenziale dipenderĂ dalla nostra capacitĂ di operare su questo equilibrio in modo saggio. AffinchĂŠ possa accadere, questo libro porta avanti tre tesi mirate a migliorare le nostre vite. La prima è una constatazione empirica: al momento, AI e robotica completano il lavoro umano piĂš di quanto non lo sostituiscano.
La seconda è una proposta: in molti settori, dobbiamo mantenere lo status quo. Lâultimo punto invece è una considerazione politica: abbiamo istituzioni in grado di raggiungere tale scopo. La premessa di questo libro è la seguente: abbiamo i mezzi per gestire le tecnologie dellâautomazione e non farci imprigionare o trasformare da loro.
Idee del genere possono sembrare scontate. PerchĂŠ scrivere un intero libro per difenderle? PerchĂŠ alcune loro implicazioni sono sorprendenti e ci dovrebbero spingere a cambiare il nostro modo di gestire cooperazione sociale e conflitto. Per esempio, troppe economie danno la precedenza al capitale rispetto al lavoro e ai consumatori rispetto ai produttori. Se vogliamo una societĂ equa e sostenibile, dobbiamo correggere tali bias. Non sarĂ facile. I consulenti di management sono soliti raccontare cosĂŹ il futuro del lavoro: se una macchina può registrare e imitare quel che fai, prima o poi ti sostituirĂ . I politici accettano la previsione di una forzata disoccupazione di massa: i lavoratori saranno resi superflui da software robot e analisi predittive sempre piĂš potenti. Con le videocamere e i sensori necessari, i manager potranno simulare il nostro data double (âdoppione digitaleâ): un ologramma o un robot in grado di fare il nostro lavoro altrettanto bene ma con un costo molto piĂš basso. Ă una visione che impone una scelta netta: costruire robot o farsi rimpiazzare da loro.
Unâaltra narrazione è possibile ed è di fatto piĂš plausibile. A qualunque livello, i sistemi robotici possono dare maggior valore al lavoro, invece di svalutarlo. Questo libro racconta la storia di medici, infermieri, insegnanti, badanti, giornalisti e altri professionisti che lavorano con robotisti e informatici, non limitandosi a fornire dati a chi un giorno li sostituirĂ .
Il loro rapporto di cooperazione prefigura il tipo di progresso tecnologico che potrĂ offrirci miglioramenti nella sanitĂ , nellâistruzione e in molti altri settori, senza far perdere significato ai vari mestieri. Ci dimostra inoltre che legge e amministrazione possono aiutarci a ottenere pace, prosperitĂ e inclusivitĂ , invece di spingerci a âgareggiare contro le macchineâ. Possiamo però riuscirci solo se aggiorneremo le leggi della robotica che guidano la nostra visione del progresso tecnologico.
le leggi della robotica di asimov
Nel racconto del 1942 âCircolo viziosoâ, lo scrittore di fantascienza Isaac Asimov definĂŹ tre leggi per regolare le macchine in grado di percepire il contesto esterno, processare le informazioni e quindi agire. Nella storia incontriamo il âManuale di robotica, 56esima edizioneâ risalente al 2058, che prescrive:
1. Un robot non può recar danno a un essere umano nÊ può permettere che, a causa del suo mancato intervento, un essere umano riceva danno.
2. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purchĂŠ tali ordini non vadano in contrasto alla Prima Legge.
3. Un robot deve proteggere la propria esistenza, purchĂŠ la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge.
Le leggi della robotica di Asimov hanno avuto unâinfluenza enorme. Sembrano cristalline, eppure non sono di facile applicazione. Un drone autonomo può distruggere una cellula terrorista? La prima metĂ della prima legge (âUn robot non può recar danno a un essere umanoâ) sembra vietarlo. Ma un soldato potrebbe invocare la seconda metĂ della prima legge (e vietare un âmancato interventoâ a causa del quale âun essere umano riceva dannoâ). Per capire quale metĂ della legge applicare, dobbiamo rifarci ad altri valori.
Le ambiguitĂ non si limitano al campo di battaglia. Chiediamoci, per esempio, se le leggi di Asimov consentano o meno lâesistenza di automobili robotiche. I veicoli autoguidanti ci promettono di eliminare migliaia di incidenti mortali ogni anno. A un primo sguardo, pertanto, la risposta sembra semplice. Ma dâaltro canto, farebbero perdere il lavoro a centinaia di migliaia di autisti. Per questo sarebbe lecito che il governo vietasse o rallentasse lâadozione di veicoli autoguidanti? Le tre leggi di Asimov non sono chiare al riguardo e non offrono una risposta neanche a chi di recente si è battuto a favore di simili automobili chiedendo che i pedoni imparino a rendere piĂš semplice lâoperativitĂ dei veicoli autoguidanti e che vengano penalizzati nel caso non lo facciano.
Ă a causa di ambiguitĂ del genere che statuti, regolamenti e cause legali riguardanti robotica e AI sono piĂš dettagliati delle leggi di Asimov. Ci occuperemo di tale panorama legale nel corso del libro ma, prima di farlo, voglio presentare quattro nuove leggi della robotica che possano indirizzare la nostra esplorazione. Sono dirette a chi costruisce i robot e non ai robot stessi. Per quanto siano piĂš ambigue di quelle di Asimov, riflettono meglio lâeffettivo processo legislativo. Il legislatore non può prevedere ogni situazione sulla quale dovranno esprimersi le autoritĂ , pertanto lascia loro campo libero con statuti che fissano solo i termini generali. Le nuove leggi della robotica devono avere una funzione simile e articolare principi generali delegando le decisioni specifiche a determinati soggetti normativi piĂš esperti dal punto di vista tecnico.
le nuove leggi della robotica
Ricordandoci di tali obiettivi, in questo libro proporrò e approfondirò quattro nuove leggi della robotica.
1. I sistemi robotici e le AI devono essere complementari ai professionisti e non sostituirli.
Il dibattito sul futuro del lavoro è segnato da proiezioni contrastanti sulla disoccupazione tecnologica. Secondo alcuni esperti, quasi ogni lavoro è destinato a essere eliminato dal progresso tecnologico. Altri invece evidenziano le barricate presenti sul percorso verso lâautomazione. Per la politica, il problema è se tali barriere abbiano senso o meno. Nel caso, quali bisogna controllare e rimuovere? Un mattatoio robotico ha un senso; un asilo nido ci costringe a riflettere. Esitare è da luddisti o riflette una consapevolezza superiore della natura dellâinfanzia?
Problemi di abilitazione professionale finora hanno impedito alle app che analizzano i sintomi di essere messe sul mercato come alternative ai medici. Ă una buona politica?
Questo libro analizza esempi del genere e dispiega argomentazioni empiriche e normative a sostegno di unâadozione piĂš lenta o piĂš veloce delle AI nei vari campi. Sono molti i fattori decisivi, relativi a giurisdizioni e lavori specifici. Câè però un principio organizzativo vitale che deve sempre valere: un lavoro che non perda di significato è fondamentale per la dignitĂ umana e il governo delle comunitĂ .
Lâagenda per lâautomazione deve dare la prioritĂ a innovazioni in grado di supportare lavori che sono o possono essere vocazioni gratificanti. Va bene sostituire le macchine nei mestieri pericolosi o umilianti, assicurandoci che chi li svolge attualmente venga ricompensato in modo giusto per il proprio lavoro e possa passare agevolmente ad altri ruoli sociali.
Questa posizione equilibrata deluderĂ tanto i tecnofili quanto i tecnofobi, proprio come lâinsistenza sulla governance può fare arrabbiare chi è contrario a âinterferenzeâ sul mercato del lavoro e chi odia la âclasse dei manager-professionistiâ. Questi sospetti sono giustificabili, se consideriamo le professioni come un ingiusto sistema di caste, che privilegia alcuni lavoratori a discapito di altri. Ă però possibile smussare la stratificazione sociale anche mentre si promuovono le piĂš alte aspirazioni dei professionisti. Il professionismo serve a dare ai lavoratori un ruolo nellâorganizzazione della produzione, operando in prima persona per il bene di tutti. Facendo progredire la ricerca, nelle universitĂ come nelle aziende, i professionisti possono coltivare una competenza condivisa, alleggerendo le storiche tensioni tra tecnocrazia e democrazia. Non dobbiamo smantellare o indebolire le professioni, come vogliono fare molti sostenitori dellâinnovazione disruptiva. Lâautomazione umana richiederĂ invece di rafforzare le comunitĂ di esperti esistenti e crearne di nuove.
Le professioni vanno definite in modo inclusivo, comprendendo anche molti lavoratori sindacalizzati, in particolare quelli che vogliono proteggere coloro che usufruiscono dei loro servizi da tecnologie ottuse o pericolose. Per esempio, i sindacati degli insegnanti hanno protestato contro lâeccesso di test automatizzati, cercando invece di indirizzare altrove gli interessi degli studenti. I sindacati che tendono alla professionalizzazione â rendendo piĂš forti i propri membri a beneficio dellâutenza â dovranno avere un ruolo centrale nella rivoluzione della AI. A volte sarĂ arduo dimostrare che un processo umanocentrico possa essere migliore di un processo automatizzato. Le fredde misurazioni economiche non tengono conto della complessitĂ degli standard. Per esempio, presto i programmi di machine learning (âapprendimento automaticoâ) potrebbero prevedere, basandosi sulla fredda misurazione del linguaggio naturale, se un libro avrĂ piĂš probabilitĂ di un altro di diventare un best seller. Dal punto di vista puramente economico, programmi del genere potranno rivelarsi migliori di redattori e registi nella scelta di manoscritti e sceneggiature, ma chi lavora in settori creativi dovrĂ far valere le proprie competenze. Il ruolo dei redattori nellâeditoria è cruciale: grazie alla loro preparazione, possono trovare e promuovere lavori che magari il pubblico (per ora) non vuole, ma dei quali potrebbe avere bisogno. L...