Le nuove leggi della robotica

Frank Pasquale

• Éditeur: LUISS University Press
• Année: 2021
• ISBN:
  9788861056909
• Sujet: Computer Science
• Sous-sujet: Artificial Intelligence (AI) & Semantics

Lo sviluppo prorompente delle nuove tecnologie mette l'umanità di fronte a problematiche e timori di enorme portata. Ci sarà spazio per la nostra specie in un mondo del lavoro dominato da macchine sempre più intelligenti? Come potremo difenderci dalle subdole e pervasive dinamiche del "capitalismo della sorveglianza" e allo stesso tempo non rinunciare a un monitoraggio intelligente e mirato alla nostra sicurezza? Cosa succederebbe a settori come la scuola, la sanità o l'industria bellica se fossero gestiti esclusivamente dagli algoritmi? In questo libro senza precedenti Frank Pasquale presenta le nuove leggi che dovranno essere applicate affinché la rivoluzione digitale, con le straordinarie possibilità di crescita e sviluppo che comporta, non si trasformi in una trappola per la nostra specie. Secondo Pasquale, i sistemi robotici e le intelligenze artificiali devono essere complementari ai professionisti, e non sostituirli; non devono contraffare l'umanità, favorendo la falsa idea che chi interagisce con loro si stia rapportando a un essere umano; non devono, inoltre, intensificare la corsa agli armamenti; infine, devono sempre indicare con massima trasparenza l'identità dei loro creatori, controllori e proprietari. Seguendo queste semplici direttive, governi, imprese e semplici cittadini potranno creare insieme un futuro migliore nel quale le tecnologie saranno inclusive, democratiche e capaci di riflettere impegno e speranze di tutti, come lavoratori e cittadini, e non solo come consumatori.

capitolo 1

Introduzione

Ogni giorno si alza la posta del progresso tecnologico. Sommate i database di riconoscimento facciale a micro droni sempre più economici e avrete una forza omicida globale del tutto anonima, letale e precisa come mai era stato possibile. Quel che può uccidere può anche curare: i robot potrebbero rendere più accessibile la medicina, se investissimo di più in ricerca e sviluppo. Le imprese stanno facendo una quantità enorme di piccoli passi verso l’automazione di assunzioni, servizio clienti e perfino management. Sono tutti sviluppi che cambiano l’equilibrio tra macchine e umani nella nostra vita quotidiana. Evitare le conseguenze peggiori della rivoluzione dell’intelligenza artificiale (AI) e allo stesso tempo sfruttare il suo potenziale dipenderà dalla nostra capacità di operare su questo equilibrio in modo saggio. Affinché possa accadere, questo libro porta avanti tre tesi mirate a migliorare le nostre vite. La prima è una constatazione empirica: al momento, AI e robotica completano il lavoro umano più di quanto non lo sostituiscano.

La seconda è una proposta: in molti settori, dobbiamo mantenere lo status quo. L’ultimo punto invece è una considerazione politica: abbiamo istituzioni in grado di raggiungere tale scopo. La premessa di questo libro è la seguente: abbiamo i mezzi per gestire le tecnologie dell’automazione e non farci imprigionare o trasformare da loro.

Idee del genere possono sembrare scontate. Perché scrivere un intero libro per difenderle? Perché alcune loro implicazioni sono sorprendenti e ci dovrebbero spingere a cambiare il nostro modo di gestire cooperazione sociale e conflitto. Per esempio, troppe economie danno la precedenza al capitale rispetto al lavoro e ai consumatori rispetto ai produttori. Se vogliamo una società equa e sostenibile, dobbiamo correggere tali bias. Non sarà facile. I consulenti di management sono soliti raccontare così il futuro del lavoro: se una macchina può registrare e imitare quel che fai, prima o poi ti sostituirà.1 I politici accettano la previsione di una forzata disoccupazione di massa: i lavoratori saranno resi superflui da software robot e analisi predittive sempre più potenti. Con le videocamere e i sensori necessari, i manager potranno simulare il nostro data double (“doppione digitale”): un ologramma o un robot in grado di fare il nostro lavoro altrettanto bene ma con un costo molto più basso. È una visione che impone una scelta netta: costruire robot o farsi rimpiazzare da loro.2

Un’altra narrazione è possibile ed è di fatto più plausibile. A qualunque livello, i sistemi robotici possono dare maggior valore al lavoro, invece di svalutarlo. Questo libro racconta la storia di medici, infermieri, insegnanti, badanti, giornalisti e altri professionisti che lavorano con robotisti e informatici, non limitandosi a fornire dati a chi un giorno li sostituirà.

Il loro rapporto di cooperazione prefigura il tipo di progresso tecnologico che potrà offrirci miglioramenti nella sanità, nell’istruzione e in molti altri settori, senza far perdere significato ai vari mestieri. Ci dimostra inoltre che legge e amministrazione possono aiutarci a ottenere pace, prosperità e inclusività, invece di spingerci a “gareggiare contro le macchine”.3 Possiamo però riuscirci solo se aggiorneremo le leggi della robotica che guidano la nostra visione del progresso tecnologico.

le leggi della robotica di asimov

Nel racconto del 1942 “Circolo vizioso”, lo scrittore di fantascienza Isaac Asimov definì tre leggi per regolare le macchine in grado di percepire il contesto esterno, processare le informazioni e quindi agire.4 Nella storia incontriamo il “Manuale di robotica, 56esima edizione” risalente al 2058, che prescrive:

1. Un robot non può recar danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno.

2. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge.

3. Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge.*

Le leggi della robotica di Asimov hanno avuto un’influenza enorme. Sembrano cristalline, eppure non sono di facile applicazione. Un drone autonomo può distruggere una cellula terrorista? La prima metà della prima legge (“Un robot non può recar danno a un essere umano”) sembra vietarlo. Ma un soldato potrebbe invocare la seconda metà della prima legge (e vietare un “mancato intervento” a causa del quale “un essere umano riceva danno”). Per capire quale metà della legge applicare, dobbiamo rifarci ad altri valori.5

Le ambiguità non si limitano al campo di battaglia. Chiediamoci, per esempio, se le leggi di Asimov consentano o meno l’esistenza di automobili robotiche. I veicoli autoguidanti ci promettono di eliminare migliaia di incidenti mortali ogni anno. A un primo sguardo, pertanto, la risposta sembra semplice. Ma d’altro canto, farebbero perdere il lavoro a centinaia di migliaia di autisti. Per questo sarebbe lecito che il governo vietasse o rallentasse l’adozione di veicoli autoguidanti? Le tre leggi di Asimov non sono chiare al riguardo e non offrono una risposta neanche a chi di recente si è battuto a favore di simili automobili chiedendo che i pedoni imparino a rendere più semplice l’operatività dei veicoli autoguidanti e che vengano penalizzati nel caso non lo facciano.

È a causa di ambiguità del genere che statuti, regolamenti e cause legali riguardanti robotica e AI sono più dettagliati delle leggi di Asimov. Ci occuperemo di tale panorama legale nel corso del libro ma, prima di farlo, voglio presentare quattro nuove leggi della robotica che possano indirizzare la nostra esplorazione.6 Sono dirette a chi costruisce i robot e non ai robot stessi.7 Per quanto siano più ambigue di quelle di Asimov, riflettono meglio l’effettivo processo legislativo. Il legislatore non può prevedere ogni situazione sulla quale dovranno esprimersi le autorità, pertanto lascia loro campo libero con statuti che fissano solo i termini generali. Le nuove leggi della robotica devono avere una funzione simile e articolare principi generali delegando le decisioni specifiche a determinati soggetti normativi più esperti dal punto di vista tecnico.8

le nuove leggi della robotica

Ricordandoci di tali obiettivi, in questo libro proporrò e approfondirò quattro nuove leggi della robotica.

1. I sistemi robotici e le AI devono essere complementari ai professionisti e non sostituirli.9

Il dibattito sul futuro del lavoro è segnato da proiezioni contrastanti sulla disoccupazione tecnologica. Secondo alcuni esperti, quasi ogni lavoro è destinato a essere eliminato dal progresso tecnologico. Altri invece evidenziano le barricate presenti sul percorso verso l’automazione. Per la politica, il problema è se tali barriere abbiano senso o meno. Nel caso, quali bisogna controllare e rimuovere? Un mattatoio robotico ha un senso; un asilo nido ci costringe a riflettere. Esitare è da luddisti o riflette una consapevolezza superiore della natura dell’infanzia?

Problemi di abilitazione professionale finora hanno impedito alle app che analizzano i sintomi di essere messe sul mercato come alternative ai medici. È una buona politica?

Questo libro analizza esempi del genere e dispiega argomentazioni empiriche e normative a sostegno di un’adozione più lenta o più veloce delle AI nei vari campi. Sono molti i fattori decisivi, relativi a giurisdizioni e lavori specifici. C’è però un principio organizzativo vitale che deve sempre valere: un lavoro che non perda di significato è fondamentale per la dignità umana e il governo delle comunità.

L’agenda per l’automazione deve dare la priorità a innovazioni in grado di supportare lavori che sono o possono essere vocazioni gratificanti. Va bene sostituire le macchine nei mestieri pericolosi o umilianti, assicurandoci che chi li svolge attualmente venga ricompensato in modo giusto per il proprio lavoro e possa passare agevolmente ad altri ruoli sociali.

Questa posizione equilibrata deluderà tanto i tecnofili quanto i tecnofobi, proprio come l’insistenza sulla governance può fare arrabbiare chi è contrario a “interferenze” sul mercato del lavoro e chi odia la “classe dei manager-professionisti”. Questi sospetti sono giustificabili, se consideriamo le professioni come un ingiusto sistema di caste, che privilegia alcuni lavoratori a discapito di altri. È però possibile smussare la stratificazione sociale anche mentre si promuovono le più alte aspirazioni dei professionisti. Il professionismo serve a dare ai lavoratori un ruolo nell’organizzazione della produzione, operando in prima persona per il bene di tutti.10 Facendo progredire la ricerca, nelle università come nelle aziende, i professionisti possono coltivare una competenza condivisa, alleggerendo le storiche tensioni tra tecnocrazia e democrazia. Non dobbiamo smantellare o indebolire le professioni, come vogliono fare molti sostenitori dell’innovazione disruptiva. L’automazione umana richiederà invece di rafforzare le comunità di esperti esistenti e crearne di nuove.

Le professioni vanno definite in modo inclusivo, comprendendo anche molti lavoratori sindacalizzati, in particolare quelli che vogliono proteggere coloro che usufruiscono dei loro servizi da tecnologie ottuse o pericolose. Per esempio, i sindacati degli insegnanti hanno protestato contro l’eccesso di test automatizzati, cercando invece di indirizzare altrove gli interessi degli studenti. I sindacati che tendono alla professionalizzazione – rendendo più forti i propri membri a beneficio dell’utenza – dovranno avere un ruolo centrale nella rivoluzione della AI. A volte sarà arduo dimostrare che un processo umanocentrico possa essere migliore di un processo automatizzato. Le fredde misurazioni economiche non tengono conto della complessità degli standard. Per esempio, presto i programmi di machine learning (“apprendimento automatico”) potrebbero prevedere, basandosi sulla fredda misurazione del linguaggio naturale, se un libro avrà più probabilità di un altro di diventare un best seller. Dal punto di vista puramente economico, programmi del genere potranno rivelarsi migliori di redattori e registi nella scelta di manoscritti e sceneggiature, ma chi lavora in settori creativi dovrà far valere le proprie competenze. Il ruolo dei redattori nell’editoria è cruciale: grazie alla loro preparazione, possono trovare e promuovere lavori che magari il pubblico (per ora) non vuole, ma dei quali potrebbe avere bisogno. L...

Table des matières

• Le nuove leggi della robotica
• Indice
• Prefazione di Giovanni Lo Storto e Daniele Manca
• Le nuove leggi della robotica
• Capitolo 1. Introduzione
• Capitolo 2. La cura degli umani
• Capitolo 3. Oltre la scuola robotica
• Capitolo 4. L’intelligenza aliena dei media automatizzati
• Capitolo 5. Macchine che giudicano gli esseri umani
• Capitolo 6. Armi autonome
• Capitolo 7. Ripensare l’economia politica dell’automazione
• Capitolo 8. La potenza del computer e la saggezza umana
• Ringraziamenti