Ma può fare davvero paura un robot come questo?

23/02/2018 13:01
Ma può fare davvero paura un robot come questo?

Città, auto e aziende sempre più smart. Chatbot, cyborg e assistenti vocali sempre più presenti nella vita quotidiana. Nei prossimi 20 anni i super computer saranno così potenti e abili da togliere posti di lavoro. C’è quindi il rischio che l’Intelligenza Artificiale possa battere l’uomo? Class ha messo a confronto le opinioni di due esperti mondiali.

C’è una rivoluzione in corso, la rivoluzione digitale, in cui tutti siamo coinvolti. Una rivoluzione che si può riassumere in questo modo: la quantità di dati che produciamo, oggi raddoppia ogni anno; nel 2017 abbiamo generato tanti dati quanti nell’intera storia dell’umanità a fine 2016 (in effetti, un po' di più). Ogni minuto nel mondo si fanno centinaia di migliaia di ricerche su Google e di post su Facebook, che, attenzione!, ci mettono sì a disposizione una quantità di informazioni senza precedenti, ma anche catturano informazioni su di noi: che cosa facciamo, cosa proviamo e come pensiamo; in una parola, chi siamo. Ma non basta, con lo sviluppo di Internet delle Cose, entro pochi anni avremo 150 miliardi di dispositivi (sensori [fra cui molti portabili, li indosseremo], per trasmettere e comunicare informazione, ma anche per guidare automobili o misurare le calorie che consumiamo, definire strategie di investimenti o allenare in modo ottimale una squadra di calcio), 20 volte più numerosi degli uomini sulla Terra, connessi tra di loro e con le persone in una immensa rete globale.

Allora la quantità di dati raddoppierà ogni 12 ore. Sarà ancora più intrusivo, però tutto potrà diventare più intelligente; avremo non solo smart phone ma smart home, smart factory, smart cities, smart car. La domanda cruciale è: sapremo noi umani essere più smart? Perché la società sarà sempre più costituita da individui che, di fatto, non sono più semplici esseri umani, bensì umani con protesi: cellulari, iPhone, laptop...; pezzi di tecnologia che li «aumentano», consentendo loro di comunicare, di scambiare informazioni, di accedere a nuove conoscenze, di fare operazioni intelligenti in modi nuovi e con strumenti che estendono a dismisura i loro sensi, la loro velocità, la loro comprensione del mondo che li circonda. In parallelo con la nostra capacità di generare dati e di trasmetterli e riceverli, infatti, l’Intelligenza Artificiale sta compiendo progressi mozzafiato. L’IA è una nuova modalità operativa della scienza dell’informazione, dove i computer non si programmano più riga per riga, ma sono capaci di imparare, anche dai loro errori, e di automigliorarsi, da soli. Sono già attivi algoritmi di IA in grado di riconoscere la scrittura manuale e i pattern, di descrivere il contenuto di fotografie e video, di eseguire un gran numero di compiti che richiedono intelligenza meglio degli uomini. Oggi il 70% di tutte le transazioni finanziarie è operato da algoritmi, e il contenuto delle News è, in buona parte, generato automaticamente; e fra breve toccherà all’amministrazione pubblica, ai trasporti, alle banche, persino alla medicina.

Mi accade spesso, quando faccio una conferenza in cui parlo di Intelligenza Artificiale e discuto quanto sarebbe interessante legarla davvero all’Intelligenza Umana, che mi vengano poste domande, nate in parte anche dagli allarmi che, un po’ curiosamente, persone del peso di Steve Hawkings e Bill Gates o Elon Musk hanno lanciato, del tipo: ci aspetta un futuro in cui saremo governati da macchine più intelligenti di noi, o in cui correremo il rischio che la decisione se scatenare o meno una guerra nucleare venga presa non da esseri umani ma da sistemi di IA che ci hanno preso la mano, o ancora, verremo privati dei nostri posti di lavoro, messi a rischio da computer e robot? Sicuramente NO, anche se certo l’intelligenza artificiale porrà sfide inattese e difficili al nostro modo di essere, e a noi.

Con quelle piccole cose grigie e mollicce che abbiamo dentro la calotta cranica come uniche armi: un chilo e mezzo di materia biologica che contiene 90 miliardi di cellule (i neuroni) che comunicano attraverso 100.000 miliardi di interruttori molecolari (le sinapsi), con i nervi che trasmettono gli impulsi (gli assoni) lunghi 2 milioni di chilometri (6 volte la distanza fra la Terra e la Luna); che usa una potenza di 20 watt, pari più o meno a quella di una lampadina di bassa luminosità, ma ha un potere computazionale enormemente maggiore di quello di qualsiasi super-computer oggi immaginabile, e che è anche capace in ogni dato istante di scegliere di utilizzare esclusivamente i neuroni che gli servono in quel momento per svolgere la funzione che compie (sparse coding) facendo funzionare in ogni momento mediamente solo il 10% dei neuroni disponibili; a noi umani toccherà gestire e mantenere sotto controllo questa immensa rete, per usarla a beneficio di tutti e per sopravvivere (ed evolvere!) come specie. E sarà l’intelligenza artificiale ad aiutarci a fare questo, ma la nostra a governare il processo.

Come è sempre accaduto lungo tutta la storia dell’uomo, anche in questo caso la tecnologia, come è suo «dovere», mira soltanto a fornirci strumenti per diminuire la fatica nel lavoro: la vera differenza oggi sta nel fatto che finalmente è arrivato il momento in cui questo lavoro è quello della testa e non esclusivamente delle braccia o delle mani (che però i nuovi robot, a loro volta sempre più intelligenti, continueranno a rendere sempre più semplice). E così come abbiamo imparato a tenere sotto controllo le macchine meccaniche, dovremo imparare a convivere con l’intelligenza artificiale per far sì che migliori la qualità della nostra vita e non diventi un pericolo. E dovremo trovare la forza di cambiare i nostri modelli sociali, ridistribuendo reddito e, soprattutto, lavoro, per adeguarci al cambiamento epocale che l’IA si porterà dietro. Ma il risultato finale sarà straordinario. Tutto questo colloca la rivoluzione digitale al crocevia di tre diverse strade, con caratteristiche e prospettive differenti.

PROSPETTIVA SCIENTIFICO-TECNOLOGICA 

Quella digitale è una rivoluzione paragonabile all’invenzione della stampa. E non c’è dubbio che i bit faranno in pochi anni molto più di quanto i caratteri mobili di Gutenberg abbiano fatto in oltre cinque secoli e mezzo in termini di spostamento degli equilibri del potere, di trasferimento della conoscenza dalle mani di pochi a comunità sempre più allargate, di nascita di nuove categorie di attività umane. Sarà un percorso analogo a quello che ha pavimentato la strada che dal Rinascimento, attraverso l’Illuminismo, ci ha portati alla rivoluzione industriale e a quella elettronica, e dai manoscritti su pergamena ci ha fatti arrivare all’Encyclopédie di Diderot e D’Alembert e via via fino a Wikipedia. Non scordiamo, però, che è una rivoluzione in qualche misura iniqua, perché è legata all’evoluzione tecnologica, che ha differenziali di crescita molto diversi fra paesi avanzati e paesi in via di sviluppo.

PROSPETTIVA CULTURALE

Vedremo convivere con noi la scienza dei dati, per antonomasia il digitale, e l’IA, che concepisce e sviluppa sistemi computerizzati capaci di eseguire compiti che normalmente richiedono l’intelligenza umana decifrandone alcuni dei codici, almeno quanto basta per trasferirne una parte significativa alle macchine. Tutto questo vuol dire che l’uomo sarà spodestato dalla sua posizione di supremazia nella natura da robot super intelligenti? Certamente no; il cervello umano non è riproducibile da nessuna macchina che non sia un cervello umano più evoluto. L’irresistibile leggerezza dell’IA emerge con prepotenza dal confronto di quel groviglio complicato di informazioni che l’intelligenza artificiale sa decodificare con la complessità dei nostri valori di esseri umani; che ci mostra in modo inconfutabile come i metodi dell’IA siano sì lo strumento per affrontare con efficienza senza precedenti certi sistemi complessi, ma non per riprodurre, non ne sarà mai capace, le funzioni alte del pensiero: la creatività, l’autocoscienza, l’estetica, l’etica.

PROSPETTIVA SOCIALE ED ETICA

È incontrovertibile che mentre i progressi portati dall’IA non potranno che dare vita in prospettiva a una lunga epoca di prosperità, benessere e tempo libero, e di conoscenza senza precedenti, il transitorio a questo stato felice può essere lungo e brutale se non avremo la forza di adattare ad esso, e subito (siamo già in ritardo), la nostra economia, le politiche sociali, i comportamenti collettivi. L’alternativa è una nuova forma di luddismo di reazione al digitale, che potrebbe portare la società, come quello seguito alla rivoluzione industriale indotta dall’invenzione della macchina a vapore nell’Inghilterra del XVIII secolo, a uno stato di grave tensione e instabilità. Rischiamo un periodo di scontri sociali, perché in pochi anni oltre la metà dei lavori di oggi non saranno più svolti da uomini, ma da macchine dotate di IA, e non solo lavori manuali ma lavori che comportano lo sviluppo di processi intelligenti. Sarà una crisi profonda, non della classe operaia ma dei colletti bianchi. Per di più, a livello globale, le inevitabili (e crescenti) diseguaglianze nell’accesso alla tecnologia daranno vita a nuove competitività e ambizioni di supremazia fra Stati, stretti nella morsa decisionale di dover, da un lato, conservare una loro identità di potere e, al contempo, di non segnare il passo nel loro processo di crescita.

Così, pur con le sue straordinarie potenzialità, l’innovazione digitale si trova a essere essa stessa all’origine della più aggressiva delle diseguaglianze; quella che spinge oggi parte del ceto medio (gli «scartati» di papa Francesco) alla protesta, al populismo, all’intolleranza. Per appianarla occorreranno investimenti, enormi e globali, in istruzione, incentivi alla creatività, riqualificazione degli espulsi dal sistema produttivo; nonché nuove modalità di formazione, non limitate ai giovani ma estese a chi ha alle spalle un patrimonio ancora condivisibile di esperienza professionale. Non si tratta semplicemente di ridistribuire la ricchezza; ma di creare nuove fonti di conoscenza, per generare nuovo «sapere» e al contempo reinserire nella macchina sociale chi è stato espulso dal mondo del lavoro. Creare nuovo lavoro con lavori nuovi (assistiti dalle macchine; sta già accadendo con i robot).

Nei prossimi 20 anni i super-computer sorpasseranno di ordini di grandezza, in molti settori, le capacità umane, potenziandole e aumentandole ben al di là di quanto ora riusciamo a immaginare. E i Big Data, oggi considerati una rivoluzione dell’Information Technology, ci faranno sorridere, quando il numero di byte generati sarà più grande di quello degli atomi nella materia del mondo che ci circonda. La sfida, ardua, alla scienza dei dati è di riuscire a estrarre la grande quantità d’informazione che essi incorporano e renderne disponibile a tutti il valore. Anche se i dati hanno caratteristiche molto diverse; per esempio, nella scienza, sono ben strutturati e controllati, mentre se riguardano la società sono più rumorosi e difficili da analizzare, ma sanno per contro fornirci una vera e propria tomografia della società stessa, che rende possibili predizioni finora impensabili sulle sue dinamiche di comportamento. L’obiettivo è quello di trasformarli in informazione; poi l’informazione in conoscenza, e infine la conoscenza in sapere. È uno dei più difficili problemi mai affrontati dalla scienza. È questo il «data mining»: estrarre valore dai dati, come un minatore estrae minerali preziosi dal terreno.

Una declinazione negativa di questa stessa problematica minaccia la società in senso lato, nella sua prospettiva più ampia dei valori e della cultura. Oggi siamo incredibilmente vulnerabili alla manipolazione delle nostre opinioni, sentimenti, preferenze, credenze attraverso la disinformazione digitale. Lo strumento, subdolo, è in quella congerie di vincoli e pregiudizi, sociali, cognitivi, economici cui siamo sottoposti attraverso la rete, che ha generato un meccanismo sociale di auto-difesa terribile: fidarsi soltanto dei segnali provenienti dal nostro circolo e rifiutare ogni informazione che contraddica il sistema di convinzioni, non necessariamente basate sull’esperienza, del nostro gruppo di riferimento. La logica di tale atteggiamento è scritta in profondità nel nostro Dna, perché ci è stata utile nel processo di evoluzione, quando la nostra specie si adattava per sfuggire ai predatori; ma non favorisce certo lo sviluppo di un salutare senso critico!

Nel mondo del 2030, quando la popolazione globale avrà raggiunto gli 8,3 miliardi di persone (era di 7,1 miliardi nel 2012), tre fattori demografici fondamentali contribuiranno a dar forma alle condizioni economiche e politiche dei paesi e alle loro relazioni mutue: l’invecchiamento, una caratteristica del mondo sviluppato ma sempre più anche di gran parte dei paesi emergenti; le migrazioni; la crescente urbanizzazione. Le ultime due pongono ancor più pressione sulle risorse di acqua e cibo. Ma anche la prima: i paesi che invecchiano dovranno affrontare un percorso sempre più in salita nella battaglia per mantenere i loro standard di vita attuali. E la conseguente richiesta di manodopera, sia di alta che bassa specializzazione, spingerà ancor più la migrazione globale, mentre nel mondo in via di sviluppo, per la sempre più rapida urbanizzazione, il volume di costruzioni urbane per abitazioni, uffici, servizi di trasporto, nei prossimi 40 anni uguaglierà l’intero volume di costruzioni sino ad oggi nella storia del mondo.

La domanda di cibo, acqua ed energia crescerà approssimativamente del 35, 40 e 50 per cento, rispettivamente, sia a causa della crescita della popolazione mondiale, sia per i cambiamenti nella distribuzione dei consumi legati alla crescita della classe media nei paesi emergenti. E il profondo cambiamento nei poteri nazionali sarà messo in ombra da un cambiamento ancora più profondo e fondamentale; quello nella natura del potere, attivato dalle tecnologie di comunicazione.

È in questo scenario che la nostra scienza, quella del digitale, dei dati, dei sistemi complessi, dell’intelligenza artificiale può e deve giocare un ruolo cruciale; ma questo lo potrà fare solo se saprà da subito dotarsi di una forte piattaforma di valori etici che siano globali, anzi universali, e non locali; condivisi e non particolari; ispirati al benessere collettivo e alla qualità della vita di tutti. Dobbiamo (e, anche in questo, quella dettagliata tomografia della società che i dati ci consentono di ottenere sarà strumento fondamentale) concepire un nuovo modello sociale che si adegui alla velocità dei cambiamenti che il digitale comporta, sapendo coniugare ridotta necessità di lavoro (proprio questo la tecnologia sa fare bene, per definizione!), salari adeguati, efficienza nell’uso del tempo libero.

Quelle attività di sorveglianza di massa che la sicurezza del mondo che stiamo descrivendo comportano, se realizzate istituzionalmente devono confrontarsi con l’esigenza di rispettare i diritti umani. Questo significa rispettare i principi di legalità, necessità e proporzionalità; vale a dire devono essere previste con leggi (pubblicamente accessibili), che ne descrivono i casi in modo chiaro e preciso e ne consentono la realizzazione nel rispetto di quei principi, soggette al controllo di organi terzi (giudici e parlamento) dotati delle informazioni e della capacità e dei poteri necessari per controllare, ma soggette a procedure (giudiziali e amministrative) che consentano alle persone soggette a controllo di domandare efficaci rimedi contro gli abusi. Altrimenti alle vittime di questo complesso processo che tanto bene può portare all’umanità rischiamo di dover aggiungere la democrazia, e questo non ci piace.

Bert il bot era triste. Aveva lasciato cadere un uovo durante la preparazione di una frittata, facendo trasalire i cuochi umani che lavoravano con lui, probabilmente convinti che ai robot non tremassero mai le mani. Le labbra carnose di Bert si atteggiarono in un broncio, gli occhi azzurri si sgranarono e le sopracciglia si aggrottarono. «Mi dispiace», disse. Voleva fare ammenda e riprovarci. Ma cosa dovevano fare gli umani per concedere a Bert una seconda possibilità? Se un robot commette un errore, come può riconquistare la nostra fiducia?

È la domanda a cui ha cercato di rispondere nel 2016 un team di ricercatori dell’University College London e dell’Università di Bristol. Adriana Hamacher, Kerstin Eder, Nadia Bianchi-Berthouze e Anthony Pipe hanno ideato un esperimento chiamato «Credere in BERT», in cui tre assistenti robotici dovevano aiutare un gruppo di partecipanti (umani «veri») a preparare una frittata, passando loro le uova, l’olio e il sale. Bert A era super efficiente e non sbagliava mai, ma non sapeva parlare. Anche Bert B era muto, ma non era perfetto: lasciava cadere alcune uova. Bert C era il robot impacciato protagonista dell’aneddoto qui sopra, ma era capace di espressioni facciali e poteva chiedere scusa per i suoi errori.

Al termine, Bert C ha chiesto a ciascuno dei ventuno partecipanti allo studio come se l’era cavata in cucina e se fossero disposti ad assumerlo come assistente. La maggior parte dei partecipanti si è sentita a disagio di fronte a quella domanda diretta. Alcuni hanno imitato l’espressione triste di Bert, vittime di un «lieve contagio emotivo». «Mi sembrava giusto rispondere di no, ma mi sono sentito molto in colpa», ha raccontato uno di loro; «quando il robot ha assunto un’espressione avvilita, mi sono sentito ancora peggio». Altri non sapevano cosa rispondere perché non volevano deludere Bert C rifiutando di assumerlo.

Uno dei partecipanti si è lamentato dicendo che l’esperimento gli sembrava un «ricatto emotivo». Un altro si è spinto fino a mentire al robot per non  ferire i suoi sentimenti. «Ipotizziamo che, dopo averlo visto mostrare emozioni simili a quelle umane quando aveva lasciato cadere l’uovo, molti partecipanti fossero condizionati ad aspettarsi una reazione simile e quindi esitassero a dire di no», spiega Adriana Hamacher, l’autrice principale dello studio. «Erano consapevoli della possibilità di assistere ad altre espressioni di sofferenza simil-umana». Bert sarebbe scoppiato a piangere se l’avessero criticato? Al termine dell’esperimento è stato chiesto ai partecipanti quanto si sarebbero fidati di Bert A, B o C su una scala da uno a cinque. Poi dovevano selezionare uno dei tre robot come assistente personale in cucina.

Il risultato interessante è che ben quindici partecipanti su ventuno hanno finito per scegliere Bert C come aiuto cuoco, benché con la sua goffaggine impiegasse il 50 per cento di tempo in più a completare il lavoro. È uno studio condotto su un campione ristretto, ma è significativo: ci dice che la gente si fida più facilmente di un robot con caratteristiche umane che di un robot muto ma molto più efficiente e affidabile. «Se pensate che le macchine siano perfette e poi una di loro commette un errore, non vi fiderete più di loro», dice Frank Krueger, psicologo cognitivo e neuroscienziato
alla George Mason University ed esperto di fiducia uomo-macchina. Ma la fiducia può essere riconquistata attraverso alcune norme basilari di etichetta sociale e se la macchina dice semplicemente: «Mi dispiace». Queste norme di cortesia sono il motivo per cui alcuni robot, come Bert C, sono programmati per sorridere o accigliarsi.

La fiducia nelle macchine e nella tecnologia non è sempre stata così sfumata. Ricordo occasioni in cui, mentre tenevo una presentazione davanti a un pubblico, il clic sul mouse non ha fatto scorrere le slide o è sembrato che il computer si addormentasse. E poi c’è quell’orribile sfera rotante nei colori dell’arcobaleno. In quei frangenti solitamente sdrammatizzo con una battuta, per stemperare la mia frustrazione: «Non è fantastica, la tecnologia? Non so di preciso cosa ho appena premuto». Dicendo così mi assumo inconsciamente la responsabilità del malfunzionamento della macchina. La nostra fiducia nei laptop e nei mouse si basa sull’aspettativa che l’apparecchio faccia ciò che deve, niente di più e niente di meno. Confidiamo che una bussola ci dica dov’è il nord, che una lavatrice pulisca i nostri vestiti, che la cloud conservi i nostri file, che il telefono ci rammenti riunioni e numeri, che il bancomat ci dia i soldi.

La nostra fiducia si basa soltanto sull’attendibilità funzionale della tecnologia, sulla sua prevedibilità. Ma è in corso una trasformazione profonda: non ci aspettiamo più che le macchine si limitino a fare qualcosa, ma che decidano cosa fare e quando. Attualmente, quando salgo sulla mia macchina, una normale Ford Focus, mi aspetto che si accenda, vada in retromarcia, freni e acceleri obbedendo ai miei comandi. Se però passassi a un veicolo automatico dovrò iniziare a fidarmi del sistema stesso, aspettandomi che decida se andare a destra o a sinistra, sterzare o frenare. Questo atto di fede, e altri analoghi, introducono una nuova dimensione che coinvolge una serie di fattori, dalla programmazione intelligente a questioni etiche vecchie di secoli. Sollevano una domanda nuova e pressante sulla tecnologia: di fronte a chatbot, cyborg, avatar virtuali, robot umanoidi, droidi militari o veicoli a guida autonoma, se una macchina esercita un potere così esteso sulla nostra vita, come facciamo a fidarci delle sue intenzioni?