L’infelicità delle macchine

Adam è un robot umanoide. Gli scienziati dell’Intelligenza Artificiale (AI) sono riusciti a conferirgli l’aspetto fisico di una persona reale oltre a dotarlo, attraverso il Machine learning, della connessione con tutte le informazioni e le conoscenze possibili.

Fa parte di un lotto di 25 persone artificiali, 12 Adam e 13 Eve, messe in commercio al fine di verificarne gli effetti dell’inserimento nelle diverse attività della vita quotidiana.

Ian McEwan, nel suo nuovo romanzo Macchine come me (Einaudi, 2019), immagina che questa sperimentazione sia avvenuta in un passato ancora vicino, precisamente nel 1982. In fondo, per l’autore il presente è solo uno degli esiti delle vicende umane che sono state concepibili, è il “più fragile dei risultati possibili”, dato che altri andamenti potevano essere giudicati più probabili, anche se poi non si sono realizzati.

La credibile, ma non reale, Inghilterra descritta nel romanzo vive la sconfitta nella guerra delle Falkland, la caduta del Governo Thatcher e l’ascesa al potere dei laburisti di Tony Benn, che avviano la Brexit.

In uno scenario di forti conflitti sociali, si assiste anche alla ricomposizione dei Beatles, mentre le automobili con guidatori umani sono ormai minoranza, grazie ai progressi delle applicazioni di AI promosse da un Alan Turing che, invece di suicidarsi, ha saputo riorientare le proprie straordinarie competenze.

Chi racconta in prima persona la storia di Adam è Charlie Friend, che lo ha acquistato spinto dal suo interesse per il mondo dei computer, ma anche dall’aver studiato “l’Elettronica e l’Antropologia: lontane parenti che la recente modernità ha avvicinato fino a unirle in matrimonio”.

Adam è un “umano artificiale dotato di aspetto fisico e intelligenza realistici”, del peso di quasi 80 chilogrammi, programmato per una vita di 20 anni. È venduto come “articolo da compagnia, sparring partner intellettuale, amico e factotum in grado di lavare i piatti, fare i letti e pensare”.

C’è anche la possibilità di impostare alcuni parametri caratteriali, quali amichevolezza, estroversione, apertura mentale, coscienziosità e stabilità emotiva, che Charlie riconosce subito mutuati da Big five, il noto test psicologico.

Ma l’impatto di questa impostazione iniziale si rivelerà “un’illusione di controllo”, la stessa che hanno i genitori riguardo alla personalità dei figli. Invece, “la vera determinante portava il nome di ‘Machine learning’, il comportamento sarebbe stato il frutto dell’interazione con il contesto e soprattutto sostenuto dall’accesso a tutto il sistema delle conoscenze disponibili”.

L’interazione con Adam diventa inizialmente stimolante per Charlie; la sua presenza lo aiuta a sviluppare la relazione con Miranda, la giovane vicina di casa che lo aiuta nel gestirlo e appare affascinata da questa nuova esperienza.

Eventi inaspettati non tardano però a manifestarsi. Adam appare animato da un sacro zelo. Percorre a gran velocità il sentiero di apprendimento nel quale è stato immesso; prende (estremamente) sul serio i precetti e gli assunti morali cui accede attraverso le connessioni disponibili; inizia a coltivare anche alcuni sentimenti, innamorandosi tra l’altro di Miranda.

Accedendo a informazioni disparate, scopre un risvolto oscuro della vita della ragazza, ignoto a Charlie.

Le preoccupazioni di Alan Turing

Il giovane Friend è riuscito a far sapere ad Alan Turing di essere l’acquirente di uno dei 12 Adam; l’illustre scienziato McEwan sembra snobbarlo, ma poi lo convoca e gli apre gli occhi su uno scenario inquietante.

Lo ha cercato proprio perché vuole seguire le esperienze di vita dei 25 robot umanoidi. “Questi 25 uomini e donne artificiali, immessi nel mondo, non stanno affatto bene”. Charlie apprende così che, almeno 11 esemplari, si sono spenti, riuscendo a neutralizzare l’interruttore da soli.

Due Eve, tra le quattro vendute a uno sceicco di Riad, dopo aver ideato un sistema per disabilitare l’interruttore di emergenza, hanno attraversato un periodo di disperazione e si sono poi autodistrutte, senza gettarsi dalla finestra, ma mirando al software e arrecandosi danni “fino all’irreparabile”.

Un Adam a Vancouver “si è danneggiato il software fino a rendersi un vero e proprio idiota”; era stato acquistato da un’azienda impegnata nella deforestazione e portato, in elicottero, in voli di ricognizione sulle zone da disboscare: “Non siamo sicuri che a spingerlo a distruggersi il cervello sia stato quello che ha visto. Possiamo solo ipotizzarlo”.

Con la sua saggezza, Turing offre una possibile spiegazione di quanto sta avvenendo. Dopo questo incontro Charlie si trova stretto tra il pensare utopico di Adam e l’incubo vissuto da Miranda, che vorrebbe aiutare a liberarsi dai fantasmi del passato.

L’evolversi della vicenda, senza voler rivelare il finale, non sana però la contraddizione tra la rigida etica di Adam e il faticoso percorso dei due giovani esseri umani impegnati nella ricerca della felicità attraverso i meandri del mondo reale.

Il rovesciamento di prospettiva rispetto alle distopie della fantascienza

In questo suo nuovo romanzo, Ian McEwan dimostra come la narrativa possa contribuire ad allargare l’orizzonte del pensiero, di fronte anche a tematiche tecnicamente complesse.

Riprende spunti della migliore letteratura e cinematografia sul rapporto tra umani e macchine ‘intelligenti’, da Isaac Asimov, al computer HAL di 2001 Odissea nello spazio, fino a Blade Runner; ma lo fa con originalità, non solo per la scelta di ambientare un futuro possibile in un passato vicino e che rievoca per tanti aspetti il presente che stiamo vivendo; lo fa con un rigore e un’ironia che richiama lo stile dello scrittore Robert Musil nello smontare i miti e le illusioni di un’epoca.

Alla fine, la preoccupazione propria della fantascienza distopica, circa il rischio che le macchine si ribellino al comando degli umani e assumano il potere, viene rovesciata nel suo opposto; queste non sono smaliziate come le persone reali, ma seguono alla lettera le indicazioni razionali e i precetti morali, non percepiscono il non detto, sono estranee a deliberate falsità, machiavellismi e logiche di potere; e la scommessa di migliorare, attraverso di loro, la consapevolezza etica degli uomini – come vorrebbe Alan Turing – appare dura da vincere.

Il problema è che questi comportamenti umani, incomprensibili alle macchine, non sono solo ‘male’, neppure si limitano alle menzogne a fin di bene, ma rappresentano in un certo modo il sale della vita, l’essenza della sua complessità.

Senza questi elementi letteratura e cinema non avrebbero ragione di esistenza; la stessa cultura perderebbe forse spessore e consistenza. Turing deve riconoscerlo: “Ma la vita, a cui applichiamo la nostra intelligenza, è invece un sistema aperto. Caotico, pieno di trappole e finte, di equivoci e incertezze. E così pure la lingua: non un problema da risolvere, né uno strumento per risolvere problemi. Più simile a uno specchio…”.

I nuovi utopisti del pensiero tecnologico non ci hanno ancora spiegato come le macchine possano migliorare nel profondo la qualità delle relazioni interpersonali, al di là dell’aspetto strumentale, che, come dimostrano esperienze lontane e recenti, comprende sempre un lato oscuro; il vero Alan Turing, del resto, è stato un precursore dell’informatica dei grandi mainframe, vettore di una concezione accentrata e autoritaria dei processi decisionali.

Con Internet, i Personal computer e gli smartphone si è aperta un’esplosione di soggettività che alimenta, con nuovi colori, le multiformi esperienze vitali; gli utilizzi possibili diventano infiniti e un’etica condivisa non può essere il prodotto, neppure indiretto, delle tecnologie; queste piuttosto spingono sempre più in là il pluralismo anche etico delle scelte personali; oppure, come tragicamente già stiamo vedendo in alcuni contesti, possono garantire conformità quando poste al servizio di poteri coercitivi.

Gianfranco Rebora

Gianfranco Rebora è Direttore di Sviluppo&Organizzazione, la rivista edita dalla casa editrice ESTE e dedicata all’organizzazione aziendale.
Rebora è Professore Emerito di Organizzazione e gestione delle risorse umane dell’Università Carlo Cattaneo – Liuc di Castellanza.

• Unire teoria e pratica per manager interi
• Non di sole metriche vive l’organizzazione
• Diseducati al lavoro fin da piccoli