Sbagliando s'impera

McEwan, Ian (2019). Machines Like Me. Londra: Vintage Digital. ISBN: 9781473567795. Pagine 320. 12,31€.

Sono un avido lettore di Ian McEwan, che ho scoperto in una gloriosa libreria romana ormai chiusa da tempo, all’epoca in un piano terra tra piazza di Spagna e piazza Mignanelli. Era la sua seconda raccolta di racconti, In Between the Sheets: forse ero stato pruriginosamente attratto dal titolo del volume e da quello del primo dei racconti (Pornography). Sono passati 41 anni: nel frattempo sono diventato meno pruriginoso e ho letto tutto quello che McEwan ha scritto. Quasi tutto in realtà: tutti i romanzi, un’altra raccolta di racconti (la prima, First Love, Last Rites) e persino un romanzo per bambini (The Daydreamer).

Quindi, nessuno si stupisca se ho aspettato impaziente che questo nuovo romanzo uscisse, l’ho acquistato il giorno stesso e mi sono messo a leggerlo interrompendo le mie altre letture. Che ne penso?

Penso che non è il migliore romanzo di McEwan e che è ampiamente al di sotto delle attese (delle mie, quanto meno). Certo, come spesso accade nei romanzi di McEwan, si affronta un tema culturalmente e moralmente d’attualità, senza paura di prendere posizione. Era stato così – limitandosi ai primi casi che mi vengono in mente – per il tema dell’eutanasia in Amsterdam e per quello dell’etica professionale in The Children Act. Qui il tema è quello dell’intelligenza artificiale e della produzione di creature indistinguibili dagli umani “veri”. Non chiamiamoli robot, anche se abbiamo un’autorevole tradizione letteraria. Chiamiamoli piuttosto androidi, dal momento che sono indistinguibili a occhio nudo, e anche al tatto, da un essere umano “biologico”. Insomma, non ammassi di ferraglia come la pur affascinante Maria in Metropolis di Fritz Lang, ma persone come il Roy Batty interpretato da Rutger Hauer in Blade Runner.

La mia impressione è che il tema sia molto adatto a un breve racconto filosofico, ma non “regga” un intero romanzo. Insomma, delle due l’una: o questi androidi sono eguali a noi a tutti gli effetti (e allora rappresentarne i pensieri, le pulsioni e i sentimenti è relativamente poco interessante), oppure sono più o meno sottilmente diversi (e allora però anche l’onnisciente romanziere è in difficoltà a raccontarcelo, perché non ha un accesso privilegiato al sé di quelle creature, o creazioni che siano). A questo dilemma se ne ricollega un altro: in entrambi i casi, la narrazione romanzesca (a differenza del saggio, e forse anche del conte philosophique) racconta di singole persone, dotate di una propria individualità, e proprio per questo interessanti da raccontare. Ma se Adam, l’androide del romanzo, è un individuo a tutto tondo, diventa difficile, o forse impossibile, trarre dal romanzo un succo etico e morale universale (non dico di più per evitare di rovinarvi la lettura).

Dal momento che la vicenda principale è troppo elementare dal punto di vista narratologico (un umano compra l’ultimo modello di androide e ci vive insieme), McEwan è costretto a inserire nel romanzo molti altri elementi. Intanto colloca il tempo della vicenda nel 1982: scelta astuta, perché conosciamo meglio il passato del futuro ed è più semplice descrivere un automobile o un cellulare che uno zaino a razzo come nella fantascienza tradizionale. Ma poi, di necessità, questa ambientazione è un’ucronia, perché nel 1982 gli androidi non c’erano. Soltanto che McEwan si fa prendere un po’ la mano: è vero che – se il Regno Unito deve essere all’avanguardia negli studi e nelle realizzazioni dell’intelligenza artificiale (oltre che dei computer e della robotica) – è necessario che Alan Turing non si sia suicidato e sia anzi diventato una sorta di eroe nazionale britannico. Ma probabilmente non era necessario, e quindi è una scelta di Ian McEwan, far perdere a Margareth Thatcher la guerra delle Falkland e introdurre un popolare leader laburista, Tony Benn, che assomiglia (un po’, ma non troppo) a Tony Blair.

L’io narrante è Charlie Friend: già nella scena del nome c’è una vaga reminiscenza di Martin Amis (che dà ai suoi personaggi nomi come Terry Service, Mike Hoolihan, John Self, Keith Talent, Guy Clinch, Keith Nearing e soprattutto Lionel Asbo; di Martin Amis, su questo blog, ho recensito The Second Plane, The Pregnant Widow e Lionel Asbo). Tutto considerato è un personaggio un po’ amisiano: vive a Londra a sud del Tamigi, non ha combinato un granché nella vita, sbarca a fatica il lunario speculando da casa sul computer. Spende una piccola eredità che ha ricevuto in Adam, uno dei 25 androidi prodotti e immessi sul mercato (12 Adami e 13 Eve), perché è sotto sotto un nerd (“Robots, androids, replicates were my passion”, ci confessa). Charlie è attratto dalla sua vicina, Miranda, di dieci anni più giovane: una classica femme fatale dal passato oscuro, anch’essa un po’ amisiana (mi viene in mente soprattutto la Nicola Six di London Fields). Adam è un catalizzatore dell’evoluzione di questa coppia potenziale (anche in questo caso, non dico di più per non guastarvi la lettura).

Alla fine, come dicevo, il dilemma etico-filosofico viene risolto in quello che a me pare l’unico modo possibile. Come riconosciamo l’umano nell’altro, dato che non abbiamo accesso diretto (“dall’interno”) al suo sé? La risposta di Turing – sia quella del celebre imitation game del Turing del 1950 (che potete leggere in originale qui), sia del Turing romanzesco ricreato da Ian McEwan – è che una macchina può pensare (un androide è senziente, nel caso in specie) se non c’è modo di distinguere le sue parole e i suoi comportamenti di un essere da quelle che ci aspettiamo da un umano: in questo caso, dobbiamo preseumere che quell’essere pensi, senta e sia cosciente come noi.

La risposta del Turing del 1950 all’obiezione che chiama “the argument from consciousness” è questa:

This argument is very, well expressed in Professor Jefferson’s Lister Oration for 1949, from which I quote. “Not until a machine can write a sonnet or compose a concerto because of thoughts and emotions felt, and not by the chance fall of symbols, could we agree that machine equals brain – that is, not only write it but know that it had written it. No mechanism could feel (and not merely artificially signal, an easy contrivance) pleasure at its successes, grief when its valves fuse, be warmed by flattery, be made miserable by its mistakes, be charmed by sex, be angry or depressed when it cannot get what it wants.”

This argument appears to be a denial of the validity of our test. According to the most extreme form of this view the only way by which one could be sure that machine thinks is to be the machine and to feel oneself thinking. One could then describe these feelings to the world, but of course no one would be justified in taking any notice. Likewise according to this view the only way to know that a man thinks is to be that particular man. It is in fact the solipsist point of view. It may be the most logical view to hold but it makes communication of ideas difficult. A is liable to believe “A thinks but B does not” whilst B believes “B thinks but A does not.” instead of arguing continually over this point it is usual to have the polite convention that everyone thinks.

[…]

In short then, I think that most of those who support the argument from consciousness could be persuaded to abandon it rather than be forced into the solipsist position. They will then probably be willing to accept our test.

I do not wish to give the impression that I think there is no mystery about consciousness. There is, for instance, something of a paradox connected with any attempt to localise it. But I do not think these mysteries necessarily need to be solved before we can answer the question with which we are concerned in this paper. (pp. 445-447 del paper originale del 1950; i corsivi sono miei)

Secondo me, il riferimento alla posizione solipsistica è illuminante: non solo per le macchine e gli androidi, ma anche per gli altri esseri umani devo formulare l’ipotesi che agiscano e pensino come me. E io ritengo di essere cosciente, basandomi sull’esperienza del mio sé: un’esperienza interna, e dunque un punto di vista privilegiato ed esclusivo. Non concedere agli altri l’ipotesi (indimostrata e indimostrabile) che siano anch’essi coscienti e pensanti rende impossibile (difficile, scrive Turing) la trasmissione delle idee, sigillandomi nella bolla solipsistica. Sono l’unico soggetto cosciente al mondo.

Ma ci sono buone ragioni per capovolgere il ragionamente, come fa ad esempio Daniel Dennett in From Bacteria to Bach and Back: The Evolution of Minds (un libro che prima o poi recensirò; la traduzione italiana è intitolata Dai batteri a Bach. Come evolve la mente). E se il nostro punto di vista in prima persona, dall’interno, della nostra mente e del nostro sé non fosse in realtà diverso dal punto di vista in seconda persona, dall’esterno, della mente e del sé degli altri? Se l’illusione di aver accesso al funzionamento del nostro cervello (e del nostro corpo, se è per quello) non fosse che una benevola illusione che ci è così familiare che la prendiamo per realtà, la realtà più indubitabile e intima perché nota solo a noi? E se l’avessimo sviluppata (evoluta) a partire dalla necessità di parlare con altri umani dei nostri pensieri, delle nostre memorie e dei nostri progetti (presente, passato e futuro, cioè), investendo in un flusso di coscienza comunicabile un sacco di tempo, energia e risorse cerebrali? In questo caso il sé degli altri non sarebbe il riconoscimento in loro del nostro, ma – al contrario – il nostro sé sarebbe il prodotto di una rappresentazione dell’operare dei neuroni necessaria a interagire con gli altri. Discorso lungo, naturalmente, con molte ramificazioni interessanti, di cui qui mi interessa sottolinearne una: da questa prospettiva il solipsismo non è soltanto scomodo, insostenibile perché di ostacolo alla trasmissione delle idee (come scrive Turing) ma un errore (e quindi, diversamente da quanto Turing sembra ritenere, non “the most logical view to hold” neppure per ipotesi).

Oltre a questo punto di carattere epistemologico, ce n’è uno di carattere etico cui McEwan è più interessato, e che discende anch’esso dal test di Turing: se non riconosco nell’altro la capacità di pensare e sentire come me, apro la strada a negarne l’umanità. Nella storia è successo molte volte, sempre con esiti disastrosi: con le donne, in molte culture, comprese le sbandierate radici cristiane della nostra (“Voglio però che sappiate che di ogni uomo il capo è Cristo, e capo della donna è l’uomo […]. L’uomo […] è immagine e gloria di Dio; la donna invece è gloria dell’uomo. E infatti non l’uomo deriva dalla donna, ma la donna dall’uomo; né l’uomo fu creato per la donna, ma la donna per l’uomo.” – 1Corinzi 11,3-9); con gli ebrei, in innumerevoli occasioni e soprattutto nel “Reich millenario” (“il verme e l’ebreo sono parassiti del peggior tipo, vogliamo la loro eliminazione”); con gli aborigeni, in tutte le vicende del colonialismo europeo; con gli afroamericani (vi rinvio alle mie recensioni di The Time of Our Singing e di Green Book) e con gli schiavi.

Proprio quest’ultimo è il punto che solleva il Turing del romanzo, che parla oltre 30 anni dopo quello del celeberrimo test:

*** SPOILER ***

‘You weren’t simply smashing up your own toy, like a spoiled child. You didn’t just negate an important argument for the rule of law. You tried to destroy a life. He was sentient. He had a self. How it’s produced, wet neurons, microprocessors, DNA networks, it doesn’t matter. Do you think we’re alone with our special gift? Ask any dog owner. This was a good mind, Mr Friend, better than yours or mine, I suspect. Here was a conscious existence and you did your best to wipe it out. I rather think I despise you for that. If it was down to me—’ (pp.303-304)

***

Un’ultima notazione, prima del consueto florilegio di citazioni. Il romanzo è strutturato in dieci capitoli, quasi esattamente di 30 pagine ciascuno. A me non è sembrato casuale, dal momento che ognuno dei capitoli tratta più aspetti della vicenda. Mi è sembrata piuttosto una scelta formale consapevole, che a me ha ricordato la struttura che Bach ha dato alle sue Variazioni Goldberg: se fosse così, Ian McEwan avrebbe nascosto nel testo un omaggio a un altro dei testi fondanti la riflessione sulla coscienza e l’intelligenza artificiale, Gödel, Escher, Bach: An Eternal Golden Braid di Douglas Hofstadter.

Factory settings – a contemporary synonym for fate. (pp.6-7)

She was a woman of the world, of this one. (p.13)

I handed over a fortune in the name of curiosity, that steadfast engine of science, of intellectual life, of life itself. (p.13)

Electronics and anthropology – distant cousins whom late modernity has drawn together and bound in marriage. (p.13)

He spent concentrated time looking at decision-making and wrote a celebrated book: we are disposed to make patterns, narratives, when we should be thinking probabilistically if we want to make good choices. Artificial intelligence could improve on what we had, on what we were. (p.39)

Hundreds of prominent scientists followed his example on open-source publication which would lead, in 1987, to the collapse of the journals Nature and Science. (p.40)

We were simply the embodiment of a pattern in modern manners: acquaintance, followed by sex, then friendship, finally love. There was no good reason we should travel this conventional course at the same speed. Patience was all. (pp.53-54)

The present is the frailest of improbable constructs. (p.64)

‘The issue isn’t Adam’s state of mind. It’s yours.’ (p.92)

It had taken all of my twenties to learn from women combatants that in a full-on row it was not necessary to respond to the last thing said. Generally, it was best not to. In an attacking move, ignore bishop or castle. Logic and straight lines were out. Best to rely on the knight. (p.95)

As Schopenhauer said about free will, you can choose whatever you desire, but you’re not free to choose your desires. (pp.118-119)

He read Schrödinger’s Dublin lectures, What is Life?, from which he concluded that he was alive. (p.143)

Whereas Einstein thought there was no science without belief in an external world independent of the observer. (p.144)

His mission, open source, Nature and Science journals terminated, the entire world free to exploit his machine-learning programs and other marvels. (p.174; anche se prima aveva scritto che non sarebbe successo fino al 1987)

‘The other day, Thomas reminded me of the famous Latin tag from Virgil’s Aeneid. Sunt lacrimae rerum – there are tears in the nature of things. None of us knows yet how to encode that perception. […]’ (p.180)

‘There are … no masses, only ways of seeing people as masses.’ (p.184)

Miranda gave me a look – pity and humour were in it – that suggested I was deluded to believe I had a choice. (p.232)

Our own technical accomplishment was leaving us behind, as it was always bound to, leaving us stranded on the little sandbar of our finite intelligence. (p.254)

Only the Third Reich and other tyrannies decided policy by plebiscites and generally no good came from them. (p.257)

At his side sat the historian, E. P. Thompson. When it was his turn, he said that patriotism had always been the terrain of the political right. Now it was the turn of the left to claim it for all. (p.257)

[…] leaving us to meet his maker. (p.293)