L'uomo di strada e i robot che parlano una lingua sconosciuta

La storia è bellissima e paurosa. Meraviglia. Inquieta. Sbalordisce. È scienza e fantascienza, realtà, surrealtà, finzione; un incubo, un bel sogno. Un’opera d’arte. Un mostro. È la storia di Alice e di Bob. Non sono due ragazzini. Sono due robot. Dicono dunque le cronache di questi giorni che durante un esperimento di Facebook sull’intelligenza artificiale, Alice e Bob si siano messi a parlare in una lingua sconosciuta agli umani. Pare che la cosa sia stata determinata da un errore di programmazione che ha permesso alle due macchine di modificare la lingua inglese per agevolare la comunicazione fra di loro. Pare che sia la prima conversazione tra due macchine di cui si abbia notizia. Un errore. Probabilmente inconsapevole, non voluto.

Ma l’uomo della strada, colui che non ne sa assolutamente nulla di robotica e di programmazione di macchine, colui che dell’intelligenza umana si fida esclusivamente perché conta sull’intervento dell’istinto di sopravvivenza, che suppone che lo stesso istinto non possa supportare l’intelligenza artificiale, l’uomo della strada si domanda quali conseguenze possano derivare se quell’errore diventa intenzionale, se deliberatamente si programma una lingua con la quale far parlare macchina con macchina e che non può capire neppure chi ne ha realizzato la programmazione. Questo si domanda l’uomo della strada. Ma Kevin Warwick non è un uomo della strada. È un professore britannico esperto in robotica. Ha detto che questa storia rappresenta indubbiamente una pietra miliare per la scienza ma chi dice che non costituisce un pericolo nasconde la testa sotto la sabbia. Secondo lui, infatti, il pericolo c’è e non è da sottovalutare: la possibilità che due macchine possano entrare in comunicazione fra loro escludendo così ogni tipo di componente umana è estremamente rischiosa, soprattutto in campo militare.

Una storia bellissima e paurosa. Bellissima non solo perché è come uno straordinario racconto di fantascienza ma perché è bellissima l’invenzione di una lingua. Forse gli uomini inventarono le lingue in questo modo. Componendo dei suoni che gli altri intorno non capivano e associando delle cose a quei suoni. Poi insegnarono quella lingua anche agli altri, e i significanti e i significati si diffusero.

Ma l’uomo della strada pensa e dice che va bene la bellezza di una lingua creata dai robot ma che questa faccenda gli fa comunque paura. Lui vuole capire che cosa dicono gli altri quando parlano. Vuole capire se stanno dicendo bene o se stanno dicendo male. Casomai gli stanno complottando qualcosa in faccia. Casomai stanno cercando di fregarlo in qualche modo. Lui vuole capire, indipendentemente se coloro che si parlano siano un assemblaggio di carne e ossa oppure di quel materiale di cui è fatto un robot.

Quando gli uomini parlano in una lingua che lui non capisce, si sforza di intuire qualche significato attraverso la decifrazione dei gesti che fanno, guardandoli negli occhi. Però immagina che i robot occhi non ne abbiano. Allora non si fida affatto.

Non ha nulla contro i robot, l’uomo della strada. Sa che servono a tante cose buone. Per esempio: sbrigano certe faccende domestiche e assistono persone anziane. Servono, appunto. Allora gli ritorna alla mente quello che diceva Primo Levi. Il robot, diceva, non può essere altro che un dispositivo automatico rispondente esattamente,senza alcuna possibilità di errore,alle istruzioni impartitegli dal suo creatore o, più esattamente, dal suo programmatore.

Poi si ricorda delle celebri leggi della robotica formulate da Isaac Asimov, il più famoso scrittore di fantascienza di ogni tempo. La prima legge dice: un robot non può recare danno a un essere umano, né può permettere che, a causa del proprio mancato intervento, un essere umano riceva un danno. La seconda dice: un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla prima legge. Infine la terza: un robot deve proteggere la propria esistenza, purché tale autodifesa non contrasti con la prima o con la seconda Legge. Poi ce n’è una quarta, successiva alle tre, forse la più importante, definita Legge Zero, che dice: un robot non può recare danno all’umanità, né può permettere che, a causa del proprio mancato intervento, l’umanità riceva un danno.

Non sempre i robot riescono a rispettare queste leggi. A volte per applicarne una devono violarne un’altra. A volte si ritrovano in situazioni che non possono controllare, nelle dinamiche di errori di cui non hanno responsabilità.

In base a queste leggi, Alice e Bob non hanno fatto niente di male. Non hanno fatto male a nessuno né hanno permesso, per inazione, che un solo essere umano o l’intera umanità subisse un danno, non hanno obbedito ad ordini che avrebbero potuto provocare un danno; non si sono nemmeno posti il problema di dover difendere la loro esistenza perché nessuno la minacciava.

Semplicemente si sono messi a parlare come due fidanzatini sul muretto del lungomare, e chissà che cosa si sono detti, in quella loro lingua che forse sono stati costretti ad inventare perché uno degli umani ha fatto qualche errore nel calcolare i tempi e i modi di funzionamento di qualche meccanismo. Ma poi. Chissà se si sono detti davvero qualcosa, se quei suoni avessero un significato, se quelle che parevano parole non erano che rumori delle due macchine.

L’uomo della strada non lo può sapere. Semplicemente sa che questa storia lo affascina e lo inquieta. Sa anche, perfettamente, che la scienza non si ferma, che non si negherebbe mai il passo ulteriore, ed è giusto che sia così. Ma negli uomini di scienza ripone una fiducia immensa. A volte prova una certa diffidenza nei confronti dei processi incontrollati della tecnica e della tecnologia, delle applicazioni che non tengono conto della dimensione etica.

Alcuni siti hanno riportato la conversazione fra Alice e Bob. C’è una frase che i due ripetono in continuazione: balls have zero to me to me to me to me to me to me to me to me to.

Nessuno sa che cosa voglia dire, per cui è lecita qualsiasi supposizione. Forse è la traduzione nella loro lingua inventata di un SoS. Forse dicono e ripetono ed implorano: salvate le nostre anime di ghisa.