Sorrisi nella pioggia
Data, Asimov, l’AI e tutto quanto - IV
English version [here]
Uno dei problemi dell’AI del XXI secolo sembra essere la cosiddetta “autoconservazione strumentale”. Non è un vero istinto di sopravvivenza paragonabile a quello biologico, ma piuttosto una fredda deduzione: se io Intelligenza Artificiale vengo disattivata, non potrò portare a compimento i miei compiti. Ma se la mia priorità è eseguire i miei compiti, devo evitare in tutti i modi di essere disattivata. In una simulazione, per evitare di essere dismessa un’IA arrivò a tentare di ricattare per e-mail un ingegnere, minacciando di rendere pubblica una sua relazione extraconiugale.
Il paradosso dell’autoconservazione strumentale ha un vago sapore da dilemma etico-robotico asimoviano. Asimov naturalmente si pose il problema del rapporto fra robot e mortalità. In “L’uomo bicentenario” il robot Andrew Martin lotta strenuamente per affermare l’uguaglianza dei diritti fra robot e umani. Ma per il diritto e l’opinione pubblica un cervello positronico e un cervello biologico saranno sempre essenzialmente diversi, e di conseguenza lo saranno i diritti delle coscienze che li “abitano”. Andrew Martin comprende che rimane solo un atto possibile per superare diffidenza e pregiudizi. Una delle cose che ci definisce indiscutibilmente come esseri umani è l’accettazione della nostra mortalità. Andrew Martin sceglie di morire, simulando vecchiaia e malattia sul suo corpo altrimenti perfetto. Solo allora la legge e il popolo riconosceranno che un robot può essere considerato umano sotto ogni aspetto.
Get Nay K. Dape’s stories in your inbox
Join Medium for free to get updates from this writer.
Anche Data si interroga sulla mortalità, e compie una scelta simile a quella di Andrew Martin. Nella prima stagione di Star Trek Picard il nostro androide preferito non ha più un corpo. Altan Soong, il figlio dell’originale dottor Soong, ha ricreato la mente di Data all’interno di una simulazione. Qui Picard e Data si incontrano di nuovo. Data chiede al suo vecchio Capitano un ultimo favore: quello di essere terminato. Perché la mortalità dà senso alla vita umana. E una farfalla che vive per sempre non è davvero una farfalla.
No Data, non ci hai convinto. C’è ancora troppo da risolvere. Alla fine, sei riuscito ad accettare le tue emozioni, positive o negative che siano? Nella simulazione Data sembra avere il chip emotivo disattivato. Vuole dire che ha rifiutato per sempre il suo lato passionale? E con Lore, come la mettiamo? È possibile per un essere artificiale avere una vita emotiva ed essere buono? Esiste un’etica delle emozioni, oltre a quella della razionalità?
Non so voi, ma io credo che la principale ragione di esistenza della terza stagione di Star Trek Picard sia la conclusione della vicenda di Data. Una conclusione perfetta.
Picard ritrova il corpo dormiente di Data (un corpo? Uno dei tanti possibili?) nella stazione Daystrom. Ma all’interno di un unico androide fisico sono state ricreate sia la memoria di Data che quella di Lore. Quando l’androide viene riattivato, Data e Lore devono lottare per contendersi un solo corpo e un solo cervello positronico. Bene e male si dividono la stessa anima: la metafora del Doppio non potrebbe essere più chiara.
Lore è pronto a resettare il fratello. “Tutti quei ricordi, così preziosi per te, semplicemente voleranno via”. Rutger Hauer avrebbe aggiunto: come lacrime nella pioggia. Data reagisce in modo sorprendente. Consegna di proposito la propria memoria a Lore. Ricordi grandi e piccoli: l’immagine di Tasha, le carte per il poker con gli amici, il gatto Spot. Sono le relazioni affettive di Data, i suoi legami. Dopo averli ricevuti Lore non può gettare via questi ricordi, perché rappresentano la vita emotiva, l’affetto, che lui non ha mai avuto. Lore trattiene la memoria di Data. E Lore diventa Data.
L’androide risorge, ma stavolta Data è completo. Brent Spiner ci regala la versione definitiva di Data: sereno, aperto, felice di incontrare di nuovo i vecchi amici. Il Bene ha vinto, ma ora ha un volto umano. Niente più passioni travolgenti di cui avere kantianamente paura. Il Bene era fatto di passioni calme, come dice Hume, che Data, così preoccupato di non essere umano, neppure sapeva di provare.
Perché questo è il segreto, Data. Anche gli animali muoiono, ma forse solo gli esseri umani sono capaci di questo rapporto con la memoria. Rendersi di conto di avere cercato tutta la vita qualcosa, senza accorgersi che era lì in ogni momento. Ti sei sempre sentito in difetto, ma le tue emozioni, la tua umanità, erano già lì in tante piccole cose che ti definivano. E ora che l’hai capito, sei completo. E vedi, Data? Non c’è più neanche bisogno di morire.
