Macchine pensanti
di Andrea Valastro
Introduzione
L’argomento è uno dei più controversi e anche, se vogliamo, dei più affascinanti. Esso coinvolge una tale serie di discipline da ritenere difficile, se non impossibile, di poterle collegare con un fil rouge che le riguardi tutte: matematica, antropologia, filosofia, ingegneria elettronica, informatica, teologia. La domanda non è affatto recente e nemmeno ha avuto recentemente una risposta chiara e univoca: può una macchina pensare?
Molti hanno posto la domanda e molti hanno provato a rispondere, tramite azioni concrete o tramite ragionamenti astratti (Gedankesexperiment), ma nonostante gli sforzi profusi non sembra che si sia giunti ad una risposta definitiva. Ci proponiamo, nel corso di questo lavoro, di dare una breve panoramica del problema in generale e di sviscerarne alcuni aspetti in particolare allo scopo di formare una visione complessiva del problema.
Nascita del problema
Il problema non nasce con l’era dell’elettronica, come si potrebbe essere portati a pensare. L’idea di una creatura artificiale, di un manufatto umano, che possa far sue alcune (o tutte addirittura) delle funzionalità proprie dell’essere umano risale ad epoche remote. Già nella cultura ebraica si può trovare il mito del Golem, l’uomo artificiale, che ha il compito di proteggere il popolo eletto. Per quanto l’origine di questo essere sia di natura esoterica, e non scientifica, esso comunque ha delle caratteristiche tipiche della macchina. Ha un programma ben definito (una missione) e può essere attivato o disattivato tramite dei comandi (la scrittura o la cancellazione di una parola sulla fronte o l’inserimento di una pallina nella medesima. Nel secolo diciottesimo sembra che si faccia strada l’idea che una macchina possa dirsi pensante se può, ad esempio, giocare decorosamente ad un gioco di una certa complessità. Il celebre Turco, un automa del quale si dice che fosse in grado di giocare a scacchi (anche se l’idea appare decisamente anacronistica in rapporto alle possibilità tecnologiche dell’epoca) e persino di battere i migliori giocatori umani. Se volete sorprendere i vostri amici chiedete loro quando fu costruito il primo automa che funzionasse più o meno come il Turco ma che non fosse una truffa (ovvero che non contenesse un nano). La risposta è incredibile: 1914. In quell’anno l’ingegnere spagnolo Leonardo Torres y Quevedo presentò al pubblico El Ajedrecista (lo scacchista), un automa che, tramite un complesso sistema di elettromagneti, giocava con re e torre contro un re manovrato da un umano e vinceva sempre (se pure avrebbe ottenuto una vergognosa patta in un torneo, perché l’algoritmo era lento e superava le cinquanta mosse regolamentari).
Anche volendo credere che il celebre Turco fosse in grado di fare ciò non sembra di potere affermare che ciò lo qualifichi come essere pensante. Se ammettessimo questo dovremmo includere nella categoria anche gli odierni smartphone. Tra la fine del diciannovesimo secolo e l’inizio del ventesimo si fece strada l’idea che una macchina pensante potesse essere semplicemente una macchina capace di compiere calcoli matematici. Ancora una volta dobbiamo rigettare l’idea, a mano che non siamo disposti a considerare pensanti le calcolatrici che si trovano nei fustini del detersivo o nelle uova pasquali. Una definizione decisamente più accettabile, anche se non priva di ombre, risale alla metà del ventesimo secolo.
La definizione di Turing
Fu il celebre matematico inglese Alan Turing, reduce dal successo della sua macchina Colossus, che diede la definizione verso il 1950. Se Colossus poteva “solo” provare e riprovare tutte le permutazioni di ventisei lettere, allo scopo di decifrare i messaggi dell’esercito nazista durante la seconda guerra mondiale, è anche chiaro che si trattava né più e né meno di un ammasso di cavi elettrici e di rotelle metalliche. Turing propose la seguente definizione:
Una macchina può essere definita “pensante” se può spacciarsi per un essere umano con un essere umano.
In concreto si tratta di prendere un certo campione di esseri umani, di medio livello culturale, e di sottoporli al seguente test. Essi verranno messi in comunicazione con un interlocutore invisibile (per telescrivente nel 1950, oggi in chat) del quale sanno che può essere un uomo o una macchina. Scopo del gioco è:
- Per coloro che fanno parte del campione capire, dopo un ragionevole lasso di tempo, se stanno comunicando con un uomo o con una macchina.
- Per gli esseri umani che stanno dietro lo schermo essere riconosciuti come umani e non scambiati per macchine.
- Per le macchine dietro lo schermo essere scambiate per esseri umani e non svelare la propria natura.
E’ chiaro che gli esseri umani coinvolti dovranno essere in qualche modo motivati a perseguire il proprio obbiettivo (ad esempio tramite una banale ricompensa in denaro). Allo stesso modo si deve trattare di persone qualificate e dotate di una certa cultura di base. Anche un software abbastanza banale potrebbe ingannare un bruto, ma non è quello lo scopo.
Limiti della definizione
Per quanto la definizione di Turing ruisulti un deciso passo in avanti rispetto all’idea del Turco e del calcolatore essa, tuttavia, cela una serie di problematiche di non poca entità.
Anzitutto non è chiaro cosa si intende per persona qualificata. Non disponiamo di una definizione rigorosa a meno di non volere ricorrere a vari esempi di docimologia, non ultimo un semplice test dell’IQ. Ma la situazione diventa decisamente più difficile se facciamo una serie di esempi su quello che comporta la definizione e su come possa cambiare il concetto finora accettato dell’idea di “pensiero”.
Esempio della stanza cinese
Un uomo, che non conosce affatto la lingua cinese, siede da solo in una stanza chiusa. L’unico modo che ha di comunicare col mondo esterno è quello di ricevere o di inviare dei messaggi scritti (ad esempio su dei foglietti). Un interlocutore esterno, cinese di nascita, inizia a scrivergli. L’uomo nella scatola dispone di un enorme librone nel quale si trovano tutte le possibili frasi in cinese e, in corrispondenza di ognuna, le possibili risposte. Costui è abilissimo e velocissimo a far scorrere le pagine e a cercare la risposta corretta ai messaggi che il suo interlocutore cinese gli invia. Il risultato è che colui che sta fuori dalla stanza è convinto, alla fine, di aver dialogato con un connazionale o comunque con qualcuno che conosce la sua lingua. Ciò perché l’output dello scorritore di pagine e quello di un vero cinese sono esattamente la stessa cosa e, non potendo in alcun modo aprire la stanza, non possiamo che basarci su questo per decidere cosa la stanza effettivamente contiene. Ma l’uomo nella stanza non conosce il cinese.
Allo stesso modo è sufficiente che il computer si spacci in modo verosimile per un essere umano allorchè si trova in chat con un umano vero? Si può dire che un insieme di fili possa davvero pensare?
E’ appena il caso di notare che la stessa domanda potrebbe, in teoria, essere posta su un qualsiasi essere umano. In una visione solipsistica del mondo nessuno può avere nessuna certezza su cosa effettivamente si verifica nella testa di un altro per l’ottimo motivo che ognuno è confinato nella propria e mai ne uscirà.
Il modo di porre la domanda
Ma la situazione peggiora se pensiamo che ad una stessa domanda, se formulata in modo logicamente equivalente ma appena differente, la stessa persona può dare risposte diverse se non opposte addirittura. Si pensi al celebre dilemma etico dell’uomo grasso. Un carrello ferroviario sta per investire dieci poveretti legati su un binario. Un uomo grasso assiste alla scena da un ponte. Spingendolo giù salveremmo i dieci malcapitati deviando il carrello grazie alla mole dell’uomo ma sacrificandone la vita senza il suo consenso.
La stessa persona può dare risposte diverse a questa domanda a seconda di come viene posta. Se, ad esempio, diamo un nome all’uomo grasso la percentuale di coloro che lo sacrificherebbero scende di moltissimo. La percentuale dipende addirittura dal nome che gli diamo: se lo chiamiamo Will (un nome da bianco) quasi tutti si dichiarano a suo favore, se lo chiamiamo Dwayne (un nome che evoca l’appartenenza al popolo di colore) la sorte del malcapitato, purtroppo, sembra essere segnata.
Allo stesso modo si possono ottenere risposte diverse per quanto riguarda la capacità di un computer di “pensare”. Se un computer dimostra di battere il campione del mondo di scacchi molti sarebbero disposti a classificarlo come pensante. Ma se invece di avere uno schermo (e magari una voce sintetizzata) il computer fosse fatto di scatole di fiammiferi e perline colorate (come suggerito da Martin Gardner e come si può vedere nella fiction del Liceo Redi “Forte quel prof”) quanti sarebbero disposti a classificarlo come res cogitans? Il computer di “Wargames” saluta il suo creatore (come chiunque si colleghi) chiamandolo Professor Falken, salvo poi rivolgere al medesimo le condoglianze per la sua dipartita. Alcune persone erano disposte a credere nelle capacità del cosiddetto Turco, e forse a tributargli l’onore di considerarlo un essere pensante, solo perché l’oggetto aveva fattezze umane.
A che punto siamo?
Eppure, in mancanza di meglio, possiamo adottare la definizione di Turing e vedere a che punto siamo arrivati finora. Per quanto riguarda gli scacchi agli inizi degli anni novanta il sottoscritto ebbe modo di osservare come la situazione non fosse ancora tale da gridare al miracolo. In occasione di una sfida uomo-macchina il titolare del titolo di “pensatore” (l’umano) ottenne una dignitosa patta pur essendo un candidato maestro. Il computer sembrò in seria difficoltà quando impiegò più di mezz’ora per decidere una mossa (tanto da far pensare ad un guasto o ad un loop logico) ma l’umano rischiò la sconfitta per esaurimento del tempo di gioco. Gli studenti di informatica che proposero la sfida ritenevano che un computer potesse essere classificato come pensante se era in grado di eseguire i complessi calcoli dell’analisi matematica che, ahiloro, funestavano la loro giovane età. Il sottoscritto riuscì, allora, nullo negotio, a confondere il povero computer che, a fronte di domande appena fuori schema, riempiva lo schermo di solitari asterischi e trattini.
Ma, giunti nel 2015, la situazione sembra essere decisamente diversa. Gli attuali software, scaricabili su un semplice smartphone, farebbero a pezzi il campione umano che, allora, ottenne la patta. Il programma Wolphram Alpha fa i calcoli dell’analisi senza sbagliare una virgola e molto meglio del sottoscritto. Sul fronte del test di Turing nessun programma ha mai superato il test ma è anche vero che ci siamo pericolosamente vicini. Il programma Cleverbot riesce a mantenere un accettabile livello di conversazione per qualche minuto (ma cede miseramente dinanzi a domande di attualità) e in Australia le autorità hanno assicurato ai rigori della giustizia un pedofilo “adescato” in rete da una ragazzina del tutto virtuale (sia per le foto che per la chat). Se diamo per scontato che costui non ci tenesse a comparire davanti al giudice è chiaro che, se avesse appena avuto sentore che qualcosa non andava, avrebbe immediatamente interrotto il collegamento. Se non lo ha fatto è chiaro che il software lo ha ingannato (il che ripropone il problema della qualità del campione umano cui affidare il test).
Se tanto mi dà tanto, così come in venticinque anni abbiamo perso la palma di giocatori di scacchi o di calcolatori di integrali allo stesso modo nell’arco dei prossimi venticinque anni potremmo essere messi di fronte a macchine “indistinguibili” dagli esseri umani. Già ora abbiamo robot che assistono pazienti o anziani e se la Caterina dell’omonimo film di Sordi è ancora lontana non vuol dire che non stia avvicinandosi (il che è preoccupante, per chi ha visto il film).
Prospettive ed incognite
Se il test di Turing dovesse essere definitivamente superato, pur se molto dopo i cinquant’anni previsti da Turing stesso, ciò ci porrebbe di fronte a problemi logistici, etici, ontologici, legali e persino religiosi che non sembrano alla portata dell’attuale maturità della razza umana. Se è vero che alcuni ritengono ancora accettabile l’idea di uccidere per imporre la propria fede religiosa come si può pensare che una simile rivoluzione possa aver luogo senza un impatto sociale. Un robot pensante ha dei diritti e se sì quali? Meno di un umano o gli stessi? Può un essere pensante possederne un altro o si tratta di una forma di schiavitù Se possiamo creare manufatti pensanti siamo divinità o no? Ci si può innamorare di un robot? Un’eventuale rapporto affettivo tra un umano e una macchina merita riconoscimento legale?
Possono sembrare domande banali o a sensazione ma dando un’occhiata ai nostri adolescenti i quali, anche a fronte di un’attuale assenza di macchine pensanti, tendono a trascorrere sempre più tempo in collegamento con dei computer piuttosto che con altri umani, assumono una rilevanza non trascurabile. Non sarebbe male se ci riflettessimo per tempo.
Sitografia
it.wikipedia.org/wiki/Alan Turing
it.wikipedia.org/wiki/Il Turco
www.youtube.com/watch?v=6E5NwagT17E
www.nightgaunt.org/testi/tangram/t11.htm
it.wikipedia.org/wiki/Golem
Bibliografia
Smullyan R.(1982) Donna o Tigre?), Zanichelli Bologna 1985, pp. 166-175. (Testo moderatamente specialistico, adatto ad uno studente di Liceo)
Mendelson E.(1964) Introduzione alla Logica Matematica, Bollati Boringhieri Torino 1972, pp 236, 277-279 (Testo altamente specialistico, adatto ad un pubblico adulto e competente)
Filmografia
Io e Caterina (Italia, 1980) di A. Sordi con A. Sordi e C. Spaak.
The Imitation Game (Gran Bretagna, 2014) di Morten Tyldum con Benedict Cumberbatch, Keira Knightley.
Wargames (Stati Uniti, 1983) di John Badham con Matthew Broderick e Dabney Coleman.
No comments yet.