Tecnologia e progresso scientifico

Oggi c’è molta speculazione su un possibile futuro in cui l’umanità sarà sorpassata o addirittura distrutta dalle macchine. Sentiamo parlare di auto che si guidano da sole, di Big Data, di rinascita dell'intelligenza artificiale e perfino di transumanesimo, l'idea secondo cui sarà possibile scaricare la nostra esperienza e consapevolezza in un computer e vivere per sempre. Leggiamo anche dichiarazioni di personaggi importanti come Steven Hawking, Bill Gates ed Elon Musk sui pericoli della robotica e dell'intelligenza artificiale. Allora, cos'è vero e cos'è falso nell'informazione che riceviamo?

In tutte queste proiezioni, si prende come dato di fatto che sarà possibile realizzare macchine autonome e intelligenti in un futuro non troppo lontano: macchine uguali se non migliori di noi. Ma questa supposizione è corretta? Il mio pensiero è che la vera intelligenza richiede coscienza, e che la coscienza è qualcosa che le nostre macchine digitali non hanno, e non avranno mai.

La maggior parte degli scienziati crede che siamo solo macchine: sofisticati sistemi di elaborazione delle informazioni basati su wetware. Ecco perché pensano che sarà possibile realizzare macchine che supereranno gli esseri umani. Credono che la coscienza emerga solo dal cervello, che sia prodotta da qualcosa di simile al software che funziona nei nostri computer. Pertanto, con un software più sofisticato, i nostri robot finiranno per essere consapevoli. Ma ciò è davvero possibile?

Bene, cominciamo con il definire cosa intendiamo per coscienza. Io so, dentro di me, di esistere. Ma come faccio a saperlo? Sono sicuro che esisto perché lo sento dentro di me. Quindi, è il sentire il portatore della conoscenza. La capacità di sentire è la proprietà essenziale della coscienza. Quando annuso una rosa, sento l'odore. Ma attenzione! La sensazione non è l'insieme dei segnali elettrici prodotti dai recettori olfattivi all'interno del mio naso. Questi segnali elettrici portano informazioni oggettive, ma tali informazioni sono tradotte nella mia coscienza in una sensazione soggettiva: cioè il profumo che quella rosa mi fa sentire. Dove mai si nasconde il profumo nei segnali biochimici ed elettrici?
Per esempio, è certamente possibile costruire un robot in grado di riconoscere la particolare combinazione di molecole diverse emesse da una rosa che permettono di identificarla correttamente dal suo odore. Però quel robot non proverebbe nessuna sensazione. Non sarebbe consapevole dell'odore sotto forma di sensazione. Per essere consapevoli bisogna sentire il profumo. Ma il robot si ferma ai segnali elettrici, e da quei segnali può generare quello che corrisponde al nome "rosa" - un altro simbolo - a cui può anche essere associato qualche tipo di azione. Noi facciamo molto di più perché sentiamo l'odore della rosa, e attraverso quella sensazione ci colleghiamo in modo speciale a quella rosa, e al significato che le rose hanno nella nostra vita.

La coscienza potrebbe essere definita semplicemente come la capacità di sentire. Ma sentire implica l'esistenza di un soggetto che sente - un sé -, e quindi la coscienza è inestricabilmente legata a un sé. È la capacità intrinseca di un sé di percepire e conoscere attraverso le sensazioni e i sentimenti, cioè attraverso un'esperienza senziente: è una proprietà che definisce un sé. Ora, i sentimenti sono chiaramente una categoria di fenomeni diversa dai segnali elettrici e biochimici: sono incommensurabili con loro. I filosofi hanno coniato la parola quale per indicare che cosa si prova. E spiegare l'esistenza dei qualia (plurale di quale) è chiamato “il problema difficile della coscienza”, perché nessuno lo ha mai risolto. Nel mio discorso userò la parola "qualia" per descrivere quattro classi diverse di sentire: sensazioni fisiche, emozioni, pensieri e sentimenti spirituali.
I segnali elettrici siano essi in un computer o in un cervello, non producono qualia. E non c'è nessuna legge fisica che ci dice come tradurre segnali elettrici in qualia. Come si spiega allora l'esistenza dei qualia?
Avendo studiato il problema per oltre vent'anni, sono arrivato alla conclusione che la coscienza dev'essere un aspetto irriducibile della natura, una proprietà intrinseca di quella "sostanza" da cui spazio, tempo, materia ed energia sono emersi nel Big Bang.
In questa prospettiva, ben lungi dall'essere un epifenomeno, la coscienza è reale. In altre parole, la sostanza di cui tutta la realtà è fatta è cosciente ab initio, e l'espressione materiale più evoluta di questa sostanza è ciò che chiamiamo "vita". Secondo questa visione, la coscienza non è una proprietà emergente di un sistema complesso, ma al contrario: un sistema complesso è una proprietà emergente della sostanza cosciente di cui tutto è fatto. Pertanto, la coscienza non può magicamente emergere dagli algoritmi, ma è già presente nei campi delle particelle elementari di cui tutto è fatto. In quest' ottica, la coscienza e i sistemi fisici co-evolvono verso complessità sempre maggiori. Sono due aspetti irriducibili della stessa realtà.
Non c'è abbastanza tempo per esplorare quest' argomento in profondità, perché voglio invece portare argomenti per dimostrare che la coscienza è indispensabile per realizzare macchine veramente intelligenti e autonome, e che la coscienza non è una proprietà che emergerà dai computer booleani.

C’è però chi potrebbe insistere che i computer potranno comportarsi meglio degli uomini, anche senza coscienza. Discuterò questo punto in seguito mostrando che la comprensione è una proprietà fondamentale della coscienza, ancora più importante della percezione dei qualia, e che la comprensione è ciò che definisce la natura della vera intelligenza. Quindi, se non c'è coscienza non c'è comprensione, senza comprensione non c'è intelligenza, e senza intelligenza un sistema non può essere autonomo a lungo.
Consideriamo ora come gli esseri umani prendono decisioni: il nostro sistema sensoriale converte in segnali elettrici le varie forme d'energia che esistono nel nostro ambiente. Questi segnali vengono poi inviati al cervello per essere elaborati, e il risultato dell'elaborazione è un altro insieme di segnali elettrici, che rappresentano ciascuno le informazioni multisensoriali visive, uditive, tattili e così via. I computer possono certamente arrivare fino a questo punto.
Però in noi quest'informazione viene convertita in conoscenza semantica all'interno della nostra coscienza, sotto forma di un insieme di qualia multisensoriali che rappresentano lo stato sia del mondo interiore sia del mondo esterno. In effetti, è ancora più preciso dire che il mondo esterno oggettivo è stato portato dentro di noi in una rappresentazione soggettiva costruita dal cervello, che la nostra coscienza integra nella percezione di due mondi distinti.
Questo è ciò che chiamo percezione senziente. Si tratta solo del dato semantico grezzo dal quale viene estratto un significato soggettivo attraverso la comprensione, un processo addizionale ancora più misterioso di quello che ha prodotto la percezione. La comprensione è ciò che ci permette di capire il significato della situazione attuale nel contesto della nostra esperienza passata e dell'insieme dei nostri desideri, aspirazioni e intenzioni.

La comprensione quindi è il passo necessario prima che possa essere fatta una scelta intelligente. È la comprensione che ci consente di decidere se un' azione sia necessaria o meno e, in caso affermativo, quale azione sia quella ottimale. Il grado di coinvolgimento della coscienza nel decidere quale azione intraprendere ha una vasta gamma, passando da nessun coinvolgimento, quando l'azione (o l'inazione) è automatica, fino a una riflessione cosciente prolungata, che può richiedere giorni o settimane di riflessione sul da farsi prima di decidere quale azione intraprendere.
Quando la situazione corrente è giudicata simile ad altre situazioni note in cui una determinata azopme ha prodotto buoni risultati, la stessa azione può essere scelta inconsciamente, producendo essenzialmente una risposta condizionata. Questo comportamento è simile a un comportamento meccanico. All’estremo opposto ci sono situazioni mai incontrate prima, nel qual caso le varie scelte possibili, basate sulla precedente esperienza, sono inapplicabili.  
Qui è dove la nostra coscienza viene coinvolta, permettendoci di trovare una soluzione più o meno creativa. È questo l'aspetto cruciale dove la coscienza è indispensabile: nel risolvere non problemi banali, ma problemi mai prima affrontati. Pertanto, la vera intelligenza è la capacità di giudicare correttamente una situazione e di trovare una soluzione creativa qualora la situazione la richieda. La vera intelligenza richiede comprensione.

Per avere un’autentica autonomia, un robot dev'essere in grado di operare liberamente e di gestire abilmente l'enorme variabilità di situazioni che s’incontrano nella vita reale. Ma, ancora di più, deve saper gestire anche situazioni in ambienti ostili in cui c'è inganno e aggressione. È la quasi infinita variabilità di queste situazioni che rende necessaria la comprensione.
Solo la comprensione può ridurre o rimuovere l'ambiguità presente nei dati oggettivi. Un esempio di questo problema è il riconoscimento della scrittura a mano o la traduzione da una lingua in un'altra in cui l'informazione simbolica è carente o è ambigua. Solo la comprensione può aggiungere l'informazione mancante per risolvere il problema.
I robot autonomi sono possibili solo in situazioni in cui l'ambiente è controllato artificialmente o la sua variabilità è prevedibile a priori. Dove ciò non è possibile, la differenza tra una macchina e un essere umano diventa un abisso incolmabile.
Tutte le macchine che costruiamo computer inclusi, sono realizzate assemblando un certo numero di parti separate. Quindi possiamo, almeno in linea di principio, smontare una macchina in tutti i suoi componenti separati e rimontarla, e la macchina funzionerà di nuovo. Però non possiamo "smontare" una cellula vivente nei suoi componenti atomici e poi riassemblare le "parti" sperando che la cellula funzioni di nuovo. La cellula vivente è un sistema dinamico di un tipo diverso rispetto alle nostre macchine: utilizza componenti quantici che non hanno confini definibili.

Studiamo le cellule in modo riduttivo, come se fossero macchine, ma in realtà le cellule sono sistemi oIistici. Una cellula è anche un sistema aperto, perché scambia costantemente energia, informazione e materia con l'ambiente in cui esiste. La struttura fisica della cellula è quindi dinamica, perché viene ricreata continuamente con parti che fluiscono costantemente dentro e fuori di essa, anche se ci sembra che rimanga la stessa. Una cellula non può essere separata dall'ambiente con cui è in simbiosi senza perdere qualcosa d'essenziale. Un computer invece, per tutto il tempo in cui funziona, ha gli stessi atomi e molecole che aveva quando fu costruito. Nulla cambia nel suo hardware e, in questo senso, è un sistema statico.
Il tipo d'elaborazione delle informazioni svolto in una cellula è completamente diverso da ciò che avviene nei nostri computer. In un computer, i transistori sono collegati insieme in uno schema fisso; in una cellula, le parti interagiscono liberamente tra di loro, elaborando le informazioni con principi informatici che ancora non conosciamo. Ma, finché studieremo le cellule come sistemi biochimici riduttivi invece che come sistemi d'elaborazione dell'informazione quantistica, non saremo in grado di capire le differenze che esistono tra loro e i computer booleani.

Quando studiamo una cellula in modo riduttivo e separata dal suo ambiente, riduciamo un sistema olistico alla somma delle sue presunte parti, gettando via ciò che è più della somma delle parti. E proprio lì che si nasconde la coscienza. La coscienza esiste solo nella dinamicità aperta della vita, che esiste all'interno dei campi quantici delle particelle elementari. E la vita è inestricabilmente legata al dinamismo che vediamo nelle cellule, che sono gli "atomi" indivisibili di cui tutti gli organismi viventi sono costituiti. La morale è che la vita e la coscienza non sono riducibili alla fisica classica, mentre i computer lo sono. Le cellule sono ritenute strutture classiche, invece non lo sono.
Senza la coscienza dei campi quantistici, il sé e l’interiorità fatta di significati non possono esistere. I robot sono soltanto meccanismi che imitano un essere vivente, copiando solo l’aspetto simbolico esterno di un sé cosciente.
Come sarebbe la nostra vita se non sentissimo nuIla? Se non provassimo l’amore, la gioia, l’entusiasmo, il senso della bellezza e, perché no, anche il dolore? Una macchina è uno zombi che passa attraverso una successione di movimenti meccanici senza sentimenti e comprensione. Non c’è vita intenore in una macchina: è tutta esteriorità. In un organismo vivente anche il mondo esterno è portato “dentro”, per così dire, per dargli un significato. Ed è la coscienza che dà significato alla vita.

L'idea che i computer classici possano diventare più intelligenti degli esseri umani è, in realtà, una fantasia pericolosa. Pericolosa perché, se l'accettiamo, ci limiteremo a esprimere solo una piccolissima frazione di ciò che siamo realmente. Quest'idea ci toglie potere, libertà e soprattutto umanità: qualità che appartengono alla nostra coscienza, e non alla macchina che ci viene detto che siamo.
A mio avviso, il vero pericolo dei progressi della robotica e dell'intelligenza artificiale non è quello di creare macchine che prenderanno il sopravvento sull'umanità perché saranno più perfette di noi. Il vero pericolo è che uomini malvagi possano causare danni seri all'umanità e all'ecosistema controllando computer e robot sempre più potenti soltanto per il loro interesse. Ma allora sarà l'uomo, non la macchina, a causare il problema. Questa è una grande sfida che la società dovrà affrontare il più presto possibile. Usati correttamente, i computer, i robot, e l'intelligenza artificiale ci permetteranno di scoprire la magnificenza di tutta la vita man mano che ci confronteremo con loro.
Guidata da buone intenzioni la nuova conoscenza accelererà la nostra evoluzione spirituale. Se motivata da cattive intenzioni, l'umanità potrà essere schiavizzata da uomini pieni di odio ed egoismo. La scelta è nostra e solo nostra.

Tratto da: F. Faggin, Silicio. Dall'invenzione del microprocessore alla nuova scienza della consapevolezza, Mondadori, Milano 2019, pp. 299-305

Federico Faggin 

(Vicenza, 1º dicembre 1941)

Faggin è un fisico, inventore e imprenditore italiano naturalizzato statunitense. Fu capo progetto e progettista dell'Intel 4004 e responsabile dello sviluppo dei microprocessori 8008, 4040 e 8080 e delle relative architetture. Fu anche lo sviluppatore della tecnologia MOS con gate di silicio (MOS silicon gate technology), che permise la fabbricazione dei primi microprocessori e delle memorie EPROM e RAM dinamiche e sensori CCD, gli elementi essenziali per la digitalizzazione dell'informazione. Nel 1974 fondò e diresse la ditta ZiLOG, la prima ditta dedicata esclusivamente ai microprocessori, presso cui dette vita al famoso microprocessore Z80. Nel 1986 Faggin co-fondò e diresse la Synaptics, ditta che sviluppò i primi Touchpad e Touch screen. Attualmente vive negli USA e si interessa di studi sulla coscienza a partire dalle teorie quantistiche. Ha scritto diversi libri tra cui: "Irriducibile. La coscienza, la vita, i computer e la nostra natura".