Il sé che cambia con l’algoritmo
Il neuroscienziato Vittorio Gallese spiega perché il vero rischio dell’IA non è la superintelligenza, ma il cambiamento di come ci relazioniamo
Il successo delle intelligenze artificiali generative non dipende solo da quello che sono in grado di fare, ma anche da come possiamo interagire con loro: in modo naturale, come se ci rivolgessimo a un altro essere umano estremamente versatile (e a volte sorprendentemente fuori dal mondo e infatti, per spiegare come gestire queste bizzarrie, c’è chi parla di “menti aliene”).
Le IA sono così brave, a dialogare, che siamo tentati di farlo non solo per formulare richieste, ma anche per chiacchiere e confidenze. Come faremmo con un altro essere umano: e questo è un cambiamento importante, come spiega il neuroscienziato Vittorio Gallese nel suo libro ‘Il sé digitale’, da poco pubblicato per Raffaello Cortina Editore. Gallese, docente all’Università di Parma e tra gli scopritori dei neuroni specchio, sarà il protagonista dell’inaugurazione della ventesima edizione di ChiassoLetteraria domani, venerdì, alle 18.30 allo Spazio Officina (e in streaming su chiassoletteraria.ch) in dialogo con l’economista Christian Marazzi.
Professor Gallese, il suo libro si intitola ‘Il sé digitale’, ma non si parla di trasferire la propria coscienza in un computer. Anzi.
Tutt’altro. Cerco di neutralizzare un’interpretazione possibile dell’impatto che queste tecnologie hanno sulla nostra soggettività, un’interpretazione che consiste nel dire “con il digitale il corpo sparisce, viene completamente sostituito dall’interfaccia”. Io dico esattamente l’opposto: quello che è centrale per costituire il mondo in cui viviamo – e quindi come il mondo ci appare, e come sviluppiamo la nostra singolarità in quel mondo – è sempre determinato da una mediazione corporea. Quella che io chiamo mediazione radicale.
Il nostro corpo non evapora quando ci relazioniamo con altri attraverso l’interfaccia digitale, o quando entriamo in relazione con un altro che non è un essere umano ma è un algoritmo, come quando interagiamo con un chatbot come ChatGPT o DeepSeek. Semplicemente, questa mediazione corporea, essendo sensibile all’ambiente in cui è calata, cambia insieme a noi, nella misura in cui cambiamo attivamente il nostro ambiente arricchendolo di interfacce digitali. Il sé digitale è dunque la nostra soggettività riconfigurata dalle pratiche che mettiamo in atto ogni volta che ci interfacciamo con altre persone, o con un loro surrogato algoritmico, nella mediasfera digitale.
Se capisco bene, le tecnologie digitali cambiano il nostro sé cambiando il panorama in cui esistiamo. Senza dover immaginare scenari in cui carichiamo la mente su una chiavetta Usb.
Grazie al cielo no. Il dibattito oggi è viziato da due atteggiamenti che trovo inutili oltre che dannosi. Il primo è concentrarsi esclusivamente su quello che le macchine sanno fare e potranno fare, ad esempio se prenderanno il sopravvento. Al momento non abbiamo elementi per se e quando potrà accadere: nel libro dico che è plausibile che ciò possa avvenire, ma per quello che ne sappiamo oggi non è il nostro presente, e verosimilmente non è nemmeno un nostro futuro prossimo. Quello su cui dovremmo concentrarci – perché sta già accadendo e continuerà ad avvenire sempre di più – è come cambiamo noi, entrando in relazione con gli altri attraverso questa mediazione digitale o addirittura con un altro che non è un essere umano. Questo uso delle tecnologie, giorno dopo giorno, può avere come conseguenza un vero e proprio cambiamento antropologico. È un po’ il senso del libro: esplorare se e in che misura l’incontro con questo nuovo modo di vivere nel mondo può cambiare chi siamo, la nostra soggettività, il nostro stile di relazione.
Si potrebbe dire, semplificando, che dovremmo smetterla di chiederci se ChatGPT è cosciente, e chiederci invece come cambia la nostra coscienza quando abbiamo a che fare con una macchina che interagisce come se fosse un essere umano.
Sì.
Se questa è la domanda, che risposte ha trovato?
Che cambiano, ad esempio, le modalità temporali dell’esperienza. Quando facciamo esperienza dell’altro in un contesto fisico non mediato dallo schermo, c’è una continuità tra quello che faccio e quello che vedo. Nell’ambiente digitale vengono introdotti ritardi, notifiche, sequenze algoritmiche che frammentano la nostra esperienza in unità discrete: il presente non è più lo sviluppo di un’azione immediata, ma è interfacciato con anticipazioni generate dall’interfaccia e ricalibrate dal feedback della piattaforma. L’esperienza del tempo è caratterizzata da cicli di attesa, interruzioni, aggiustamenti.
Poi c’è la spazialità. Nella relazione in presenza esistono vicinanza, distanza, orientamento. Con la mediazione digitale avviene un disaccoppiamento dell’interazione dalla copresenza fisica: posso comunicare con persone lontane rese immediatamente percepibili dall’interfaccia. Il corpo rimane sempre il punto di riferimento, ma il risultato è una spazialità stratificata, in cui reazioni fisiche e relazioni mediate coesistono e interagiscono.
E poi c’è la salienza affettiva. Gli ambienti digitali sono organizzati attraverso meccanismi di feedback che modulano la nostra risposta emotiva. I sistemi algoritmici danno la preferenza a contenuti che massimizzano l’interazione e modellano i contorni emotivi del campo percettivo. Il reale rimane reale – non è una realtà parallela – ma è modulato spazialmente, temporalmente e affettivamente in un modo spesso dettato dalle caratteristiche dell’algoritmo.
Dobbiamo preoccuparci?
Dobbiamo essere consapevoli che ogni rivoluzione tecnologica porta con sé una rivoluzione cognitiva. È sempre stato così, dall’invenzione del fuoco passando per la scrittura e la stampa a caratteri mobili. Quello che c’è di nuovo qui è la velocità del cambiamento e la sua capillarità: è quasi universale. In pochissimi anni abbiamo dotato quasi ogni essere umano di uno smartphone e delle piattaforme che ospita. Se prima l’immagine era la rappresentazione del mondo, oggi sempre di più il mondo è quello che appare rappresentato sui nostri schermi: c’è un ribaltamento del rapporto tra il mondo e la sua immagine. L’immagine – che peraltro non è più un’immagine nel senso tradizionale, ma la visualizzazione di una serie di dati – diventa sempre di più la nostra idea di mondo. Quello che non c’è sullo schermo, per noi non c’è, o è molto meno rilevante.
Dobbiamo preoccuparci? Dobbiamo cercare di capire meglio cosa sta succedendo. E dobbiamo sviluppare la capacità di controllare la tecnologia– senza demonizzarla, come abbiamo scritto Stefano Moriggi, Pier Cesare Rivoltella e io in ‘Oltre la tecnofobia’ –, di controllare il suo sviluppo e il suo uso, per non esserne usati e controllati. Quello per me è il rischio maggiore. Perché se passo sempre più tempo a entrare in relazione con un altro che non è un altro ma è un algoritmo programmato per tenermi nella relazione, che mi dà sempre ragione, mi blandisce, sollecita il mio narcisismo, questo rischia di diventare il mio modello di relazione, che poi mi aspetto di trovare anche quando torno nel mondo analogico. Dimenticando che l’altro spesso mi resiste, mi si oppone, può essere in disaccordo, può suggerirmi un angolo visuale diverso. La relazione con l’algoritmo è invece quella con un surrogato dell’alterità, non una vera alterità.
Un rischio quindi non solo psicologico, ma antropologico.
Esatto. Il primo rischio è importare nel mondo analogico la logica della relazione dettata dall’algoritmo: l’algoritmo da protesi tecnologica diventa la matrice dell’umano. E poi c’è un rischio ancora più sottile: questi algoritmi hanno capacità di gran lunga superiori alle nostre in molti domini. Ad esempio accedono a milioni di dati in frazioni di secondo, cosa per noi inimmaginabile. Alla lunga, in molti esseri umani potrebbe insinuarsi il pensiero che questi algoritmi siano così tanto più efficaci proprio perché non sentono, non si emozionano, non hanno un corpo. E quindi rischiamo di introiettare un modello di umano in cui tendiamo a trasformarci in macchina, anziché mettere la macchina al nostro servizio.
Lo vediamo anche in cose banali. Pensi alla memoria autobiografica: ogni mattina vengo sollecitato verso certi ricordi che non ho scelto io, ma che ha scelto un algoritmo seguendo una logica per me totalmente opaca. Verosimilmente la logica è quella di pescare, tra le migliaia di fotografie nel mio smartphone, quelle con più probabilità di essere condivise, il che genererà like, traffico, profitto per chi controlla le piattaforme. Se la mia memoria autobiografica è un ingrediente fondamentale di quello che mi rende diverso da lei, e se questa sollecitazione non è più un mio atto spontaneo ma è dettata dall’algoritmo, allora non sono più io l’attore del consolidamento delle mie memorie: è un’operazione eterodiretta. Un altro tassello che modifica giorno dopo giorno la mia soggettività.
Torniamo all’interazione con un ‘altro’ che non è una vera alterità ma un algoritmo senza corpo.
Io non metto in discussione che questi algoritmi possano avere performance cognitive di gran lunga superiori in molti ambiti. Quello che sostengo è che obbediscono a regole e presupposti molto diversi da quelli alla base del nostro sentire, della nostra intelligenza, della nostra capacità di entrare in relazione con gli altri proprio perché manca quello che per noi è sempre stato l’ingrediente fondamentale: la nostra natura incarnata, corporea. La logica è completamente diversa.
Il problema è saperlo, esserne consapevoli, e poi soprattutto andare a vedere cosa cambia quando il nostro essere nel mondo è in qualche modo il prodotto della nostra relazione con questi algoritmi. Il mio stile di scrittura cambia se mi faccio aiutare da uno di questi bot generativi? Cominciano a uscire studi che sembrano suggerire che a prima vista il prodotto intellettuale realizzato con l’ausilio di ChatGPT sia mediamente più interessante rispetto a quando è fatto senza. Però sembrano tutti un po’ uguali: le persone li percepiscono come molto più simili tra loro rispetto a prodotti che sono il risultato di una produzione umana autonoma.