La coscienza spiegata coi pastelli a cera: ChatGPT non ce la ruberà

Il nuovo modello di intelligenza artificiale lanciato la settimana scorsa da ChatGPT ha deluso moltissimi utenti. Sia per la personalità annacquata («è diventata meno empatica»), sia per la qualità delle risposte (errori, confusione, reazioni insoddisfacenti). Tuttavia il flop ha prodotto anche sollievo in alcuni, un senso di vittoria: ci sono ragioni per opporsi all’idea che l’intelligenza artificiale avanzi senza arrestarsi mai. Non solo perché «ruberà tutti i lavori», ma perché si ha il timore che prima o poi faccia scomparire la centralità della coscienza umana. È un timore giustificato? ChatGpt-5 rispecchia i nostri difetti. Per questo ci fa paura La coscienza, in sé, non ha bisogno di essere salvaguardata. Non più di quanto sia necessario proteggere la forza di gravità o il tempo che scorre. La coscienza, infatti, esisterebbe anche qualora la rifiutassimo, ed esiste anche in condizioni estreme per il corpo (malattie fisiche e mentali). Permangono sempre alcuni fotogrammi, il riflesso interiore del sapore di un gelato alla fragola, della sensazione tattile della seta. La coscienza magari diventa più circoscritta, flebile, ma non c’è modo di ucciderla. Alcuni ritengono possa restare in qualche forma anche quando moriamo, separandosi dal corpo (non sono sicura che sia una bella cosa). Tradimenti, gogna e perbenismo: così si sgretolano le illusioni pop A prova di Coldplay Non voglio qui definire la coscienza, ognuno pensi alla propria definizione: secondo coscienza. Dirò invece che ha notevoli elementi di straordinarietà oltre alla robustezza. Tanto per cominciare è l’unico luogo privato che ci è rimasto. Ormai non esiste più la privacy, si dice, ma la coscienza non può essere catturata neppure dai maxischermi a un concerto dei Coldplay. Potete serenamente stare in mezzo ai curiosi in compagnia della vostra coscienza: nessuno la vedrà. Tradimenti, gogna e perbenismo: così si sgretolano le illusioni pop Non solo possiamo tenerla segreta, ma anche volendo siamo incapaci di descriverla in maniera esaustiva. Non possiamo parlarne con nessuno, se non a pezzetti e male. Questa non descrivibilità determina in larga parte il fatto che la coscienza non sia riproducibile artificialmente. È un luogo esclusivamente umano. La natura umana è fatta per un bel pezzo di un sistema custodito da una privacy inviolabile, e questa privacy – simile a un fenomeno naturale – ci rende irriproducibili. È la nostra arma segreta. Quasi mi commuovo. Solo che la coscienza è anche difficile da trattare. Possiamo osservarla per davvero solo se ci troviamo chiusi in una specie di stanza interiore priva di finestre. Ma è molto difficile riuscire a rimanere a lungo dentro la stanza interiore priva di finestre. Non perché sia un brutto posto, ma perché la stanza continuamente “decade” e diventa stanza con finestre. Appaiono le finestre anche se non vuoi, oggi più che mai. Il mondo irrompe continuamente. Bisognerebbe mettere dei dazi sulle finestre, poi voglio vedere se appaiono ancora contro la nostra volontà. Quando si “prende posizione” si fa un investimento speculativo L’indistruttibilità Se la coscienza è indistruttibile, questo esercizio di accesso alla coscienza, che poi permette di produrre il pensiero, può invece diventare impossibile. E più smettiamo di esercitarci, più non saremo capaci di accedere alla stanza senza finestre. Continueremo a spedire le nostre sensazioni alla coscienza (gelato alla fragola, seta), ma da esse non scaturirà alcunché. Magari desidereremo moltissimo accedere, ma presto ci renderemo conto che lo sforzo richiesto è eccessivo. A quel punto la coscienza continuerà esistere, a non essere raccontabile, ma non produrrà più risultati che giungono in superficie. I pensieri che considereremo rilevanti saranno quelli che si formano in qualche incubatrice esterna o altro spazio estraneo, con procedimenti di sintesi, non derivati dalla coscienza (ChatGPT). Non saranno pensieri. Parlare senza comprendere: ecco in cosa è brava ChatGpt Quando i bambini iniziano a usare i primi pastelli a cera i genitori li osservano con attenzione. Molti adulti non usano i pastelli a cera dai tempi dell’asilo, e rivedere questi bastoncini pastosi genera in loro un desiderio di provarli. I pastelli sono irresistibili, il profumo riporta all’infanzia, il tratto grossolano è innocenza. L’adulto prende un pastello rosso e inizia a fare qualche scarabocchio. Sente un brivido nel cervello. Poi, dopo alcuni secondi, o se va bene qualche minuto, l’adulto si stufa. Il desiderio di recuperare l’infanzia è forte, la capacità di impegnarsi per farlo sul serio no. La coscienza è persino più complicata dell’infanzia. Non vuole essere spiegata, squadernata, riprodotta esternamente. Vuole essere semplicemente abitata. La scelta di abitarla è nostra, l’intelligenza artificiale non ha mai posto alcun limite al riguardo, in verità. Crescere con l’ideologia della misurabilità, dove se stai in alto vali ma in basso scompari