Gert @Gert@qoto.org

Una macchina non possiede criteri di “giusto” o “sbagliato”, non conosce parole né possiede concetti, meno che mai emozioni, dal momento che in ciò che fa non ne va mai di sé.
Una macchina porta a compimento dei compiti, obiettivi che non possiede e non conosce. Il modo in cui esegue i compiti dipende da come è stata progettata. Siamo noi poi a giudicare, rispetto a criteri nostri, se ciò che viene compiuto è “giusto” o “sbagliato”.

Tutto in un elaboratore avviene attraverso innumerevoli trasformazioni fisiche di sistemi (transistor) da uno stato ON=1 ad un altro OFF=0, l’universo di un elaboratore è costituito da sequenze di 0 e di 1.

Se una macchina, un computer, riesce a restituire il numero 14 dati in input gli interi 9 e 5 più l’operatore somma, è perché qualcuno l’ha progettata affinché potesse realizzare operazioni binarie come questa:

1 0 0 1
0 1 0 1
———–
1 1 1 0 –> in binario: 2³ + 2² + 2¹ + 0 = 14

Questa operazione viene portata a termine negli elaboratori grazie alla CPU (Central Processing Unit) e alle porte logiche, sinteticamente: sistemi capaci di eseguire funzioni booleane.

Nell’algebra di George Boole (1847 e 1854) gli unici input e output che possiamo fornire sono i valori logici vero=1 o falso=0.
Tramite gli operatori logici (NOT, AND, OR, NOR, XOR, XNOR) è poi possibile effettuare operazioni in cascata sugli input fino a restituire dei risultati.

Le porte logiche sono sistemi fisici che operano sui valori logici vero=1 o falso=0 attualizzando operazioni di trasformazione in accordo all’algebra di Boole. Questi sistemi possono essere realizzati fisicamente in modo semplice anche impiegando i Lego, come nella immagine allegata a questo post. Che in una CPU ce ne siano miliardi e che siano realizzati attraverso altri materiali non fa alcuna differenza, siamo comunque e in ogni caso al cospetto di macchine, molto sofisticate ma sempre macchine, come i trattori, le bici e il macina caffè della nonna.

Come si sia arrivati a vedere in queste macchine la manifestazione di eventi che appartengono all’ontologia dell’umano riguarda la storia non la natura, esplicitarlo va oltre lo spazio disponibile, ne farò cenno altrove.
Curioso è che tra i cantori della #AI e di #ChatGPT, secondo i quali queste sarebbero diventate come e meglio degli umani, ci siano persone che non hanno la più pallida idea di come gli umani esistano. In compenso non hanno nemmeno la più pallida idea di come accada che inserendo 9 e poi 5 nella loro calcolatrice, attraverso l’operatore somma si ottenga come risultato 14.

Che il risultato sia giusto lo sappiamo dai tempi di Babilonia: i numeri devono rimandare alla dimensione pratica della vita per avere un senso. L’analisi dei dati è sempre una ermeneutica: leggo i dati in relazione a come formulo la domanda.

I limiti di #ChatGPT sono i limiti di un sistema computazionale. Linguaggio, pensiero e comprensione non c’entrano nulla. Quelli che in una prospettiva computazionale sono problemi da eliminare (rumore), nel fenomeno del linguaggio umano rappresentano le possibilità stesse di generatività di senso e significato: omonimi, omofoni, sarcasmo, espressioni idiomatiche, metafore, eccezioni grammaticali e d’uso, variazioni nella struttura delle frasi, ambivalenze… rimandano tutte sempre alla vita vissuta da un Chi incarnato ed emotivamente posizionato. La comprensione qui va al di là di aspetti cognitivi e computazionali.
Non ultimo, la prospettiva sul linguaggio che sta a fondamento della NLP è solo una delle possibili prospettive, non è LA prospettiva sul linguaggio.
Provare a forzare un sistema come ChatGPT va benissimo, purché non si presentino i risultati con improbabili e insostenibili parallelismi con i fenomeni umani di apprendimento, linguaggio e comprensione. Quello che otteniamo è solo una (utile) geografia delle possibilità e dei limiti di un sistema computazionale quando viene impiegato in ambiti che strabordano il dominio della computazione e della prospettiva razionalista.
La vita è altrove.