Gert @Gert@qoto.org

La decostruzione non dovrebbe passare attraverso la falsificazione di una posizione o di una teoria mostrando la distanza tra ciò che un sistema artificiale promette e ciò che invece mantiene (differenza tra idealità e fattualità).

Bisogna portarsi fuori dalla prospettiva del test di Turing.

Perché abbia un valore per gli umani la decostruzione dovrebbe portarsi fuori dai codici previsti dai sistemi artificiali, al di là dall’ambito di compatibilità predefinito dalle teorie che li sostengono. Mettere a tema la differenza tra il modo di manifestare una intelligenza e il modo di concepirla significa rimanere impantanati nell’ambito di compatibilità e di possibilità aperto da quei codici e dalla loro prospettiva sulla vita. È come cercare di elevarsi tirandosi su dai lacci delle proprie scarpe.

Occorre invece mettere a tema come una certa prospettiva sulla intelligenza e sulla vita - quella dei sistemi artificiali - mentre consente alcuni modi e forme del vivere, contemporaneamente, spegne possibilità e modi dell'esistere che non si riconoscono in quella prospettiva e nella conseguente narrativa: previsione, calcolabilità, competizione, dominio, controllo, strategie ecc…

Perché abbia un senso per gli umani la decostruzione della prospettiva offerta dalla AI deve lasciare apparire possibilità ontologiche che quella prospettiva ha oscurato e reso inaccessibili.

Da un punto di vista sociale ed umano 𝙗𝙞𝙨𝙤𝙜𝙣𝙖 𝙢𝙚𝙩𝙩𝙚𝙧𝙚 𝙖 𝙩𝙚𝙢𝙖 𝙡𝙖 𝘼𝙄 𝙘𝙤𝙢𝙚 𝙖𝙥𝙚𝙧𝙩𝙪𝙧𝙖 𝙙𝙞 𝙨𝙚𝙣𝙨𝙤 𝙖𝙡 𝙘𝙪𝙞 𝙞𝙣𝙩𝙚𝙧𝙣𝙤 𝙨𝙞 𝙢𝙪𝙤𝙫𝙚 𝙤𝙜𝙜𝙞 𝙡𝙖 𝙣𝙤𝙨𝙩𝙧𝙖 𝙚𝙨𝙞𝙨𝙩𝙚𝙣𝙯𝙖.

#ai #etica #algoretica

https://www.tweaktown.com/news/90053/neuroscientist-points-out-the-one-thing-wrong-with-ais-like-chatgpt/index.html

Il modello del cervello come macchina logico-matematica incarnata è il frutto della trasposizione del giudizio sintetico a priori di Kant (conoscenza posseduta a priori e in conformità alla quale deve realizzarsi ogni determinazione della esperienza) nell'ambito neuroanatomico e neurofisiologico.

- Jean-Pierre Dupuy, The Mechanization of the Mind: On the Origins of Cognitive Science, pag. 93-94: https://press.princeton.edu/books/ebook/9781400823819/the-mechanization-of-the-mind

Le porte logiche dei dispositivi digitali e dei computer forniscono una base materiale e tecnologica perfetta per tale trasposizione, una volta dato per scontato che le cellule del nostro cervello si comportino come delle macchine a stati.

- Warren McCulloch, Walter Pitts "A Logical Calculus of the Ideas Immanent in Nervous Activity": https://www.cs.cmu.edu/~./epxing/Class/10715/reading/McCulloch.and.Pitts.pdf

Con il modello Orch OR (orchestrated objective reduction) elaborato da Roger Penrose e Stuart Hameroff, sfruttando alcune caratteristiche dei microtubuli cellulari che consentirebbero alle cellule di funzionare come dei veri e propri elaboratori logici, le capacità logico-computazionali potrebbero essere estese all'intero corpo umano, non solo al cervello, sarebbe quindi l'intero organismo a comportarsi come una macchina computazionale. Per una ricerca critica sul modello si può vedere: https://www.researchgate.net/publication/26858894_Penrose-Hameroff_orchestrated_objective-reduction_proposal_for_human_consciousness_is_not_biologically_feasible

Per Kant una conoscenza (intuizione e pensiero) è "a priori" se viene prima di qualsiasi esperienza empirica. Un pensiero (giudizio) è "a priori" quando non ha nessun riferimento immediato all’esperienza, che resta muta e senza alcun significato fino a quando non viene elaborata e significata dai giudizi e dagli atti di pensiero. La fenomenologia ci ha poi fatto vedere che le cose non vanno affatto sempre in questo modo.

Questo presupposto è praticamente ignorato da molti, anche tra coloro che si occupano di intelligenza artificiale. Ignorare i presupposti epistemologici e filosofici del proprio fare non è necessariamente un problema, almeno fino a quando ci limitiamo a progettare e produrre utili artefatti senza avere la pretesa di spiegare l'umano a partire dalle cose prodotte. I problemi nascono quando si pretende di spiegare l'esperienza e la vita umana in generale dando per scontata l'universalità della prospettiva filosofica dalla quale partiamo.

Affermare che la coscienza, le attività cognitive e le emozioni - in breve la vita umana - siano il risultato di complesse attività logico-computazionali può essere una ipotesi di lavoro, fin quando ci limitiamo a fare ricerca e a pubblicare i risultati di quello che troviamo confrontandoci con il resto della comunità scientifica e culturale, ma non può essere passata come fosse una evidenza naturale o una verità dimostrata... diventa menzogna, manipolazione.

#ai #philosophy #epistemology #brain #cognitivescience

https://aeon.co/essays/your-brain-does-not-process-information-and-it-is-not-a-computer

Una macchina non possiede criteri di "giusto" o "sbagliato", non conosce parole né possiede concetti, meno che mai emozioni, dal momento che in ciò che fa non ne va mai di sé.
Una macchina porta a compimento dei compiti, obiettivi che non possiede e non conosce. Il modo in cui esegue i compiti dipende da come è stata progettata. Siamo noi poi a giudicare, rispetto a criteri nostri, se ciò che viene compiuto è "giusto" o "sbagliato".

Tutto in un elaboratore avviene attraverso innumerevoli trasformazioni fisiche di sistemi (transistor) da uno stato ON=1 ad un altro OFF=0, l'universo di un elaboratore è costituito da sequenze di 0 e di 1.

Se una macchina, un computer, riesce a restituire il numero 14 dati in input gli interi 9 e 5 più l'operatore somma, è perché qualcuno l'ha progettata affinché potesse realizzare operazioni binarie come questa:

1 0 0 1
0 1 0 1
-----------
1 1 1 0 --> in binario: 2³ + 2² + 2¹ + 0 = 14

Questa operazione viene portata a termine negli elaboratori grazie alla CPU (Central Processing Unit) e alle porte logiche, sinteticamente: sistemi capaci di eseguire funzioni booleane.

Nell'algebra di George Boole (1847 e 1854) gli unici input e output che possiamo fornire sono i valori logici vero=1 o falso=0.
Tramite gli operatori logici (NOT, AND, OR, NOR, XOR, XNOR) è poi possibile effettuare operazioni in cascata sugli input fino a restituire dei risultati.

Le porte logiche sono sistemi fisici che operano sui valori logici vero=1 o falso=0 attualizzando operazioni di trasformazione in accordo all'algebra di Boole. Questi sistemi possono essere realizzati fisicamente in modo semplice anche impiegando i Lego, come nella immagine allegata a questo post. Che in una CPU ce ne siano miliardi e che siano realizzati attraverso altri materiali non fa alcuna differenza, siamo comunque e in ogni caso al cospetto di macchine, molto sofisticate ma sempre macchine, come i trattori, le bici e il macina caffè della nonna.

Come si sia arrivati a vedere in queste macchine la manifestazione di eventi che appartengono all'ontologia dell'umano riguarda la storia non la natura, esplicitarlo va oltre lo spazio disponibile, ne farò cenno altrove.
Curioso è che tra i cantori della #AI e di #ChatGPT, secondo i quali queste sarebbero diventate come e meglio degli umani, ci siano persone che non hanno la più pallida idea di come gli umani esistano. In compenso non hanno nemmeno la più pallida idea di come accada che inserendo 9 e poi 5 nella loro calcolatrice, attraverso l'operatore somma si ottenga come risultato 14.

Che il risultato sia giusto lo sappiamo dai tempi di Babilonia: i numeri devono rimandare alla dimensione pratica della vita per avere un senso. L'analisi dei dati è sempre una ermeneutica: leggo i dati in relazione a come formulo la domanda.

«The first study to show that delivering information at the natural tempo of our neural pulses accelerates our ability to learn.»
#neuroscience
https://www.cam.ac.uk/stories/brainwavelearning

I limiti di #ChatGPT sono i limiti di un sistema computazionale. Linguaggio, pensiero e comprensione non c'entrano nulla. Quelli che in una prospettiva computazionale sono problemi da eliminare (rumore), nel fenomeno del linguaggio umano rappresentano le possibilità stesse di generatività di senso e significato: omonimi, omofoni, sarcasmo, espressioni idiomatiche, metafore, eccezioni grammaticali e d'uso, variazioni nella struttura delle frasi, ambivalenze... rimandano tutte sempre alla vita vissuta da un Chi incarnato ed emotivamente posizionato. La comprensione qui va al di là di aspetti cognitivi e computazionali.
Non ultimo, la prospettiva sul linguaggio che sta a fondamento della NLP è solo una delle possibili prospettive, non è LA prospettiva sul linguaggio.
Provare a forzare un sistema come ChatGPT va benissimo, purché non si presentino i risultati con improbabili e insostenibili parallelismi con i fenomeni umani di apprendimento, linguaggio e comprensione. Quello che otteniamo è solo una (utile) geografia delle possibilità e dei limiti di un sistema computazionale quando viene impiegato in ambiti che strabordano il dominio della computazione e della prospettiva razionalista.
La vita è altrove.