Gert @Gert@qoto.org

The Age of AI Hacking Is Closer Than You Think
Algorithms struggle to understand human ambiguity. But such quirks are a flimsy shield against the threat of artificially intelligent hackers.
#hacking #ai
https://www.wired.com/story/artificial-intelligence-hacking-bruce-schneier/

Ho generato una world cloud da un documento di pianificazione per la ricerca sulla AI di un Paese del quale taccio il nome.
Il documento a me ha fatto una certa impressione, mentre lo leggevo, perché il linguaggio usato è più adatto alla pianificazione di una guerra che non di una impresa per la salute e il benessere pubblico.

A voi lascio un esercizio: provate, se riuscite, ad individuare la parola 'human' nella nuvola.
#ai #science #research #welfare

Prove di interazione con il sistema ChatGPT dalla shell di Linux.
Potrebbe essere un modo per aggirare l'eventuale blocco dell'accesso a ChatGPT dal browser. Poter formulare questioni sul sistema di IA direttamente dalla shell è comodo. Con un minimo di fantasia poi si possono dirottare e salvare automaticamente in append (comando: 2>>nomefile.txt) gli output di ChatGPT su un file testuale nel quale raccogliere tutte le risposte elaborate.

È comodo, per alcune operazioni, ma bisogna fare attenzione perché le risposte elaborate sono sempre meno utili man mano che si scende in profondità con le richieste. Nelle ricerche più sofisticate e sottili le elaborazioni e i rispettivi output sono spesso insoddisfacenti, ma se avete bisogno di informazioni burocratiche o elaborare una lettera di risposta all'amministratore del condominio va benone.

Un'altro aspetto tutto da esplorare, usando ChatGPT da shell, è la possibilità di fare domande su problemi tecnici per ottenere elaborazioni in termini di comandi da digitare. Giocando con la redirezione da shell i comandi forniti come suggerimenti possono essere mandati in esecuzione... se vi regge il cuore e avete una macchina sperimentale sulla quale giocare e fare "casini" 😀
#ChatGPT #linux #ai

How to use chatgpt as command line tool in Linux
#linux #ai
https://lovethepenguin.com/how-to-use-chatgpt-as-command-line-tool-a943131af559

Cryptographers have shown how perfect security can undermine machine learning models.
#hacking #ai
https://www.quantamagazine.org/cryptographers-show-how-to-hide-invisible-backdoors-in-ai-20230302

Computational propaganda:
«AI and machine learning technologies enable computational propaganda bots to tailor their campaigns in real-time and spread with virus-like scale. Essentially, these bots identify and exploit people who are computationally pre-determined to be the most vulnerable to digital psychological manipulation. Political propagandists, such as the infamous firm Cambridge Analytica, exploit traits in people that signal their level of susceptibility to different psychological manipulations. Examples of such traits are detailed in leaked emails from the firm. Traits include allegiance to a political party, stances on hot-button issues such as gun-control, and even if a person is neurotic, suspicious of others, or believes in astrological signs.»
#ai #computationalpropaganda
https://www.cbinsights.com/research/future-of-information-warfare/

Cellular Automata
#ai
https://www.codedrome.com/one-dimensional-cellular-automata-in-c/

Prodotti, servizi e dispisitivi #AI fuori dalla ricerca e mediati da aziende orientate solo al fatturato: una "Führung ohne führer".
https://www.semafor.com/article/02/24/2023/chatgpt-get-rich-quick-schemes-are-coming-for-magazines-amazon-and-youtube

«Whereas the idea of the brain as working in inferential way was initially meant to describe automatic and implicit perceptual processes (Helmholtz, 1867, 1925), which has been extended to the claim that delusions and hallucinations are similarly based on automatic and unconscious inferences (Adams et al., 2021; Mishara, 2007), most computational paradigms on clinical delusions operationalize and isolate deliberate reasoning, which relies on type 2 cognition, is explicit, deliberate and routed in rational theory and cognitivism. Computational psychiatry thus seems to represent a fusion of ideas, conceptually merging cognitivism, and rationalism with automatic, unconscious inferential Bayesian accounts.»
#mentalhealth #algorithm #ai
https://link.springer.com/article/10.1007/s11097-023-09895-1

Lo stato attuale delle discussioni sulla #AI 😂
https://invidious.weblibre.org/watch?v=3EC2kiSeGyQ

L'impatto ambientale ed energetico della #AI
https://www.wired.com/story/the-generative-ai-search-race-has-a-dirty-secret/

La decostruzione non dovrebbe passare attraverso la falsificazione di una posizione o di una teoria mostrando la distanza tra ciò che un sistema artificiale promette e ciò che invece mantiene (differenza tra idealità e fattualità).

Bisogna portarsi fuori dalla prospettiva del test di Turing.

Perché abbia un valore per gli umani la decostruzione dovrebbe portarsi fuori dai codici previsti dai sistemi artificiali, al di là dall’ambito di compatibilità predefinito dalle teorie che li sostengono. Mettere a tema la differenza tra il modo di manifestare una intelligenza e il modo di concepirla significa rimanere impantanati nell’ambito di compatibilità e di possibilità aperto da quei codici e dalla loro prospettiva sulla vita. È come cercare di elevarsi tirandosi su dai lacci delle proprie scarpe.

Occorre invece mettere a tema come una certa prospettiva sulla intelligenza e sulla vita - quella dei sistemi artificiali - mentre consente alcuni modi e forme del vivere, contemporaneamente, spegne possibilità e modi dell'esistere che non si riconoscono in quella prospettiva e nella conseguente narrativa: previsione, calcolabilità, competizione, dominio, controllo, strategie ecc…

Perché abbia un senso per gli umani la decostruzione della prospettiva offerta dalla AI deve lasciare apparire possibilità ontologiche che quella prospettiva ha oscurato e reso inaccessibili.

Da un punto di vista sociale ed umano 𝙗𝙞𝙨𝙤𝙜𝙣𝙖 𝙢𝙚𝙩𝙩𝙚𝙧𝙚 𝙖 𝙩𝙚𝙢𝙖 𝙡𝙖 𝘼𝙄 𝙘𝙤𝙢𝙚 𝙖𝙥𝙚𝙧𝙩𝙪𝙧𝙖 𝙙𝙞 𝙨𝙚𝙣𝙨𝙤 𝙖𝙡 𝙘𝙪𝙞 𝙞𝙣𝙩𝙚𝙧𝙣𝙤 𝙨𝙞 𝙢𝙪𝙤𝙫𝙚 𝙤𝙜𝙜𝙞 𝙡𝙖 𝙣𝙤𝙨𝙩𝙧𝙖 𝙚𝙨𝙞𝙨𝙩𝙚𝙣𝙯𝙖.

#ai #etica #algoretica

https://www.tweaktown.com/news/90053/neuroscientist-points-out-the-one-thing-wrong-with-ais-like-chatgpt/index.html

Il modello del cervello come macchina logico-matematica incarnata è il frutto della trasposizione del giudizio sintetico a priori di Kant (conoscenza posseduta a priori e in conformità alla quale deve realizzarsi ogni determinazione della esperienza) nell'ambito neuroanatomico e neurofisiologico.

- Jean-Pierre Dupuy, The Mechanization of the Mind: On the Origins of Cognitive Science, pag. 93-94: https://press.princeton.edu/books/ebook/9781400823819/the-mechanization-of-the-mind

Le porte logiche dei dispositivi digitali e dei computer forniscono una base materiale e tecnologica perfetta per tale trasposizione, una volta dato per scontato che le cellule del nostro cervello si comportino come delle macchine a stati.

- Warren McCulloch, Walter Pitts "A Logical Calculus of the Ideas Immanent in Nervous Activity": https://www.cs.cmu.edu/~./epxing/Class/10715/reading/McCulloch.and.Pitts.pdf

Con il modello Orch OR (orchestrated objective reduction) elaborato da Roger Penrose e Stuart Hameroff, sfruttando alcune caratteristiche dei microtubuli cellulari che consentirebbero alle cellule di funzionare come dei veri e propri elaboratori logici, le capacità logico-computazionali potrebbero essere estese all'intero corpo umano, non solo al cervello, sarebbe quindi l'intero organismo a comportarsi come una macchina computazionale. Per una ricerca critica sul modello si può vedere: https://www.researchgate.net/publication/26858894_Penrose-Hameroff_orchestrated_objective-reduction_proposal_for_human_consciousness_is_not_biologically_feasible

Per Kant una conoscenza (intuizione e pensiero) è "a priori" se viene prima di qualsiasi esperienza empirica. Un pensiero (giudizio) è "a priori" quando non ha nessun riferimento immediato all’esperienza, che resta muta e senza alcun significato fino a quando non viene elaborata e significata dai giudizi e dagli atti di pensiero. La fenomenologia ci ha poi fatto vedere che le cose non vanno affatto sempre in questo modo.

Questo presupposto è praticamente ignorato da molti, anche tra coloro che si occupano di intelligenza artificiale. Ignorare i presupposti epistemologici e filosofici del proprio fare non è necessariamente un problema, almeno fino a quando ci limitiamo a progettare e produrre utili artefatti senza avere la pretesa di spiegare l'umano a partire dalle cose prodotte. I problemi nascono quando si pretende di spiegare l'esperienza e la vita umana in generale dando per scontata l'universalità della prospettiva filosofica dalla quale partiamo.

Affermare che la coscienza, le attività cognitive e le emozioni - in breve la vita umana - siano il risultato di complesse attività logico-computazionali può essere una ipotesi di lavoro, fin quando ci limitiamo a fare ricerca e a pubblicare i risultati di quello che troviamo confrontandoci con il resto della comunità scientifica e culturale, ma non può essere passata come fosse una evidenza naturale o una verità dimostrata... diventa menzogna, manipolazione.

#ai #philosophy #epistemology #brain #cognitivescience

https://aeon.co/essays/your-brain-does-not-process-information-and-it-is-not-a-computer

Una macchina non possiede criteri di "giusto" o "sbagliato", non conosce parole né possiede concetti, meno che mai emozioni, dal momento che in ciò che fa non ne va mai di sé.
Una macchina porta a compimento dei compiti, obiettivi che non possiede e non conosce. Il modo in cui esegue i compiti dipende da come è stata progettata. Siamo noi poi a giudicare, rispetto a criteri nostri, se ciò che viene compiuto è "giusto" o "sbagliato".

Tutto in un elaboratore avviene attraverso innumerevoli trasformazioni fisiche di sistemi (transistor) da uno stato ON=1 ad un altro OFF=0, l'universo di un elaboratore è costituito da sequenze di 0 e di 1.

Se una macchina, un computer, riesce a restituire il numero 14 dati in input gli interi 9 e 5 più l'operatore somma, è perché qualcuno l'ha progettata affinché potesse realizzare operazioni binarie come questa:

1 0 0 1
0 1 0 1
-----------
1 1 1 0 --> in binario: 2³ + 2² + 2¹ + 0 = 14

Questa operazione viene portata a termine negli elaboratori grazie alla CPU (Central Processing Unit) e alle porte logiche, sinteticamente: sistemi capaci di eseguire funzioni booleane.

Nell'algebra di George Boole (1847 e 1854) gli unici input e output che possiamo fornire sono i valori logici vero=1 o falso=0.
Tramite gli operatori logici (NOT, AND, OR, NOR, XOR, XNOR) è poi possibile effettuare operazioni in cascata sugli input fino a restituire dei risultati.

Le porte logiche sono sistemi fisici che operano sui valori logici vero=1 o falso=0 attualizzando operazioni di trasformazione in accordo all'algebra di Boole. Questi sistemi possono essere realizzati fisicamente in modo semplice anche impiegando i Lego, come nella immagine allegata a questo post. Che in una CPU ce ne siano miliardi e che siano realizzati attraverso altri materiali non fa alcuna differenza, siamo comunque e in ogni caso al cospetto di macchine, molto sofisticate ma sempre macchine, come i trattori, le bici e il macina caffè della nonna.

Come si sia arrivati a vedere in queste macchine la manifestazione di eventi che appartengono all'ontologia dell'umano riguarda la storia non la natura, esplicitarlo va oltre lo spazio disponibile, ne farò cenno altrove.
Curioso è che tra i cantori della #AI e di #ChatGPT, secondo i quali queste sarebbero diventate come e meglio degli umani, ci siano persone che non hanno la più pallida idea di come gli umani esistano. In compenso non hanno nemmeno la più pallida idea di come accada che inserendo 9 e poi 5 nella loro calcolatrice, attraverso l'operatore somma si ottenga come risultato 14.

Che il risultato sia giusto lo sappiamo dai tempi di Babilonia: i numeri devono rimandare alla dimensione pratica della vita per avere un senso. L'analisi dei dati è sempre una ermeneutica: leggo i dati in relazione a come formulo la domanda.