Gert @Gert@qoto.org

#ai #cybersecurity
https://www.biometricupdate.com/202306/generative-ai-raises-questions-about-biometric-security

#ai
https://mpost.io/google-labs-unveils-pitchfork-an-ai-that-can-convert-old-code-to-new-code-and-rewrite-itself/

The history of technology suggests that the greatest risks come not from the tech, but from the people who control the technology using it to accumulate power and wealth.
#ai #etica
https://aisnakeoil.substack.com/p/is-avoiding-extinction-from-ai-really

Se avete 10 min di tempo vi consiglio questo breve intervento del prof. Damasio, un neuroscienziato abbastanza noto. Non mi sono sempre ritrovato nelle sue prospettive, ma qui dice cose non banali che dovrebbero far riflettere (anche) sui bias e il tipo di “intelligenza” che viene data per scontata in relazione alla AI, in tutte le sue forme. Quei bias purtroppo sono poi amplificati nella costruzione di narrative sulla AI utili più al business che non alla scienza.
Il titolo dato al video è fuorviante, frutto anch’esso di bias. Sarebbe stato più adeguato l’uso di ‘Who’ al posto del ‘What’… “Chi” è il sé, e non “cosa” è.
#ai #neuroscience #psychology
https://invidious.nogafa.org/watch?v=Jkl1qnnx5mo

#ai
https://www.ted.com/talks/darya_majidi_il_contributo_delle_donne_all_intelligenza_artificiale_ai

“Il lungotermismo ha tutte le caratteristiche di una ideologia nata all’interno della cultura informatica, nutrendosi di un immaginario millenarista di tipo fantascientifico, al servizio del progetto economico di Silicon Valley”
#ai
https://www.agendadigitale.eu/cultura-digitale/ai-diffidiamo-dal-lungotermismo-plasma-il-dibattito-sugli-interessi-della-silicon-valley/

Odifreddi, Elon Musk e Bill Gates non sono esattamente le persone più attendibili in tema di etica, e nemmeno in tema di AI. Continuare a soffiare sul problema (falso) della AI come evento che fa paura significa continuare a tenere in ombra il pericolo più reale e autentico (e scomodo) delle società private che ci speculano sopra per ottimizzare i loro profitti incuranti del bene sociale, o quello dell’impiego dei sistemi di automazione per prendere decisioni (militari, gestionali, politiche, amministrative…) che spostano la responsabilità dagli esseri umani al nulla, o ancora quello dei dati (i nostri) che vengono impiegati per controllare e prevedere ogni evento… L’ignoranza a cui fa riferimento la canzone di Guccini - citato nella intervista - non è quella che ignora il dispositivo o il principio di Archimede ma quella che ignora la storia e le ragioni della vita. Occorre prendere posizione, e non nei confronti delle macchine. Tutto il resto è un teatrino mediatico parte del problema.
#ai
https://www.radio24.ilsole24ore.com/programmi/melog/puntata/trasmissione-23-maggio-2023-121500-AEpzSzWD

Eeeecco perché avevo la sensazione che le prime reti neurali artificiali che compilavo con il mio vecchio 286 fossero più performanti di quelle che compilo oggi! 🙂
#ai #neuralnetworks
https://arxiv.org/abs/2305.10947

Non basta cambiare l’etichetta a un fenomeno per comprenderlo, se siamo incapaci di pensarlo al di fuori dei pregiudizi che ci portiamo inevitabilmente dietro, oltre i limiti delle prospettive culturali e professionali.
Il motivo per cui si straparla di AI oggi, dicendo una montagna di fregnacce, è che una parte di essa è diventata oggetto di pesanti investimenti per delle compagnie quotate in borsa che hanno bisogno di una narrativa marketing. Fin quando di AI se ne occupavano solo accademici, ricercatori e pochi altri “addetti ai lavori” si straparlava di altro, dicendo una montagna di fregnacce su altre questioni a fondamento di altri investimenti e operazioni marketing.
Scriveranno un articolo nelle Annalen der Physik, con una nuova costante universale: il numero di fregnacce per unità di tempo commerciale utili a sostenere gli interessi temporanei delle società più impegnate in nuovi investimenti.
#ai
https://blog.quintarelli.it/2019/11/lets-forget-the-term-ai-lets-call-them-systematic-approaches-to-learning-algorithms-and-machine-inferences-salami/

I fenomeni di emergenza in un sistema in evoluzione sembrano essere legati alla comparsa di processi dinamici nuovi rispetto alla loro qualità e imprevedibili sulla base della caratteristica iniziale del sistema. Per questo motivo è difficile modellizzare i fenomeni di emergenza perché il modello in uso può diventare improvvisamente inadeguato a delineare nuove manifestazioni dinamiche e quindi la vera identità del sistema.

In questa simulazione (nel primo video la registrazione di una sessione) ho cercato di costruire un metamodello che descriva alcuni fenomeni di emergenza durante l’evoluzione del sistema dinamico organismo-ambiente.
Usando algoritmi genetici ho realizzato un sistema di agenti artificiali che interagiscono risolvendo una versione spaziale del Dilemma del Prigioniero Iterato (Axelrod, 1984; Axelrod e Dion, 1988).

Il sistema, compresso tra i vincoli di una crescente complessità interna e l’impossibilità di scindersi, si mantiene spontaneamente entro valori di entropia che gli consentono di mantenere coerenza e “identità” nel tempo, permettendogli di far emergere diversi nuovi equilibri di Nash nella tabella dei payoff ( cultura? economia? politica?…) che regola gli scambi tra agenti artificiali; i nuovi equilibri di Nash emergenti nella tabella dei payoff facilitano l’emergere di alcuni “clan” che si replicano secondo le dinamiche genetiche del Cross-Over.

Per ogni generazione, le azioni del “clan vincente” contribuiscono a modificare la tabella dei payoff secondo regole più vantaggiose per la loro logica di interazione (cooperare/rifiutare/defezionare).

Ogni volta il nuovo equilibrio di Nash emergente viene mantenuto per alcune generazioni, oscillando tra diversi valori di entropia, finché un nuovo “clan” di agenti virtuali prevale sugli altri, orientando l’intero sistema verso l’emergere di un nuovo equilibrio di Nash nella tabella dei payoff.
#ai #geneticalgorithms #gametheory

Da quando non si fa altro che parlare di ChatGPT, la AI è ridotta ai LLM e tutti sembra stiano improvvisamente scoprendo l’autorganizzazione, i fenomeni emergenti, la complessità… temi e ambiti di ricerca al centro delle attività scientifiche ed epistemologiche almeno dagli anni ‘70/’80. Articoli ed interventi che odorano di muffa e naftalina pubblicati o presentati con pretese di originalità.
Continuo a rimanere più divertito che sorpreso dal chiacchiericcio intorno alla #AI.
https://retinatendencias.com/civilizacion-perdida/las-propiedades-emergentes-en-la-ia-esas-cosas-que-nos-hacen-decir-hostia/

Sondaggio di Ipsos/Banca Mondiale.
È stato chiesto: “I prodotti e servizi che usano l’AI presentano più benefici o svantaggi?”

Nei Paesi dove il PIL pro capite è più basso la percezione di prodotti e servizi che fanno uso di tecnologie AI è più favorevole rispetto ai Paesi più sviluppati, dove le persone sono più scettiche.
Forse il bisogno di nuove possibilità d’essere e la speranza in un futuro migliore dei paesi più “poveri” ha reagito meglio alle prospettive futuristiche e ai testi comunicativi pieni di promesse con i quali è veicolata nel sociale la AI.
#ai

Credo sia riduttivo e fuorviante vedere le riflesisoni di Hinton solo da una prospettiva tecnica di controllabilità dei dispositivi. Quella che è in atto con l’attuale AI, per come arriva nel sociale, è una dinamica che coinvolge più ampi domini. Mentre viene tacitamente passato il senso che ci sia un mondo oggettivo governato da leggi positive e certe (come la gravità) che la AI può magicamente cogliere per offrire (a pagamento) pianificazione e controllo sugli eventi della vita, di fatto ciò che in ogni istante emerge - anche attraverso la AI - è un mondo e una realtà prodotta. Lo aveva indicato già Whitehead nel 1978 con il concetto di prehension: “The production of novel togetherness”. Mentre ci viene tacitamente passato il senso di una qualche essenza che può essere conosciuta, anticipata e controllata, nella realtà viene attuato un processo sempre nuovo e in divenire controllato da chi conduce il gioco. Ciò che non è calcolabile né prevedibile è proprio il processo in atto e le sue mutazioni in relazione agli interessi in gioco. Per portare a manifestazione questi processi e dinamiche, delle quali la AI è solo un aspetto, bisogna uscire dalla prospettiva della calcolabilità. Questo è il senso delle posizioni di Hinton.
#ai #ethics
https://www.bbc.com/news/world-us-canada-65452940

I sistemi nervosi naturali sono più efficienti dei sistemi artificiali nell’apprendimento perché l’apprendimento in natura accade nel corso di esplorazioni strutturate dei contesti di immersione. Soprattutto nell’apprendimento rapido, il cervello biologico ha notevoli vantaggi rispetto all’attuale AI.

L’esplorazione diretta rende l’apprendimento più efficiente e richiede meno esperienza. I sistemi composti da agenti artificiali invece esplorano spazi delle fasi in modo casuale o seguendo dinamiche guidate dalla statistica, una procedura molto meno efficiente.

Quello che però la scienza positiva non riesce proprio a concepire, e quindi nemmeno ad intravedere in questo caso, è ciò che sta a fondamento della esplorazione. L’esplorazione, negli esseri viventi, non è il risultato di procedure algoritmiche ma il modo stesso di attuare la vita incontrandosi e rapportandosi con delle possibilità d’essere, soprattutto negli umani esseri non più chiusi e regolati solo da catene di stimoli ma viventi in una rete di significati.

La vita attuata e vissuta - sentire, pensare e agire in una apertura di senso - non è riducibile alle leggi indagate dal Metodo delle scienze positive, può invece essere meglio conosciuta e compresa attraverso la prospettiva fenomenologica ed i suoi non meno rigorosi metodi.
#ai #fenomenologia #apprendimento
https://www.cell.com/neuron/fulltext/S0896-6273(23)00230-1

È stato praticamente demolito quasi l’intero team Ethics & Society di Microsoft, ultima vittima dei licenziamenti dell’azienda. I licenziamenti totali hanno riguardato 10.000 dipendenti (circa il 5% dell’intera forza lavoro globale).

Una situazione preoccupante per molti esperti, soprattutto ora: il dipartimento Etica e società di Microsoft era responsabile di garantire che i principi dell’azienda relativi allo sviluppo dell’Intelligenza Artificiale si riflettessero nella progettazione dei prodotti.

La tempistica di questa decisione è particolarmente preoccupante, dal momento che Microsoft ha stretto una partnership con OpenAI e sta utilizzando ChatGPT nel suo motore di ricerca Bing e in altri servizi.
#microsoft #ai #ethics
https://winbuzzer.com/2023/04/06/microsofts-responsible-ai-standard-for-ai-safety-despite-laying-off-its-ai-ethics-team-xcxwbn/

Questi si sono inventati una società simulata impiegando LLMs, parlando dei comportamenti come fossero il risultato di elaborazioni astratte e veicolate attraverso il linguaggio. Negli umani le strutture neurali implicate nel linguaggio sono inscritte nella corteccia motoria, il linguaggio stesso è espressione di corpi emotivamente situati, tant’è che quando non riusciamo a descrivere dei vissuti facciamo riferimento a modi di percepirci nei corpi: agire a sangue freddo, avere naso per le questioni… infiniti modi di dire, di parlar di sé e degli altri che presuppongono senso e significati già presenti in corpi situati.
Questa è una delle tante derive che può prendere una prospettiva computazionale quando pretende di spiegare la vita.
Generative Agents: Interactive Simulacra of Human Behavior.
#ai
https://arxiv.org/abs/2304.03442

Le riflessioni di Franco “Bifo” Berardi: intelligenza artificiale, tecnologia, etica, capitalismo.
#ai #ethics
https://www.e-flux.com/notes/526496/unheimlich-the-spiral-of-chaos-and-the-cognitive-automaton?fbclid=IwAR0-pnY9mMs0ty_wspXr7ULtUT4upqFWCX0KCuoCwGG4wqKDS2FZvr2Esjk

“l’arte è morta perché è diventata figlia di una cultura autoreferenziale del numero e del consenso”
#ai
https://www.doppiozero.com/lia-pensa-e-noi

Performance, competizione, dominio e controllo: questo è il linguaggio e la prospettiva imposta dalla #AI cavalcata dalla #finanza e dal #capitalismo.
https://cmte.ieee.org/futuredirections/2023/04/03/ai-wont-steal-your-job-people-leveraging-ai-will/

“Una lunga lista di nomi noti, tra cui Elon Musk e Steve Wozniak (uno dei fondatori Apple), chiedono di sospendere per sei mesi gli ulteriori sviluppi dei sistemi di intelligenza artificiale del tipo di ChatGpt. Ma la chiave di volta sarebbe un impegno pubblico più chiaro e più forte in merito.”
#ai #etica #socialè
https://www.agendadigitale.eu/cultura-digitale/non-lasciamo-lai-nelle-mani-di-big-tech-e-tecnocrati/