Gert 
@Gert@qoto.org
- Alpinismo
- philosophy
- psychology
- AI
Scalo montagne, quando posso, altrimenti scrivo, leggo, vedo gente, compilo codice e respiro in silenzio. Umanista in pieno naufragio, con un debole per la fenomenologia, l'ermeneutica, la buona cucina, il buon vino e le amicizie sincere.
While you've a lucifer to light your fag
🙂 Smile, boys, that's the style!
𝙿𝚊𝚜𝚜𝚒𝚘𝚗𝚊𝚝𝚎 𝙰𝙸 𝚌𝚘𝚍𝚎𝚛 𝚊𝚗𝚍 𝙻𝚒𝚗𝚞𝚡 𝚞𝚜𝚎𝚛
Joined Feb 2023
Un paio di articoli molto interessanti che esplorano le possibilità di un attacco a una rete neurale artificiale basato su "adversarial machine learning".
In particolare, viene usato quello che in gergo è chiamato "one-pixel attack", un attacco nel quale basta modificare un solo pixel di una immagine data in input a una rete neurale per generare un errore di classificazione o mandare completamente nel pallone il sistema.
Lo studio qui impiega una tecnica molto simile ai criteri di un algoritmo genetico per generare ed esplorare diversi possibili pattern di attacco basati sulla alterazione di un solo pixel partendo da un insieme iniziale di pattern e facendolo "evolvere" (Differential Evolution) attraverso diverse generazioni.
C'è un mondo di metodologie e tecniche nella AI del tutto sconosciuto al "main stream" e che invece ha potenzialità enormi in diversi ambiti applicativi. La AI dei LLMs e dei chatbot è quella che va consumata.
1) https://arxiv.org/pdf/1902.02947
a comparison of the different LLMs models
#ai
https://artificialanalysis.ai/
Ma come si fa a fare ricerche di questo genere?
Hanno valutato le performance dei LLMs attraverso test psicologici elaborati nell'ambito della Theory of Mind (ToM). Non è la prima volta che vengono somministrati test psicologici a una macchina per ricavarne conclusioni infondate. Qui siamo proprio all'assurdo. La ToM non è la Bibbia e nemmeno un teorema di meccanica razionale. È una teoria cognitivista non condivisa da tutti, nemmeno tra i cognitivisti stessi. Ma soprattutto, valutare le performance dei LLMs attraverso le teorie cognitiviste che prendono a modello il funzionamento dei computer per spiegare i processi di pensiero umani è una piena e assurda tautologia. Una barzelletta!
La ricerca, manco a dirlo, è stata fatta nei laboratori Google. Se la cantano e se la suonano.
#LLMs #AI #psychology
Link alla ricerca: https://arxiv.org/abs/2405.18870
Gli elefanti si chiamano l'un l'altro con nomi unici.
Per le analisi dei dati i ricercatori hanno impiegato anche modelli di Machine Learning su un'enorme quantità di suoni generati da elefanti africani. I risultati sembrano indicare che gli elefanti si rivolgono l'un l'altro con suoni unici in un modo che è assimilabile a ciò che gli umani fanno con i nomi.
#natura #elefanti #linguistica #ai
https://www.pbs.org/newshour/science/african-elephants-address-one-another-by-unique-name-like-calls-new-study-suggests
Dalle truffe via mail sempre più realistiche alla rivelazione di informazioni private sui cittadini, fino agli immancabili deepfake: ChatGPT e gli altri sistemi generativi sono assistenti perfetti anche per i malintenzionati
#ai #cybersecurity
https://www.repubblica.it/tecnologia/2024/06/17/news/escapegpt_blackhatgpt_e_le_altre_cosi_i_criminali_stanno_usando_lintelligenza_artificiale-423190200/
«This is the first of several short interviews on AI and agency. In the interest of our guests’ and audience’s time, the interviews will be brief, but each interview is supplemented with a reading list that allows readers to explore the topic in greater depth.
We are fortunate to have Professor Tim Crane join us for this first interview. Professor Crane is a leading thinker in the philosophy of mind, perception, and metaphysics, and he holds the position of Professor of Philosophy and Pro-Rector at the Central European University (CEU) in Vienna. He is particularly known for his work on intentionality and his stance known as “psychologism”. He is interviewed by Majid D. Beni.»
#ai #agency #consciousness
https://philosophyofbrains.com/2024/06/14/tim-crane-on-ai-and-agency.aspx
AI Godmode: jailbroken version of ChatGP
...ecco perché il Papa a 'sto giro si è pronunciato sulla AI 😂
#ai #hacking
https://x.com/elder_plinius/status/1790132393426178359
«Non è certo una novità che l'auto-incensamento della bolla tecnologica abbia oscurato i lati peggiori di questo settore, dalla propensione all'evasione fiscale alla invasione della privacy e allo sfruttamento della nostra attenzione. L'impatto ambientale del settore è un problema chiave, ma le aziende che producono tali modelli sono rimaste notevolmente silenziose sulla quantità di energia che consumano, probabilmente perché non vogliono suscitare la nostra preoccupazione.»
#ai #ecologia #ambiente
https://amp-theguardian-com.cdn.ampproject.org/c/s/amp.theguardian.com/commentisfree/article/2024/may/30/ugly-truth-ai-chatgpt-guzzling-resources-environment
The dangerous illusion of AI consciousness
The false dawn of machine minds
#ai
https://iai.tv/articles/the-dangerous-illusion-of-ai-consciousness-auid-2847
I patetici appelli per un impiego "etico" della AI quando nei consigli di amministrazione dei maggiori attori coinvolti nel suo sviluppo siedono regolarmente generali e agenti di intelligence. Un teatrino inconcludente buono solo a tenere in stato soporifero milioni di persone.
#ai #etica
https://x.com/Snowden/status/1801610725229498403
I Large Language Models incoraggiano l’idea mistica e fraudolenta di un oracolo che ci risolve la vita. All’opposto c’è la “intelligenza artificiale ristretta” che aiuta la ricerca scientifica
#ai
https://www.huffingtonpost.it/blog/2024/05/14/news/il_problema_con_la_ia_generalista-15874848/
The human mind is a marvel that no machine has matched
#ai #math #mind
https://www.plough.com/en/topics/life/technology/computers-cant-do-math
Nel 1978 il neuroscienziato Christopher Cherniak pubblicava un racconto breve intitolato "The Riddle of the Universe and Its Solutions".
In questo racconto un certo numero di ricercatori nel campo della Al vennero colpiti da uno strano morbo che li lasciava in coma catatonico. Si scoprì poi che quello che "bloccava" le loro menti riguardava le loro ricerche: è come se avessero trovato "l'enunciato di Gödel per la macchina di Turing umana che provocava un blocco della mente".
Perché i ricercatori andassero in coma, non era sufficiente che lavorassero su determinati enunciati, dovevano anche capirli. Infatti, prima di cadere in questo stato catalettico spesso le loro ultime parole pronunciate erano: "Ah, ecco".
Il racconto è molto interessante, soprattutto se si pensa che è stato concepito alla fine degli anni '70. Fornisce spunti di riflessione attuali anche oggi sui processi logici e cognitivi.
when big tech comes bearing gifts, you should probably look closely at what’s in the box
#ai
https://thewalrus.ca/ai-hype/
LLMs: miliardi di parametri, calcoli, correlazioni tra una una sterminata collezione di parole e frasi...
E poi c'è Agamben che riesce a scrivere riflettendo su un solo caso: il vocativo. Una singola parola capace di mettere in risonanza una infinità di situazioni di vita, senso e significato.
«Col vocativo ci rivolgiamo a coloro che amiamo o odiamo, col vocativo invochiamo, preghiamo e bestemmiamo, col vocativo salutiamo e prendiamo commiato, esaltiamo e compiangiamo, lodiamo e insultiamo. Col vocativo cominciano le lettere e i messaggi, carezziamo gli animali e i bambini.»
- Alpinismo
- philosophy
- psychology
- AI
Scalo montagne, quando posso, altrimenti scrivo, leggo, vedo gente, compilo codice e respiro in silenzio. Umanista in pieno naufragio, con un debole per la fenomenologia, l'ermeneutica, la buona cucina, il buon vino e le amicizie sincere.
While you've a lucifer to light your fag
🙂 Smile, boys, that's the style!
𝙿𝚊𝚜𝚜𝚒𝚘𝚗𝚊𝚝𝚎 𝙰𝙸 𝚌𝚘𝚍𝚎𝚛 𝚊𝚗𝚍 𝙻𝚒𝚗𝚞𝚡 𝚞𝚜𝚎𝚛
Joined Feb 2023
