Gert 
@Gert@qoto.org
- Alpinismo
- philosophy
- psychology
- AI
Scalo montagne, quando posso, altrimenti scrivo, leggo, vedo gente, compilo codice e respiro in silenzio. Umanista in pieno naufragio, con un debole per la fenomenologia, l'ermeneutica, la buona cucina, il buon vino e le amicizie sincere.
While you've a lucifer to light your fag
🙂 Smile, boys, that's the style!
𝙿𝚊𝚜𝚜𝚒𝚘𝚗𝚊𝚝𝚎 𝙰𝙸 𝚌𝚘𝚍𝚎𝚛 𝚊𝚗𝚍 𝙻𝚒𝚗𝚞𝚡 𝚞𝚜𝚎𝚛
Joined Feb 2023
Real-world exploits and mitigations in Large Language Model applications
#ai #llms #cibersecurity #hack
https://media.ccc.de/v/37c3-12292-new_important_instructions#t=253
"Una nuova speranza di salvezza, trasformare le macchine in agenti perfettamente morali. E un buon motivo per cui è destinata a fallire, con la benedizione di Kant"
#ai #etica #filosofia
https://www.huffingtonpost.it/blog/2024/01/10/news/angeli_artificiali-14787544/
"AI chatbots, like ChatGPT, are capable of memorizing and reproducing poems, even if they are copyrighted. The research highlights ethical concerns about how AI models are trained, potentially using data scraped from the internet, including copyrighted material."
#ai #copyright
https://neurosciencenews.com/ai-chatbot-poetry-ethics-25442/
Non condivido diverse posizioni del prof. Paolo Benanti rispetto al ruolo della AI e dell'impatto degli algoritmi più in generale sul sociale. Non si può sempre mantenere posizioni che evitino il conflitto che siamo chiamati a gestire. Temo inoltre che la sua formazione cattolica possa diventare un problema la dove ci sia da prendere posizioni scomode e "sovversive".
Gli auguro comunque tutta la fortuna del mondo per il suo nuovo incarico.
#ai
https://www-milanofinanza-it.cdn.ampproject.org/c/s/www.milanofinanza.it/amp/news/padre-benanti-nuovo-presidente-della-commissione-algoritmi-chi-e-il-frate-esperto-di-ai-che-prende-il-202401051656116084
Un bel lavoro, che dimostra però una volta di più che nessun algoritmo può "apprendere" se i dati forniti non presentano un qualche tipo di ordine e invarianza.
#ai #cybersecurity
https://arxiv.org/abs/2312.07921v1
Nel campo in rapida evoluzione dei sistemi cyber-fisici (CPS), l’integrazione del machine learning (ML) è fondamentale per aumentare l’efficienza e ridurre i costi del lavoro. Tuttavia, questa integrazione espone CPS a vari attacchi ML avversari, in particolare attacchi di evasione, che stanno diventando una delle principali preoccupazioni nel settore. Questi attacchi sono allarmanti perché manipolano sottilmente gli input dei modelli ML per produrre decisioni errate pur rimanendo inosservati. Ciò comporta rischi significativi, soprattutto in settori critici come quello sanitario o delle infrastrutture, dove anche errori minori possono portare a risultati disastrosi, come diagnosi mediche errate o guasti alla rete elettrica. La natura furtiva di questi attacchi, unita al loro potenziale di minare la fiducia del pubblico nei sistemi automatizzati, rappresenta una sfida per la futura sicurezza dei CPS. Garantire l’integrità e l’affidabilità dei modelli ML in questi sistemi contro minacce così sofisticate sta diventando un compito sempre più critico nella salvaguardia del nostro mondo digitale e fisico.
In questo contesto, l'articolo "Evasion Attack and Defense on Machine Learning Models in Cyber-Physical Systems: A Survey" di Shunyao Wang, Ryan KL Ko, Guangdong Bai, Naipeng Dong, Taejun Choi e Yanjun Zhang, fornisce una esplorazione completa. Il documento inizia discutendo i fondamenti del CPS e degli attacchi avversari, quindi esplora le complessità delle strategie di attacco di evasione, aiutato da una tassonomia che illustra come vengono condotti questi attacchi e le vulnerabilità che sfruttano all'interno dei modelli ML in CPS. Il documento passa quindi a una panoramica delle strategie di difesa, approfondendo il modo in cui ciascuna tecnica rafforza il sistema contro tali attacchi, utilizzando una tassonomia di difesa per maggiore chiarezza. Questi meccanismi di difesa vengono esaminati da varie prospettive, che vanno dagli input del modello ML ai suoi output. Infine, lo studio evidenzia le questioni aperte, le sfide e le potenziali direzioni per la ricerca futura.
#ai #machinelearning #cybersecurity
https://arxiv.org/abs/2303.06302
Sanno di avere potere, per questo chiedono di sedersi a un tavolo per negoziare regole.
#ai #openai
http://magia.news/sam-altman-urges-senate-for-ai-regulation-the-new-york-times-2/
La ricerca di perfezione e "purezza" nei data base che alimentano i LLMs e i sistemi di intelligenza artificiale "generativa", la ricerca della loro stessa perfezione nelle risposte fornite, ha poco o nulla a che fare con il bisogno di verità e di responsabilità sociale. Risponde semplicemente alla necessità di evitare problemi di responsabilità legale e ripercussioni sul piano economico.
La pretesa implicita dell'approccio computazionale, da sempre, è quella di sostituire la verità frutto di una situazione discorsiva (Habermas) capace di generare intesa proprio a partire dal dialogo tra diversità, dalla "contaminazione" di lingue, culture e prospettive, con una verità aritmetica frutto del rimando tra segni, dati e informazioni.
Un progetto che ha radici antiche, ne troviamo traccia già nell’opera “Il contratto sociale” di Jean-Jacques Rousseau (1762): sostituire nei processi sociali e politici la "razionalità comunicativa" con una razionalità aritmetica (oggi algoritmica) capace di fare a meno della comunicazione e della relazione.
Su questa direttiva algoritmi e AI rischiano di minare alle fondamenta i processi democratici che si nutrono di relazionalità e comunicazione tra persone vive, posizionate emotivamente e preriflessivamente in situazioni storiche e sociali nelle quali e per le quali ne va di sé, situazioni che necessitano soprattutto della parola viva e del dialogo per portare a compimento processi veritativi capaci di generare narrative, aprire orizzonti di attesa e possibilità d'essere.
L'eccesso di dati e informazioni soffoca i processi di generazione di senso e significato, rischia di impaludare ciascuno in una ottusa contingenza dove la precisione di un dato non rimanda più che a se stesso, non indica più alcuna verità, non è più in grado di generare alcuna narrativa, nessun orizzonte di attesa e di possibilità. Ne vediamo gli effetti negli ecosistemi che prendono forma nelle "echo chamber" dei social network, dove l'esigenza di consolidare un processo identitario si nutre di qualunque narrativa utile allo scopo, fosse anche quella del complotto, ignorando qualunque dato e informazione.
#ai #dataanalysis #socialimpact
https://www.huffingtonpost.it/blog/2023/12/13/news/purezza_artificiale-14542385/
A dispetto del cosiddetto "deep learning" il nostro cervello è organizzato in piccole reti parallele e poco "profonde". Il machine.learning è perlopiù organizzato su architetture e concetti lontani anni luce dal nostro sistema nervoso.
#ai #neuroscience
https://neurosciencenews.com/brain-pathways-neuroscience-25384/
Dopo due anni e mezzo di dibattiti la UE approva le norme fondamentali sull’intelligenza artificiale. Entreranno in vigore entro il 2026.
La differenza di velocità fra tecnologia e regolamentazione dovrebbe farci ricordare che la vita ha i suoi ritmi e i suoi tempi, perlopiù indifferenti al business, al simulacro e alla tecnica. Piegare la vita al simulacro e alla tecnica può essere conveniente per alcuni ma è un gesto che si paga a caro prezzo sul piano della vita vissuta.
«Dimenticammo in queste gare i nostri nomi e il nostro volto.
Alla ricerca del più rapido scatto dimenticammo lo scopo.»
---[Bertold Brect, Teatro, L’accordo - II La caduta (Lehrstück vom Einverständnis) , trad. it. Torino 1961]
“Ciò che è veramente inquietante non è che il mondo si trasformi in un completo dominio della tecnica. Di gran lunga più inquietante è che l’uomo non è affatto preparato a questo radicale mutamento del mondo. Di gran lunga più inquietante è che non siamo ancora capaci di raggiungere, attraverso un pensiero meditante, un confronto adeguato con ciò che sta realmente emergendo nella nostra epoca”.
---[M. Heidegger, L’abbandono , pag. 39-40. Ed. Il melangolo]
#ai #filosofia #libri #heidegger
Io mi stupisco del fatto che questi continuano a stupirsi nel constatare che una macchina, nonostante le pretese e le promesse del mercato e dei suoi sacerdoti, rimane un cretino velocissimo 🙂
#ai
https://arxiv.org/abs/2311.00871
- Alpinismo
- philosophy
- psychology
- AI
Scalo montagne, quando posso, altrimenti scrivo, leggo, vedo gente, compilo codice e respiro in silenzio. Umanista in pieno naufragio, con un debole per la fenomenologia, l'ermeneutica, la buona cucina, il buon vino e le amicizie sincere.
While you've a lucifer to light your fag
🙂 Smile, boys, that's the style!
𝙿𝚊𝚜𝚜𝚒𝚘𝚗𝚊𝚝𝚎 𝙰𝙸 𝚌𝚘𝚍𝚎𝚛 𝚊𝚗𝚍 𝙻𝚒𝚗𝚞𝚡 𝚞𝚜𝚎𝚛
Joined Feb 2023
