Gert 
@Gert@qoto.org
- phenomenology
- philosophy
- psychology
- AI
Scalo montagne, quando posso, altrimenti scrivo, leggo, vedo gente, compilo codice e respiro in silenzio. Umanista con un debole per la fenomenologia, l'ermeneutica, la buona cucina, il buon vino e le amicizie sincere.
𝙿𝚊𝚜𝚜𝚒𝚘𝚗𝚊𝚝𝚎 𝙰𝙸 𝚌𝚘𝚍𝚎𝚛 𝚊𝚗𝚍 GNU/𝙻𝚒𝚗𝚞𝚡 𝚞𝚜𝚎𝚛
Joined Feb 2023
Nel campo in rapida evoluzione dei sistemi cyber-fisici (CPS), l’integrazione del machine learning (ML) è fondamentale per aumentare l’efficienza e ridurre i costi del lavoro. Tuttavia, questa integrazione espone CPS a vari attacchi ML avversari, in particolare attacchi di evasione, che stanno diventando una delle principali preoccupazioni nel settore. Questi attacchi sono allarmanti perché manipolano sottilmente gli input dei modelli ML per produrre decisioni errate pur rimanendo inosservati. Ciò comporta rischi significativi, soprattutto in settori critici come quello sanitario o delle infrastrutture, dove anche errori minori possono portare a risultati disastrosi, come diagnosi mediche errate o guasti alla rete elettrica. La natura furtiva di questi attacchi, unita al loro potenziale di minare la fiducia del pubblico nei sistemi automatizzati, rappresenta una sfida per la futura sicurezza dei CPS. Garantire l’integrità e l’affidabilità dei modelli ML in questi sistemi contro minacce così sofisticate sta diventando un compito sempre più critico nella salvaguardia del nostro mondo digitale e fisico.
In questo contesto, l'articolo "Evasion Attack and Defense on Machine Learning Models in Cyber-Physical Systems: A Survey" di Shunyao Wang, Ryan KL Ko, Guangdong Bai, Naipeng Dong, Taejun Choi e Yanjun Zhang, fornisce una esplorazione completa. Il documento inizia discutendo i fondamenti del CPS e degli attacchi avversari, quindi esplora le complessità delle strategie di attacco di evasione, aiutato da una tassonomia che illustra come vengono condotti questi attacchi e le vulnerabilità che sfruttano all'interno dei modelli ML in CPS. Il documento passa quindi a una panoramica delle strategie di difesa, approfondendo il modo in cui ciascuna tecnica rafforza il sistema contro tali attacchi, utilizzando una tassonomia di difesa per maggiore chiarezza. Questi meccanismi di difesa vengono esaminati da varie prospettive, che vanno dagli input del modello ML ai suoi output. Infine, lo studio evidenzia le questioni aperte, le sfide e le potenziali direzioni per la ricerca futura.
#ai #machinelearning #cybersecurity
https://arxiv.org/abs/2303.06302
Sanno di avere potere, per questo chiedono di sedersi a un tavolo per negoziare regole.
#ai #openai
http://magia.news/sam-altman-urges-senate-for-ai-regulation-the-new-york-times-2/
La ricerca di perfezione e "purezza" nei data base che alimentano i LLMs e i sistemi di intelligenza artificiale "generativa", la ricerca della loro stessa perfezione nelle risposte fornite, ha poco o nulla a che fare con il bisogno di verità e di responsabilità sociale. Risponde semplicemente alla necessità di evitare problemi di responsabilità legale e ripercussioni sul piano economico.
La pretesa implicita dell'approccio computazionale, da sempre, è quella di sostituire la verità frutto di una situazione discorsiva (Habermas) capace di generare intesa proprio a partire dal dialogo tra diversità, dalla "contaminazione" di lingue, culture e prospettive, con una verità aritmetica frutto del rimando tra segni, dati e informazioni.
Un progetto che ha radici antiche, ne troviamo traccia già nell’opera “Il contratto sociale” di Jean-Jacques Rousseau (1762): sostituire nei processi sociali e politici la "razionalità comunicativa" con una razionalità aritmetica (oggi algoritmica) capace di fare a meno della comunicazione e della relazione.
Su questa direttiva algoritmi e AI rischiano di minare alle fondamenta i processi democratici che si nutrono di relazionalità e comunicazione tra persone vive, posizionate emotivamente e preriflessivamente in situazioni storiche e sociali nelle quali e per le quali ne va di sé, situazioni che necessitano soprattutto della parola viva e del dialogo per portare a compimento processi veritativi capaci di generare narrative, aprire orizzonti di attesa e possibilità d'essere.
L'eccesso di dati e informazioni soffoca i processi di generazione di senso e significato, rischia di impaludare ciascuno in una ottusa contingenza dove la precisione di un dato non rimanda più che a se stesso, non indica più alcuna verità, non è più in grado di generare alcuna narrativa, nessun orizzonte di attesa e di possibilità. Ne vediamo gli effetti negli ecosistemi che prendono forma nelle "echo chamber" dei social network, dove l'esigenza di consolidare un processo identitario si nutre di qualunque narrativa utile allo scopo, fosse anche quella del complotto, ignorando qualunque dato e informazione.
#ai #dataanalysis #socialimpact
https://www.huffingtonpost.it/blog/2023/12/13/news/purezza_artificiale-14542385/
A dispetto del cosiddetto "deep learning" il nostro cervello è organizzato in piccole reti parallele e poco "profonde". Il machine.learning è perlopiù organizzato su architetture e concetti lontani anni luce dal nostro sistema nervoso.
#ai #neuroscience
https://neurosciencenews.com/brain-pathways-neuroscience-25384/
Dopo due anni e mezzo di dibattiti la UE approva le norme fondamentali sull’intelligenza artificiale. Entreranno in vigore entro il 2026.
La differenza di velocità fra tecnologia e regolamentazione dovrebbe farci ricordare che la vita ha i suoi ritmi e i suoi tempi, perlopiù indifferenti al business, al simulacro e alla tecnica. Piegare la vita al simulacro e alla tecnica può essere conveniente per alcuni ma è un gesto che si paga a caro prezzo sul piano della vita vissuta.
«Dimenticammo in queste gare i nostri nomi e il nostro volto.
Alla ricerca del più rapido scatto dimenticammo lo scopo.»
---[Bertold Brect, Teatro, L’accordo - II La caduta (Lehrstück vom Einverständnis) , trad. it. Torino 1961]
“Ciò che è veramente inquietante non è che il mondo si trasformi in un completo dominio della tecnica. Di gran lunga più inquietante è che l’uomo non è affatto preparato a questo radicale mutamento del mondo. Di gran lunga più inquietante è che non siamo ancora capaci di raggiungere, attraverso un pensiero meditante, un confronto adeguato con ciò che sta realmente emergendo nella nostra epoca”.
---[M. Heidegger, L’abbandono , pag. 39-40. Ed. Il melangolo]
#ai #filosofia #libri #heidegger
Io mi stupisco del fatto che questi continuano a stupirsi nel constatare che una macchina, nonostante le pretese e le promesse del mercato e dei suoi sacerdoti, rimane un cretino velocissimo 🙂
#ai
https://arxiv.org/abs/2311.00871
A research group using AI and mathematical modeling has discovered that human behavioral responses to COVID-19, like lockdowns and isolation, influence the evolution of the virus.
#ai #COVID19
https://neurosciencenews.com/human-behavior-covid-25249/
MIT researchers develop an AI model that can detect future lung cancer risk
Deep-learning model takes a personalized approach to assessing each patient’s risk of lung cancer based on CT scans.
#ai #cancer #medicine #algorithms
https://news.mit.edu/2023/ai-model-can-detect-future-lung-cancer-0120
AI Hyperrealism: Why AI Faces Are Perceived as More Real Than Human Ones
#ai
https://journals.sagepub.com/doi/10.1177/09567976231207095
Gentile professore, a me sembra che, anche senza scomodare la complessità (ormai più invocata della Santa Vergine Maria ovunque), l’esempio delle due pizze non colga affatto il fenomeno, contribuisce invece a portare in ombra fino far sparire del tutto un altro problema: quello degli effetti della ibridazione tra dispositivi (classici e/o adattivi), AI e il corpo umano (gli ambienti, i contesti, le culture…), un ambito di ricerca quasi totalmente inesplorato. Le ricerche disponibili francamente indicano quanto meno prudenza, quando non proprio degli alert (ad es. gli effetti dei sistemi GPS sull’ippocampo).
Quanto alla “intelligenza”, negli umani non si manifesta mai come entità o processo astratto e riproducibile ma come un fenomeno che prende forma nella dialettica incessante tra sé mondo e gli altri, una dialettica nella quale in ogni istante, diversamente dalle macchine, ne va di sé. Non si dà mai come oggetto o processo riproducibile a se stante perché nella esperienza vissuta l’intelligenza è sempre di un qualcuno ingaggiato nell’attuazione di riferimenti parte di situazioni fenomeniche concrete.
Quella delle macchine si chiama automazione: un utile gioco, ma non a somma zero. Non dico sirene spiegate, ma nemmeno la ninna nanna.
#ai #etica
https://www.huffingtonpost.it/video/2023/11/10/video/luciano_floridi_lai_non_uccidera_lintelligenza_umana_come_la_pizza_surgelata_non_ha_ucciso_quella_gourmet-14093561/
I film di fantascienza a volte aprono a delle possibilità che vanno oltre le prospettive che stanno al loro stesso fondamento. In questa scena, tratta dal film "Blade Runner 2049", la memoria viene pensata non come il recupero di un contenuto specifico.
La cosa richiamata alla memoria non è il centro esclusivo del ricordo, ma risulta rilevante solo in un contesto vitale caratterizzato in termini di situazione e di Vollzug - vita attuata in una situazione emotivamente significativa - e non di mero contenuto. La ragazza nel video coglie l’aspetto esistenziale che vede nel ricordo non il recupero di bit di informazione ma l’emergenza e la riattualizzazione di un modo di sentirsi vivere in relazione a un evento.
«Denkende lernen aus dem Fehlenden nachhaltiger.»
—-[Heidegger, M. Kant und das Problem der Metaphysik. Vorwort zur zweiten Auflage]
Quelli che pensano imparano in modo più durevole/sostenibile dalle mancanze (da ciò che manca).
La posizione dei transumanisti e dei profeti della AI, è una brutta copia del manifesto dei futuristi di Marinetti del 1909.
#ai #transumanesimo
https://inv.zzls.xyz/watch?v=JfqG7jqc9aY
In questa ricerca sono state analizzate circa 700 immagini digitalizzate di sezioni dell'ippocampo (una struttura del cervello), provenienti da donatori anziani, per sviluppare un algoritmo capace di calcolare una stima istologica dell'età del cervello (del suo decadimento). L’ippocampo è coinvolto sia nell’invecchiamento cerebrale sia nelle malattie neurodegenerative dipendenti dall’età. Le immagini sono poi state impiegate per sviluppare un sistema di machine learning capace di stimare l’età di una persona al momento della morte basandosi esclusivamente sulla sezione digitalizzata. La differenza tra l’età prevista dal sistema e l’età effettiva è stata impiegata per ricavare l'entità del decadimento cerebrale al momento del decesso.
Che la stessa struttura, l'ippocampo, sia seriamente compromessa nel tempo proprio dalla continua interazione con i dispositivi (ad es. i GPS per la navigazione) non è stato considerato.
La mania di pre-vedere tutto, per poi continuare tranquillamente a fare una vita insana, come nulla fosse, è uno degli aspetti che caratterizza l'epoca in cui viviamo: quella del Kali Yuga 😊
#neuroscience #ai #machinelearning
https://link.springer.com/article/10.1007/s00401-023-02636-3
- phenomenology
- philosophy
- psychology
- AI
Scalo montagne, quando posso, altrimenti scrivo, leggo, vedo gente, compilo codice e respiro in silenzio. Umanista con un debole per la fenomenologia, l'ermeneutica, la buona cucina, il buon vino e le amicizie sincere.
𝙿𝚊𝚜𝚜𝚒𝚘𝚗𝚊𝚝𝚎 𝙰𝙸 𝚌𝚘𝚍𝚎𝚛 𝚊𝚗𝚍 GNU/𝙻𝚒𝚗𝚞𝚡 𝚞𝚜𝚎𝚛
Joined Feb 2023
