Gert @Gert@qoto.org

Quella di continuare a inseguire l'ultima esigenza del mercato, subordinando ogni altra questione umana e sociale (cultura, educazione, relazioni, salute...) ai bisogni di produzione e fatturato, è una idea ottusa e insostenibile.
Fino a qualche anno fa sembrava che i bambini non fossero degni nemmeno di essere al mondo se non avessero imparato a scrivere codice. Oggi che il codice è fornito dai nuovi oracoli digitali (con enormi problemi di vulnerabilità) e le macchine devono essere "addestrate" alla meglio per fornire servizi degni di essere pagati, all'improvviso la letteratura torna ad avere un valore ma solo perché aiuterebbe a scrivere meglio gli input per sistemi AI (prompt).... Anche basta.
#ai #etica #cultura
https://www.tomshardware.com/tech-industry/artificial-intelligence/jensen-huang-advises-against-learning-to-code-leave-it-up-to-ai

Finalmente qualcuno ha messo a fuoco il problema delle sovraimplicazioni politiche dell'attuale AI. Adesso aspettiamo che qualcun'altra abbia la rivelazione in sogno, o sotto effetto di stupefacenti, delle sovraimplicazioni economiche 😂
#ai #etica #politica
https://centroriformastato.it/iniziativa/le-proprieta-politiche-dei-sistemi-di-intelligenza-artificiale/

L'articolo dice diverse cose condivisibili, ma se stiamo ancora a frasi tipo: "Il problema siamo noi che usiamo il coltello, non il coltello"; oppure: "L’intelligenza artificiale è un nome che descrive un modo di fare software"... stiamo messi davvero male. Per comprendere possibilità e limiti della AI non basta essere informatici e imprenditori.
#ai
https://www.wired.it/article/intelligenza-artificiale-noiosa-quintarelli/

#ai #cybersec
https://spectrum-ieee-org.cdn.ampproject.org/c/s/spectrum.ieee.org/amp/open-source-ai-2666932122-2666932122

#ai #cybersecurity
https://arxiv.org/abs/2402.11814

«A multimodal large language model (MLLM) agent can receive instructions, capture images, retrieve histories from memory, and decide which tools to use. Nonetheless, red-teaming efforts have revealed that adversarial images/prompts can jailbreak an MLLM and cause unaligned behaviors. In this work, we report an even more severe safety issue in multi-agent environments, referred to as infectious jailbreak. It entails the adversary simply jailbreaking a single agent, and without any further intervention from the adversary, (almost) all agents will become infected exponentially fast and exhibit harmful behaviors. To validate the feasibility of infectious jailbreak, we simulate multi-agent environments containing up to one million LLaVA-1.5 agents, and employ randomized pair-wise chat as a proof-of-concept instantiation for multi-agent interaction. Our results show that feeding an (infectious) adversarial image into the memory of any randomly chosen agent is sufficient to achieve infectious jailbreak. Finally, we derive a simple principle for determining whether a defense mechanism can provably restrain the spread of infectious jailbreak, but how to design a practical defense that meets this principle remains an open question to investigate.»
#ai #LLMs
https://arxiv.org/abs/2402.08567

AI hype is built on high test scores. Those tests are flawed.
#ai
https://www-technologyreview-com.cdn.ampproject.org/c/s/www.technologyreview.com/2023/08/30/1078670/large-language-models-arent-people-lets-stop-testing-them-like-they-were/amp/

Notevole, considerando che è stato scritto nel 2021.
#ai #ethic
https://www.pewresearch.org/internet/2021/06/16/experts-doubt-ethical-ai-design-will-be-broadly-adopted-as-the-norm-within-the-next-decade/

#ai
https://www-bbc-co-uk.cdn.ampproject.org/c/s/www.bbc.co.uk/news/business-68364690.amp

Artificial Intelligence Is Stupid and Causal Reasoning Will Not Fix It
#ai #neuralnetworks
https://tinyurl.com/4d6pfpdu

Generative agents will change our society in weird, wonderful and worrying ways. Can philosophy help us get a grip on them?
#ai #philosophy
https://aeon.co/essays/can-philosophy-help-us-get-a-grip-on-the-consequences-of-ai

#PyCaret offre funzionalità automatizzate che promettono un risparmio di tempi nella scrittura del codice a favore del tempo speso nelle analisi del problema.

Non so quanto sia un bene affidarsi a questi tool, scrivere codice per me è sempre stato parte integrante dell'analisi stessa del problema, una sua articolazione.
#ai #coding #programming
https://pycaret.org/

Dopo aver lasciato letteralmente evaporare la persona e ogni possibilità di dialogo tra persone, la AI cerca di recuperare il valore della conflittualità che fonda ogni autentico dialogo facendola risorgere come simulazione. Una simulazione che dovrebbe facilitare il confronto e il dialogo tra entità precedentemente passate al fil di lama del pensiero ridotto a calcolo.
#ai
https://arxiv.org/abs/2402.07350

Is Deep Learning rubbish?... Yes, It Is.
#deeplearning #ai #neuroscience #philosophy
https://i.devol.it/watch?v=SYQ8Siwy8Ic

Certo che sentir parlare di opensource ed etica uno che occupa ruoli chiave dentro Meta (facebook), fa un po' sorridere. Il punto è che bisogna parlarne ed esserci, almeno per provare a portare i sospetti altrove, come fanno alcuni killer seriali andando a enunciare il ritrovamento "casuale" delle loro stesse vittime.
Comunque...
#ai #ethics #opensource
https://www.wired.com/story/artificial-intelligence-meta-yann-lecun-interview/

Con il passaggio dai significati - la rete di rimandi che ci riguardano, ci interpellano e ci chiedono di prendere una posizione - ai segni che rimandano solo ad altri segni secondo il codice che li domina, sparisce ogni riferimento alla vita vissuta e ogni possibile interpretazione.
#ai

#ai
https://www.repubblica.it/tecnologia/2024/02/07/news/deepfake_intelligenza_artificiale_riveste_le_donne-422077857/

L'empatia, la formazione e la cura dei legami non passa per la standardizzazione. Questo dovrebbe far riflettere, in un periodo storico nel quale le AI ci restituiscono sempre di più le invarianze della vita statistica media di nessuno.
#ai #relazioni #socialità
https://i.devol.it/watch?v=rTxcyNOG2I0

𝗔𝗽𝗮𝗿𝘁𝗵𝗲𝗶𝗱 𝗰𝗶𝗯𝗲𝗿𝗻𝗲𝘁𝗶𝗰𝗼
Il volto nascosto dell'attuale AI, dietro le narrative di futuri migliori, è quello di una tecnologia il cui sviluppo e impiego è sempre più sovraimplicato dagli interessi economici e dalle strategie geopolitiche internazionali che ne decidono strategie, sviluppi e finanziamenti, mentre la narrativa mainstream ci racconta di algoretiche improbabili o della vita "onlife" del professore che fa la crostata mentre ascolta musica da youtube e legge la ricetta su Dropbox, facendo finta di ignorare il costo di quella crostata: dati e metadati per addestrare macchine, classificare e anticipare ogni comportamento attraverso il profiling. Nel nuovo totalitarismo senza ideologia la parola d'ordine non è più "sorvegliare e punire" ma "motivare e ottimizzare".

«Lo stato di Israele sta usando in maniera sempre più estesa le tecnologie di riconoscimento facciale nei territori occupati della Palestina. È quanto emerge da un nuovo rapporto di Amnesty International, intitolato Apartheid automatizzato, pubblicato il 2 maggio.
In particolare, le autorità israeliane starebbero sperimentando nuove tecnologie di sorveglianza, come il sistema “Red wolf”, per controllare i cittadini palestinesi ai checkpoint militari e ostacolare la loro libertà di movimento. Ma il controllo biometrico di Tel Aviv sui palestinesi va in realtà avanti da anni. Una forma di sorveglianza massiva che ha le sembianze dell’apartheid, con cui l’industria tech israeliana sperimenta le sue nuove tecnologie prima di venderle all’estero.»
#ai #etics #freepalestine #israel
https://www.wired.it/article/israele-riconoscimento-facciale-palestina/

It seems that the entire analysis is developed starting from a modular and mechanistic perspective which is very suitable for machines but very little for human life. In the article, life is conceived in the light of criteria such as competition, optimization and mere survival, neglecting what for humans is the basis of every action: intentionality (why? with whom? against whom?...). In terms of mere survival, a sophisticated neurological evolution is not even necessary: jellyfish have existed for thousands of years without any particular evolution of their nervous system. Last but not least, artificial neural networks and the entire paradigm of Artificial Intelligence were founded on the Kantian perspective of thought and life, a legitimate choice from a research point of view which however greatly restricts the possibilities of understanding the phenomenon of life, reducing thought and reason to the emerging product of logical operations (Boolean algebra) carried out through the mechanical dynamics of logic gates.
#ai #neuroscience #brain
https://iai.tv/articles/ai-needs-the-constraints-of-the-human-brain-auid-2728