Gert @Gert@qoto.org

#ai #cybersec
https://spectrum-ieee-org.cdn.ampproject.org/c/s/spectrum.ieee.org/amp/open-source-ai-2666932122-2666932122

#ai #cybersecurity
https://arxiv.org/abs/2402.11814

«A multimodal large language model (MLLM) agent can receive instructions, capture images, retrieve histories from memory, and decide which tools to use. Nonetheless, red-teaming efforts have revealed that adversarial images/prompts can jailbreak an MLLM and cause unaligned behaviors. In this work, we report an even more severe safety issue in multi-agent environments, referred to as infectious jailbreak. It entails the adversary simply jailbreaking a single agent, and without any further intervention from the adversary, (almost) all agents will become infected exponentially fast and exhibit harmful behaviors. To validate the feasibility of infectious jailbreak, we simulate multi-agent environments containing up to one million LLaVA-1.5 agents, and employ randomized pair-wise chat as a proof-of-concept instantiation for multi-agent interaction. Our results show that feeding an (infectious) adversarial image into the memory of any randomly chosen agent is sufficient to achieve infectious jailbreak. Finally, we derive a simple principle for determining whether a defense mechanism can provably restrain the spread of infectious jailbreak, but how to design a practical defense that meets this principle remains an open question to investigate.»
#ai #LLMs
https://arxiv.org/abs/2402.08567

AI hype is built on high test scores. Those tests are flawed.
#ai
https://www-technologyreview-com.cdn.ampproject.org/c/s/www.technologyreview.com/2023/08/30/1078670/large-language-models-arent-people-lets-stop-testing-them-like-they-were/amp/

Notevole, considerando che è stato scritto nel 2021.
#ai #ethic
https://www.pewresearch.org/internet/2021/06/16/experts-doubt-ethical-ai-design-will-be-broadly-adopted-as-the-norm-within-the-next-decade/

#ai
https://www-bbc-co-uk.cdn.ampproject.org/c/s/www.bbc.co.uk/news/business-68364690.amp

Artificial Intelligence Is Stupid and Causal Reasoning Will Not Fix It
#ai #neuralnetworks
https://tinyurl.com/4d6pfpdu

Generative agents will change our society in weird, wonderful and worrying ways. Can philosophy help us get a grip on them?
#ai #philosophy
https://aeon.co/essays/can-philosophy-help-us-get-a-grip-on-the-consequences-of-ai

#PyCaret offre funzionalità automatizzate che promettono un risparmio di tempi nella scrittura del codice a favore del tempo speso nelle analisi del problema.

Non so quanto sia un bene affidarsi a questi tool, scrivere codice per me è sempre stato parte integrante dell'analisi stessa del problema, una sua articolazione.
#ai #coding #programming
https://pycaret.org/

Dopo aver lasciato letteralmente evaporare la persona e ogni possibilità di dialogo tra persone, la AI cerca di recuperare il valore della conflittualità che fonda ogni autentico dialogo facendola risorgere come simulazione. Una simulazione che dovrebbe facilitare il confronto e il dialogo tra entità precedentemente passate al fil di lama del pensiero ridotto a calcolo.
#ai
https://arxiv.org/abs/2402.07350

Is Deep Learning rubbish?... Yes, It Is.
#deeplearning #ai #neuroscience #philosophy
https://i.devol.it/watch?v=SYQ8Siwy8Ic

Certo che sentir parlare di opensource ed etica uno che occupa ruoli chiave dentro Meta (facebook), fa un po' sorridere. Il punto è che bisogna parlarne ed esserci, almeno per provare a portare i sospetti altrove, come fanno alcuni killer seriali andando a enunciare il ritrovamento "casuale" delle loro stesse vittime.
Comunque...
#ai #ethics #opensource
https://www.wired.com/story/artificial-intelligence-meta-yann-lecun-interview/

Con il passaggio dai significati - la rete di rimandi che ci riguardano, ci interpellano e ci chiedono di prendere una posizione - ai segni che rimandano solo ad altri segni secondo il codice che li domina, sparisce ogni riferimento alla vita vissuta e ogni possibile interpretazione.
#ai

#ai
https://www.repubblica.it/tecnologia/2024/02/07/news/deepfake_intelligenza_artificiale_riveste_le_donne-422077857/

L'empatia, la formazione e la cura dei legami non passa per la standardizzazione. Questo dovrebbe far riflettere, in un periodo storico nel quale le AI ci restituiscono sempre di più le invarianze della vita statistica media di nessuno.
#ai #relazioni #socialità
https://i.devol.it/watch?v=rTxcyNOG2I0

𝗔𝗽𝗮𝗿𝘁𝗵𝗲𝗶𝗱 𝗰𝗶𝗯𝗲𝗿𝗻𝗲𝘁𝗶𝗰𝗼
Il volto nascosto dell'attuale AI, dietro le narrative di futuri migliori, è quello di una tecnologia il cui sviluppo e impiego è sempre più sovraimplicato dagli interessi economici e dalle strategie geopolitiche internazionali che ne decidono strategie, sviluppi e finanziamenti, mentre la narrativa mainstream ci racconta di algoretiche improbabili o della vita "onlife" del professore che fa la crostata mentre ascolta musica da youtube e legge la ricetta su Dropbox, facendo finta di ignorare il costo di quella crostata: dati e metadati per addestrare macchine, classificare e anticipare ogni comportamento attraverso il profiling. Nel nuovo totalitarismo senza ideologia la parola d'ordine non è più "sorvegliare e punire" ma "motivare e ottimizzare".

«Lo stato di Israele sta usando in maniera sempre più estesa le tecnologie di riconoscimento facciale nei territori occupati della Palestina. È quanto emerge da un nuovo rapporto di Amnesty International, intitolato Apartheid automatizzato, pubblicato il 2 maggio.
In particolare, le autorità israeliane starebbero sperimentando nuove tecnologie di sorveglianza, come il sistema “Red wolf”, per controllare i cittadini palestinesi ai checkpoint militari e ostacolare la loro libertà di movimento. Ma il controllo biometrico di Tel Aviv sui palestinesi va in realtà avanti da anni. Una forma di sorveglianza massiva che ha le sembianze dell’apartheid, con cui l’industria tech israeliana sperimenta le sue nuove tecnologie prima di venderle all’estero.»
#ai #etics #freepalestine #israel
https://www.wired.it/article/israele-riconoscimento-facciale-palestina/

It seems that the entire analysis is developed starting from a modular and mechanistic perspective which is very suitable for machines but very little for human life. In the article, life is conceived in the light of criteria such as competition, optimization and mere survival, neglecting what for humans is the basis of every action: intentionality (why? with whom? against whom?...). In terms of mere survival, a sophisticated neurological evolution is not even necessary: jellyfish have existed for thousands of years without any particular evolution of their nervous system. Last but not least, artificial neural networks and the entire paradigm of Artificial Intelligence were founded on the Kantian perspective of thought and life, a legitimate choice from a research point of view which however greatly restricts the possibilities of understanding the phenomenon of life, reducing thought and reason to the emerging product of logical operations (Boolean algebra) carried out through the mechanical dynamics of logic gates.
#ai #neuroscience #brain
https://iai.tv/articles/ai-needs-the-constraints-of-the-human-brain-auid-2728

In effetti, me lo chiedo anche io. So che Paolo Benanti non è solo un teologo, è anche piuttosto competente in ambito tecnico. Apprezzo e condivido alcune sue posizioni, ma mi sento anche distante sia dal modo di portare la AI nel sociale sia nel modo di narrarla.
#ai
https://www.lastampa.it/editoriali/lettere-e-idee/2024/01/31/news/perche_lintelligenza_artificiale_ha_bisogno_di_un_teologo-14033591/

Pasquinelli scrive che la progettazione di qualsiasi tecnologia alternativa deve essere alimentata da una “cultura dell’invenzione, del progetto e della programmazione che si prenda cura e tenga conto dei bisogni collettivi e di tutte le comunità, e che non abbandoni la nostra agency e la nostra intelligenza all’automazione”
#ai
https://www.doppiozero.com/locchio-del-padrone

#ai #robotics
https://neurosciencenews.com/robotic-human-walking-25509/