Riduzione rischi dell'AI e proposta REPA

Manu · 19 days

Ciao a tutte!

Oggi nella collettiva Bologna stavamo discutendo dell’uso dell’intelligenza artificiale, e stavamo pensando: dato che promuoviamo la piena automazione, non dovremmo anche pensare ai rischi che automazione e intelligenza artificiale portano con sè?

Inteso come rischi di varia natura, ad esempio ambientale, educativo e cognitivo per le nuove generazioni, uso nell’ambito artistico…

Visto che come movimento ci proponiamo questo, non dovremmo esplicitare anche il limite dell’uso della tecnologia entro confini di sostenibilità e utilizzo consapevole?

Per questo ci era venuto in mente che una buona cosa potrebbe essere la scrittura di una REPA sulla gestione dei rischi dell’AI o qualcosa di simile.

Poi voglio riportare una discussione interessante avvenuta in privata con un’altra persona che anonimizzerò, che alimenta un dibattito che ho voluto riportare su Lemmy per continuarlo insieme:

X: “Io una soluzione l’avrei. Il fatto è che gli LLM sono di fatto buoni quasi solo per automatizzare attività che in un mondo sano neanche esisterebbero, tipo la robaccia manageriale. O la scrittura rapida di codice che non te ne frega sia buono ma che in un modo o nell’altro faccia qualcosa. I modelli generativi di altri media generano cose che tipicamente le persone fanno per divertimento, quindi anche lì, boh Polistirolo e benzina creano qualcosa che potrebbe essere utile a riprenderci le RAM dai datacenter. L’automazione industriale per fortuna non si fa con questa roba, che viene tutta messa nello stesso calderone però così tutti credono che gli LLM portino impatto positivo al mondo”

Manu: "non ho capito bene: quindi una REPA riduzione dei rischi dell’intelligenza artificiale non serve perchè già togliendo la robaccia manageriale eliminiamo i rischi? io non credo che l’intelligenza artificiale però sia solo quello nel mondo odierno e magari anche quello futuro

X: “No no, intendevo che secondo me la riduzione rischi con gli LLM (quelli che ora a causa della propaganda sono diventati “l’intelligenza artificiale”) si attua togliendo gli LLM, che non portano alcun beneficio misurabile all’umanità. Perché tanto il loro unico beneficio lo portano aumentando marginalmente la produttività in contesti che comunque non serve esistano. Cioè spero che non servirà continuare a scrivere email tutte uguali o codice raffazzonato per rispettare le scadenze del padrone”

Manu: “cioè lasciare l’uso dell’intelligenza artificiale solo in alcuni ambiti e “toglierli” alla gente comune?”

X: “Secondo me la REPA dovrebbe soprattutto approfondire il tema! Perché per quanto ChatGPT e il sistema che filtra i pomodori marci su un nastro trasportatore siano entrambi intelligenza artificiale, sono due cose drasticamente diverse”

Aggiungo io, LLM = Large Language Mode, ovvero i vari ChatGPT, Claude, Gemini… Lo aggiungo a beneficio di chi, come me non lo sapeva. Io sono andata a cercarlo 😁

m0st_blunt3d · 2 days

Mi occupo anch’io di etica e AI sotto diversi aspetti e sono d’accordo sul fatto che quantomeno dovremmo parlarne.

Propongo come nome REPA Sarah Connor

Manu · 19 days

Continuo con la mia perplessità: anche gli LLM ad oggi sono solo per svolgere bullshit jobs? A me sembra che ormai siano diventati pervasivi anche nella nostra vita quotidiana. Io stessa a volte mi rendo conto di abusarne perché cose che prima facevo io “a mano” o facendo delle ricerche più lunghe o calcoli o qualsiasi cosa, ora mi semplifico la vita e uso quale LLM. Ma non sto così facendo “atrofizzando” le mie capacità cognitive?

Immaginiamo poi l’uso fatto dai giovanissimi.

Inoltre altro largo uso industrale non solo di LLM ma anche di altri tipi di automazione come quello citato di filtrari i pomodori marci, anche quelli non consumano tanta energia?

Mi sono anche chiesta: forse questi sistemi possono in qualche modo aiutarci a risparmiare energia altrove quindi in realtà compensare il loro fabbisogno energetico?

Non andrebbe “regolamentato” l’uso di tutto ciò, in una società che vuole sostituire il lavoro dell’uomo con quello delle macchine ma facendolo in modo etico per gli esseri viventi e l’ambiente?

nychtelios · 19 days

Ti rispondo sulla parte energetica: ci sono sistemi di intelligenza artificiale anche in alcuni smartwatch per contare i passi o in alcune fotocamere per calibrare i settaggi automatici. Sono solo due esempi di sistemi che consumano pochissima energia.

I problemi ambientali vengono unicamente da questi modelli giganteschi che hanno bisogno di datacenter per funzionare.

Riguardo al primo paragrafo invece, oltre a dare un’occhiata all’articolo che ho linkato nell’altro commento, sarebbe importante anche sottolineare che se da un lato le cose che facevi a mano erano tendenzialmente affidabili (e se sbagliavi potevi imparare a non farlo), le loro risposte includono intrinsecamente probabilità di errore. E il loro errore è sempre coperto da un finto tono di autorevolezza e non sempre è facile capire di star leggendo delle cose false.

CrisBiniDibAct · 19 days

mi faceva notare un articolista di Dibact che anche la questione dei vertical (video verticali) è molto interessante dal punto di vista dell’accessibilità e della manipolazione che si può subire in un mercato che crea prodotti sempre peggiori qualitativamente. provo a contestualizzare per quanto mi è stato segnalato. In questi ultimi anni, con la scusa di una maggiore accessibilità, si sono sviluppate app che fornivano il servizio di fare veri e propri mini film per telefono con un inquadratura verticale, cosi da non ritagliare scene. questo mercato, scoppiato in cina, si era espanso anche in occidente, appunto garantendo anche una maggiore accessibilità e dinamicità per chi fuori dalle grande produzioni ( mi torna in mente fisher). sembrava tutto bello, e appunto anche questo amico sceneggiatore stava per lanciare suoi sceneggiati in pasto a queste app. succede però che con lo sviluppo dell’ia, la grande mole di “sceneggiati di bassa qualità”, la cina per prima ( che era il maggior acquirente nel mercato) ha smesso di comprare prodotti vertical esteri, lasciando in realtà anche i propri attori con il culo per terra, avendo sostituito tutto il sistema con ia. la naturalmente non ci sono sindacati e la regolamentazione è molto diversa sulle ia, comunque sia tutto ciò oltre che saturare il mercato di prodotti di bassa qualità, ha anche minato lo stesso standard qualitativo, essendo anche la popolaz più propensa a “mangiare merda” pur di distrarsi.

mi inserico in questo discorso sia per le critiche subite da persone artiste per sito con immagine ia, sia per appunto questa questione dei vertical su cui pubblicheremo un articolo come dibact. credo che una buona soluzione o linea guida possa essere cercare di evitare se possibile, con anche concorsi appunto per richiamare la partecipazione delle persone. esempio a me quel mega capibara del sito piace, però perchè non motivare la scelta di usarlo per mancanza di grafici disponibili e per la capacità del gruppo che ci ha lavorato a produrre un immagine comunque accattivante, rinnovando all’esterno la possibilità di partecipare al logo non ia del gruppo ( o che ne so) daje tutta ❤️

nychtelios · 19 days

Aggiungo qui uno studio in merito agli effetti dell’uso di ChatGPT sui nostri cervelli:

https://www.media.mit.edu/publications/your-brain-on-chatgpt/

(In inglese purtroppo, se può servire ci attiviamo per tradurlo)

Manu · 19 days

Tutto ciò, che non stupisce affatto, avvalora ció che penso: secondo me dovremmo scrivere una dichiarazione d’intenti che spiega secondo noi cosa vuol dire piena automazione e quali sono gli usi dell’AI che eventualmente scoraggiamo o non abbracciamo. Incluso l’aspetto ambientale di cui parlavi, ma anche cognitivo appunto

jeanclaude · 9 days

Ciao a tutt3!

Sono di Bologna e mi occupo di rischi legati all AI, quindi questa discussione mi coinvolge particolarmente. Sono appena entrata in contatto col mondo Capibara e la prima cosa che mi è venuta in mente era proporre una REPA proprio su questi temi (se non esiste già). Mi piacerebbe molto avere una discussione dal vivo (specialmente se vi trovate a Bologna) o eventualmente possiamo sentirci su deltachat appena avrò un profilo attivo.

Intanto mi collego alla discussione offrendo degli spunti:

Concordo appieno molto dei problemi energetici sono legati agli LLM e alle AI agentiche che sono per ora in una fase embrionale ma mi aspetto un diffusione su scala anche di queste negli anni a venire. Difatto, specialmente negli USA, eistono già movmenti che targetizzano i data-center hyperscale (creciuti appunto dopo la’avvento degli LLM). Con la loro diffusione anche in Europa ed Italia negli anni a venire potrebbe essere qualcosa da cui prendere spunto (https://betterfuturemedia.substack.com/p/data-center-resistance-movement).
Uno spunto generale che trovo molto interssante e che mi sento di condividere appieno è questo articolo (https://arxiv.org/abs/2602.21843) che sostiene che un allineamento dell AI ai valori umani sia possibile solo al di fuori di un’economia capitalista
Quello che penso è che al momento l’AI sia il mezzo di produzione di questa nuova faccia del capitalismo (capitalismo della sorveglianza) e mi riferisco in particolare agli algoritmi di profilazione. Gli LLM sono un po’ la punta dell’iceberg ma molti sistemi AI anche meno energivori, sono alla base della nuova infrastruttura digitale che sta andando spaventosamente verso un tecnofacsismo profetizzato e voluto dai colossi delle Big Tech. Sono convinta che riaprropriarsi dei mezzi di produzione e del valore che generano sia sempre stata la chiave, capire come farlo rispetto a una infrasttura come l’AI, che richiede materiali strettmante specifici e una potenza computazionale comunque difficilmente accessibile al di fuori di contesti istituzional e/o aziendali, non mi è per nulla chiaro ma è un tema che mi piacerbbe tantissimo approfondire collettivamente.

Scusate per gli articoli in inglse e spero di incontrarvi presto dal vivo!