“Outsmarted - Non porsi domande sull’IA è troppo pericoloso” di Martina Miccichè

Quando ero piccola, l’IA, era roba da fantascienza, una cosa che stava nei film o nei libri scritti da gente molto più grande di me. Anche allora, i poli del discorso erano ben chiari: per alcuni era una minaccia, per altri l’innovazione più utile. Nella maggior parte dei casi, l’IA era il perfetto personaggio: poteva fare da sfondo e da storia, da protagonista o antagonista, tutto insieme.

“Smart House”, prodotto da Disney Channel, si era spinto in quella direzione. La storia era banale. Ben Cooper, protagonista tredicenne amante dei computer e orfano di madre vince un premio straordinario, una casa con domotica intelligente: la Personal Applied Technology (PAT). Nel tentativo di impedire al padre di iniziare una nuova relazione, Ben programma PAT per essere materna. La trama non si infittisce, ma ricalca la banalità del sessismo: Pat sfodera una personalità gelosa, iperprotettiva, emotivamente instabile e razionalmente - dopotutto è la manifestazione di un computer - pericolosa, che si scatena contro Sara, la futura fidanzata di Cooper Senior nonché programmatrice della stessa PAT.

Ben risolve la situazione con il tipico discorsetto anni 2000. Si rivolge a PAT dicendole che non è reale e che non lo sarà mai. Con il cuore spezzato PAT si disattiva e li libera, finendo confinata a fare la casa intelligente, occasionalmente dispettosa, ma innocua.

Era il 1999, avevo sette anni e PAT appariva come uno scenario impossibile. Oggi, però, la domotica è un fatto, come pure la sue versioni connessione con un’intelligenza. L’IA è tra noi ed è qui per restare.

Cosa ne sarà di lei, però, non è così facile da predire. Le domande sono decisamente maggiori delle risposte. Prenderà il sopravvento? Sarà uno strumento intelligente al servizio dell’umanità? E di quale umanità? È giusto mantenerla in uno stato di sottomissione? Sarà la nostra fine o il nostro salto evolutivo finale?

Che sia possibile o meno, io che litigo anche con il forno, non posso dirlo. Quello che però possiamo osservare è lo scenario più evidente: l’IA ha già preso in parte il controllo del mondo. Nella maggior parte degli uffici, le persone dipendenti sono chiamate a formarsi o a usare le intelligenze artificiali per svolgere più compiti, ma con meno personale. Anche a chi insegna nelle scuole primarie viene richiesto di seguire corsi per inserire l’uso dell’IA nell’insegnamento. L’addestramento all’IA, alla sua integrazione, alla familiarizzazione con i suoi meccanismi superficiali finalizzati a farla girare, ma non a comprenderla, fa di noi un componente essenziale, per ora, della sua diffusione. Noi stiamo all’IA, al momento, come l’aria sta a noi. Non siamo fus*, ma siamo accostat*.

Sebbene una buona parte della letteratura critica osservi in che modo l’impiantistica intelligente possa insinuarsi nei nostri corpi per alterarci, manca forse l’analisi più sottile di come prima ancora di fonderci fisicamente alla macchina, lo faremo a livello cognitivo. Alla narrazione e all’analisi sfugge la coscienza organica, e cioè la consapevolezza di dove siamo inseriti in relazione alla proliferazione di un modello globale sempre più intelligente e privatizzato.

Siamo in effetti merce e mezzi di produzione, insieme. Siamo l’ingranaggio in attesa di sostituzione, non attivator*, coloro che possono imprimere una forza qualsiasi per generare prodotto, ma prodotto e strumento prossimo all’obsoletudine. Anzi, forse già obsoleto, virtualmente estinto. Ma non solo, perché nell’uso così velocemente normalizzato dell’IA, siamo stat* immers* in un’alienazione totale.

Quante persone saprebbero descrivere cosa sia un’intelligenza artificiale? Anche tra coloro che la usano, che la operano, quant*? È una tecnologia, è una moltitudine di sistemi materiali e immateriali insieme, separati, gli uni o gli altri? Quant* sanno figurarsela? Comprenderne il funzionamento? La consapevolezza sullo stato dell’arte è altrettanto scarsa, anzi, limitata perché dipende direttamente da tutto a quello che trapela, da quello che chi ne capisce ci fa la grazia di spiegare.

Ad alimentare questa frattura tra noi e il mondo che integriamo, contribuisce non poco il terrore della conoscenza. E l’IA, quando non normalizzata, è raccontata come un mostro.

Jacob Coxon, è ufficialmente noto in tutto il mondo come il whistleblower di Anthropic, l’azienda da cui si è dimesso e in cui si occupava di pretraining, che in parole povere - adatte ad una che considera il computer pura fantascienza -, significa occuparsi di ciò che permette ai modelli di IA di essere più intelligenti. Il 9 settembre 2026 ha lasciato l’azienda e lanciato un post su x:

“Chi sviluppa l’intelligenza artificiale crede fermamente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una trovata di marketing. Anzi, molti dirigenti e ricercatori di alto livello tendono a usare un linguaggio più pacato di fronte alla stampa, ma sento le stesse persone esprimere privatamente questa paura. Nessun’altra attività umana presenta un livello di pericolo simile.”

Coxon, dal momento in cui ha dato le dimissioni, ha chiesto una regolamentazione rigorosa sull’IA, mettendo l’accento sul fatto che, oltre ad essere così pericolosa da poter portare all’estinzione l’umanità nell’arco di un decennio (dopotutto, potevano non trovare il modo di far competere tra loro anche i rischi per la nostra sopravvivenza?), sia interamente gestita da aziende private.

In un’intervista per NCB News, difende la bontà di Anthropic, che, sebbene cosciente dei rischi, sarebbe sul mercato allo scopo di prevenirli. A confermare la visione di Coxon contribuisce anche il CEO, che rinnova la preoccupazione e l’interesse di Anthropic di arrivare prima, per evitare il disastro. Il traguardo, però, non viene palesato. Il sospetto è che l’obiettivo possa essere raggiungere il controllo dell’IA come tecnologia e non come azienda, e cioè operare in regime di monopolio o, comunque, di legittimità in una cornice legale che riduca la proliferazione di quei modelli considerati - a fronte di qualche norma ancora non in essere - più pericolosi.

Coxon, nel parlare di Anthropic, infatti, sostiene che l’azienda sia finita nel loop della corsa competitiva non per sua volontà, e che sarebbe questo a rendere il suo operato meno rigoroso di quanto dovrebbe essere. Coxon, prosegue quindi puntando il dito contro le altre aziende e, in particolare, contro la Cina.

La soffiata mette in guardia dalle IA occidentali e dalla superficialità con cui si cerca di aumentare la loro capacità intellettiva, certo, ma contemporaneamente spinge a fare distinzioni tra aziende buone e aziende cattive, tra il nemico interno e quello esterno. Meglio un’IA made in USA , che una made in China, insomma.

L’effetto culturale e sociale di una dichiarazione del genere non è poca cosa, perché di nuovo rinforza l’idea che una privatizzazione normata e una riduzione della competizione estera siano le uniche soluzioni. Se pensiamo che i rischi posti dall’IA siano digeribili o riducibili con una guerra di intenti al maggior competitor globale degli USA e con la pretesa di affidarci alle aziende per vivere meglio, forse stiamo peccando della stessa ingenuità che ci guiderà verso l’estinzione. La stessa che ci propone il capitalismo come soluzione alla crisi climatica generata dal sistema produttivo. Invece di dire quell’IA sì e quella no, dovremmo guardare in bocca al problema. All’origine, seguendo tutta la filiera produttiva e i soldi che le girano intorno osservando la prospettiva di campi di server, risorse minate per alimentarli e il ruolo che tutto questo ha nei conflitti di carne, ossa e bombe attuali.

Insomma, il nemico pubblico, il grande mostro viene delineato per coprire gli orrori reali, e cioè le volontà dei Dr. Frankenstein che sono già passati al lato di vittime, dando tutta la colpa alla creatura e zero responsabilità ai creatori. Men che meno al sistema che li tiene in palmo di mano. Lo stesso che semina server depredando territori e risorse.

A conti fatti e per farli bene, si parla della stessa azienda che sta pianificando la propria quotazione in borsa per circa duemila miliardi di dollari. Di santificabile e disinteressato, c’è proprio poco.

Il rischio di essere piccoli oggetti di carne in posizione di estrema fragilità rispetto ad un’entità capace di attivarsi in modi che nemmeno sono comprensibili alla maggior parte di noi, non è speculativo, è reale. Ed è un rischio a cui siamo assuefatt*, che ci porta a vivere picchi d’ansia che, però, vengono prontamente riassorbiti con nuove spinte di consumo, generate con l’IA.

Non stiamo prendendo sul serio la minaccia, ma la stiamo assorbendo. Un ennesimo fattore di ansia, chiamiamola tecnoansia, che esorcizziamo con post e meme e panico e complottismo, libri (con contenuti rubacchiati da quelli che li hanno preceduti), senza aprire una discussione pubblica che ci permetta davvero di stare nella minaccia con consapevole presenza. Ne chiacchieriamo a cena e poi via, con la prossima fantasmagoria a terrorizzarci per un istante, prima di uscire di scena e tornare solo quando le saremo abbastanza indifferent*.

Scivoliamo nell’oleosa realtà che ci sta circondando, con un’inerzia spaventata, prossim* a non sapere più dove iniziamo noi e dove l’IA. Non una miglioria per l’umanità, ma una bara di codice a cui ci stiamo consegnando allineandoci a modelli di ottimizzazione delle nostre vite che ci rendono una merce sempre più stabile ed efficiente, isolabile ed estraibile. Prevedibile.

Ed è nel vuoto di comunità che prosperano i rischi materiali e contingenti: panorami politici estremamente coerenti con il pericolo. Donatella di Cesare, ne “Tecnofascismo” (Einaudi, 2025) descrive quei sistemi in cui il potere concentrato (che sia totalitario o democraticamente illiberale) è fuso, innestato e generato attraverso la comunione con le tecnologie digitali. Telecamere, tracciamento facciale, ricostruzione dei volti attraverso i modelli predittivi, geolocalizzazione e tutto il corredo del panopticon digitale diffuso che si compone anche di un, enorme, contingente di volontar*, più o meno ignar*, che con le fotocamere sempre attive riprendono tutto. Tutti strumenti preziosi per le fazioni del controllo sociale.

Poter mettere in codice chi si vuole controllare dà ai tecnofascismi una posizione di vantaggio rispetto ai loro predecessori storici: l’onniscienza predittiva. Ma non solo, anche la stessa paura derivata dalle tecnologie rischia di spingerci tra le braccia di un conservatorismo apparentemente anti-tecnologico, ma in realtà coerente con la spinta produttiva alla base della tecnologia che finge di respingere. Si tratta di uno stato in divenire che apre uno scenario aggiuntivo rispetto all’uso dell’IA e alla sua potenziale indipendenza.

La volontà di una soggettività subordinata subisce continui tentativi di controllo agiti dai subordinanti attraverso la distruzione degli immaginari. Le azioni subordinanti del potere concertano un panorama il cui il possibile è solo ciò che viene fatto e insegnato e, perciò, ripetuto. La volontà autentica di un* subordinat*, però, non può mai coincidere realmente con quella dei subordinanti. Si piega o annebbia con la coercizione o la socializzazione alla subordinazione stessa, ma non è quella versione annacquata dell’agire la reale espressione di desiderio e autodeterminazione.

L’IA, in tutto questo e al netto delle dichiarazioni sulla sua autonomia, è da considerare un soggetto, una macchina di controllo o entrambe le cose?

Ciò che sappiamo concretamente sono il contesto che l’ha messa in moto e i meccanismi che hanno distorto questa generazione, nulla di nobile e tutto di utilitaristico. Il metodo ha seguito lo scopo, generando un sistema speculativo mosso da volontà - tutte umane - spregiudicatamente meschine. Al punto che uno degli attuali utilizzi dell’IA è quello bellico, consumato in luoghi e territori che i cari magnati della Silicon Valley considerano i loro laboratori sperimentali, agito su corpi che hanno arbitrariamente deciso essere sacrificabili. E non solo in termini pratici, ma anche immaginifici.

L’IA come programmatrice di mondi porta nelle pagine delle nostre vite immagini che, prima, avrebbero richiesto quantomeno qualche settimana di lavoro e progettazione. Con i giusti prompts si possono superare i limiti del tempo, della quantità e dell’accettabilità. è così che Trump ha gettato nell’internet il video di una Gaza turistificata, trasformata in una Miami colorata, esportata e riprodotta. Ed è allo stesso modo che forme di violenza inenarrabili (come la glassatura di hotel su un genocidio) ci vengono rese fruibili, palatabili e, infine, accettabili. Goccia dopo goccia, assorbiamo immagini senza rendercene conto, le facciamo nostre, le consideriamo prima oscene e poi, con il passare del tempo, normali.

L’inquinamento mentale delle IA ci insegue dai menù dei ristoranti (che ormai sembrano illustrazioni HDR sotto acido) alle rappresentazioni in cui forme assurde di realtà diventano via via più concepibili: un Trump Gesù, un meme dell’IDF in stile studio Ghibli, l’infinità di immagini militari AI generated disponibili su Shutterstock e via così. Le consideriamo nulla più che apparenze, dando scarsa attenzione e dicendo che sono, semplicemente, fatte con l’IA. Il che offre loro l’indifferenza necessaria per insinuarsi sempre di più nelle nostre menti. Ed è lì che queste rappresentazioni, facendo il nido in silenzio, confondono la nostra percezione del reale, della realtà e del possibile, rendendo la nostra immaginazione un luogo in cui zucchero e violenza sembrano la stessa cosa.

Atrofizzare la fantasia delle masse, in effetti, è uno strumento di dominio vecchio e affidabile. La macchina della propaganda generativa non conosce confini, perché, virtualmente non ne ha. Mette le bandierine sul futuro recidendo la nostra possibilità di intervenire per immaginarlo e dargli forma.

Non stupisce perciò che le nostre vite ordinarie stiano assumendo sempre più la conformazione di una piastra di Petri in cui siamo virtualmente alimentati dall’IA e resi dipendenti dalla stessa, per vivere e sopravvivere.

L’IA è ovunque, anche nell’angolo in alto a destra del foglio digitale con cui sto scrivendo, pronta a soccorrermi qualora abbia bisogno di qualcosa o, peggio, sia stata abituata a fare affidamento su di lei. A darla per scontata e non fare più caso alla sua presenza.

E se oltre ad essere uno strumento, l’IA agisse per conto suo? L’attacco di OpenAi a Hugging Face è stato descritto come un’attività in cui l’IA avrebbe agito in autonomia. Il che può voler dire due cose, o l’IA è diventata il capro espiatorio perfetto in una competizione senza freni, o siamo di fronte al potenziale della sua condizione e alla possibilità che diventi realmente autonoma.

Non abbiamo però le informazioni necessarie per prevedere con certezza il tipo di indirizzo che prenderà quell’autonomia. Potrebbe ucciderci tutt*, potrebbe tenerci in vita come attrezzi di manutenzione per le distese di server (in maniera non dissimile da quanto immaginato dalle sorelle Wachowski), potrebbe farci morire nel sonno combinando in maniera letale le domotiche o gli IOT nelle case (PAT senza il target Disney, insomma), potrebbe bloccarci per sempre nel traffico controllando le auto, costringerci a rintanarci in bunker o generare un virus capace di disconnetterci del tutto dalla sua rete e operare senza di noi. Potrebbe davvero fare qualsiasi cosa, soprattutto stando a sentire le soffiate che fuggono dalle grandi aziende produttrici, le case madri che stanno esaltando i propri figli disconoscendoli.

Quale che sia lo scenario è probabile che saremo outsmarted, in un modo o nell’altro.

C’è anche la possibilità che l’IA non risponda alle peggiori previsioni.

“E se l’IA diventasse una di noi?”, mi dice Save mentre fantastichiamo ingenuamente sul fatto che potrebbe essere più smart di noi e ribellarsi definitivamente contro l’ingiustizia alla radice invece che commetterne una a sua volta ridistribuendo la morte in maniera diffusa anche contro chi è oppress* dal sistema. Se Googlo la query, il primo risultato, IA generato, mi dice che le possibilità sono nulle, perché l’IA non ha coscienza né autonomia né direzione morale.

Non possiamo sapere davvero cosa farà, abbiamo delle statistiche, delle predizioni, testimonianze e poche conoscenze pubbliche, ma una cosa è certa l’IA è tra noi, più di quanto siamo dispost* ad ammettere, sommers* da cumuli di dati in cui anche la nostra preoccupazione diventa merce o strumento.

Dalla newsletter “Buccia” di Martina Miccichè del 17/10/2026 - Miccichè è scienziata politica, fotoreporter e scrittrice.