Non è la tecnologia a fare la società, ma la società con i suoi valori e le sue idee a fare la tecnologia.

La voce di Diletta Huysker, autrice di "Tecnologia della rivoluzione", intervistata da Chiara Pedrocchi e Marco Biondi

Nel suo libro “Tecnologia della Rivoluzione”, l’autrice affronta il tema di come la tecnologia, in particolare la sua genesi e l’uso che ne facciamo, sia strettamente collegata ai costrutti sociali dominanti che stanno alla base del sistema che la crea. Chiara Pedrocchi e Marco Biondi l’hanno intervistata per capire meglio il suo sguardo su questo tema. 

D: Diletta, puoi presentarti e raccontarci il percorso che ti ha portato a scrivere il libro “Tecnologia della rivoluzione”, edito da Il Saggiatore? 

R: Sono una persona che fa più cose, con un focus sulla tecnologia e sull’intelligenza artificiale con uno sguardo critico e analitico sulla complessità. Arrivo dal mondo dell’attivismo e della ricerca. Il libro è sicuramente frutto di questi punti di vista e ho provato a rispondere alla domanda: perché le tecnologie riproducono determinate logiche e come si fa a limitare tutto questo? Per me si è trattato di un grande momento di presa di coscienza.  

D: Una delle prime tecnologie di cui parli nel tuo libro è il microonde. Perché hai deciso di inserire questo strumento?

R: Il microonde occupa uno spazio importante non tanto come oggetto tecnologico ma come metodologia di studio. A metà degli anni ‘90, Cynthia Cockburn e Susan Ormrod, due sociologhe femministe, hanno realizzato uno studio intitolato “Gender and Technology in the making”, per indagare il modo in cui le relazioni di genere entrano nella progettazione tecnologica. Hanno preso come caso studio il microonde perché era una tecnologia di consumo molto diffusa all'epoca, come se oggi facessimo un lavoro sull’IA generativa. Hanno deciso di indagare le relazioni di genere per capire che ruolo avessero, dalla progettazione fino alla commercializzazione del microonde. Con questa ricerca sociale basata su una metodologia etnografica, le ricercatrici hanno scoperto che gli uomini erano gli attori principali della progettazione di questa tecnologia, e le donne solo le utenti finali del prodotto. Nel libro parlo di un’intervista a un direttore delle vendite dell’azienda che produceva il microonde il quale descrive l’utente finale come un tipo specifico di donna, con lo chignon e la gonna: un tipo di donna che si identificava con la casalinga borghese. I produttori hanno quindi realizzato il progetto in funzione di questo ipotetico utente finale. In realtà però si è iniziato a vendere il microonde come un oggetto destinato agli uomini perché il ragionamento alla base è stato capovolto: le donne sanno già cucinare e non serve qualcosa per accelerare e automatizzare la cottura, questo serve agli uomini. 

Il punto da sottolineare è che nel design di questo prodotto, sono state codificate varie norme e pregiudizi rispetto alle relazioni di genere. Questo è il sottotesto che provo a prendere da questo lavoro e propongo di adottare anche per lo studio di altre tecnologie. 

D: Nel libro parli molto del concetto di determinismo tecnologico. Che cosa vuol dire? Qual è la tua posizione a riguardo?

R: Il determinismo tecnologico è il paradigma con cui si è interpretata la tecnologia per moltissimo tempo, la classica narrativa usata fin dalle prime rivoluzioni industriali, secondo la quale la tecnologia crea la società e non viceversa. 

Io sono contraria a questo paradigma. Il modello alternativo che io promuovo è il “costruttivismo sociale”. Tutto ciò che noi viviamo e creiamo è una costruzione sociale, quindi il prodotto di una serie di credenze, valori, idee, scelte e interazioni che avvengono all'interno della società. 

Ad esempio, il determinismo classico sostiene che tutte le abitudini della cucina, dopo l'immissione del forno a microonde, siano dovute alla creazione e all’utilizzo di questo strumento. Lo stesso accade con la lavatrice: prima le donne passavano numerose ore della giornata a lavare i panni riuscendo a fare solo un bucato per via della lunghezza del processo. Con la lavatrice si pensava di automatizzare quel processo liberando del tempo per le donne ma, in realtà, si sono alzati gli standard e la produttività. Non si fa più un bucato al giorno, ma abbiamo la possibilità di fare diverse lavatrici al giorno in meno tempo. 

Oggi vediamo come chi ha monopolizzato il mercato a partire dal contesto nordamericano ci spinge ad identificare una specifica tecnologia con le aziende che la producono. Ad esempio, se pensiamo all’intelligenza artificiale pensiamo ad Open AI, l'azienda che la produce. Quando però si è affermato sul mercato un altro modello di quella stessa tecnologia (Deepseek, l’intelligenza artificiale generativa prodotta in Cina, ndr), abbiamo capito che non esiste un solo modo per fare l’IA generativa, cioè non è sempre necessario spendere miliardi di dollari, colonizzare altri paesi per metterci dei data center e utilizzare tutte le risorse che abbiamo su questo pianeta, bensì che ci sono dei modelli alternativi. Non vuol dire che questi siano necessariamente auspicabili o vincenti, ci dimostra, però, che non è la tecnologia a fare la società, ma la società con tutti i propri valori e idee diverse a “fare la tecnologia”.

D: Nel tuo libro parli anche dei vari approcci femministi alla tecnologia. Ce li illustri?

R: Prima degli studi femministi sulla tecnologia, non avevamo una letteratura o un insieme di ricerche che ci restituisse quale fosse l'impatto delle tecnologie su gruppi sociali diversi. I movimenti femministi più grandi e le studiose femministe più conosciute che studiavano la tecnologia si sono letteralmente spaccate di fronte a questo tema. Ci sono stati due trend paralleli: uno che andava nella direzione di uno sconfinato entusiasmo nei confronti di questi nuovi oggetti tecnologici dentro le case, dalle lavatrici fino a internet, che avrebbero aiutato il genere femminile a emanciparsi; dall'altro lato, si stava guardando alle tecnologie come una forma di controllo aggiuntiva, con una radicata credenza che la tecnologia inasprisce il controllo sui corpi femminili da parte degli attori che le creano, cioè gli uomini, e che ancora oggi la controllano. 

Ad esempio, la pillola anticoncezionale poteva portare delle soggettività che si identificavano nei movimenti femministi a esserne completamente fiduciose per il potenziale liberatorio ed emancipatorio che quella tecnologia dava alle donne nel poter controllare le gravidanze e il loro ciclo mestruale, ma dall'altro lato questa stessa tecnologia veniva percepita come lo strumento sublimatore di controllo dei corpi femminili perché, come tutte le altre tecnologie, è stata ideata e progettata da uomini. Inoltre, la storia della creazione della pillola anticoncezionale si è basata su un processo terribile di sfruttamento dei corpi di molte donne nel Sud globale, a beneficio di altre donne dal Nord globale. È stato molto interessante ripercorrere e studiare come il femminismo di fronte a questi scenari aperti dalla tecnologia si sia scontrato e separato. Si è capito che esiste modo e modo di fare tecnologia e il modo in cui viene fatta è spesso oppressivo e problematico per alcune categorie sociali.

D: Un altro tema affrontato nel libro è la mentalità razzista che caratterizza molte persone che si occupano di queste tecnologie, e come i loro bias abbiamo un impatto sugli strumenti tecnologici e sul loro utilizzo. Un esempio su tutti è quello della profilazione razziale, ovvero la categorizzazione delle persone sulla base di loro caratteristiche fisiche o della loro etnia. Come si intrecciano oppressione razziale e tecnologia?

R: Abbiamo affrontato la questione con la lente del genere perché è stato il femminismo della seconda ondata a tirare fuori questa analisi. Dagli anni ‘80-’90 ad oggi, abbiamo scoperto l’intersezionalità. Il problema non è più stato solo la discriminazione di genere ma sono altre intrecciate altere questioni. Una delle categorie più utilizzate dalle intelligenze artificiali per discriminare è ad esempio la categoria razziale o etnica, spesso legata alla provenienza socio-culturale delle persone. Purtroppo il funzionamento è sempre lo stesso, queste tecnologie imparano da basi statistiche e dati storici, apprendono ciò che è più ricorrente. Di conseguenza, escludono determinate categorie sociali o ne includono altre un livello troppo ampio. Ad esempio, quando guardiamo le statistiche sulla criminalità negli Stati Uniti, sappiamo che le discendenze culturalmente diverse da quella nordamericana sono più oppresse e maggiormente controllate dallo Stato e quindi saranno anche più frequentemente presenti nelle statistiche. Se questi dati vengono forniti a un qualsiasi strumento di intelligenza artificiale, questo non potrà far altro che discriminare, per come è stato impostato e perché impara sulla base degli accadimenti più frequenti. Questo è il funzionamento del machine learning, non possiamo pretendere che queste tecnologie si comportino in un modo diverso perché è l’uomo che le ha impostate così. Non è l'intelligenza artificiale a discriminare ma è la società discriminante che l’ha creata a farlo per prima. 

D: Nel libro parli anche del fatto che tutto questo ci potrebbe portare a deresponsabilizzarci e a ripulire la nostra coscienza. È corretto?

R: Esattamente, il rischio c’è. Prima dobbiamo quindi lavorare su di noi e decostruire le discriminazioni che mettiamo in atto in modo più o meno consapevole. Solo così potremo cambiare anche i presupposti con i quali ci serviamo della tecnologia. “Quello che è esistente viene ripetuto, quello che non esiste probabilmente non esisterà”, è il ragionamento che le macchine fanno in termini probabilistici ma è qualcosa di cui dobbiamo farci carico, per responsabilizzare gli attori umani che costruiscono e lavorano su queste tecnologie. 

D: Che fare se il controllo sulle tecnologie è in mano a persone che non hanno a cuore temi sociali e valori di uguaglianza e giustizia? 

R: Le tecnologie usate in questo modo sono innegabilmente strumenti di potere che invece potrebbero essere utilizzati con paradigmi alternativi a quello del controllo, come ad esempio quello della cura. Le tecnologie più moderne sono state create per sorvegliare le persone e non, ad esempio, per identificare quali siano le categorie più bisognose di attenzioni da parte dello Stato, o per rendere più efficiente la distribuzione di risorse pubbliche. Il punto è cambiare il modo in cui si fa la tecnologia. Nel mio piccolo, provo a far vedere che la tecnologia si potrebbe costruire diversamente. Se c'è una cosa che spero che il mio libro possa restituire è questa, che non c'è niente di inevitabile. 

D: Un’altra cosa che dovremmo smontare è la retorica individualista del genio folle. 

R: Già negli anni ‘80, gli studi costruttivisti di Donald Mackenzie e Thomas Hughes ci mettevano in guardia rispetto alla retorica del singolo inventore che, da un giorno all’altro, costruiva la cosa di cui avevamo bisogno. Non c'è mai una sola persona dietro una tecnologia, sono processi molto più complessi, ognuno fa delle scelte che concorrono a un risultato specifico. Cambiando anche un solo fattore avremmo un risultato diverso.