Dati sintetici e algoritmi: etica, rischio e potere nell’apprendimento automatico
Gli algoritmi di apprendimento automatico sono ormai parte intrinseca della società in cui viviamo, e con la loro diffusione è cresciuta l’attenzione verso la provenienza dei dati sui quali vengono addestrati.
Il sociologo Benjamin N. Jacobsen affronta una questione innovativa e poco analizzata, l’utilizzo dei dati sintetici nell’addestramento degli algoritmi. Questi dati, generati in modo del tutto artificioso e senza riferimenti a persone, oggetti o eventi reali, stanno mettendo in discussione i limiti potenziali dell’intelligenza artificiale, ponendo interrogativi etici e politici di un certo spessore. Jacobsen propone di analizzare i dati sintetici attraverso due cardini: la loro capacità di generare variabilità e la loro utilità come tecnologia del rischio.
Un esempio simbolico è il modello ConfigNet, sviluppato da Microsoft Cambridge, capace di generare volti umani dal forte realismo e manipolabili nei minimi dettagli. Questi volti non provengono da persone reali, ma trovano la loro funzione nell’addestramento di algoritmi di riconoscimento facciale. L’idea che un numero potenzialmente infinito di volti possa essere generato tramite un algoritmo apre ad un nuovo orizzonte: quello della produzione controllata e illimitata di variabilità. I dati sintetici promettono pertanto di offrire agli ingegneri del machine learning un controllo pressoché totale sul processo di addestramento, svincolandosi dalla dipendenza dai dati reali e dai rispettivi vincoli etici e legali.
Il recente focus nei confronti dei bias all’interno di dataset reali ha spinto la comunità scientifica a perseguire soluzioni alternative. I dati sintetici forniscono una risposta efficace a questi interrogativi, offrendo la possibilità di creare dataset più rappresentativi e senza il rischio di distorsioni. Tuttavia, Jacobsen sottolinea che questa premessa non è priva di ambiguità: di fatto i dati sintetici non derivano dal mondo reale ma lo imitano. Questa imitazione crea questioni sulla validità e sull’impatto di tali dati, soprattutto quando si tratta di campi sensibili come la medicina, la sicurezza o la giustizia.
Get Ruben G. Prescimone’s stories in your inbox
Join Medium for free to get updates from this writer.
Jacobsen, citando Orit Halpern, mostra come la resilienza sia diventata una logica dominante in vari ambiti, dalla psicologia all’economia, fino all’informatica. Gli algoritmi devono avere in sé la capacità di adattarsi a cambiamenti repentini, come eventi rari o crisi globali. I dati sintetici in questo senso diventano una risorsa preziosa, permettono di simulare eventi eccezionali, come crisi economiche o disastri naturali, rendendo gli algoritmi più solidi ma al contempo malleabili.
Gli algoritmi, esposti a una vasta gamma di esempi sintetici, accrescono le proprie abilità di adattamento a scenari fuori dall’ordinario. Questa logica è evidente nel campo della guida autonoma, dove le aziende generano casi limite per addestrare i veicoli a gestire situazioni insolite. I dati sintetici, quindi, non solo imitano la realtà ma la anticipano e la amplificano, creando una nuova economia nel campo della simulazione.
Un altro aspetto cruciale è la funzione dei dati sintetici come tecnologia del rischio. Molte aziende tech promuovano i dati sintetici come soluzione ai problemi etici dell’intelligenza artificiale. Lo slogan “dove non ci sono dati reali, non ci sono rischi reali” riassume questa nuova prospettiva. Il rischio è naturalmente legato alla provenienza dei dati: se i dati sono sintetici, non violano la privacy, non appartengono a nessuno e non sollevano questioni legali. Tuttavia, questa concezione è problematica. Il rischio è di smontare una realtà oggettiva finendo con la realizzazione di una costruzione politica. I dati sintetici non eliminano il rischio ma ne ridefiniscono i confini, stabilendo nuovi parametri per quanto concerne ciò che è considerato pericoloso o accettabile.
Jacobsen identifica tre meccanismi attraverso cui i dati sintetici operano come tecnologia del rischio. Il primo è l’esposizione alla variabilità come modalità di de-risking: la diversità prodotta sinteticamente è vista come mezzo per combattere eventuali distorsioni e rendere gli algoritmi più efficienti. Il secondo è il rischio come appartenenza: i dati che non appartengono a nessuno sono considerati meno problematici, ma continuano ad avere un impatto sulla realtà. Il terzo è il rischio come problema legato alla costituzione del dataset: si crea una divisione artificiale tra i dati reali (considerati rischiosi) e quelli sintetici (considerati sicuri), ignorando la natura sperimentale degli algoritmi.
Un tema particolarmente delicato è quello dell’inclusività. I dati sintetici promettono di generare qualsiasi diversità necessaria, ma questa promessa solleva domande di natura etica. L’inclusione generata algoritmicamente rischia di diventare una tecnologia definibile come non-disruptive, ovvero che non mette in discussione le strutture di potere esistenti. C’è il rischio concreto che l’inclusione possa produrre soggetti che devono acconsentire alle condizioni dell’inclusione, senza modificare realmente l’ordine sociale.
I dati sintetici non sono solo strumenti tecnici, ma tecnologie politiche che partecipano alla costruzione di nuove realtà. Essi ridefiniscono cosa è visibile, riconoscibile, rischioso e inclusivo. La loro promessa di resilienza e sicurezza deve essere messa sotto la lente di ingrandimento alla luce delle implicazioni etiche e sociali. Comprendere la politica dei dati sintetici significa ripensare il rapporto tra apprendimento automatico, logiche di potere ed etica. Significa domandarsi non solo cosa gli algoritmi sono in grado di fare, ma come e perché lo fanno e soprattutto a beneficio di chi.
