Le architetture digitali che oggi decidono chi abbia diritto a un sussidio, a un salario o persino a un passaporto vengono spesso presentate come strumenti neutri, capaci di rendere più efficiente un sistema che altrimenti sarebbe lento e corruttibile. Dietro questa promessa, però, si celano meccanismi che possono escludere le persone più vulnerabili proprio nel momento in cui avrebbero più bisogno di essere adeguatamente riconosciute.

«La ricerca che conduco verte su come l'identità digitale, ossia la conversione della persona in dati biometrici e amministrativi, venga gestita nei programmi di sviluppo economico, spaziando dai sussidi alimentari all'accesso al credito», racconta Silvia Masiero, professoressa ordinaria in Information Systems all'università di Oslo, in Norvegia. «In particolare, cerco di stabilire chi definisce i criteri con cui un sistema algoritmico riconosce a una persona il diritto a un bene essenziale, e a chi spetta risponderne quando una decisione si rivela errata».

Cresciuta in Lombardia, Masiero si è laureata a Milano all’università Bocconi in Economia dei mercati internazionali e delle nuove tecnologie, per poi completare un master in Development Management e un dottorato in Information Systems, entrambi alla London School of Economics. Dopo un periodo come assistant professor all'università di Loughborough, sempre nel Regno Unito, è arrivata a Oslo nel 2020 come professoressa associata, ottenendo rapidamente la cattedra da ordinaria (pochi mesi fa), a soli 39 anni. Il suo contributo accademico più conosciuto nasce dallo studio di Aadhaar, il più grande sistema di identità biometrica al mondo, introdotto in India per collegare l'identità delle persone a un'ampia gamma di servizi pubblici, incluso il Public Distribution System che garantisce beni di prima necessità come riso, grano e zucchero a prezzi fortemente sussidiati per le famiglie in povertà.

Da quella ricerca è nato anche il suo primo libro, Unfair ID (Sage Publications, 2024), in cui Masiero cataloga tre forme distinte di ingiustizia digitale.

«La prima è legale e si verifica quando un diritto che dovrebbe essere universale, come per esempio quello al cibo, diventa condizionato al corretto funzionamento di una tecnologia», chiarisce.

«Poi c'è un'ingiustizia informativa, quando le persone accettano di condividere i propri dati biometrici senza essere davvero nella posizione di poter rifiutare, perché la scelta è tra fornire l'impronta digitale o restare senza il cibo sussidiato».

La terza dimensione riguarda invece il modo stesso in cui una tecnologia viene progettata: un livello che precede qualsiasi errore, o malfunzionamento occasionale. In questo caso l'esclusione non è un incidente di percorso ma una caratteristica incorporata fin dalla fase di sviluppo, spesso invisibile a chi costruisce il sistema perché coincide con l'assunzione implicita di cosa sia plausibile. «Si tratta di sistemi costruiti fin dall'inizio in modo da non riconoscere come normali determinati corpi o determinate identità, con conseguenze dirette su chi si trova a interagire con quella tecnologia, spaziando dai controlli aggiuntivi ingiustificati fino a dei diritti civili che a tutti gli effetti restano negati», aggiunge Masiero.

L'interesse per la giustizia e i diritti umani, prima ancora che per la tecnologia, ha radici che risalgono a molto prima del dottorato: poco più che ventenne, Masiero ha trascorso diversi periodi di volontariato internazionale in Cisgiordania, nei campi profughi palestinesi di Libano e Giordania, e in Sierra Leone nel contesto del dopoguerra del 2011. Quelle esperienze, in cui la teoria lasciava spazio al contatto diretto con le disuguaglianze, hanno finito per orientare in modo duraturo i temi della sua ricerca accademica, spostando progressivamente lo sguardo dalla fiducia nel potenziale della tecnologia applicata allo sviluppo verso un'analisi molto più critica del suo impatto effettivo. Uno degli esempi più recenti di questa dinamica arriva dallo Stato indiano del Telangana, dove un sistema chiamato Samagra Vedika incrocia i dati dei residenti attraverso decine di database governativi differenti per verificare l'idoneità ai sussidi alimentari. Tra il 2014 e il 2019 il Telangana ha cancellato oltre 1,8 milioni di tessere alimentari già attive, e una successiva riverifica ordinata dalla Corte Suprema indiana ha dimostrato che una parte consistente di quelle esclusioni era ingiustificata, spesso a causa di semplici errori di omonimia tra il richiedente e persone che possedevano effettivamente un'automobile o altri beni che avevano comportato l’esclusione dai criteri di povertà.

«Quello che vediamo in Telangana, dove ora hanno introdotto l'intelligenza artificiale, sono esattamente gli stessi problemi che avevamo già osservato con Aadhaar», osserva Masiero. «L'AI non sta correggendo le ingiustizie del sistema precedente, le sta semplicemente replicando con uno strumento diverso». Il meccanismo alla base di questi errori è strutturale, più che accidentale. Un sistema incaricato di individuare frodi deve dimostrare di trovarne un numero sufficiente per giustificare il proprio costo, e questo genera un incentivo implicito difficile da correggere in fase di progettazione. «Ridurre i falsi negativi finisce per aumentare i falsi positivi, cioè le persone escluse ingiustamente da un beneficio a cui avrebbero diritto», spiega Masiero.

Un secondo progetto di ricerca ha spostato l'attenzione su un contesto geograficamente molto più vicino, la Norvegia stessa, dove un numero consistente di migranti extraeuropei - provenienti soprattutto da Nigeria, Tanzania, Nepal e Macedonia del Nord - incontra enormi difficoltà nell'ottenere il BankID, l'identificativo digitale a undici cifre necessario per aprire un conto corrente. Senza quel numero diventa quasi impossibile ricevere uno stipendio, competere per l'affitto di un appartamento o iscrivere i propri figli a scuola, e l'accesso al conto bancario che lo rende disponibile risulta particolarmente complicato per chi arriva da fuori l'Unione Europea. «Non siamo immuni nemmeno qui a Oslo, nonostante l'immagine di efficienza che il paese proietta all'esterno», osserva Masiero, che sul tema ha lavorato insieme alla sua tesista Emma Livsey. «Anche qui l'identità digitale può trasformarsi in una barriera invece che in uno strumento di inclusione, semplicemente perché il sistema non è stato pensato per chi arriva da fuori».

Un caso simile, seppur con implicazioni molto diverse, riguarda Città del Capo, in Sudafrica, dove dal 2016 è stato introdotto ShotSpotter (oggi ribattezzato SoundThinking), un sistema di riconoscimento acustico pensato per localizzare gli spari in tempo reale in quartieri come Hanover Park, aree in cui le famiglie furono ricollocate forzatamente durante l'apartheid. Una ricerca condotta da Grant Oosterwyk ha mostrato come la tecnologia, importata dagli Stati Uniti senza considerare appieno le peculiarità del contesto sudafricano, rischi di intensificare la sorveglianza su quei quartieri invece di proteggerli. «Quello studio racconta bene un pattern che vediamo ripetersi ovunque» commenta Masiero. «Una tecnologia sviluppata altrove viene presentata come soluzione universale, ma finisce per amplificare le medesime disuguaglianze storiche del luogo in cui viene calata, invece di correggerle». SoundThinking oggi è stato messo in standby, in attesa di una più attenta rivalutazione.

Il filo conduttore di questi casi confluisce oggi in un secondo libro a cui Masiero sta lavorando, Data Harm Stories, dedicato al danno prodotto dalla conversione della persona in dati, chiamato appunto data harm. Oggi ci sono casi etnografici che arrivano da contesti diversissimi tra loro: gli Stati Uniti, dove un'applicazione di riconoscimento facciale viene usata dalle autorità per l'immigrazione per verificare lo status delle persone fermate per strada; il Regno Unito, dove il sistema di e-Visa introdotto dopo la Brexit ha reso più fragile la posizione di chi deve dimostrare il proprio diritto a restare nel paese; e la stessa Norvegia, a dimostrazione che nessun contesto, per quanto avanzato dal punto di vista del welfare, è immune da questo tipo di dinamiche.

«Non si tratta solo dell'India, degli Stati Uniti e di questi specifici paesi, ma è un fenomeno che attraversa ogni stato che abbia scelto di trasformare le persone in dati per erogare diritti e servizi», precisa Masiero. Guardando al futuro, ora che la cattedra ordinaria le garantisce maggiore libertà di scegliere i propri temi di ricerca senza il vincolo delle pubblicazioni necessarie per fare carriera, intende dedicare più tempo a un dialogo diretto con i movimenti sociali e politici che si oppongono a queste forme di ingiustizia digitale, oltre che approfondire capitoli della sua ricerca appena aperti, incluso quello dedicato alla Palestina.