LA MACCHINA DELLA DISCRIMINAZIONE

Nella costruzione del futuro della rete, è necessario porre sempre più attenzione a politiche che prevengano lo sfruttamento dei dati e il loro controllo. Per non replicare, o rafforzare, forme di oppressione

La datafication, ovvero l’affidamento a dati e algoritmi in vari contesti della vita sociale contemporanea, è portatrice di diverse trasformazioni e all’origine di numerosi impatti potenzialmente negativi. Spesso, queste conseguenze sono analizzate solo attraverso il prisma della privacy, intesa come la difesa della propria sfera privata, in forma di dati, da interessi e occhi di terzi. Il fenomeno della datafication, però, necessita di essere inquadrato in una dimensione più ampia e che possa guardare al di là dei diritti digitali strettamente intesi e inquadrare le questioni data-driven all’interno delle diseguaglianze strutturali di questo passaggio storico. Nessuna questione digitale è infatti riferibile solo alle tecnologie, perché sempre più spesso si tratta di questioni di giustizia sociale.

Come scrivono i ricercatori Lina Dencik e Javier Sanchez-monedero, il concetto di data justice consente di regolamentare la datafication che spesso si trova all’interno di dinamiche politiche, economiche e di potere non neutre, bensì ideologiche, e che possono generare disuguaglianze, discriminazione, abusi. Oppure, replicare anche nel dominio digitale pre-condizioni di diseguaglianza già esistenti, amplificandole. Parlare di data justice è, quindi, anche un modo di considerare la datafication come qualcosa di realmente intrecciato a questioni di giustizia pura e non come un tema tecnico o riferibile solo alle tecnologie. In questa prospettiva, le questioni di privacy non sono affatto messe da parte, ma diventano parte integrante di una dimensione di diritti in gioco più collettiva, dove la giustizia sociale è un obiettivo da perseguire anche nelle applicazioni delle tecnologie e degli utilizzi dei dati.

La ricercatrice Linnet Taylor, per esempio, definisce la data justice come «equità nel modo in cui le persone sono rese visibili, rappresentate e trattate come risultato della loro produzione di dati digitali». Nella data justice si intrecciano quindi almeno tre dimensioni: quella della visibilità, quella del coinvolgimento con le tecnologie e del controllo che possiamo esercitare in queste relazioni e quella della non-discriminazione. Sempre più di frequente, infatti, noi umani siamo “visti” da macchine che interpretano i nostri dati digitali o biometrici, prendendo spesso decisioni sul nostro conto: il riconoscimento facciale, per esempio, decide se possiamo varcare i confini negli aeroporti; gli algoritmi vengono utilizzati per aiutare a decidere chi otterrà un posto di lavoro, un prestito bancario o una condanna penale e, in modo sistemico, i dati generati mentre ci troviamo all’interno degli ambienti digitali sono sfruttati, commercialmente e non, da terzi, spesso sconosciuti e al di fuori di ogni nostro possibile controllo. Tutto questo avviene, come dimostrano ormai numerosissime ricerche, spesso replicando, rafforzando o generando forme di oppressione con discriminazioni di genere o razziali, perché i dati, come tutte le altre tecnologie, non sono mai neutri, ma socialmente costruiti, e come tali saranno sempre in qualche modo influenzati dalle condizioni socio-politiche in cui sono stati generati.

Quello della data justice è quindi un concetto ombrello che offre possibilità interpretative e di resistenza ampie e intersezionali e allineate con le spinte, sempre più sistemiche, della datafication che, anche complice la pandemia, si sta intersecando con sempre più aspetti del quotidiano. Guardare a queste evoluzioni dal punto di vista della data justice, però, apre anche scenari propositivi e non solo utili ad articolare risposte o difese da potenziali minacce: essa consente, per esempio, di negoziare diritti positivi nei confronti dei dati sul nostro conto depositati in mani terze, come l’accesso, la trasparenza e la consapevolezza su come siano effettivamente utilizzati e per quali fini. Nella costellazione dei principi fondativi del futuro della rete e, nel complesso, della datafication, la data justice deve diventare un pilastro irrinunciabile entro cui analizzare gli impatti di questi processi e garantire trattamenti equi e diritti per tutti, dentro e fuori dal web.