La “visione algoritmica del Mondo” impoverisce i più poveri.

visione logaritmica

di Pasquale Russo

E’ questa la sintesi del rapporto Alston che lo scorso 11 ottobre il Segretario generale delle Nazioni Unite ha trasmesso all’Assemblea generale sulla povertà estrema e i diritti umani: Report of the Special Rapporteur on the promotion and protection of the right to freedom of opinion and expression”

L’analisi effettuata in molti paesi del Globo è senza appello, a cominciare dall’India che ha realizzato Aadhaar il più grande sistema di identificazione biometrica del mondo: raccoglie i dati anagrafici, la fotografia, le impronte digitali e l’immagine dell’iride di oltre 1,2 miliardi cittadini indiani.
Per i cittadini indiani possedere la Aadhaar card è essenziale per accedere ai servizi pubblici, quali le cure mediche, l’istruzione, il pagamento delle tasse.
Dal 2009 quando è partito Aadhaar ha permesso di raggiungere l’obiettivo della registrazione delle nascite e stabilire l’identità legale di tutti cittadini e ha consentito di risolvere il furto di identità e il suo uso fraudolento.

Ma nello stesso tempo milioni di famiglie povere che non in grado di gestire e forse comprendere questa registrazione digitale si sono viste negare le razioni di cibo distribuite gratuitamente e nonostante la loro povertà fosse evidente alle persone che distribuivano il cibo, Aadhaar lo negava loro. Tant’è che il Governo è stato costretto a restituire la capacità di discernere, se dare o non dare il cibo, alle persone della distribuzione.

In un secondo caso il Governo del Kenya ha obbligato tutti i cittadini e i residenti nel paese a dotarsi di un documento di riconoscimento per poter accedere ai servizi sociali attraverso la registrazione di impronte digitali, scansione della retina e dell’iride e di un campione vocale e uno di DNA.
Il rischio è che un terzo della popolazione che non si è registrato per le innegabili condizioni locali (ad es. assenza di Internet) non acceda ai servizi sanitari e di welfare anche per l’incapacità di gestire/ comprendere questi sistemi.

«I soggetti più vulnerabili — scrive Alston — solitamente non vengono coinvolti nell’elaborazione dei sistemi IT e i professionisti di questo settore non hanno gli strumenti per anticipare i problemi che questi potrebbero sollevare»,
poi aggiunge:
«i sistemi di protezione sociale e assistenza sono sempre più spesso guidati dai dati e le tecnologie sono usate per automatizzare, predire, identificare, stimare, individuare e punire, l’obiettivo appare essere la riduzione della spesa sociale, l’istituzione di sistemi di sorveglianza governativa invadente e la generazione di profitti per aziende private.”
In aggiunta «In misura maggiore rispetto al passato, l’attuale stato sociale digitale è spesso sostenuto dal presupposto di partenza che l’individuo non è un titolare dei diritti, ma piuttosto un richiedente. In tale veste, una persona deve convincere chi prende le decisioni che è “meritevole”, che soddisfa i criteri di ammissibilità. E gran parte di ciò deve avvenire per via elettronica, a prescindere dalle competenze del richiedente in tale ambito».

Ma non solo i Paesi dove si stanno facendo raccolte di massa di dati biometrici e DNA come in Kenia, Sudafrica, Argentina, Bangladesh, Cile, Irlanda, Giamaica, Malesia, Filippine e Stati Uniti, ma anche in Italia, dove il GDPR tutela i cittadini sui dati biometrici, 18 milioni di persone non hanno mai usato internet nell’ultimo anno e di solito hanno la licenza media ed elementare, spesso hanno più di 55 anni potrebbero avere problemi e addirittura nel Regno Unito sono 11 milioni coloro che non hanno competenze digitali.

Bisogna comprendere che l’Intelligenza Artificiale che genera la “visione algoritmica” non deve sostituire la capacità di discernere dell’essere umano, in qualsiasi settore essa sia inserita, deve aiutare l’analisi, ma non deve prendere decisioni soprattutto quando c’è in gioco la vita umana come avviene per la sanità, per gestione della povertà, per il welfare in generale, altrimenti come riferito dal Guardian a causa del malfunzionamento di un sensore biometrico, l’impronta digitale di Motka Majhi non è stata riconosciuta dalla macchina che quindi non gli ha erogato il cibo necessario ala sua sussistenza; il 22 maggio Motka Majhi è morto, secondo i suoi parenti a causa della fame. Rischiamo di avere i primi omicidi delle Intelligenze Artificiali.

Coloro che sono studiosi, progettisti, realizzatori di algoritmi cosiddetti intelligenti abbiamo bene in mente ciò come elemento etico centrale.