Ines El Gataa: i dati bugiardi e i bias dell’AI

59 secondi fa

Roma, 14 lug. (askanews) – “L’AI è uno specchio della nostra società. Quindi se la nostra società ha dei bias che siano etnici, religiosi, di genere, l’intelligenza artificale li riprodurrà in maniera esponenziale”. L’AI non è neutrale; è pensata da occidentali per occidentali, soffre di bias, o detto all’italiana, di pre-giudizi. E quando la maneggiamo è utile saperlo. Lo dice Ines El Gataa, matematica con tre nazionalità, italiana, marocchina, irachena nel nuovo podcast della serie “Italiane della Scienza” prodotta da Askanews e ideata da Alessandra Quattrocchi per la rubrica di approfondimenti SGUARDI.

Ines El Gataa ha una formazione statistica, è ricercatrice all’Università di Trieste, lavora nell’ambito dell’intelligenza artificiale fra ricerca, progettazione e divulgazione anche sulla sua pagina Instagram. In un recente post parlava di una ricerca di Harvard che spiega come l’intelligenza artificiale capisca gli americani al 70%, però rappresenti solo il 15% della popolazione mondiale. Perché, spiega El Gataa, “le intelligenze artificiali sono costruite e addestrate in modo da adeguarsi più alle popolazioni diciamo occidentali; cioè, la struttura con cui motori come Chat GPT e gli altri sono abituati a ragionare, è molto più simile alla struttura mentale con cui ragiona una persona che viene dall’Occidente: tendenzialmente molto più individualista, più razionale, basate sul numero”. È anche, aggiunge, un problema di lingua perché i sistemi sono addestrati a “performare” meglio con l’inglese; e siccome il grosso dei dati che esiste in rete già arriva da media o da ricerche occidentali, il cane si morde la coda.

Ma non finisce qui: siamo abituati a considerare “oggettivi” i dati, ma, dice El Gataa, “un numero in realtà non è quasi mai oggettivo, perché dipende dal contesto in cui viene raccolto, da chi viene raccolto, dal tempo appunto in cui viene raccolto; ci sono talmente tante variabili che definire un dato sempre reale è difficile. Rischiamo di poi prendere decisioni – che siano politiche, che siano militari, che siano di qualsiasi tipo – su dati che non sono reali e questo produce bias”.

Esiste un celebre esempio, il caso di Amazon per i CV, in cui il sistema era stato addestrato per selezionare persone simili agli impiegati già esistenti, in prevalenza uomini, “e quindi quando una donna si presentava per la stessa posizione, magari anche a parità di qualifiche, veniva scartata semplicemente perché era donna e il sistema non lo riconosceva”.

E ancora, il “compute divide”: “In sostanza ci sono pochi Stati o comunque poche aziende appartenenti a pochi Stati che detengono il monopolio di tutti i modelli che utilizziamo, e poi tutti gli altri che invece semplicemente possono limitarsi ad utilizzarli. Costruire un modello di intelligenza artificiale richiede tantissime risorse: che siano computazionali, quindi chip, server; che siano energetici; o che si tratti di cervelli, cioè avere un bacino di persone che sviluppino questi sistemi. Le menti sono l’ultimo dei problemi paradossalmente, anche nel sud del mondo ce ne sono tantissime. Il problema appunto è l’accesso alle risorse prime o alle materie; Nvidia, che è americana, è importantissima perché ha il monopolio della creazione di quelle che sono le materie prime per creare quelli che poi sono i modelli. Quindi chi ha l’accesso a Nvidia ha la capacità di crearsi i suoi modelli. Chi invece non ce l’ha naturalmente non può farlo, e questo è una leva politica e anche economica enorme per gli Stati Uniti”.

Raccontando la sua storia, El Gataa ricorda, “sono sempre stata appassionata al mondo della matematica, e all’università me ne sono totalmente innamorata. I miei genitori sono in Italia da tantissimi anni, hanno preso la cittadinanza che io mi pare avessi otto nove anni. Personalmente non ho mai visto così tanta forza come quella delle donne immigrate che sono venute in Italia, perché naturalmente immigrare si porta dietro una serie di conseguenze veramente pesanti – in fondo stai andando in un Paese che non parla la tua lingua, non conosce la tua cultura, spesso e volentieri ne ha anche un’idea negativa. Mia madre a 25 anni ha deciso di mollare tutto quello che aveva per cercare anche un futuro migliore per me, perché io appunto crescessi sulle sue spalle. E per me essere italiana vuol dire anche portarmi tutto il background dei miei genitori, quindi non rinunciare, ma in realtà accrescere quello che significa essere italiana”.

E tuttavia, di tutte le etichette che è facile applicarle – donna, musulmana, italiana, marocchina, irachena, scienziata, donna che porta il velo – “quella che mi crea più problemi” conclude El Gataa, “è sicuramente l’essere musulmana in Italia”.