Salvatore Ruggieri | giugno 2019
NoBIAS - Artificial Intelligence without Bias
Salvatore Ruggieri, professore ordinario presso il Dipartimento di Informatica, è il responsabile scientifico per l’Università di Pisa del progetto NoBIAS - Artificial Intelligence without Bias, recentemente finanziato nell’ambito del programma Marie Skłodowska-Curie Actions - Innovative Training Networks (ITN) di Horizon Europe, per un importo di circa 500.000 euro (su un totale complessivo di 4 milioni di euro).
Le ITN supportano programmi di ricerca e di dottorato implementati da consorzi di università ed istituzioni di ricerca, che erogano corsi di dottorato, e da enti/aziende partner, i quali offrono periodi di distacco dei dottorandi e formazione sul campo. Il progetto NoBIAS, di durata quadriennale, è coordinato dall’Università di Hannover con un consorzio internazionale formato da 8 partecipanti e 10 partner.
I sistemi basati sull’Intelligenza Artificiale (IA) sono sempre più utilizzati per prendere decisioni con crescente impatto sulle persone e sulla società. Si pensi ai sistemi di valutazione del rischio di credito, di selezione del personale, di screening medico, di accesso all’informazione, di suggerimento di relazioni nelle reti sociali, ecc. La delega di questi compiti agli algoritmi di IA pone il problema di “responsabilizzare” tali algoritmi, i quali non sono stati progettati con l’obiettivo di essere accessibili, verificabili e valutabili da umani. Al contrario, gli algoritmi di IA seguono logiche di ottimizzazione dell’accuratezza nel riprodurre il comportamento umano, imparando da esempi, e rischiano quindi di esacerbare decisioni discriminatorie o, comunque, ingiustificate perché motivate da semplificazioni cognitive (pregiudizi, stereotipi, ecc.), da esempi di allenamento sbilanciati rispetto alla reale distribuzione statistica, o dall’uso degli algoritmi in contesti non corrispondenti alle condizioni per cui sono stati allenati.
Il progetto NoBIAS intende sviluppare metodologie per il supporto alle decisioni basato sull’IA che tengano conto di aspetti etici e legali nella progettazione di soluzioni tecniche. Gli obiettivi del progetto sono la comprensione delle sfide di natura legale, sociale e tecnica che i vari tipi di bias impongono al fine di contrastarne l’insorgere sviluppando algoritmi non-discriminatori, algoritmi per la spiegazione automatica della logica interna dell’IA, e per la documentazione e quantificazione della bias nello sviluppo di applicazioni basate sull’IA. NoBIAS formerà 15 Early Stage Researchers (ESR), ovvero giovani ricercatori nella fase iniziale della loro carriera, i quali affronteranno problemi della bias in IA attraverso una formazione multidisciplinare in informatica, data science, machine learning, scienze legali e sociali, oltre a soft-skills e formazione sul campo nei periodi di distacco presso le aziende partner. Due ESR saranno formati dall’Università di Pisa su temi di ricerca concernenti l’inferenza di regole causali e di spiegazioni dichiarative delle decisioni in IA.
L’Università di Pisa è stata pioniere sui temi di ricerca del progetto, con un articolo su Discrimination-aware data mining pubblicato nella conferenza ACM SIGKDD del 2008 a cura dei proff. Dino Pedreschi, Salvatore Ruggieri e Franco Turini del Dipartimento di Informatica. L’articolo è stato per alcuni anni uno sleeping beauty paper, con pochi lavori che ne hanno seguito le intuizioni. Oggi l’area di ricerca è in piena espansione, con un congresso scientifico dedicato e con sessioni e contributi nelle principali conferenze di IA e non solo. Non è stato semplice, a suo tempo, far accettare alla comunità scientifica il concetto di “responsabilizzare” gli algoritmi di IA. Il consiglio per i giovani è quindi di lavorare intensamente, oltre che nel contributo tecnico, anche sul modo di raccontare la visione delle proprie ricerche. Questo è particolarmente importante nella stesura di proposte di ricerca.
Scopri a questo link la rubrica che racconta “in un click” il "Ricercatore del mese" del nostro Ateneo ed il suo progetto premiato dall’Europa.