BRIOxAlkemy is the outcome of the partnership between Alkemy and BRIO. The Alkemy’s team responsible for this project is the Deep Learning and Big Data Department (DL&BD), an internal innovation team of the Alkemy group.
La collaborazione di BRIO e Alkemy ha l’obiettivo di produrre applicazioni software per l’analisi di bias, rischi e opacità rispetto alle tecnologie di intelligenza artificiale che spesso si basano su calcoli non deterministici e sono spesso di natura opaca. Uno degli aspetti più impegnativi dei moderni sistemi di intelligenza artificiale, infatti, è che non garantiscono la correttezza delle specifiche e non sono trasparenti, nel senso che una descrizione formale generale del loro comportamento potrebbe non essere disponibile.
Il primo sistema sviluppato è uno strumento per il rilevamento e l’analisi di comportamenti distorti nei sistemi di intelligenza artificiale. Lo strumento è rivolto a sviluppatori e data scientist che desiderano testare i propri algoritmi basandosi su meccanismi probabilistici e di apprendimento al fine di rilevare comportamenti scorretti legati a pregiudizi e raccogliere dati su di essi. L’obiettivo finale è fornire loro informazioni e dati utili per il miglioramento dei sistemi di intelligenza artificiale rispetto ai bias.
Uno scenario tipico in cui lo strumento può aiutare è il seguente: si consideri un database contenente dettagli sugli individui, con la loro età, sesso e livello di istruzione. Consideriamo un algoritmo che tenta di prevedere se ciascuno di essi sarà probabilmente inadempiente sul credito. L’utente desidera verificare se l’età è un fattore sensibile in tale previsione. L’utente fornisce allo strumento il nostro set di dati, l’output dell’esecuzione dell’algoritmo predittivo e contrassegna la caratteristica dell’età come sensibile. Attualmente lo strumento consente all’utente di confrontare sia come il comportamento dell’algoritmo rispetto all’età differisce da un comportamento “ottimale” (in questo caso, l’utente potrebbe considerare ottimale il caso in cui ciascuna fascia di età riesce allo stesso modo), sia come le diverse fasce d’età i gruppi si comportano l’uno rispetto all’altro.
Guarda il video YouTube per un esempio delle funzionalità del sistema: https://www.youtube.com/watch?v=9W8_DTmXcts