All'inizio di questo mese il gruppo di lavoro inter-agenzia del capo scienziato dell'aeronautica americana ha inviato un Richiesta di informazioni (RFI) sui pregiudizi non intenzionali dell'intelligenza artificiale (AI).. Il gruppo sta approfondendo la questione critica dei bias all'interno degli algoritmi di intelligenza artificiale e machine learning (ML), con un'enfasi primaria sui set di dati. Stanno cercando di conoscere questi pregiudizi da istituzioni accademiche come le minoranze al servizio delle istituzioni (MSI) e i college e le università storicamente neri (HBCU), insieme all’industria, al governo federale e ad altre istituzioni accademiche.

Nonostante lo sviluppo di numerosi strumenti volti a identificare e affrontare i pregiudizi, come il toolkit di intelligenza artificiale responsabile del Dipartimento della Difesa (DoD), persistono sfide significative nella lotta ai pregiudizi all’interno dei sistemi di intelligenza artificiale e ML.

Il gruppo riconosce che man mano che la tecnologia dell’intelligenza artificiale si espande in nuovi domini, emergono sfide uniche, ciascuna con una propria serie di pregiudizi specifici dell’applicazione che possono inavvertitamente portare a risultati dannosi. Pertanto, c’è un urgente bisogno di continua ricerca e collaborazione tra le discipline per sviluppare strategie efficaci per rilevare e mitigare i bias in ogni fase dello sviluppo di AI e ML.

Gli individui e i gruppi interessati a condividere informazioni su come comprendere meglio i bias dell’IA nei set di dati dovrebbero inviare una risposta tramite il loro portale entro il 15 maggio.

Le risposte dovrebbero includere:

• una dichiarazione di capacità
• una descrizione della ricerca in corso e futura svolta dall'istituto per combattere i bias involontari dell'IA
• una descrizione di tutte le partnership esistenti volte a ricercare e mitigare i bias dell’IA
• una descrizione dei tipi di distorsioni involontarie dell’IA osservate (compresi i dati raccolti), i settori in cui si trovano e gli impatti che stanno avendo sull’istituto
• una dichiarazione che propone come questo lavoro potrebbe far progredire l'istruzione e la formazione di studenti e ricercatori

Per trovare maggiori informazioni e inviare una risposta consultare la RFI completa qui.

Sei interessato a informare il gruppo su queste sfide dal punto di vista del settore? Hanno anche rilasciato un RFI, dove sperano di sentire il parere di organizzazioni commerciali e no-profit che utilizzano i dati per sviluppare capacità di intelligenza artificiale.