No início deste mês, o grupo de trabalho interagências do Cientista Chefe da Força Aérea dos EUA enviou um Solicitação de informações (RFI) sobre vieses não intencionais de Inteligência Artificial (IA). O grupo está investigando a questão crítica do preconceito nos algoritmos de IA e aprendizado de máquina (ML), com ênfase principal em conjuntos de dados. Eles procuram aprender sobre estes preconceitos junto de instituições académicas, como instituições que servem minorias (MSIs) e faculdades e universidades historicamente negras (HBCUs), juntamente com a indústria, o governo federal e outras instituições académicas.

Apesar do desenvolvimento de várias ferramentas destinadas a identificar e abordar preconceitos, como o kit de ferramentas de IA responsável do Departamento de Defesa (DoD), persistem desafios significativos no combate ao preconceito nos sistemas de IA e ML.

O grupo reconhece que à medida que a tecnologia de IA se expande para novos domínios, surgem desafios únicos, cada um com o seu próprio conjunto de preconceitos específicos da aplicação que podem inadvertidamente levar a resultados prejudiciais. Portanto, há uma necessidade urgente de investigação e colaboração contínuas entre disciplinas para desenvolver estratégias eficazes para detectar e mitigar preconceitos em todas as fases do desenvolvimento da IA ​​e do ML.

Indivíduos e grupos interessados ​​em partilhar informações sobre como compreender melhor o preconceito da IA ​​em conjuntos de dados devem enviar uma resposta através do seu portal até 15 de maio.

As respostas devem incluir:

• uma declaração de capacidades
• uma descrição de pesquisas atuais e futuras que a instituição realizou para combater preconceitos não intencionais de IA
• uma descrição de todas as parcerias existentes destinadas a investigar e mitigar os preconceitos da IA
• uma descrição dos tipos de preconceitos não intencionais da IA ​​que estão sendo observados (incluindo os dados que estão sendo coletados), os domínios em que estão inseridos e os impactos que estão causando na instituição
• uma declaração propondo como este trabalho promoveria a educação e o treinamento de estudantes e pesquisadores

Para obter mais informações e enviar uma resposta, consulte a RFI completa SUA PARTICIPAÇÃO FAZ A DIFERENÇA.

Interessado em informar o grupo sobre esses desafios do ponto de vista da indústria? Eles também lançaram um RFI, onde esperam ouvir organizações comerciais e sem fins lucrativos que usam dados para desenvolver capacidades de IA.