Tidligere denne måneden sendte US Air Force Chief Scientists tverretatlige arbeidsgruppe ut en Forespørsel om informasjon (RFI) om utilsiktet kunstig intelligens (AI) bias. Gruppen fordyper seg i det kritiske spørsmålet om skjevhet innen AI og Machine Learning (ML) algoritmer, med hovedvekt på datasett. De søker å lære om disse skjevhetene fra akademiske institusjoner som minoritetstjenende institusjoner (MSIs) og historisk svarte høyskoler og universiteter (HBCUs), sammen med industrien, den føderale regjeringen og andre akademiske institusjoner.

Til tross for utviklingen av flere verktøy rettet mot å identifisere og adressere skjevheter, for eksempel Department of Defense (DoD) Responsible AI-verktøysett, vedvarer det betydelige utfordringer med å bekjempe skjevheter innenfor AI- og ML-systemer.

Gruppen erkjenner at når AI-teknologi utvides til nye domener, dukker det opp unike utfordringer, hver med sitt eget sett med applikasjonsspesifikke skjevheter som utilsiktet kan føre til skadelige utfall. Derfor er det et presserende behov for fortsatt forskning og samarbeid på tvers av disipliner for å utvikle effektive strategier for å oppdage og dempe skjevheter i alle stadier av AI- og ML-utvikling.

Enkeltpersoner og grupper som er interessert i å dele informasjon om hvordan man bedre kan forstå AI-bias i datasett, bør sende inn et svar via portalen sin innen 15. mai.

Svarene bør inkludere:

• en kapasitetserklæring
• en beskrivelse av pågående og fremtidig forskning institusjonen har utført for å bekjempe utilsiktet AI-bias
• en beskrivelse av alle eksisterende partnerskap rettet mot å undersøke og redusere AI-bias
• en beskrivelse av typene utilsiktet AI-bias som blir observert (inkludert dataene som samles inn), domenene de er i og virkningene de har på institusjonen
• en uttalelse som foreslår hvordan dette arbeidet vil fremme utdanning og opplæring av studenter og forskere

For å finne mer informasjon og sende inn et svar se hele RFI her..

Interessert i å informere gruppen om disse utfordringene fra et industriperspektiv? De har også gitt ut en RFI, hvor de håper å høre fra kommersielle og ideelle organisasjoner som bruker data til å utvikle AI-evner.