A hónap elején az amerikai légierő főtudósának ügynökségközi munkacsoportja kiküldte a Információkérés (RFI) a mesterséges intelligencia (AI) nem szándékos elfogultságáról. A csoport az AI és a Machine Learning (ML) algoritmusokon belüli torzítás kritikus kérdését vizsgálja, elsősorban az adatkészletekre helyezve a hangsúlyt. Ezeket az elfogultságokat olyan akadémiai intézményektől próbálják megtudni, mint a kisebbséget kiszolgáló intézmények (MSI) és a történelmileg fekete főiskolák és egyetemek (HBCU), valamint az ipar, a szövetségi kormány és más tudományos intézmények.

A torzítás azonosítását és kezelését célzó számos eszköz kifejlesztése ellenére, mint például a Védelmi Minisztérium (DoD) Responsible AI eszközkészlete, továbbra is jelentős kihívások állnak fenn az AI és ML rendszereken belüli elfogultság elleni küzdelemben.

A csoport felismeri, hogy ahogy az AI technológia új területekre terjeszkedik, egyedi kihívások jelennek meg, amelyek mindegyike saját alkalmazás-specifikus torzításokkal rendelkezik, amelyek véletlenül káros következményekhez vezethetnek. Ezért sürgősen szükség van a folyamatos kutatásra és a tudományágak közötti együttműködésre, hogy hatékony stratégiákat dolgozzanak ki a torzítás észlelésére és csökkentésére az AI és az ML fejlesztés minden szakaszában.

Azoknak az egyéneknek és csoportoknak, akik érdeklődnek az adathalmazok mesterséges intelligencia torzításának jobb megértésével kapcsolatos információk megosztásában, május 15-ig kell választ adniuk portáljukon keresztül.

A válaszoknak tartalmazniuk kell:

• képességnyilatkozatot
• az intézmény által a nem szándékos mesterségesintelligencia-elfogultság leküzdése érdekében végzett folyamatban lévő és jövőbeni kutatások leírása
• az AI torzításának kutatását és mérséklését célzó összes meglévő partnerség leírása
• a megfigyelt nem szándékos mesterséges intelligencia torzítás típusainak leírása (beleértve a gyűjtött adatokat is), a tartományok, amelyeken ezek vannak, és milyen hatást gyakorolnak az intézményre
• nyilatkozatot, amely azt javasolja, hogy ez a munka hogyan mozdítaná elő a hallgatók és kutatók oktatását és képzését

További információért és válasz elküldéséhez tekintse meg a teljes RFI-t itt.

Érdekli a csoport tájékoztatása ezekről a kihívásokról iparági szempontból? Kiadtak egy RFI, ahol azt remélik, hogy olyan kereskedelmi és non-profit szervezetektől hallhatnak, amelyek adatokat használnak AI-képességek fejlesztésére.