Lögreglan í Baltimore hefur handtekið Dazhon Leslie Darien, fyrrverandi íþróttastjóra Pikesville High School (PHS), fyrir að hafa verið að líkjast eftir skólastjóra skólans með því að nota gervigreindarhugbúnað til að láta líta út fyrir að hann hafi komið með kynþáttafordóma og gyðingahatur.

Darien, frá Baltimore, Maryland, var í kjölfarið ákærður fyrir hefndaraðgerðir, eltingar, þjófnað og trufla skólastarf. Hann var handtekinn seint um nótt þegar hann reyndi að komast um borð í flug á BWI Thurgood Marshall flugvellinum. Öryggisstarfsmenn stöðvuðu hann vegna þess að upplýst skotvopn sem hann hafði meðferðis var ranglega pakkað og bakgrunnsskoðun leiddi í ljós opna handtökuskipun.

„Þann 17. janúar 2024 varð lögreglan í Baltimore-sýslu vör við raddupptöku sem var dreift á samfélagsmiðlum,“ sagði Robert McCullough, yfirmaður lögreglunnar í Baltimore-sýslu, á streymdum blaðamannafundi í dag. „Það var fullyrt að röddin sem tekin var á hljóðskránni tilheyri herra Eric Eiswert, skólastjóra við Pikesville menntaskólann. Við höfum nú óyggjandi sannanir fyrir því að upptakan hafi ekki verið ósvikin.

„Lögreglan í Baltimore-sýslu komst að þeirri ákvörðun eftir að hafa framkvæmt umfangsmikla rannsókn, sem innihélt meðal annars að fá réttarsérfræðing sem samið var við FBI til að fara yfir upptökuna. Niðurstöður greiningarinnar bentu til þess að upptakan innihélt leifar af gervigreindarefni.

McCullough sagði að annað álit frá réttarsérfræðingi við háskólann í Kaliforníu í Berkeley hefði einnig ákveðið að upptakan væri ekki ósvikin.

„Byggt á þessum niðurstöðum og frekari rannsóknum hefur verið komist að þeirri niðurstöðu að upptakan hafi verið gerð með notkun gervigreindartækni,“ sagði hann.

Samkvæmt handtökuskipuninni sem gefin var út fyrir Darien var hljóðskránni deilt í gegnum samfélagsmiðla þann 17. janúar eftir að hafa verið send með tölvupósti til skólakennara. Upptakan hljómaði eins og Eric Eiswert, skólastjóri, hefði látið ummælin falla nógu ögrandi til að kalla á lögregluheimsókn til að ráðleggja um öryggisráðstafanir fyrir starfsfólk.

„Það skal tekið fram að ummæli á upptökunni ræddu við meinta gremju [Eiswerts] með prófskora afrísk-amerískra nemenda og fullyrðingar um að þeir (afrísk-amerísku nemendurnir) hefðu ekki getað „prófað sig út úr pappírspoka,““. segir í heimildinni.

„Upptakan fór með niðrandi ummæli um gyðinga einstaklinga og tvo kennara sem „hefðu aldrei átt að vera ráðnir“ við skólann. Upptakan sýndi samtal á milli [Eiswert] og eins af aðstoðarskólastjóra PHS.“

Og svo hlóðust allir inn

Myndbandið, samkvæmt heimildinni, leiddi til þess að Eiswert var vikið tímabundið úr stöðu sinni og „bylgja hatursfullra skilaboða á samfélagsmiðlum og fjölda símtala í skólann,“ og truflaði verulega starfsemi skólans. Lögreglan segir að það hafi leitt til hótana í garð Eiswert og áhyggjur af öryggi hans.

Eiswert sagði við rannsakendur að hann teldi að hljóðinnskotið væri falsað þar sem „hann átti aldrei samtölin á upptökunni. Og hann sagðist trúa því að Darien væri ábyrgur vegna tæknilegrar þekkingar sinnar á gervigreind og hefði mögulega ástæðu: Eiswert sagði að „það hefði verið rætt við Darien um að samningur hans yrði ekki endurnýjaður á næstu önn vegna tíðra áskorana um frammistöðu í vinnu.

Þessum áskorunum er lýst nánar í tilskipuninni. Eitt atvik fól í sér að Eiswert áminnti Darien fyrir að reka langtímaþjálfara án samþykkis.

Önnur er sú að Eiswert var að rannsaka meðferð Darien á skólafé. „Í desember 2023 var Darien viðfangsefni hugsanlegrar þjófnaðarrannsóknar [Eiswert] sem hófst,“ segir í heimildinni. Þar af leiðandi er ákæra vitna fyrir hefndaraðgerðir.

Gagnaðili sem heyrðist á upptökunni sagði rannsakendum að samtalið hefði ekki átt sér stað og sagði ummælin ekki hljóma eins og neitt sem Eiswert hefði sagt.

Viðtöl við Darien og félaga í skólanum benda til þess að skráin hafi verið send til Baltimore County Public School heimilisföng frá Gmail reikningi, TJFOUST9. Einn þeirra sem rætt var við tók fram að Darien hefði „hvatt hana til að athuga með BCPS tölvupóstreikninginn sinn fyrir „skrýtin“ skilaboð.

Í kjölfarið upplýsti annar starfsmaður – sem „áttu erfitt með að vinna undir forystu [Eiswerts] af ýmsum ástæðum“ – að hún hafi framsent tölvupóstinn á farsíma PHS nemanda, sem hún vissi að myndi dreifa skilaboðunum hratt um ýmsa samfélagsmiðla og út um allt. Skólinn." Stefna fyrir fyrrverandi háskólatölvupóstreikning hennar gaf til kynna að skráin hefði verið send til fréttastofnana og NAACP.

Í fyrsta viðtali sínu við rannsakendur neitaði Darien að hafa þekkt einhvern sem heitir „TJ Foust“ og neitaði allri þátttöku í gerð og dreifingu upptökunnar.

Kennið ömmunni um

Í kjölfarið sendu rannsakendur stefnur til Google og AT&T til að fá upplýsingar um eignarhald reikninga og upplýsingar um IP-tölu. Þeir ákváðu að Gmail netfangið væri búið til 15. ágúst 2022 á IP-tölu sem tengist heimili ömmu Darien í Los Angeles. Þeir komust ennfremur að því að endurheimtarsímanúmerið fyrir TJFOUST9 reikninginn var tengt T-Mobile US reikningi sem var skráður á Darien.

Sértæk gervigreind verkfæri sem Darien sagðist hafa notað hafa ekki verið birt. Tilskipunin gefur hins vegar til kynna að upplýsingatækniskrifstofa BCPS hafi farið yfir netaðgang Darien og fundið nokkur tilvik þar sem hann leitaði að OpenAI verkfærum í gegnum Bing Chat.

Við erum að ganga inn í ný landamæri sem eru djúpt áhyggjufull

OpenAI Voice Engine, tæki til að búa til tilbúnar raddir, var ekki aðgengilegt almenningi á þeim tíma sem meintir glæpir áttu sér stað. Það var tilkynnt þann 29. mars 2024. Hins vegar hafa önnur fyrirtæki eins Ellefu Labs hafa boðið upp á raddklónunartækni lengur.

Á blaðamannafundinum kallaði John Olszewski, framkvæmdastjóri Baltimore-sýslu, eftir meiri varkárni gagnvart opinberum fjölmiðlum.

„Það er ljóst að við erum líka að fara inn í ný djúpstæð landamæri þar sem við höldum áfram að faðma nýja tækni og möguleika hennar til nýsköpunar og félagslegrar góðs,“ sagði hann.

„Við verðum líka að vera á varðbergi gagnvart þeim sem hefðu notað það í illgjarn ásetningi. Það mun krefjast þess að við séum meðvitaðri og skynsamari um hljóðið sem við heyrum og myndirnar sem við sjáum. Við verðum að fara varlega í dómgreind okkar." ®

• SEO knúið efni og PR dreifing. Fáðu magnara í dag.
• PlatoData.Network Vertical Generative Ai. Styrktu sjálfan þig. Aðgangur hér.
• PlatoAiStream. Web3 upplýsingaöflun. Þekking aukin. Aðgangur hér.
• PlatóESG. Kolefni, CleanTech, Orka, Umhverfi, Sól, Úrgangsstjórnun. Aðgangur hér.
• PlatoHealth. Líftækni og klínísk rannsóknagreind. Aðgangur hér.
• Heimild: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/