Baltimorská policie zatkla Dazhona Leslieho Dariena, bývalého sportovního ředitele Pikesville High School (PHS), za údajné vydávání se za ředitele školy pomocí softwaru umělé inteligence, aby to vypadalo, jako by měl rasistické a antisemitské poznámky.

Darien z Baltimoru v Marylandu byl následně obviněn z odvety svědků, pronásledování, krádeží a narušování školního provozu. Byl zadržen pozdě v noci při pokusu nastoupit na let na letišti BWI Thurgood Marshall. Bezpečnostní pracovníci ho zastavili, protože deklarovaná střelná zbraň, kterou měl u sebe, byla špatně zabalená a následná prověrka odhalila otevřený příkaz k jeho zatčení.

„Dne 17. ledna 2024 se policejní oddělení Baltimoru dozvědělo, že na sociálních sítích koluje hlasový záznam,“ řekl dnes na streamované tiskové konferenci Robert McCullough, náčelník policie okresu Baltimore. „Tvrdilo se, že hlas zachycený na zvukovém souboru patří panu Ericu Eiswertovi, řediteli střední školy v Pikesville. Nyní máme nezvratné důkazy, že nahrávka nebyla autentická.

„Policejní oddělení okresu Baltimore dospělo k tomuto rozhodnutí po provedení rozsáhlého vyšetřování, které zahrnovalo přizvání forenzního analytika nasmlouvaného s FBI, aby nahrávku přezkoumal. Výsledky analýzy ukázaly, že záznam obsahoval stopy obsahu generovaného AI.

McCullough řekl, že druhý posudek od forenzního analytika z Kalifornské univerzity v Berkeley také určil, že záznam není autentický.

"Na základě těchto zjištění a dalšího vyšetřování bylo zjištěno, že záznam byl vytvořen pomocí technologie umělé inteligence," řekl.

Podle zatykače vydaného na Darienovo zatčení byl zvukový soubor sdílen prostřednictvím sociálních médií 17. ledna poté, co byl zaslán e-mailem učitelům školy. Nahrávka zněla, jako by ředitel Eric Eiswert pronesl poznámky natolik pobuřující, že to přimělo policejní návštěvu, aby poradila ohledně ochranných bezpečnostních opatření pro zaměstnance.

„Je třeba poznamenat, že komentáře v nahrávce hovořily o [Eiswertově] údajné frustraci z výsledků testů afroamerických studentů a tvrzení, že oni (afroameričtí studenti) nebyli schopni ‚vyzkoušet cestu ven z papírového sáčku‘,“ příkaz říká.

„Nahrávka pokračovala znevažujícími poznámkami o židovských jednotlivcích a dvou učitelích, kteří ‚neměli být nikdy přijati‘ do školy. Nahrávka zachycovala rozhovor mezi [Eiswertem] a jedním z asistentů ředitele PHS.

A pak se všichni nahrnuli

Klip podle zatykače vedl k dočasnému odstranění Eiswerta z jeho funkce a „vlně nenávistných zpráv na sociálních sítích a četných hovorů do školy“ a významně narušil chod školy. Policie tvrdí, že to vedlo k výhrůžkám Eiswertovi a obavám o jeho bezpečnost.

Eiswert řekl vyšetřovatelům, že se domnívá, že zvukový klip byl falešný, protože „nikdy neměl rozhovory v nahrávce“. A řekl, že věří, že Darien je zodpovědný kvůli své technické znalosti AI a měl možný motiv: Eiswert řekl, že „s Darienem proběhly rozhovory o tom, že jeho smlouva nebude v příštím semestru obnovena kvůli častým problémům s výkonem práce“.

Tyto výzvy jsou v příkazu popsány konkrétněji. Jeden incident se týkal toho, že Eiswert napomenul Dariena za to, že bez souhlasu vyhodil dlouholetého trenéra.

Další je, že Eiswert vyšetřoval, jak Darien nakládal se školními prostředky. "V prosinci 2023 byl Darien předmětem vyšetřování potenciální krádeže [Eiswert], které bylo zahájeno," říká zatykač. Proto svědek obviňuje z odvety.

Druhá strana, kterou slyšela na nahrávce, řekla vyšetřovatelům, že k rozhovoru nedošlo, a řekla, že poznámky nezněly jako něco, co by řekl Eiswert.

Rozhovory s Darienem a spolupracovníky ve škole naznačují, že soubor byl odeslán na adresy státní školy v Baltimore County z účtu Gmail TJFOUST9. Jeden z dotazovaných lidí poznamenal, že Darien ji „naléhal, aby zkontrolovala svůj e-mailový účet BCPS, zda neobsahuje ‚divnou‘ zprávu.“

Poté další členka – která „měla z různých důvodů potíže pod vedením [Eiswerta]“ – prozradila, že přeposlala e-mail na mobil studenta PHS, o kterém věděla, že by zprávu rychle rozšířil po různých sociálních sítích a po celém světě. škola." Předvolání pro její bývalý univerzitní e-mailový účet naznačovalo, že soubor byl předán zpravodajským organizacím a NAACP.

Během prvního rozhovoru s vyšetřovateli Darien popřel, že by znal někoho jménem „TJ Foust“ a popřel jakoukoli účast na vytváření a distribuci nahrávky.

Svalte to na babičku

Následně vyšetřovatelé zaslali předvolání společnosti Google a AT&T, aby získali informace o vlastnictví účtu a informace o IP adrese. Zjistili, že adresa Gmail byla vytvořena 15. srpna 2022 na IP adrese spojené s bydlištěm Darieniny babičky v Los Angeles. Dále zjistili, že telefonní číslo pro obnovení účtu TJFOUST9 bylo spojeno s účtem T-Mobile v USA registrovaným na Darien.

Konkrétní nástroje AI údajně používané Darienem nebyly zveřejněny. Zatykač však naznačuje, že Úřad informačních technologií BCPS zkontroloval Darienův síťový přístup a našel několik případů, kdy hledal nástroje OpenAI přes Bing Chat.

Vstupujeme do nové hluboce znepokojivé hranice

OpenAI Voice Engine, nástroj pro vytváření syntetických hlasů, nebyl v době údajných zločinů veřejně dostupný. to bylo oznámila, dne 29. března 2024. Jiné společnosti však rády ElevenLabs již déle nabízejí technologii klonování hlasu.

Během tiskové konference John Olszewski, výkonný ředitel hrabství Baltimore, vyzval k větší opatrnosti, pokud jde o veřejnoprávní média.

"Je jasné, že také vstupujeme na novou hluboce znepokojivou hranici, protože pokračujeme v přijímání nových technologií a jejich potenciálu pro inovace a sociální dobro," řekl.

„Musíme také zůstat ostražití vůči těm, kteří by to použili se zlými úmysly. To bude vyžadovat, abychom si byli více vědomi a prozíravější ohledně zvuku, který slyšíme, a obrázků, které vidíme. Budeme muset být ve svém úsudku opatrní." ®

• SEO Powered Content & PR distribuce. Získejte posílení ještě dnes.
• PlatoData.Network Vertikální generativní Ai. Zmocnit se. Přístup zde.
• PlatoAiStream. Inteligence Web3. Znalosti rozšířené. Přístup zde.
• PlatoESG. Uhlík, CleanTech, Energie, Životní prostředí, Sluneční, Nakládání s odpady. Přístup zde.
• PlatoHealth. Inteligence biotechnologií a klinických studií. Přístup zde.
• Zdroj: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/