Policja w Baltimore aresztowała Dazhona Leslie Dariena, byłego dyrektora sportowego szkoły średniej w Pikesville (PHS), za rzekome podszywanie się pod dyrektora szkoły za pomocą oprogramowania AI, aby sprawiać wrażenie, jakby wypowiadał rasistowskie i antysemickie uwagi.

Darien z Baltimore w stanie Maryland została następnie oskarżona o zemstę na świadku, prześladowanie, kradzież i zakłócanie pracy szkoły. Zatrzymano go późną nocą podczas próby wejścia na pokład samolotu na lotnisku BWI Thurgood Marshall. Pracownicy ochrony zatrzymali go, ponieważ zadeklarowana broń, którą miał przy sobie, była niewłaściwie zapakowana, a wynikająca z tego kontrola przeszłości ujawniła jawny nakaz aresztowania.

„17 stycznia 2024 r. Departament Policji Hrabstwa Baltimore dowiedział się o nagraniu głosowym rozpowszechnianym w mediach społecznościowych” – powiedział Robert McCullough, szef Policji Hrabstwa Baltimore, podczas dzisiejszej transmitowanej strumieniowo konferencji prasowej. „Twierdzono, że głos uchwycony w pliku audio należy do pana Erica Eiswerta, dyrektora szkoły średniej w Pikesville. Mamy teraz niezbite dowody na to, że nagranie nie było autentyczne.

„Departament Policji hrabstwa Baltimore doszedł do takiego wniosku po przeprowadzeniu szeroko zakrojonego śledztwa, które obejmowało sprowadzenie analityka kryminalistycznego współpracującego z FBI w celu przejrzenia nagrania. Wyniki analizy wykazały, że nagranie zawierało ślady treści wygenerowanych przez sztuczną inteligencję”.

McCullough powiedział, że druga opinia analityka sądowego z Uniwersytetu Kalifornijskiego w Berkeley również ustaliła, że ​​nagranie nie jest autentyczne.

„Na podstawie tych ustaleń i dalszych badań ustalono, że nagranie zostało wygenerowane przy użyciu technologii sztucznej inteligencji” – powiedział.

Zgodnie z nakazem aresztowania Darien plik audio został udostępniony w mediach społecznościowych 17 stycznia po wysłaniu go pocztą elektroniczną do nauczycieli. Nagranie brzmiało tak, jakby dyrektor Eric Eiswert poczynił uwagi na tyle podburzające, że skłoniło to policję do wizyty w celu uzyskania porady w sprawie środków ochronnych dla personelu.

„Należy zauważyć, że komentarze w nagraniu nawiązywały do ​​rzekomej frustracji [Eiswerta] wynikami testów afroamerykańskich uczniów i twierdzeniami, że oni (uczniowie afroamerykańscy) nie byli w stanie „spróbować wydostać się z papierowej torby”” nakaz mówi.

„Na nagraniu pojawiły się pogardliwe komentarze na temat Żydów i dwóch nauczycieli, którzy „nigdy nie powinni byli być zatrudnieni” w szkole. Nagranie przedstawia rozmowę [Eiswerta] z jednym z zastępców dyrektora PHS”.

A potem wszyscy się zbiegli

Nagranie, zgodnie z nakazem, doprowadziło do tymczasowego usunięcia Eiswerta ze stanowiska i „fali pełnych nienawiści komunikatów w mediach społecznościowych oraz licznych telefonów do szkoły” i znacząco zakłóciło funkcjonowanie szkoły. Policja twierdzi, że doprowadziło to do gróźb pod adresem Eiswerta i obaw o jego bezpieczeństwo.

Eiswert powiedział śledczym, że według niego nagranie audio jest fałszywe, ponieważ „nigdy nie prowadził rozmów zapisanych na nagraniu”. Powiedział też, że wierzy, że Darien jest za to odpowiedzialny ze względu na swoją techniczną znajomość sztucznej inteligencji i że ma możliwy motyw: Eiswert powiedział, że „prowadzono rozmowy z Darienem w sprawie nieprzedłużenia jego umowy w przyszłym semestrze ze względu na częste problemy z wydajnością pracy”.

Zarzuty te zostały szczegółowo opisane w nakazie. Jeden z incydentów polegał na tym, że Eiswert udzielił Darienowi reprymendy za zwolnienie wieloletniego trenera bez zgody.

Innym jest to, że Eiswert badał sposób, w jaki Darien obchodzi się z funduszami szkolnymi. „W grudniu 2023 r. w sprawie Darien wszczęto [Eiswert] śledztwo w sprawie potencjalnej kradzieży” – czytamy w nakazie. Stąd zarzut odwetu świadka.

Druga strona, słyszana na nagraniu, powiedziała śledczym, że do takiej rozmowy nie doszło i stwierdziła, że ​​jej uwagi nie brzmią jak cokolwiek, co powiedziałby Eiswert.

Z wywiadów z Darienem i współpracownikami w szkole wynika, że ​​plik został wysłany na adresy szkół publicznych hrabstwa Baltimore z konta Gmail TJFOUST9. Jedna z osób, z którymi przeprowadzono wywiad, zauważyła, że ​​Darien „namawiała ją, aby sprawdziła swoje konto e-mail BCPS pod kątem„ dziwnej ”wiadomości”.

Następnie inna pracownica – która „z różnych powodów miała trudności w pracy pod przewodnictwem [Eiswerta]” – ujawniła, że ​​przekazała wiadomość e-mail na telefon komórkowy studentki PHS, która, jak wiedziała, szybko rozprzestrzeniła wiadomość w różnych mediach społecznościowych i w całym kraju. Szkoła." Wezwanie do sądu dotyczące jej byłego uniwersyteckiego konta e-mail wskazywało, że akta zostały przekazane organizacjom informacyjnym i NAACP.

Podczas wstępnego przesłuchania ze śledczymi Darien zaprzeczył, jakoby znał kogokolwiek o nazwisku „TJ Foust” i jakoby był zaangażowany w tworzenie i dystrybucję nagrania.

Zrzuć winę na babcię

Następnie śledczy wysłali wezwania do Google i AT&T w celu uzyskania informacji o własności konta i adresu IP. Ustalili, że adres Gmaila został utworzony 15 sierpnia 2022 r. pod adresem IP powiązanym z miejscem zamieszkania babci Darien w Los Angeles. Ustalili ponadto, że pomocniczy numer telefonu dla konta TJFOUST9 był powiązany z kontem T-Mobile w USA zarejestrowanym w Darien.

Konkretnych narzędzi sztucznej inteligencji rzekomo używanych przez Dariena nie ujawniono. Z nakazu wynika jednak, że Biuro Technologii Informacyjnych BCPS sprawdziło dostęp Dariena do sieci i znalazło kilka przypadków, w których szukał on narzędzi OpenAI za pośrednictwem czatu Bing.

Wkraczamy w nową, głęboko niepokojącą granicę

W momencie popełnienia zarzucanych przestępstw OpenAI Voice Engine, czyli narzędzie do tworzenia syntetycznych głosów, nie było publicznie dostępne. To było ogłosił 29 marca 2024 r. Jednak inne firmy lubią Jedenaście laboratoriów już od dłuższego czasu oferują technologię klonowania głosu.

Podczas konferencji prasowej John Olszewski, dyrektor hrabstwa Baltimore, wezwał do większej ostrożności w odniesieniu do mediów publicznych.

„Jest oczywiste, że wkraczamy również w nową, budzącą głębokie obawy granicę, w dalszym ciągu wykorzystując powstającą technologię i jej potencjał w zakresie innowacji i dobra społecznego” – powiedział.

„Musimy także zachować czujność wobec tych, którzy wykorzystaliby je w złych zamiarach. Będzie to wymagało od nas większej świadomości i wnikliwości w stosunku do dźwięku, który słyszymy, i obrazów, które widzimy. Będziemy musieli zachować ostrożność w naszym osądzie.” ®

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
• PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
• PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
• Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
• Źródło: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/