Poliția din Baltimore l-a arestat pe Dazhon Leslie Darien, fostul director de atletism al Liceului Pikesville (PHS), pentru că s-ar fi uzurpat pe directorul școlii folosind software AI pentru a face să pară că ar fi făcut remarci rasiste și antisemite.

Darien, din Baltimore, Maryland, a fost ulterior acuzat de represalii ale martorilor, urmărire, furt și perturbarea operațiunilor școlare. El a fost reținut noaptea târziu, încercând să se îmbarce pe un zbor pe aeroportul BWI Thurgood Marshall. Personalul de securitate l-a oprit pentru că arma de foc declarată pe care o avea la el era ambalată necorespunzător, iar o verificare a antecedentelor care a urmat a scos la iveală un mandat deschis de arestare.

„La 17 ianuarie 2024, departamentul de poliție din județul Baltimore a aflat că o înregistrare vocală este vehiculată pe rețelele sociale”, a declarat Robert McCullough, șeful poliției din județul Baltimore, la o conferință de presă transmisă astăzi. „Se presupunea că vocea capturată în fișierul audio îi aparține domnului Eric Eiswert, directorul liceului din Pikesville. Acum avem dovezi concludente că înregistrarea nu a fost autentică.

„Departamentul de poliție al județului Baltimore a ajuns la această hotărâre după ce a efectuat o investigație amplă, care a inclus aducerea unui analist criminalist contractat cu FBI pentru a revizui înregistrarea. Rezultatele analizei au indicat că înregistrarea conținea urme de conținut generat de AI.”

McCullough a spus că o a doua opinie a unui analist criminalistic de la Universitatea din California, Berkeley, a determinat, de asemenea, că înregistrarea nu este autentică.

„Pe baza acestor constatări și a investigațiilor ulterioare, s-a stabilit că înregistrarea a fost generată prin utilizarea tehnologiei inteligenței artificiale”, a spus el.

Potrivit mandatului de arestare emis pentru Darien, fișierul audio a fost distribuit prin intermediul rețelelor de socializare pe 17 ianuarie după ce a fost trimis prin e-mail profesorilor școlii. Înregistrarea a sunat ca și cum directorul Eric Eiswert ar fi făcut observații suficient de inflamatorii pentru a determina o vizită a poliției pentru a sfătui cu privire la măsurile de protecție de securitate pentru personal.

„Trebuie remarcat faptul că comentariile din înregistrare s-au referit la presupusele frustrări ale lui [Eiswert] cu rezultatele la teste ale studenților afro-americani și a afirmațiilor că ei (elevii afro-americani) nu au putut „să-și testeze drumul dintr-o pungă de hârtie”” mandatul spune.

„Înregistrarea a continuat cu comentarii denigratoare despre indivizi evrei și doi profesori care „nu ar fi trebuit niciodată angajați” la școală. Înregistrarea a descris o conversație între [Eiswert] și unul dintre directorii adjuncți ai PHS.”

Și apoi toți s-au îngrămădit

Clipul, conform mandatului, a dus la înlăturarea temporară a lui Eiswert din funcția sa și „un val de mesaje pline de ură pe rețelele de socializare și numeroase apeluri către școală” și a perturbat semnificativ operațiunile școlii. Poliția spune că a dus la amenințări la adresa lui Eiswert și la îngrijorări cu privire la siguranța lui.

Eiswert le-a spus anchetatorilor că el crede că clipul audio a fost fals, deoarece „nu a avut niciodată conversațiile din înregistrare”. Și a spus că crede că Darien este responsabil datorită familiarității sale tehnice cu inteligența artificială și are un posibil motiv: Eiswert a spus că „au avut loc conversații cu Darien despre nereînnoirea contractului său în semestrul următor din cauza provocărilor frecvente legate de performanța muncii”.

Aceste provocări sunt descrise în termeni mai specifici în mandat. Un incident a implicat ca Eiswert să-l mustre pe Darien pentru că l-a concediat pe un antrenor de lungă durată fără aprobare.

O alta este că Eiswert investiga modul în care Darien gestionează fondurile școlii. „În decembrie 2023, Darien a făcut obiectul unei potențiale investigații de furt [Eiswert] inițiată”, se arată în mandat. Prin urmare, acuzația de răzbunare a martorului.

Cealaltă parte auzită în înregistrare le-a spus anchetatorilor că conversația nu a avut loc și a spus că remarcile nu suna ca ceva ce ar fi spus Eiswert.

Interviurile cu Darien și asociații de la școală sugerează că fișierul a fost trimis la adresele școlii publice din județul Baltimore dintr-un cont Gmail, TJFOUST9. Una dintre persoanele intervievate a remarcat că Darien „a îndemnat-o să verifice contul ei de e-mail BCPS pentru un mesaj „ciudat””.

Ulterior, un alt membru al personalului – care „a avut dificultăți să lucreze sub conducerea [Eiswert] din diverse motive” – a dezvăluit că a transmis e-mailul către telefonul mobil al unui student PHS, despre care știa că va răspândi rapid mesajul în diverse rețele de socializare și în întreaga lume. scoala." O citație pentru fostul ei cont de e-mail de la universitate a indicat că fișierul a fost transmis unor organizații de știri și NAACP.

În timpul interviului său inițial cu anchetatorii, Darien a negat că a cunoscut pe cineva numit „TJ Foust” și a negat orice implicare în crearea și distribuirea înregistrării.

Da vina pe bunică

Ulterior, anchetatorii au trimis citații către Google și AT&T pentru a obține informații despre proprietatea contului și informații despre adresa IP. Ei au stabilit că adresa Gmail a fost creată pe 15 august 2022 la o adresă IP asociată cu reședința din Los Angeles a bunicii lui Darien. Ei au mai descoperit că numărul de telefon de recuperare pentru contul TJFOUST9 a fost asociat cu un cont T-Mobile din SUA înregistrat la Darien.

Instrumentele AI specifice despre care se presupune că le-a folosit Darien nu au fost dezvăluite. Mandatul indică însă că Biroul BCPS pentru Tehnologia Informației a revizuit accesul la rețea al lui Darien și a găsit mai multe cazuri în care acesta a căutat instrumente OpenAI prin Bing Chat.

Intrăm într-o nouă frontieră profund îngrijorătoare

OpenAI Voice Engine, un instrument pentru crearea de voci sintetice, nu era disponibil public la momentul presupuselor crime. Era a anunțat la 29 martie 2024. Cu toate acestea, alte companii ca ElevenLabs oferă de mai mult timp tehnologia de clonare a vocii.

În timpul conferinței de presă, John Olszewski, executivul județului Baltimore, a cerut mai multă prudență în ceea ce privește mass-media publică.

„Este clar că, de asemenea, intrăm într-o nouă frontieră profund îngrijorătoare, în timp ce continuăm să îmbrățișăm tehnologia emergentă și potențialul acesteia de inovare și bine social”, a spus el.

„De asemenea, trebuie să rămânem vigilenți împotriva celor care l-ar fi folosit cu intenții rău intenționate. Acest lucru ne va cere să fim mai conștienți și mai discernământ cu privire la sunetul pe care îl auzim și imaginile pe care le vedem. Va trebui să fim atenți în judecata noastră.” ®

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/