La polizia di Baltimora ha arrestato Dazhon Leslie Darien, ex direttore sportivo della Pikesville High School (PHS), con l'accusa di aver impersonato il preside della scuola utilizzando software di intelligenza artificiale per far sembrare che facesse commenti razzisti e antisemiti.

Darien, di Baltimora, nel Maryland, è stato successivamente accusato di ritorsioni di testimoni, stalking, furto e interruzione delle operazioni scolastiche. È stato arrestato a tarda notte mentre cercava di imbarcarsi su un volo all'aeroporto BWI Thurgood Marshall. Il personale di sicurezza lo ha fermato perché l'arma da fuoco dichiarata che aveva con sé era imballata in modo improprio e un successivo controllo dei precedenti ha rivelato un mandato di arresto aperto per il suo arresto.

"Il 17 gennaio 2024, il dipartimento di polizia della contea di Baltimora è venuto a conoscenza di una registrazione vocale diffusa sui social media", ha affermato oggi Robert McCullough, capo della polizia della contea di Baltimora, in una conferenza stampa trasmessa in streaming. "Si sosteneva che la voce catturata nel file audio appartenesse al signor Eric Eiswert, il preside della Pikesville High School. Ora abbiamo la prova definitiva che la registrazione non era autentica.

“Il dipartimento di polizia della contea di Baltimora ha raggiunto questa decisione dopo aver condotto un’indagine approfondita, che ha incluso l’intervento di un analista forense incaricato dall’FBI di esaminare la registrazione. I risultati dell’analisi hanno indicato che la registrazione conteneva tracce di contenuti generati dall’intelligenza artificiale”.

McCullough ha detto che anche un secondo parere di un analista forense dell'Università della California, Berkeley, ha stabilito che la registrazione non era autentica.

"Sulla base di questi risultati e di ulteriori indagini, è stato stabilito che la registrazione è stata generata attraverso l'uso della tecnologia dell'intelligenza artificiale", ha affermato.

Secondo il mandato d'arresto emesso per Darien, il file audio è stato condiviso sui social media il 17 gennaio dopo essere stato inviato via email agli insegnanti della scuola. Dalla registrazione sembrava che il preside Eric Eiswert avesse fatto osservazioni abbastanza provocatorie da indurre una visita della polizia per consigliare misure di sicurezza protettive per il personale.

"Va notato che i commenti nella registrazione parlavano delle presunte frustrazioni [di Eiswert] riguardo ai punteggi dei test degli studenti afroamericani e alle affermazioni secondo cui loro (gli studenti afroamericani) non erano in grado di" provare a uscire da un sacchetto di carta "," dice il mandato.

“La registrazione proseguiva con commenti sprezzanti nei confronti di individui ebrei e di due insegnanti che 'non avrebbero mai dovuto essere assunti' nella scuola. La registrazione raffigurava una conversazione tra [Eiswert] e uno degli assistenti del PHS.

E poi si sono ammassati tutti

La clip, secondo il mandato, ha portato alla rimozione temporanea di Eiswert dal suo incarico e a “un’ondata di messaggi pieni di odio sui social media e numerose chiamate alla scuola”, e ha interrotto in modo significativo le operazioni scolastiche. La polizia afferma che ciò ha portato a minacce contro Eiswert e preoccupazioni per la sua sicurezza.

Eiswert ha detto agli investigatori che crede che il clip audio fosse falso in quanto "non ha mai avuto le conversazioni nella registrazione". E ha detto che credeva che Darien fosse responsabile a causa della sua familiarità tecnica con l'intelligenza artificiale e aveva un possibile motivo: Eiswert ha detto che "c'erano state conversazioni con Darien sul fatto che il suo contratto non sarebbe stato rinnovato il prossimo semestre a causa di frequenti problemi di prestazione lavorativa".

Tali sfide sono descritte in termini più specifici nel mandato. Un incidente ha coinvolto Eiswert che ha rimproverato Darien per aver licenziato un allenatore di lunga data senza approvazione.

Un'altra è che Eiswert stesse indagando sulla gestione dei fondi scolastici da parte di Darien. "Nel dicembre del 2023, Darien è stato oggetto di una potenziale indagine per furto [Eiswert] avviata", afferma il mandato. Da qui l'accusa di ritorsione dei testimoni.

L'altra parte ascoltata nella registrazione ha detto agli investigatori che la conversazione non era avvenuta e ha detto che le osservazioni non suonavano come qualcosa che Eiswert avrebbe detto.

Le interviste con Darien e i suoi colleghi della scuola suggeriscono che il file è stato inviato agli indirizzi della scuola pubblica della contea di Baltimora da un account Gmail, TJFOUST9. Una delle persone intervistate ha notato che Darien l'aveva "esortata a controllare il suo account di posta elettronica BCPS per un messaggio 'strano'."

Successivamente, un altro membro dello staff – che “ha avuto difficoltà a lavorare sotto la guida [di Eiswert] per vari motivi” – ha rivelato di aver inoltrato l’e-mail al cellulare di uno studente PHS, che sapeva avrebbe rapidamente diffuso il messaggio su vari social media e in tutto il mondo. la scuola." Un mandato di comparizione per il suo ex account di posta elettronica universitario indicava che il file era stato inoltrato alle testate giornalistiche e alla NAACP.

Durante il suo colloquio iniziale con gli investigatori, Darien ha negato di conoscere qualcuno chiamato "TJ Foust" e ha negato qualsiasi coinvolgimento nella creazione e distribuzione della registrazione.

Dai la colpa alla nonna

Successivamente, gli investigatori hanno inviato mandati di comparizione a Google e AT&T per ottenere informazioni sulla proprietà dell'account e informazioni sull'indirizzo IP. Hanno stabilito che l'indirizzo Gmail è stato creato il 15 agosto 2022 su un indirizzo IP associato alla residenza di Los Angeles della nonna di Darien. Hanno inoltre scoperto che il numero di telefono di recupero per l'account TJFOUST9 era associato a un account T-Mobile US registrato a Darien.

Gli specifici strumenti di intelligenza artificiale presumibilmente utilizzati da Darien non sono stati divulgati. Il mandato, tuttavia, indica che l'Ufficio BCPS per l'informatica ha esaminato l'accesso alla rete di Darien e ha trovato diversi casi in cui ha cercato strumenti OpenAI tramite Bing Chat.

Stiamo entrando in una nuova frontiera profondamente preoccupante

OpenAI Voice Engine, uno strumento per creare voci sintetiche, non era disponibile al pubblico al momento dei presunti crimini. Era ha annunciato il 29 marzo 2024. Tuttavia, ad altre società piace UndiciLabs offrono la tecnologia di clonazione vocale da più tempo.

Durante la conferenza stampa, John Olszewski, dirigente della contea di Baltimora, ha chiesto maggiore cautela nei confronti dei media pubblici.

“È chiaro che stiamo anche entrando in una nuova frontiera profondamente preoccupante mentre continuiamo ad abbracciare la tecnologia emergente e il suo potenziale per l’innovazione e il bene sociale”, ha affermato.

“Dobbiamo anche rimanere vigili contro coloro che lo avrebbero utilizzato con intenti malevoli. Ciò richiederà che siamo più consapevoli e più perspicaci riguardo all’audio che ascoltiamo e alle immagini che vediamo. Dovremo stare attenti nel nostro giudizio”. ®

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
• PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
• PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
• Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
• Fonte: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/