De politie van Baltimore heeft Dazhon Leslie Darien, de voormalige atletiekdirecteur van Pikesville High School (PHS), gearresteerd omdat hij zich naar verluidt voordeed als de directeur van de school met behulp van AI-software om het te laten lijken alsof hij racistische en antisemitische opmerkingen maakte.

Darien, uit Baltimore, Maryland, werd vervolgens beschuldigd van vergelding door getuigen, stalking, diefstal en het verstoren van de schoolactiviteiten. Hij werd laat in de nacht vastgehouden toen hij aan boord wilde gaan van een vlucht op BWI Thurgood Marshall Airport. Beveiligingspersoneel hield hem tegen omdat het aangegeven vuurwapen dat hij bij zich had niet goed was ingepakt en uit een daaropvolgende antecedentenonderzoek bleek dat er een openstaand arrestatiebevel tegen hem bestond.

“Op 17 januari 2024 werd de politie van Baltimore County zich bewust van een stemopname die op sociale media circuleerde”, zei Robert McCullough, hoofd van de politie van Baltimore County, vandaag op een gestreamde persconferentie. “Er werd beweerd dat de stem die op het audiobestand was vastgelegd, toebehoorde aan de heer Eric Eiswert, de directeur van de Pikesville High School. We hebben nu overtuigend bewijs dat de opname niet authentiek was.

“De politie van Baltimore County kwam tot dit besluit na het uitvoeren van een uitgebreid onderzoek, waarbij onder meer een forensisch analist werd ingeschakeld die een contract had met de FBI om de opname te beoordelen. De resultaten van de analyse gaven aan dat de opname sporen bevatte van door AI gegenereerde inhoud.”

McCullough zei dat een second opinion van een forensisch analist aan de Universiteit van Californië, Berkeley ook heeft vastgesteld dat de opname niet authentiek was.

“Op basis van deze bevindingen en verder onderzoek is vastgesteld dat de opname is gegenereerd door het gebruik van kunstmatige intelligentietechnologie”, zei hij.

Volgens het arrestatiebevel voor Darien werd het audiobestand op 17 januari via sociale media gedeeld nadat het via e-mail naar leraren was gestuurd. De opname klonk alsof directeur Eric Eiswert opmerkingen had gemaakt die opruiend genoeg waren om aanleiding te geven tot een politiebezoek om advies te geven over beschermende veiligheidsmaatregelen voor het personeel.

“Opgemerkt moet worden dat de commentaren in de opname spraken over de vermeende frustraties van [Eiswert] over testscores van Afro-Amerikaanse studenten en beweringen dat zij (de Afro-Amerikaanse studenten) niet in staat waren ‘zich een weg uit een papieren zak te testen’,” zegt het bevel.

“De opname bevatte verder kleinerende opmerkingen over joodse individuen en twee leraren die 'nooit aangenomen hadden mogen worden' op de school. Op de opname was een gesprek te zien tussen [Eiswert] en een van de adjunct-directeuren van PHS.”

En toen stapte iedereen binnen

De clip leidde volgens het bevel tot de tijdelijke verwijdering van Eiswert uit zijn functie en “een golf van haatdragende berichten op sociale media en talloze telefoontjes naar de school”, en verstoorde de schoolactiviteiten aanzienlijk. De politie zegt dat dit leidde tot bedreigingen tegen Eiswert en zorgen over zijn veiligheid.

Eiswert vertelde de onderzoekers dat hij gelooft dat de audioclip nep was, omdat “hij de gesprekken op de opname nooit heeft gevoerd.” En hij zei dat hij geloofde dat Darien verantwoordelijk was vanwege zijn technische bekendheid met AI en dat hij een mogelijk motief had: Eiswert zei dat er “gesprekken waren geweest met Darien over het feit dat zijn contract volgend semester niet zou worden verlengd vanwege frequente problemen met de werkprestaties.”

Deze uitdagingen worden in meer specifieke termen beschreven in het bevel. Eén incident betrof Eiswert die Darien berispte omdat hij zonder goedkeuring een oude coach had ontslagen.

Een andere is dat Eiswert onderzoek deed naar Dariens omgang met schoolgeld. “In december 2023 was Darien het onderwerp van een mogelijk diefstalonderzoek [Eiswert] dat werd gestart”, zegt het bevel. Vandaar de aanklacht wegens vergelding van getuigen.

De andere partij die op de opname te horen was, vertelde de onderzoekers dat het gesprek niet had plaatsgevonden en zei dat de opmerkingen niet leken op wat Eiswert zou hebben gezegd.

Uit interviews met Darien en collega's op de school blijkt dat het bestand vanuit een Gmail-account, TJFOUST9, naar Baltimore County Public School-adressen is verzonden. Een van de geïnterviewde mensen merkte op dat Darien “haar had aangespoord om haar BCPS-e-mailaccount te controleren op een ‘raar’ bericht.”

Daarna onthulde een ander personeelslid – die “om verschillende redenen een moeilijke tijd had om onder [Eiswerts] leiderschap te werken” – dat ze de e-mail had doorgestuurd naar de mobiele telefoon van een PHS-student, van wie ze wist dat deze de boodschap snel zou verspreiden via verschillende sociale media en door de hele wereld. de school." Uit een dagvaarding voor haar voormalige e-mailaccount van de universiteit bleek dat het bestand was doorgestuurd naar nieuwsorganisaties en de NAACP.

Tijdens zijn eerste interview met onderzoekers ontkende Darien dat hij iemand kende met de naam “TJ Foust” en ontkende elke betrokkenheid bij de creatie en distributie van de opname.

Geef de oma de schuld

Vervolgens stuurden onderzoekers dagvaardingen naar Google en AT&T om informatie over het accounteigendom en IP-adres te verkrijgen. Ze stelden vast dat het Gmail-adres op 15 augustus 2022 was aangemaakt op een IP-adres dat was gekoppeld aan de woning van Dariens grootmoeder in Los Angeles. Ze ontdekten verder dat het hersteltelefoonnummer voor het TJFOUST9-account was gekoppeld aan een T-Mobile US-account dat was geregistreerd bij Darien.

De specifieke AI-tools die Darien zou hebben gebruikt, zijn niet bekendgemaakt. Het bevel geeft echter aan dat het BCPS Office of Information Technology de netwerktoegang van Darien heeft beoordeeld en verschillende gevallen heeft gevonden waarin hij via Bing Chat naar OpenAI-tools zocht.

We betreden een nieuwe, diepgaande grens

OpenAI Voice Engine, een tool voor het creëren van synthetische stemmen, was ten tijde van de vermeende misdaden niet publiekelijk beschikbaar. Het was aangekondigd op 29 maart 2024. Andere bedrijven vinden dit echter leuk Elf Labs bieden al langer technologie voor het klonen van stemmen aan.

Tijdens de persconferentie riep John Olszewski, Baltimore County Executive, op tot meer voorzichtigheid ten aanzien van publieke media.

“Het is duidelijk dat we ook een nieuwe, zeer verontrustende grens betreden terwijl we opkomende technologie en het potentieel ervan voor innovatie en sociaal welzijn blijven omarmen”, zei hij.

“We moeten ook waakzaam blijven tegen degenen die het voor kwade bedoelingen zouden hebben gebruikt. Dat vereist dat we ons bewuster en kritischer zijn over de audio die we horen en de beelden die we zien. We zullen voorzichtig moeten zijn met ons oordeel.” ®

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/