Die Polizei von Baltimore hat Dazhon Leslie Darien, den ehemaligen Sportdirektor der Pikesville High School (PHS), festgenommen, weil er sich angeblich mit KI-Software als Schulleiter ausgegeben hat, um den Eindruck zu erwecken, er hätte rassistische und antisemitische Äußerungen gemacht.

Darien aus Baltimore, Maryland, wurde daraufhin wegen Zeugenvergeltung, Stalking, Diebstahl und Störung des Schulbetriebs angeklagt. Er wurde spät in der Nacht festgenommen, als er versuchte, am Flughafen BWI Thurgood Marshall einen Flug zu besteigen. Sicherheitskräfte hielten ihn an, weil die angegebene Schusswaffe, die er bei sich hatte, unsachgemäß verpackt war und eine anschließende Hintergrundüberprüfung ergab, dass ein Haftbefehl gegen ihn offen war.

„Am 17. Januar 2024 erfuhr die Polizei von Baltimore County, dass eine Sprachaufzeichnung in den sozialen Medien verbreitet wurde“, sagte Robert McCullough, Chef der Polizei von Baltimore County, heute auf einer per Streaming übertragenen Pressekonferenz. „Es wurde behauptet, dass die in der Audiodatei aufgezeichnete Stimme Herrn Eric Eiswert, dem Rektor der Pikesville High School, gehörte. Wir haben jetzt schlüssige Beweise dafür, dass die Aufnahme nicht authentisch war.

„Die Polizeibehörde des Baltimore County kam zu dieser Feststellung, nachdem sie eine umfassende Untersuchung durchgeführt hatte, zu der auch die Hinzuziehung eines mit dem FBI beauftragten forensischen Analysten gehörte, der die Aufzeichnung überprüfen sollte. Die Ergebnisse der Analyse zeigten, dass die Aufzeichnung Spuren von KI-generierten Inhalten enthielt.“

McCullough sagte, eine zweite Meinung eines forensischen Analysten der University of California in Berkeley habe ebenfalls ergeben, dass die Aufzeichnung nicht authentisch sei.

„Basierend auf diesen Erkenntnissen und weiteren Untersuchungen wurde festgestellt, dass die Aufzeichnung durch den Einsatz künstlicher Intelligenztechnologie erstellt wurde“, sagte er.

Laut dem Haftbefehl gegen Darien wurde die Audiodatei am 17. Januar über soziale Medien geteilt, nachdem sie per E-Mail an Schullehrer gesendet worden war. Die Aufnahme klang, als hätte Rektor Eric Eiswert so aufrührerische Bemerkungen gemacht, dass er einen Polizeibesuch veranlasste, um über Sicherheitsmaßnahmen für das Personal zu beraten.

„Es sollte beachtet werden, dass sich die Kommentare in der Aufzeichnung auf [Eiwerts] angebliche Frustration über die Testergebnisse afroamerikanischer Studenten und Behauptungen bezogen, dass sie (die afroamerikanischen Studenten) nicht in der Lage seien, ‚aus einer Papiertüte herauszukommen‘.“ heißt es im Haftbefehl.

„Die Aufnahme enthielt weiterhin abfällige Kommentare über jüdische Personen und zwei Lehrer, die an der Schule ‚nie hätten eingestellt werden dürfen‘. Die Aufzeichnung zeigte ein Gespräch zwischen [Eiswert] und einem der stellvertretenden Schulleiter der PHS.“

Und dann stürmten alle rein

Der Clip führte laut Haftbefehl zur vorübergehenden Entfernung Eiswerts von seinem Amt sowie zu „einer Welle hasserfüllter Nachrichten in den sozialen Medien und zahlreichen Anrufen in der Schule“ und störte den Schulbetrieb erheblich. Nach Angaben der Polizei kam es zu Drohungen gegen Eiswert und Bedenken hinsichtlich seiner Sicherheit.

Eiswert sagte den Ermittlern, dass er davon ausgeht, dass der Audioclip gefälscht sei, da „er die Gespräche in der Aufzeichnung nie geführt hat“. Und er sagte, er glaube, dass Darien aufgrund seiner technischen Vertrautheit mit KI dafür verantwortlich sei und ein mögliches Motiv habe: Eiswert sagte, es habe „Gespräche mit Darien darüber gegeben, dass sein Vertrag im nächsten Semester aufgrund häufiger Probleme bei der Arbeitsleistung nicht verlängert wird.“

Diese Herausforderungen werden im Haftbefehl genauer beschrieben. Bei einem Vorfall tadelte Eiswert Darien, weil er einen langjährigen Trainer ohne Genehmigung entlassen hatte.

Ein weiterer Grund ist, dass Eiswert Dariens Umgang mit Schulgeldern untersuchte. „Im Dezember 2023 wurde Darien wegen eines möglichen Diebstahls untersucht [Eiswert] eingeleitet“, heißt es im Haftbefehl. Daher der Vorwurf der Zeugenvergeltung.

Die andere Partei, die auf der Aufzeichnung zu hören war, teilte den Ermittlern mit, dass das Gespräch nicht stattgefunden habe und sagte, dass die Bemerkungen nicht wie etwas klangen, was Eiswert gesagt hätte.

Interviews mit Darien und Mitarbeitern der Schule lassen darauf schließen, dass die Datei von einem Gmail-Konto, TJFOUST9, an die Adressen der Baltimore County Public School gesendet wurde. Eine der befragten Personen bemerkte, dass Darien sie „gedrängt hatte, ihr BCPS-E-Mail-Konto auf eine ‚seltsame‘ Nachricht zu überprüfen“.

Danach gab eine andere Mitarbeiterin – die „aus verschiedenen Gründen Schwierigkeiten hatte, unter [Eiwerts] Führung zu arbeiten“ – bekannt, dass sie die E-Mail an das Mobiltelefon eines PHS-Studenten weitergeleitet hatte, von dem sie wusste, dass er die Nachricht schnell in verschiedenen sozialen Medien und überall verbreiten würde die Schule." Aus einer Vorladung für ihr ehemaliges Universitäts-E-Mail-Konto ging hervor, dass die Datei an Nachrichtenorganisationen und die NAACP weitergeleitet worden war.

Während seines ersten Interviews mit den Ermittlern bestritt Darien, jemanden mit dem Namen „TJ Foust“ zu kennen und jegliche Beteiligung an der Erstellung und Verbreitung der Aufnahme.

Schuld daran ist die Oma

Anschließend schickten die Ermittler Vorladungen an Google und AT&T, um Kontoinhaberinformationen und IP-Adressinformationen zu erhalten. Sie stellten fest, dass die Gmail-Adresse am 15. August 2022 unter einer IP-Adresse erstellt wurde, die mit dem Wohnsitz von Dariens Großmutter in Los Angeles verknüpft ist. Sie fanden außerdem heraus, dass die Wiederherstellungstelefonnummer für das TJFOUST9-Konto mit einem bei Darien registrierten T-Mobile US-Konto verknüpft war.

Die konkreten KI-Tools, die Darien angeblich verwendet, wurden nicht bekannt gegeben. Aus dem Haftbefehl geht jedoch hervor, dass das BCPS Office of Information Technology den Netzwerkzugriff von Darien überprüft und mehrere Fälle gefunden hat, in denen er über Bing Chat nach OpenAI-Tools gesucht hat.

Wir betreten eine neue, zutiefst besorgniserregende Grenze

OpenAI Voice Engine, ein Tool zur Erstellung synthetischer Stimmen, war zum Zeitpunkt der mutmaßlichen Straftaten nicht öffentlich verfügbar. Es war angekündigt am 29. März 2024. Andere Unternehmen mögen jedoch ElfLabs bieten schon länger Voice-Cloning-Technologie an.

Während der Pressekonferenz forderte John Olszewski, Geschäftsführer des Baltimore County, mehr Vorsicht gegenüber den öffentlichen Medien.

„Es ist klar, dass wir auch eine neue, zutiefst besorgniserregende Grenze betreten, während wir weiterhin neue Technologien und ihr Potenzial für Innovation und soziales Wohl annehmen“, sagte er.

„Wir müssen auch wachsam gegenüber denen bleiben, die es in böswilliger Absicht genutzt haben. Dafür müssen wir bewusster und anspruchsvoller mit den Tönen umgehen, die wir hören, und mit den Bildern, die wir sehen. Wir müssen mit unserem Urteil vorsichtig sein.“ ®

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/