Polisi Baltimore telah menangkap Dazhon Leslie Darien, mantan direktur atletik Sekolah Menengah Pikesville (PHS), karena diduga menyamar sebagai kepala sekolah menggunakan perangkat lunak AI untuk membuatnya tampak seolah-olah dia membuat pernyataan rasis dan antisemit.

Darien, dari Baltimore, Maryland, kemudian didakwa melakukan pembalasan saksi, penguntitan, pencurian, dan mengganggu operasional sekolah. Dia ditahan larut malam saat mencoba menaiki penerbangan di Bandara BWI Thurgood Marshall. Petugas keamanan menghentikannya karena senjata api yang dibawanya tidak dikemas dengan benar dan pemeriksaan latar belakang selanjutnya mengungkapkan surat perintah terbuka untuk penangkapannya.

“Pada 17 Januari 2024, Departemen Kepolisian Kabupaten Baltimore mengetahui adanya rekaman suara yang beredar di media sosial,” kata Robert McCullough, Kepala Polisi Kabupaten Baltimore, pada konferensi pers yang disiarkan hari ini. “Diduga suara yang terekam dalam file audio itu milik Tuan Eric Eiswert, Kepala Sekolah di Sekolah Menengah Pikesville. Kami sekarang memiliki bukti yang meyakinkan bahwa rekaman itu tidak asli.

“Departemen Kepolisian Kabupaten Baltimore mencapai tekad itu setelah melakukan penyelidikan ekstensif, termasuk mendatangkan analis forensik yang dikontrak FBI untuk meninjau rekaman tersebut. Hasil analisis menunjukkan bahwa rekaman tersebut mengandung jejak konten yang dihasilkan AI.”

McCullough mengatakan pendapat kedua dari analis forensik di Universitas California, Berkeley, juga menentukan bahwa rekaman itu tidak asli.

“Berdasarkan temuan tersebut dan penyelidikan lebih lanjut, ditentukan bahwa rekaman tersebut dihasilkan melalui penggunaan teknologi kecerdasan buatan,” katanya.

Berdasarkan surat perintah penangkapan Darien, file audio tersebut dibagikan melalui media sosial pada 17 Januari setelah dikirim melalui email ke guru sekolah. Rekaman itu terdengar seolah-olah Kepala Sekolah Eric Eiswert telah melontarkan pernyataan yang cukup menghasut sehingga mendorong kunjungan polisi untuk memberi nasihat tentang langkah-langkah perlindungan keamanan bagi staf.

“Perlu dicatat bahwa komentar-komentar dalam rekaman tersebut mencerminkan dugaan frustrasi [Eiswert] terhadap nilai ujian siswa Afrika-Amerika dan pernyataan bahwa mereka (siswa Afrika-Amerika) tidak dapat 'menguji jalan keluar dari kantong kertas,'” surat perintah itu mengatakan.

“Rekaman itu kemudian melontarkan komentar-komentar yang meremehkan orang-orang Yahudi dan dua guru yang 'seharusnya tidak pernah dipekerjakan' di sekolah tersebut. Rekaman itu menggambarkan percakapan antara [Eiswert] dan salah satu Asisten Kepala Sekolah PHS.”

Dan kemudian semua orang masuk

Klip tersebut, menurut surat perintah, menyebabkan pemecatan sementara Eiswert dari jabatannya dan “gelombang pesan penuh kebencian di media sosial dan banyak panggilan telepon ke sekolah,” dan secara signifikan mengganggu operasional sekolah. Polisi mengatakan hal itu menimbulkan ancaman terhadap Eiswert dan kekhawatiran tentang keselamatannya.

Eiswert mengatakan kepada penyelidik bahwa dia yakin klip audio itu palsu karena “dia tidak pernah melakukan percakapan dalam rekaman itu.” Dan dia mengatakan dia yakin Darien bertanggung jawab karena pemahaman teknisnya dengan AI dan memiliki kemungkinan motif: Eiswert mengatakan ada “percakapan dengan Darien tentang kontraknya yang tidak diperpanjang semester depan karena seringnya tantangan kinerja.”

Tantangan-tantangan tersebut dijelaskan secara lebih spesifik dalam surat perintah tersebut. Salah satu insiden melibatkan Eiswert yang menegur Darien karena memecat pelatih lamanya tanpa persetujuan.

Alasan lainnya adalah Eiswert sedang menyelidiki cara Darien menangani dana sekolah. “Pada bulan Desember 2023, Darien menjadi subjek penyelidikan potensi pencurian yang dimulai [Eiswert],” kata surat perintah tersebut. Oleh karena itu, saksi dikenakan tuduhan pembalasan.

Pihak lain yang mendengar rekaman itu mengatakan kepada penyelidik bahwa percakapan itu tidak terjadi dan mengatakan pernyataan itu tidak terdengar seperti apa yang akan dikatakan Eiswert.

Wawancara dengan Darien dan rekan di sekolah tersebut menunjukkan bahwa file tersebut dikirim ke alamat Baltimore County Public School dari akun Gmail, TJFOUST9. Salah satu orang yang diwawancarai mencatat bahwa Darien “mendesaknya untuk memeriksa akun email BCPS-nya untuk mencari pesan 'aneh'.”

Setelah itu, anggota staf lainnya – yang “mengalami kesulitan bekerja di bawah kepemimpinan [Eiswert] karena berbagai alasan” – mengungkapkan bahwa dia meneruskan email tersebut ke ponsel seorang mahasiswa PHS, yang dia tahu akan dengan cepat menyebarkan pesan tersebut ke berbagai media sosial dan ke seluruh dunia. sekolah." Panggilan pengadilan untuk mantan akun email universitasnya menunjukkan bahwa file tersebut telah diteruskan ke organisasi berita dan NAACP.

Selama wawancara awalnya dengan penyelidik, Darien membantah mengetahui seseorang bernama “TJ Foust” dan membantah terlibat dalam pembuatan dan distribusi rekaman tersebut.

Salahkan neneknya

Selanjutnya, penyelidik mengirimkan panggilan pengadilan ke Google dan AT&T untuk mendapatkan informasi kepemilikan akun dan informasi alamat IP. Mereka menetapkan bahwa alamat Gmail dibuat pada 15 Agustus 2022 di alamat IP yang terkait dengan kediaman nenek Darien di Los Angeles. Mereka lebih lanjut menemukan bahwa nomor telepon pemulihan untuk akun TJFOUST9 dikaitkan dengan akun T-Mobile AS yang didaftarkan ke Darien.

Alat AI spesifik yang diduga digunakan oleh Darien belum diungkapkan. Namun surat perintah tersebut menunjukkan bahwa Kantor Teknologi Informasi BCPS meninjau akses jaringan Darien dan menemukan beberapa contoh di mana dia mencari alat OpenAI melalui Bing Chat.

Kita sedang memasuki batas baru yang sangat memprihatinkan

OpenAI Voice Engine, alat untuk membuat suara sintetis, belum tersedia untuk umum pada saat dugaan kejahatan terjadi. Dulu mengumumkan pada 29 Maret 2024. Namun perusahaan lain menyukainya ElevenLab telah menawarkan teknologi kloning suara lebih lama.

Selama konferensi pers, John Olszewski, Eksekutif Baltimore County, menyerukan agar lebih berhati-hati terhadap media publik.

“Jelas bahwa kita juga memasuki tahap baru yang sangat memprihatinkan seiring kita terus merangkul teknologi baru dan potensinya untuk inovasi dan kebaikan sosial,” katanya.

“Kita juga harus tetap waspada terhadap mereka yang menggunakannya untuk tujuan jahat. Hal ini mengharuskan kita untuk lebih waspada dan lebih cerdas terhadap audio yang kita dengar dan gambar yang kita lihat. Kami harus berhati-hati dalam mengambil keputusan.” ®

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/