Поліція Балтімора заарештувала Дажона Леслі Даріена, колишнього спортивного директора середньої школи Пайксвілла (PHS), за те, що він видавав себе за директора школи за допомогою програмного забезпечення штучного інтелекту, щоб створити враження, ніби він робив расистські та антисемітські зауваження.
Даріен з Балтимора, штат Меріленд, згодом був звинувачений у помсті свідкам, переслідуванні, крадіжці та зриві роботи школи. Його затримали пізно ввечері, намагаючись сісти на рейс в аеропорту BWI Thurgood Marshall. Співробітники служби безпеки зупинили його, оскільки задекларована вогнепальна зброя, яку він мав при собі, була неналежним чином упакована, а подальша перевірка виявила відкритий ордер на його арешт.
«17 січня 2024 року поліцейському відділу округу Балтимор стало відомо про голосовий запис, який поширювався в соціальних мережах», — сказав Роберт Маккалоу, начальник поліції округу Балтимор, на сьогоднішній прес-конференції. «Стверджувалося, що голос, записаний в аудіофайлі, належить пану Еріку Ейсверту, директору середньої школи Пайксвілла. Тепер ми маємо переконливі докази того, що запис не був справжнім.
«Департамент поліції округу Балтімор дійшов такого рішення після проведення широкого розслідування, яке включало залучення експерта-криміналіста, найнятого з ФБР, для перегляду запису. Результати аналізу показали, що запис містить сліди контенту, створеного ШІ».
Маккалоу сказав, що другий висновок судово-медичного аналітика з Каліфорнійського університету в Берклі також встановив, що запис неавтентичний.
«На підставі цих висновків і подальшого розслідування було встановлено, що запис було створено за допомогою технології штучного інтелекту», — сказав він.
Згідно з ордером на арешт Дар’єна, аудіофайл був поширений у соціальних мережах 17 січня після того, як його надіслали електронною поштою вчителям школи. Запис звучав так, наче директор Ерік Ейсверт зробив достатньо підбурливі зауваження, щоб спонукати поліцію відвідати поліцію, щоб порадити щодо заходів безпеки для персоналу.
«Слід зазначити, що коментарі в записі говорили про нібито розчарування [Ейсверт] результатами тестів афроамериканських студентів і твердження, що вони (афроамериканські студенти) не змогли «випробувати свій вихід із паперового пакета»», ордер говорить.
«У записі продовжувалися зневажливі коментарі про євреїв і двох вчителів, яких «ніколи не слід було брати» в школу. На записі зображена розмова між [Айсвертом] і одним із помічників директора PHS».
А потім усі збіглися
Ролик, згідно з ордером, призвів до тимчасового усунення Айсверта з посади та «хвилі сповнених ненависті повідомлень у соціальних мережах і численних дзвінків до школи», а також значно порушив роботу школи. Поліція каже, що це призвело до погроз проти Ейсверта та занепокоєння щодо його безпеки.
Айсверт сказав слідчим, що він вважає аудіозапис підробленим, оскільки «він ніколи не вів розмов, зазначених у записі». І він сказав, що вважає, що Дарієн несе відповідальність через його технічне знайомство з ШІ та має можливий мотив: Ейсверт сказав, що «були розмови з Дарієном про те, що його контракт не буде продовжено наступного семестру через часті проблеми з продуктивністю».
Ці виклики описані більш конкретними термінами в ордері. Один інцидент пов’язаний з тим, що Ейсверт дорікнув Дар’єну за те, що він звільнив давнього тренера без погодження.
Інша полягає в тому, що Айсверт розслідував використання Дарієном шкільних коштів. «У грудні 2023 року Дар’єн був об’єктом потенційного розслідування щодо крадіжки [Айсверт], — йдеться в ордері. Отже, звинувачення свідка у помсті.
Інша сторона, яку чули на записі, сказала слідчим, що розмови не було, і сказала, що коментарі не схожі на те, що сказав би Ейсверт.
Інтерв’ю з Дарієном та колегами зі школи свідчать про те, що файл було надіслано на адреси державних шкіл округу Балтімор з облікового запису Gmail TJFOUST9. Один із опитаних зазначив, що Дарієн «переконував її перевірити свій обліковий запис електронної пошти BCPS на наявність «дивного» повідомлення».
Після цього інша співробітниця, якій «з різних причин було важко працювати під керівництвом [Ейсверт]», розповіла, що вона переслала електронний лист на мобільний телефон студента PHS, який, як вона знала, швидко розповсюдить це повідомлення в різних соціальних мережах і по всьому світу. школа." Повістка для її колишнього університетського електронного облікового запису вказувала на те, що файл було передано новинним організаціям і NAACP.
Під час свого першого інтерв’ю зі слідчими Дар’єн заперечував, що знає когось на ім’я «TJ Foust» і заперечував будь-яку причетність до створення та розповсюдження запису.
Виною тому бабуся
Згодом слідчі надіслали повістки до Google і AT&T, щоб отримати інформацію про власника облікового запису та інформацію про IP-адресу. Вони встановили, що адреса Gmail була створена 15 серпня 2022 року за IP-адресою, пов’язаною з місцем проживання бабусі Дар’єна в Лос-Анджелесі. Крім того, вони виявили, що номер телефону для відновлення облікового запису TJFOUST9 був пов’язаний з обліковим записом T-Mobile US, зареєстрованим на Darien.
Конкретні інструменти штучного інтелекту, які нібито використовував Даріен, не розголошуються. Проте в ордері зазначено, що Управління інформаційних технологій BCPS перевірило доступ Дарієна до мережі та знайшло кілька випадків, коли він шукав інструменти OpenAI через Bing Chat.
Ми вступаємо на новий глибоко тривожний кордон
OpenAI Voice Engine, інструмент для створення синтетичних голосів, не був загальнодоступним на момент передбачуваних злочинів. Це було оголошений 29 березня 2024 р. Однак іншим компаніям подобається ElevenLabs довше пропонують технологію клонування голосу.
Під час прес-конференції Джон Ольшевскі, виконавчий директор округу Балтимор, закликав до більшої обережності щодо публічних ЗМІ.
«Очевидно, що ми також виходимо на новий рубіж, який має глибоке занепокоєння, оскільки ми продовжуємо охоплювати нові технології та їхній потенціал для інновацій та суспільного блага», — сказав він.
«Ми також повинні бути пильними щодо тих, хто використав би це зі злими намірами. Це вимагатиме від нас бути більш обізнаними та більш розбірливими щодо звуку, який ми чуємо, та зображень, які ми бачимо. Нам потрібно буде бути обережними у своїх судженнях». ®
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/
