巴爾的摩警方逮捕了派克斯維爾高中(PHS) 前體育主任達中·萊斯利·達里恩(Dazon Leslie Darien)，原因是他涉嫌使用人工智能軟體冒充學校校長，使其看起來像是發表了種族主義和反猶太主義言論。
來自馬裡蘭州巴爾的摩的達里恩隨後被指控犯有目擊者報復、跟踪、盜竊和擾亂學校運作等罪名。他深夜試圖在 BWI 瑟古德馬歇爾機場登機時被拘留。安全人員攔住了他，因為他隨身攜帶的申報槍支包裝不當，而且隨後的背景調查顯示了對他的公開逮捕令。
「17 年 2024 月 XNUMX 日，巴爾的摩縣警察局發現一段錄音在社群媒體上流傳，」巴爾的摩縣警察局長羅伯特·麥卡洛 (Robert McCullough) 在今天的直播新聞發布會上表示。 「據稱，音訊檔案中捕捉到的聲音屬於派克斯維爾高中校長埃里克·艾斯沃特先生。我們現在有確鑿的證據證明錄音不真實。
「巴爾的摩縣警察局在進行廣泛調查後做出了這一決定，其中包括聘請與聯邦調查局簽約的法醫分析師來審查錄音。分析結果顯示錄音中包含人工智慧生成內容的痕跡。
麥卡洛表示，加州大學柏克萊分校法醫分析師的第二意見也確定該錄音不真實。
「根據這些發現和進一步調查，已確定該錄音是透過使用人工智慧技術產生的，」他說。
根據逮捕達里恩的逮捕令，該音訊檔案透過電子郵件發送給學校老師後，於 17 月 XNUMX 日在社交媒體上分享。這段錄音聽起來好像校長艾斯沃特(Eric Eiswert)發表了足夠煽動性的言論，促使警方前往現場，就員工的安全保護措施提供建議。
「應該指出的是，錄音中的評論談到了[艾斯沃特]對非裔美國學生考試成績的不滿，並聲稱他們（非裔美國學生）無法‘從紙袋中考試出來’，」搜查令稱。
「錄音也對猶太人和兩名『不應該被學校聘用』的教師做出了貶低性的評論。錄音描繪了 [Eiswert] 和 PHS 的一位助理校長之間的對話。
然後大家都湧了進來
逮捕令稱，這段影片導致艾斯沃特暫時被免職，“社交媒體上出現了一波充滿仇恨的信息，並給學校打了很多電話”，並嚴重擾亂了學校的運作。警方表示，這導致了對艾斯沃特的威脅以及對他安全的擔憂。
艾斯沃特告訴調查人員，他認為該音頻片段是假的，因為「他從未在錄音中聽到對話」。他表示，由於達里恩對人工智慧技術的熟悉，他相信達里恩應對此事負責，並且可能有動機：艾斯沃特表示，「由於頻繁的工作表現挑戰，他的合約下學期不會續簽，已經與達里恩進行了對話。
逮捕令中更具體地描述了這些挑戰。其中一起事件涉及艾斯沃特譴責達里恩未經批准解僱長期教練的行為。
另一個消息是艾斯沃特正在調查達里恩處理學校資金的情況。逮捕令稱：“2023 年 XNUMX 月，達里恩成為一項潛在盜竊調查 [Eiswert] 的對象。”因此，證人報復指控。
錄音中聽到的另一方告訴調查人員，談話並未發生，並表示這些話聽起來不像艾斯沃特會說的任何話。
對 Darien 和學校同事的訪談表明，該文件是透過 Gmail 帳戶 TJFOUST9 發送到巴爾的摩縣公立學校地址的。其中一位接受採訪的人指出，達里恩“敦促她檢查 BCPS 電子郵件帳戶是否有“奇怪”的消息。”
此後，另一名「由於各種原因在[Eiswert] 的領導下工作遇到困難」的工作人員透露，她將電子郵件轉發到一名PHS 學生的手機上，她知道該學生會迅速在各種社交媒體和整個網站上傳播該消息 學校。她前大學電子郵件帳號的傳票顯示該文件已轉發給新聞機構和全國有色人種協進會。
在最初接受調查人員採訪時，達里恩否認認識任何名為「TJ Foust」的人，並否認參與了該錄音的製作和分發。
都怪奶奶
隨後，調查人員向Google和AT&T發出傳票，以取得帳戶所有權資訊和IP位址資訊。他們確定 Gmail 地址是在 15 年 2022 月 9 日創建的，IP 地址與 Darien 祖母的洛杉磯住所相關。他們進一步發現 TJFOUSTXNUMX 帳戶的恢復電話號碼與在 Darien 註冊的 T-Mobile US 帳戶相關聯。
據稱達里恩使用的具體人工智慧工具尚未披露。然而，搜查令表明，BCPS 資訊科技辦公室審查了 Darien 的網路訪問，發現他透過 Bing Chat 搜尋 OpenAI 工具的多個實例。
我們正在進入一個令人深感擔憂的新領域
OpenAI Voice Engine 是一種用於創建合成聲音的工具，在涉嫌犯罪時尚未公開。它是 宣布 29 年 2024 月 XNUMX 日。 十一實驗室 長期以來一直提供語音克隆技術。
在新聞發布會上，巴爾的摩縣行政長官約翰·奧爾謝夫斯基 (John Olszewski) 呼籲對公共媒體更加謹慎。
他說：“很明顯，隨著我們繼續擁抱新興技術及其創新和社會公益的潛力，我們也正在進入一個令人深感擔憂的新領域。”
「我們還必須對那些將其用於惡意目的的人保持警惕。這將要求我們對我們聽到的音訊和看到的圖像更加了解和辨別。我們需要謹慎做出判斷。 ®
