Cảnh sát Baltimore đã bắt giữ Dazhon Leslie Darien, cựu giám đốc thể thao của trường trung học Pikesville (PHS), vì bị cáo buộc mạo danh hiệu trưởng của trường bằng cách sử dụng phần mềm AI để khiến ông ta có vẻ như đưa ra những nhận xét phân biệt chủng tộc và chống Do Thái.

Darien, ở Baltimore, Maryland, sau đó bị buộc tội trả thù nhân chứng, rình rập, trộm cắp và làm gián đoạn hoạt động của trường học. Anh ta bị giữ lại vào đêm khuya khi đang cố lên chuyến bay tại Sân bay BWI Thurgood Marshall. Nhân viên an ninh đã ngăn anh ta lại vì khẩu súng được khai báo mà anh ta mang theo đã được đóng gói không đúng cách và cuộc kiểm tra lý lịch sau đó cho thấy lệnh bắt giữ anh ta đang mở.

Robert McCullough, Cảnh sát trưởng Quận Baltimore, cho biết trong một cuộc họp báo trực tuyến ngày hôm nay: “Vào ngày 17 tháng 2024 năm XNUMX, Sở Cảnh sát Quận Baltimore đã biết về một đoạn ghi âm giọng nói đang được lan truyền trên mạng xã hội. “Người ta cho rằng giọng nói ghi lại trong tập tin âm thanh là của ông Eric Eiswert, Hiệu trưởng trường trung học Pikesville. Bây giờ chúng tôi có bằng chứng thuyết phục rằng bản ghi âm không xác thực.

“Sở Cảnh sát Quận Baltimore đã đưa ra quyết định đó sau khi tiến hành một cuộc điều tra sâu rộng, bao gồm việc cử một nhà phân tích pháp y có hợp đồng với FBI để xem xét đoạn ghi âm. Kết quả phân tích cho thấy bản ghi có chứa dấu vết của nội dung do AI tạo ra.”

McCullough cho biết ý kiến ​​thứ hai từ một nhà phân tích pháp y tại Đại học California, Berkeley, cũng xác định đoạn ghi âm là không xác thực.

Ông nói: “Dựa trên những phát hiện đó và điều tra sâu hơn, người ta xác định rằng đoạn ghi âm được tạo ra thông qua việc sử dụng công nghệ trí tuệ nhân tạo”.

Theo lệnh bắt giữ Darien, đoạn ghi âm được chia sẻ trên mạng xã hội vào ngày 17/XNUMX sau khi được gửi qua email cho các giáo viên trong trường. Đoạn ghi âm có vẻ như Hiệu trưởng Eric Eiswert đã đưa ra những nhận xét đủ kích động để khiến cảnh sát phải đến thăm để tư vấn về các biện pháp an ninh bảo vệ cho nhân viên.

“Cần lưu ý rằng các bình luận trong đoạn ghi âm nói lên sự thất vọng được cho là của [Eiswert] với điểm kiểm tra của học sinh người Mỹ gốc Phi và khẳng định rằng họ (các học sinh người Mỹ gốc Phi) không thể 'kiểm tra theo cách của họ từ một chiếc túi giấy'," lệnh bắt nói.

“Đoạn ghi âm tiếp tục đưa ra những bình luận chê bai về các cá nhân Do Thái và hai giáo viên 'lẽ ra không bao giờ được thuê' tại trường. Đoạn ghi âm mô tả cuộc trò chuyện giữa [Eiswert] và một trong những Trợ lý Hiệu trưởng của PHS.”

Và sau đó mọi người xếp hàng vào

Đoạn clip, theo lệnh bắt giữ, đã dẫn đến việc tạm thời loại bỏ Eiswert khỏi vị trí của anh ta và “một làn sóng tin nhắn đầy thù hận trên mạng xã hội và nhiều cuộc gọi tới trường học,” đồng thời làm gián đoạn đáng kể hoạt động của trường. Cảnh sát cho biết điều này dẫn đến những lời đe dọa chống lại Eiswert và lo ngại về sự an toàn của anh ta.

Eiswert nói với các nhà điều tra rằng anh ta tin rằng đoạn âm thanh đó là giả vì “anh ta chưa bao giờ có cuộc trò chuyện nào trong đoạn ghi âm”. Và anh ấy nói rằng anh ấy tin rằng Darien phải chịu trách nhiệm do anh ấy quen thuộc về kỹ thuật với AI và có thể có động cơ: Eiswert cho biết “đã có cuộc trò chuyện với Darien về việc hợp đồng của anh ấy sẽ không được gia hạn trong học kỳ tới do thường xuyên gặp khó khăn trong hiệu quả công việc.”

Những thách thức đó được mô tả bằng các thuật ngữ cụ thể hơn trong lệnh. Một sự cố liên quan đến việc Eiswert khiển trách Darien vì đã sa thải một huấn luyện viên lâu năm mà không được chấp thuận.

Một điều khác là Eiswert đang điều tra việc Darien xử lý quỹ trường học. “Vào tháng 2023 năm XNUMX, Darien là đối tượng của một cuộc điều tra có khả năng xảy ra hành vi trộm cắp [Eiswert] do Eiswert khởi xướng,” lệnh bắt cho biết. Do đó, cáo buộc trả thù nhân chứng.

Bên kia nghe đoạn ghi âm nói với các nhà điều tra rằng cuộc trò chuyện đã không diễn ra và nói rằng những nhận xét đó không giống bất cứ điều gì Eiswert sẽ nói.

Các cuộc phỏng vấn với Darien và các cộng sự tại trường cho thấy tệp đã được gửi đến các địa chỉ của Trường Công Quận Baltimore từ tài khoản Gmail, TJFOUST9. Một trong những người được phỏng vấn lưu ý rằng Darien đã “thúc đẩy cô ấy kiểm tra tài khoản email BCPS của mình để tìm một tin nhắn 'lạ'."

Sau đó, một nhân viên khác - người "đã gặp khó khăn khi làm việc dưới sự lãnh đạo của [Eiswert] vì nhiều lý do" - tiết lộ rằng cô ấy đã chuyển tiếp email đến điện thoại di động của một sinh viên PHS, người mà cô ấy biết sẽ nhanh chóng lan truyền thông điệp này khắp các phương tiện truyền thông xã hội khác nhau và khắp nơi. trường học." Trát đòi hầu tòa đối với tài khoản email trường đại học cũ của cô cho biết tệp đã được chuyển tiếp đến các tổ chức tin tức và NAACP.

Trong cuộc phỏng vấn đầu tiên với các nhà điều tra, Darien phủ nhận việc biết bất kỳ ai tên “TJ Foust” và phủ nhận mọi liên quan đến việc tạo và phân phối đoạn ghi âm.

Đổ lỗi cho bà ngoại

Sau đó, các nhà điều tra đã gửi trát đòi hầu tòa tới Google và AT&T để lấy thông tin quyền sở hữu tài khoản và thông tin địa chỉ IP. Họ xác định rằng địa chỉ Gmail được tạo vào ngày 15 tháng 2022 năm 9 tại một địa chỉ IP được liên kết với nơi ở ở Los Angeles của bà nội Darien. Họ còn phát hiện thêm rằng số điện thoại khôi phục của tài khoản TJFOUSTXNUMX được liên kết với tài khoản T-Mobile US đã đăng ký với Darien.

Các công cụ AI cụ thể được cho là Darien sử dụng vẫn chưa được tiết lộ. Tuy nhiên, lệnh bắt chỉ ra rằng Văn phòng Công nghệ Thông tin BCPS đã xem xét quyền truy cập mạng của Darien và tìm thấy một số trường hợp anh ta tìm kiếm các công cụ OpenAI thông qua Bing Chat.

Chúng ta đang bước vào một biên giới mới có liên quan sâu sắc

OpenAI Voice Engine, một công cụ tạo giọng nói tổng hợp, chưa được công khai vào thời điểm xảy ra vụ án. Đó là công bố vào ngày 29 tháng 2024 năm XNUMX. Tuy nhiên, các công ty khác như ElevenLabs đã cung cấp công nghệ nhân bản giọng nói lâu hơn.

Trong cuộc họp báo, John Olszewski, Giám đốc điều hành Quận Baltimore, đã kêu gọi hãy thận trọng hơn đối với các phương tiện truyền thông đại chúng.

Ông nói: “Rõ ràng là chúng ta cũng đang bước vào một ranh giới mới có liên quan sâu sắc khi chúng ta tiếp tục nắm bắt công nghệ mới nổi và tiềm năng đổi mới cũng như lợi ích xã hội của nó”.

“Chúng ta cũng phải cảnh giác với những người đã sử dụng nó với mục đích xấu. Điều đó sẽ đòi hỏi chúng ta phải ý thức hơn và sáng suốt hơn về âm thanh chúng ta nghe và hình ảnh chúng ta nhìn thấy. Chúng tôi sẽ cần phải cẩn thận trong phán đoán của mình.” ®

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/