볼티모어 경찰은 파이크스빌 고등학교(PHS)의 전 운동부장인 다존 레슬리 다리엔(Dazhon Leslie Darien)을 AI 소프트웨어를 사용해 학교 교장을 사칭해 마치 인종차별적이고 반유대주의적인 발언을 한 것처럼 보이게 한 혐의로 체포했습니다.

메릴랜드 주 볼티모어 출신의 Darien은 이후 증인 보복, 스토킹, 절도, 학교 운영 방해 혐의로 기소되었습니다. 그는 BWI Thurgood Marshall 공항에서 비행기에 탑승하려다 밤 늦게 구금되었습니다. 보안요원은 그가 갖고 있던 총기가 부적절하게 포장되었고 신원조사 결과 공개 영장이 발부되었기 때문에 그를 제지했습니다.

볼티모어 카운티 경찰청장 로버트 맥컬러프(Robert McCullough)는 오늘 스트리밍 기자회견에서 “17년 2024월 XNUMX일 볼티모어 카운티 경찰국은 소셜 미디어에 음성 녹음이 유포되고 있다는 사실을 알게 됐다”고 말했다. “오디오 파일에 녹음된 목소리는 파이크스빌 고등학교 교장인 Eric Eiswert 씨의 것이라고 주장되었습니다. 이제 우리는 녹음 내용이 진짜가 아니라는 결정적인 증거를 확보했습니다.

“볼티모어 카운티 경찰국은 FBI와 계약한 법의학 분석가를 불러 녹음 내용을 검토하는 등 광범위한 조사를 실시한 후 이러한 결정을 내렸습니다. 분석 결과, 녹음 내용에는 AI가 생성한 콘텐츠의 흔적이 포함된 것으로 나타났습니다.”

McCullough는 버클리 캘리포니아 대학의 법의학 분석가의 두 번째 의견에서도 녹음이 진짜가 아니라고 판단했다고 말했습니다.

그는 “이러한 발견과 추가 조사를 바탕으로 해당 녹음이 인공지능 기술을 사용하여 생성된 것으로 판단됐다”고 말했다.

다리엔 체포 영장에 따르면 해당 음성 파일은 이메일을 통해 학교 교사들에게 전송된 뒤 지난 17월 XNUMX일 소셜미디어를 통해 공유됐다. 녹음 내용은 Eric Eiswert 교장이 교직원을 위한 보호 보안 조치에 대해 조언하기 위해 경찰을 방문하도록 유도할 만큼 선동적인 발언을 한 것처럼 들렸습니다.

"녹음의 댓글에는 [Eiswert가] 아프리카계 미국인 학생들의 시험 점수에 대해 불만을 품고 그들(아프리카계 미국인 학생들)이 '종이 봉투에서 빠져나오는 길을 테스트'할 수 없었다는 주장이 언급되어 있다는 점에 유의해야 합니다." 영장은 말한다.

“녹음에는 유대인 개인과 학교에 '절대 고용되어서는 안 되는' 교사 두 명에 대해 비난하는 내용이 담겨 있었습니다. 녹음에는 [Eiswert]와 PHS의 교감 중 한 명 사이의 대화가 담겨 있었습니다.”

그리고 다들 모여들었어

영장에 따르면 해당 영상으로 인해 Eiswert가 일시적으로 직위에서 해임되고 "소셜 미디어에 증오로 가득 찬 메시지가 쏟아지고 학교에 수많은 전화가 오고" 학교 운영이 크게 중단되었습니다. 경찰은 이로 인해 아이스워트에 대한 위협과 그의 안전에 대한 우려가 생겼다고 말했습니다.

Eiswert는 조사관에게 "그는 녹음에서 대화를 한 적이 없기 때문에 오디오 클립이 가짜라고 믿는다"고 말했습니다. 그리고 그는 AI에 대한 기술적인 익숙함으로 인해 Darien이 책임이 있다고 믿었으며 가능한 동기가 있다고 말했습니다. Eiswert는 "잦은 업무 수행 문제로 인해 다음 학기에 계약이 갱신되지 않는다는 Darien과 대화가 있었다"고 말했습니다.

이러한 과제는 영장에 보다 구체적인 용어로 설명되어 있습니다. 한 가지 사건은 Eiswert가 승인 없이 오랫동안 코치를 해고한 Darien을 질책하는 것과 관련이 있습니다.

또 다른 것은 Eiswert가 Darien의 학교 자금 처리를 조사하고 있다는 것입니다. 영장은 “2023년 XNUMX월에 Darien은 Eiswert가 개시한 잠재적 도난 조사의 대상이었습니다.”라고 명시하고 있습니다. 따라서 증인보복죄가 적용됩니다.

녹음 내용을 들은 상대방은 조사관에게 대화가 일어나지 않았으며 그 발언은 Eiswert가 말한 것과 전혀 같지 않다고 말했습니다.

Darien 및 학교 동료와의 인터뷰에 따르면 파일은 Gmail 계정 TJFOUST9에서 볼티모어 카운티 공립학교 주소로 전송되었습니다. 인터뷰에 참여한 사람 중 한 명은 Darien이 "BCPS 이메일 계정에 '이상한' 메시지가 있는지 확인하라고 촉구했습니다."라고 말했습니다.

그 후, "여러 가지 이유로 [Eiswert의] 리더십 하에서 일하는 데 어려움을 겪었던" 다른 직원은 이메일을 PHS 학생의 휴대폰으로 전달했다고 밝혔습니다. 그녀는 이 이메일이 다양한 소셜 미디어 매체와 전체에 메시지를 빠르게 퍼뜨릴 것이라는 것을 알았습니다. 학교." 그녀의 이전 대학 이메일 계정에 대한 소환장에는 파일이 언론 기관과 NAACP에 전달되었음을 나타냅니다.

수사관과의 초기 인터뷰에서 Darien은 "TJ Foust"라는 이름의 사람을 알지 못했고 녹음 제작 및 배포에 관여하지도 않았다는 사실을 부인했습니다.

할머니 탓을 해라

이후 조사관들은 계정 소유권 정보와 IP 주소 정보를 얻기 위해 Google과 AT&T에 소환장을 보냈습니다. 그들은 Gmail 주소가 Darien 할머니의 로스앤젤레스 거주지와 연결된 IP 주소에서 15년 2022월 9일에 생성된 것으로 확인했습니다. 또한 그들은 TJFOUSTXNUMX 계정의 복구 전화번호가 Darien에 등록된 T-Mobile US 계정과 연결되어 있음을 발견했습니다.

Darien이 사용한 것으로 알려진 구체적인 AI 도구는 공개되지 않았습니다. 그러나 영장에는 BCPS 정보 기술국이 Darien의 네트워크 액세스를 검토한 결과 그가 Bing Chat을 통해 OpenAI 도구를 검색한 여러 사례를 발견했음이 나와 있습니다.

우리는 새로운 영역에 진입하고 있습니다.

합성 음성 생성 도구인 오픈AI 보이스 엔진(OpenAI Voice Engine)은 범행 당시 공개되지 않았다. 그것은 발표 29년 2024월 XNUMX일. 하지만 다른 회사들은 일레븐랩스 오랫동안 음성 복제 기술을 제공해 왔습니다.

기자회견에서 볼티모어 카운티 집행관 John Olszewski는 대중 매체에 대해 더 많은 주의를 기울일 것을 촉구했습니다.

“우리가 새로운 기술과 혁신 및 사회적 이익을 위한 잠재력을 계속해서 수용하면서 우리가 매우 우려되는 새로운 영역에 진입하고 있다는 것은 분명합니다.”라고 그는 말했습니다.

“우리는 또한 이를 악의적인 의도로 사용하려는 사람들에 대해 계속 경계해야 합니다. 그러기 위해서는 우리가 듣는 오디오와 우리가 보는 이미지에 대해 더 잘 인식하고 더 분별력이 있어야 합니다. 판단에 신중을 기해야 할 것”이라고 말했다. ®

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/