巴尔的摩警方逮捕了派克斯维尔高中 (PHS) 前体育主任达中·莱斯利·达里恩 (Dazon Leslie Darien)，原因是他涉嫌使用人工智能软件冒充学校校长，使其看起来像是发表了种族主义和反犹太主义言论。
来自马里兰州巴尔的摩的达里恩随后被指控犯有目击者报复、跟踪、盗窃和扰乱学校运作等罪名。他深夜试图在 BWI 瑟古德马歇尔机场登机时被拘留。安全人员拦住了他，因为他随身携带的申报枪支包装不当，而且随后的背景调查显示了对他的公开逮捕令。
“17 年 2024 月 XNUMX 日，巴尔的摩县警察局发现一段录音在社交媒体上流传，”巴尔的摩县警察局长罗伯特·麦卡洛 (Robert McCullough) 在今天的直播新闻发布会上表示。 “据称，音频文件中捕捉到的声音属于派克斯维尔高中校长埃里克·艾斯沃特先生。我们现在有确凿的证据证明录音不真实。
“巴尔的摩县警察局在进行广泛调查后做出了这一决定，其中包括聘请与联邦调查局签约的法医分析师来审查录音。分析结果表明录音中包含人工智能生成内容的痕迹。”
麦卡洛表示，加州大学伯克利分校法医分析师的第二意见也确定该录音不真实。
“根据这些发现和进一步调查，已确定该录音是通过使用人工智能技术生成的，”他说。
根据逮捕达里恩的逮捕令，该音频文件通过电子邮件发送给学校老师后，于 17 月 XNUMX 日在社交媒体上分享。录音听起来好像校长埃里克·艾斯沃特 (Eric Eiswert) 发表了足够煽动性的言论，促使警方前往就工作人员的保护性安全措施提供建议。
“应该指出的是，录音中的评论谈到了[艾斯沃特]对非裔美国学生考试成绩的不满，并声称他们（非裔美国学生）无法‘从纸袋中考试出来’，”搜查令称。
“录音还对犹太人和两名‘不应该被学校聘用’的教师做出了贬低性的评论。录音描绘了 [Eiswert] 和 PHS 的一位助理校长之间的对话。”
然后大家都涌了进来
逮捕令称，这段视频导致艾斯沃特暂时被免职，“社交媒体上出现了一波充满仇恨的信息，并给学校打了很多电话”，并严重扰乱了学校的运作。警方表示，这导致了对艾斯沃特的威胁以及对他安全的担忧。
艾斯沃特告诉调查人员，他认为该音频片段是假的，因为“他从未在录音中听到过对话”。他表示，由于达里恩对人工智能技术的熟悉，他相信达里恩应对此负责，并且可能有动机：艾斯沃特表示，“由于频繁的工作表现挑战，他的合同下学期不会续签，因此与达里恩进行了对话。”
逮捕令中更具体地描述了这些挑战。其中一起事件涉及艾斯沃特谴责达里恩未经批准解雇一名长期教练的行为。
另一个消息是艾斯沃特正在调查达里恩处理学校资金的情况。逮捕令称：“2023 年 XNUMX 月，达里恩成为一项潜在盗窃调查 [Eiswert] 的对象。”因此，证人报复指控。
录音中听到的另一方告诉调查人员，谈话并未发生，并表示这些话听起来不像艾斯沃特会说的任何话。
对 Darien 和学校同事的采访表明，该文件是通过 Gmail 帐户 TJFOUST9 发送到巴尔的摩县公立学校地址的。其中一位接受采访的人指出，达里恩“敦促她检查 BCPS 电子邮件帐户是否有‘奇怪’的消息。”
此后，另一名“由于各种原因在 [Eiswert] 的领导下工作遇到困难”的工作人员透露，她将电子邮件转发到一名 PHS 学生的手机上，她知道该学生会迅速在各种社交媒体和整个网站上传播该消息。学校。”她前大学电子邮件帐户的传票显示该文件已转发给新闻机构和全国有色人种协进会。
在最初接受调查人员采访时，达里恩否认认识任何名为“TJ Foust”的人，并否认参与了该录音的制作和分发。
都怪奶奶
随后，调查人员向谷歌和AT&T发出传票，获取账户所有权信息和IP地址信息。他们确定 Gmail 地址是于 15 年 2022 月 9 日创建的，IP 地址与 Darien 祖母的洛杉矶住所相关。他们进一步发现 TJFOUSTXNUMX 帐户的恢复电话号码与在 Darien 注册的 T-Mobile US 帐户相关联。
据称达里恩使用的具体人工智能工具尚未披露。然而，搜查令表明，BCPS 信息技术办公室审查了 Darien 的网络访问，发现他通过 Bing Chat 搜索 OpenAI 工具的多个实例。
我们正在进入一个令人深感担忧的新领域
OpenAI Voice Engine 是一种用于创建合成声音的工具，在涉嫌犯罪时尚未公开。它是 公布 29 年 2024 月 XNUMX 日。然而，其他公司喜欢 十一实验室 长期以来一直提供语音克隆技术。
在新闻发布会上，巴尔的摩县行政长官约翰·奥尔谢夫斯基 (John Olszewski) 呼吁对公共媒体更加谨慎。
他说：“很明显，随着我们继续拥抱新兴技术及其创新和社会公益的潜力，我们也正在进入一个令人深感担忧的新领域。”
“我们还必须对那些将其用于恶意目的的人保持警惕。这将要求我们对我们听到的音频和看到的图像更加了解和辨别。我们需要谨慎做出判断。” ®
