La policía de Baltimore arrestó a Dazhon Leslie Darien, exdirector deportivo de Pikesville High School (PHS), por supuestamente hacerse pasar por el director de la escuela utilizando software de inteligencia artificial para que pareciera que había hecho comentarios racistas y antisemitas.

Posteriormente, Darien, de Baltimore, Maryland, fue acusado de represalias contra testigos, acecho, robo e interrupción de las operaciones escolares. Fue detenido a altas horas de la noche cuando intentaba abordar un vuelo en el aeropuerto BWI Thurgood Marshall. El personal de seguridad lo detuvo porque el arma de fuego declarada que llevaba consigo estaba empacada incorrectamente y una verificación de antecedentes posterior reveló que había una orden de arresto abierta en su contra.

“El 17 de enero de 2024, el Departamento de Policía del condado de Baltimore se dio cuenta de que una grabación de voz circulaba en las redes sociales”, dijo Robert McCullough, jefe de la policía del condado de Baltimore, en una conferencia de prensa transmitida hoy. “Se alegó que la voz capturada en el archivo de audio pertenece al Sr. Eric Eiswert, director de la escuela secundaria de Pikesville. Ahora tenemos pruebas concluyentes de que la grabación no era auténtica.

“El Departamento de Policía del Condado de Baltimore llegó a esa determinación después de realizar una extensa investigación, que incluyó traer a un analista forense contratado por el FBI para revisar la grabación. Los resultados del análisis indicaron que la grabación contenía rastros de contenido generado por IA”.

McCullough dijo que una segunda opinión de un analista forense de la Universidad de California en Berkeley también determinó que la grabación no era auténtica.

"Basado en esos hallazgos y en investigaciones adicionales, se ha determinado que la grabación se generó mediante el uso de tecnología de inteligencia artificial", dijo.

Según la orden de arresto emitida contra Darién, el archivo de audio fue compartido a través de las redes sociales el 17 de enero luego de haber sido enviado por correo electrónico a los maestros de la escuela. La grabación sonaba como si el director Eric Eiswert hubiera hecho comentarios lo suficientemente incendiarios como para provocar una visita de la policía para asesorar sobre medidas de seguridad para el personal.

“Cabe señalar que los comentarios en la grabación hablaban de las supuestas frustraciones [de Eiswert] con los puntajes de los exámenes de los estudiantes afroamericanos y las afirmaciones de que ellos (los estudiantes afroamericanos) no pudieron 'probar cómo salir de una bolsa de papel'”. dice la orden.

“La grabación continuaba con comentarios despectivos sobre personas judías y dos profesores que 'nunca debieron haber sido contratados' en la escuela. La grabación mostraba una conversación entre [Eiswert] y uno de los subdirectores de PHS”.

Y luego todos se amontonaron

El clip, según la orden, provocó la destitución temporal de Eiswert de su puesto y “una ola de mensajes llenos de odio en las redes sociales y numerosas llamadas a la escuela”, e interrumpió significativamente las operaciones escolares. La policía dice que esto generó amenazas contra Eiswert y preocupaciones sobre su seguridad.

Eiswert dijo a los investigadores que cree que el clip de audio era falso ya que "nunca tuvo las conversaciones en la grabación". Y dijo que creía que Darien era el responsable debido a su familiaridad técnica con la IA y que tenía un posible motivo: Eiswert dijo que "había habido conversaciones con Darien sobre que su contrato no se renovaría el próximo semestre debido a frecuentes problemas de desempeño laboral".

Esos desafíos se describen en términos más específicos en la orden. En un incidente, Eiswert reprendió a Darien por despedir a un entrenador de mucho tiempo sin aprobación.

Otra es que Eiswert estaba investigando el manejo de los fondos escolares por parte de Darien. “En diciembre de 2023, Darién fue objeto de una posible investigación por robo que [Eiswert] inició”, dice la orden. De ahí el cargo de represalia por testigos.

La otra parte escuchada en la grabación dijo a los investigadores que la conversación no había ocurrido y dijo que los comentarios no se parecían a nada que Eiswert hubiera dicho.

Las entrevistas con Darien y asociados en la escuela sugieren que el archivo fue enviado a las direcciones de las escuelas públicas del condado de Baltimore desde una cuenta de Gmail, TJFOUST9. Una de las personas entrevistadas señaló que Darién la había “instado a revisar su cuenta de correo electrónico de BCPS en busca de un mensaje 'extraño'”.

Posteriormente, otro miembro del personal, que “tuvo dificultades para trabajar bajo el liderazgo [de Eiswert] por varias razones”, reveló que reenvió el correo electrónico al teléfono celular de un estudiante de PHS, quien sabía que rápidamente difundiría el mensaje en varios medios sociales y en todo el mundo. la escuela." Una citación para su antigua cuenta de correo electrónico de la universidad indicó que el archivo había sido enviado a organizaciones de noticias y a la NAACP.

Durante su entrevista inicial con los investigadores, Darien negó conocer a alguien llamado "TJ Foust" y negó cualquier participación en la creación y distribución de la grabación.

Échale la culpa a la abuela

Posteriormente, los investigadores enviaron citaciones a Google y AT&T para obtener información sobre la propiedad de la cuenta y la dirección IP. Determinaron que la dirección de Gmail se creó el 15 de agosto de 2022 en una dirección IP asociada con la residencia de la abuela de Darién en Los Ángeles. Además, descubrieron que el número de teléfono de recuperación de la cuenta TJFOUST9 estaba asociado con una cuenta de T-Mobile US registrada a nombre de Darien.

Las herramientas de inteligencia artificial específicas supuestamente utilizadas por Darién no han sido reveladas. Sin embargo, la orden indica que la Oficina de Tecnología de la Información de BCPS revisó el acceso a la red de Darien y encontró varios casos en los que buscaba herramientas OpenAI a través de Bing Chat.

Estamos entrando en una nueva frontera profundamente preocupante

OpenAI Voice Engine, una herramienta para crear voces sintéticas, no estaba disponible públicamente en el momento de los presuntos delitos. Fue anunció el 29 de marzo de 2024. Sin embargo, otras empresas como oncelabs llevan más tiempo ofreciendo tecnología de clonación de voz.

Durante la rueda de prensa, John Olszewski, ejecutivo del condado de Baltimore, pidió más cautela con respecto a los medios públicos.

"Está claro que también estamos entrando en una nueva frontera profundamente preocupante a medida que continuamos adoptando la tecnología emergente y su potencial para la innovación y el bien social", afirmó.

“También debemos permanecer atentos a quienes lo habrían utilizado con intenciones maliciosas. Eso requerirá que seamos más conscientes y más exigentes con el audio que escuchamos y las imágenes que vemos. Tendremos que tener cuidado en nuestro juicio”. ®

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• Fuente: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/