Η αστυνομία της Βαλτιμόρης συνέλαβε τον Dazhon Leslie Darien, τον πρώην αθλητικό διευθυντή του γυμνασίου Pikesville (PHS), επειδή φέρεται να υποδύθηκε τον διευθυντή του σχολείου χρησιμοποιώντας λογισμικό AI για να φαίνεται σαν να έκανε ρατσιστικά και αντισημιτικά σχόλια.

Ο Ντάριεν, από τη Βαλτιμόρη του Μέριλαντ, κατηγορήθηκε στη συνέχεια για αντίποινα μαρτύρων, καταδίωξη, κλοπή και διακοπή λειτουργίας του σχολείου. Συνελήφθη αργά το βράδυ προσπαθώντας να επιβιβαστεί σε πτήση στο αεροδρόμιο BWI Thurgood Marshall. Το προσωπικό ασφαλείας τον σταμάτησε επειδή το δηλωμένο πυροβόλο όπλο που είχε μαζί του ήταν ακατάλληλα συσκευασμένο και ο έλεγχος ιστορικού που ακολούθησε αποκάλυψε ανοιχτό ένταλμα σύλληψής του.

«Στις 17 Ιανουαρίου 2024, το αστυνομικό τμήμα της κομητείας της Βαλτιμόρης ενημερώθηκε για μια ηχογράφηση που κυκλοφόρησε στα μέσα κοινωνικής δικτύωσης», δήλωσε ο Ρόμπερτ ΜακΚάλοου, Αρχηγός της Αστυνομίας της κομητείας της Βαλτιμόρης, σε συνέντευξη Τύπου που μεταδόθηκε σήμερα. «Υποτίθεται ότι η φωνή που καταγράφηκε στο ηχητικό αρχείο ανήκει στον κ. Eric Eiswert, τον διευθυντή του γυμνασίου Pikesville. Τώρα έχουμε πειστικές αποδείξεις ότι η ηχογράφηση δεν ήταν αυθεντική.

«Το αστυνομικό τμήμα της κομητείας της Βαλτιμόρης κατέληξε σε αυτή την αποφασιστικότητα μετά τη διεξαγωγή εκτεταμένης έρευνας, η οποία περιελάμβανε την προσαγωγή ενός εγκληματολογικού αναλυτή που είχε συμβληθεί με το FBI για να εξετάσει την ηχογράφηση. Τα αποτελέσματα της ανάλυσης έδειξαν ότι η καταγραφή περιείχε ίχνη περιεχομένου που δημιουργήθηκε από τεχνητή νοημοσύνη.»

Ο McCullough είπε ότι μια δεύτερη γνώμη από έναν ιατροδικαστή στο Πανεπιστήμιο της Καλιφόρνια στο Μπέρκλεϋ, επίσης διαπίστωσε ότι η ηχογράφηση δεν ήταν αυθεντική.

«Με βάση αυτά τα ευρήματα και περαιτέρω έρευνα, διαπιστώθηκε ότι η καταγραφή δημιουργήθηκε μέσω της χρήσης τεχνολογίας τεχνητής νοημοσύνης», είπε.

Σύμφωνα με το ένταλμα σύλληψης του Ντάριεν, το ηχητικό αρχείο κοινοποιήθηκε μέσω των μέσων κοινωνικής δικτύωσης στις 17 Ιανουαρίου, αφού εστάλη μέσω email στους δασκάλους του σχολείου. Η ηχογράφηση ακουγόταν σαν ο Διευθυντής Έρικ Άισβερτ να είχε κάνει αρκετά εμπρηστικές παρατηρήσεις ώστε να προκληθεί επίσκεψη της αστυνομίας για συμβουλές σχετικά με τα προστατευτικά μέτρα ασφαλείας για το προσωπικό.

«Θα πρέπει να σημειωθεί ότι τα σχόλια στην ηχογράφηση μιλούσαν για την υποτιθέμενη απογοήτευση [του Eiswert] με τις βαθμολογίες των εξετάσεων Αφροαμερικανών μαθητών και τους ισχυρισμούς ότι αυτοί (οι Αφροαμερικανοί φοιτητές) δεν μπορούσαν να «δοκιμάσουν το δρόμο τους από μια χάρτινη σακούλα»». λέει το ένταλμα.

«Η ηχογράφηση συνέχισε με απαξιωτικά σχόλια για Εβραίους και δύο δασκάλους που «δεν έπρεπε ποτέ να είχαν προσληφθεί» στο σχολείο. Η ηχογράφηση απεικόνιζε μια συνομιλία μεταξύ του [Eiswert] και ενός από τους Βοηθούς Διευθυντές του PHS."

Και μετά μαζεύτηκαν όλοι

Το απόσπασμα, σύμφωνα με το ένταλμα, οδήγησε στην προσωρινή απομάκρυνση του Eiswert από τη θέση του και «ένα κύμα μηνυμάτων γεμάτα μίσος στα μέσα κοινωνικής δικτύωσης και πολυάριθμες κλήσεις προς το σχολείο» και διέκοψε σημαντικά τη λειτουργία του σχολείου. Η αστυνομία λέει ότι οδήγησε σε απειλές κατά του Eiswert και ανησυχίες για την ασφάλειά του.

Ο Eiswert είπε στους ερευνητές ότι πιστεύει ότι το ηχητικό απόσπασμα ήταν ψεύτικο καθώς «δεν είχε ποτέ τις συνομιλίες στην ηχογράφηση». Και είπε ότι πίστευε ότι ο Darien ήταν υπεύθυνος λόγω της τεχνικής του εξοικείωσης με την τεχνητή νοημοσύνη και είχε ένα πιθανό κίνητρο: ο Eiswert είπε ότι «υπήρχαν συζητήσεις με τον Darien σχετικά με το ότι το συμβόλαιό του δεν θα ανανεωθεί το επόμενο εξάμηνο λόγω συχνών προκλήσεων απόδοσης στην εργασία του».

Αυτές οι προκλήσεις περιγράφονται με πιο συγκεκριμένους όρους στο ένταλμα. Ένα περιστατικό περιελάμβανε τον Eiswert να επιπλήξει τον Darien επειδή απέλυσε έναν μακροχρόνιο προπονητή χωρίς έγκριση.

Ένα άλλο είναι ότι ο Eiswert ερευνούσε τον χειρισμό των σχολικών κεφαλαίων από τον Darien. «Τον Δεκέμβριο του 2023, ο Ντάριεν αποτέλεσε αντικείμενο έρευνας για πιθανή κλοπή [Eiswert]», αναφέρει το ένταλμα. Ως εκ τούτου, η κατηγορία για αντίποινα μάρτυρα.

Το άλλο μέρος που ακούστηκε στην ηχογράφηση είπε στους ανακριτές ότι η συνομιλία δεν είχε γίνει και είπε ότι οι παρατηρήσεις δεν ακούγονταν σαν κάτι που θα έλεγε ο Eiswert.

Συνεντεύξεις με τον Darien και τους συνεργάτες του στο σχολείο δείχνουν ότι το αρχείο στάλθηκε στις διευθύνσεις του δημόσιου σχολείου της κομητείας Baltimore από έναν λογαριασμό Gmail, TJFOUST9. Ένας από τους ερωτηθέντες σημείωσε ότι ο Ντάριεν «την είχε παροτρύνει να ελέγξει τον λογαριασμό email της στο BCPS για ένα «περίεργο» μήνυμα».

Στη συνέχεια, ένα άλλο μέλος του προσωπικού – που «είχε μια δύσκολη περίοδο που εργαζόταν υπό την ηγεσία του [Eiswert] για διάφορους λόγους» – αποκάλυψε ότι προώθησε το email στο κινητό τηλέφωνο ενός φοιτητή PHS, ο οποίος ήξερε ότι θα διέδιδε γρήγορα το μήνυμα σε διάφορα μέσα κοινωνικής δικτύωσης και σε όλα τα το σχολείο." Μια κλήτευση για τον πρώην λογαριασμό ηλεκτρονικού ταχυδρομείου της πανεπιστημίου ανέφερε ότι ο φάκελος είχε προωθηθεί σε ειδησεογραφικούς οργανισμούς και στο NAACP.

Κατά την αρχική του συνέντευξη με τους ερευνητές, ο Darien αρνήθηκε ότι γνώριζε κάποιον με το όνομα "TJ Foust" και αρνήθηκε οποιαδήποτε ανάμειξη στη δημιουργία και τη διανομή της ηχογράφησης.

Κατηγορήστε το στη γιαγιά

Στη συνέχεια, οι ερευνητές έστειλαν κλήσεις στην Google και την AT&T για να λάβουν πληροφορίες ιδιοκτησίας λογαριασμού και πληροφορίες διεύθυνσης IP. Καθόρισαν ότι η διεύθυνση Gmail δημιουργήθηκε στις 15 Αυγούστου 2022 σε μια διεύθυνση IP που σχετίζεται με την κατοικία της γιαγιάς του Ντάριεν στο Λος Άντζελες. Διαπίστωσαν επίσης ότι ο αριθμός τηλεφώνου ανάκτησης για τον λογαριασμό TJFOUST9 συσχετίστηκε με έναν λογαριασμό T-Mobile στις ΗΠΑ που ήταν εγγεγραμμένος στο Darien.

Τα συγκεκριμένα εργαλεία τεχνητής νοημοσύνης που φέρεται να χρησιμοποιούνται από τον Darien δεν έχουν αποκαλυφθεί. Ωστόσο, το ένταλμα υποδεικνύει ότι το Γραφείο Τεχνολογίας Πληροφορικής της BCPS εξέτασε την πρόσβαση στο δίκτυο του Darien και βρήκε αρκετές περιπτώσεις όπου αναζήτησε εργαλεία OpenAI μέσω του Bing Chat.

Εισερχόμαστε σε ένα νέο βαθύ ανησυχητικό σύνορο

Το OpenAI Voice Engine, ένα εργαλείο για τη δημιουργία συνθετικών φωνών, δεν ήταν δημόσια διαθέσιμο την εποχή των εικαζόμενων εγκλημάτων. Ήταν ανακοίνωσε στις 29 Μαρτίου 2024. Ωστόσο, άλλες εταιρείες όπως Eleven Labs προσφέρουν τεχνολογία κλωνοποίησης φωνής για μεγαλύτερο χρονικό διάστημα.

Κατά τη διάρκεια της συνέντευξης Τύπου, ο John Olszewski, στέλεχος της κομητείας της Βαλτιμόρης, ζήτησε μεγαλύτερη προσοχή όσον αφορά τα δημόσια μέσα ενημέρωσης.

«Είναι σαφές ότι εισερχόμαστε επίσης σε ένα νέο, βαθιά ανησυχητικό σύνορο, καθώς συνεχίζουμε να αγκαλιάζουμε την αναδυόμενη τεχνολογία και τις δυνατότητές της για καινοτομία και κοινωνικό καλό», είπε.

«Πρέπει επίσης να παραμείνουμε σε επαγρύπνηση έναντι εκείνων που θα το χρησιμοποιούσαν για κακόβουλη πρόθεση. Αυτό θα απαιτήσει από εμάς να είμαστε πιο συνειδητοποιημένοι και πιο διορατικοί σχετικά με τον ήχο που ακούμε και τις εικόνες που βλέπουμε. Θα πρέπει να είμαστε προσεκτικοί στην κρίση μας». ®

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/