बाल्टीमोर पुलिस ने पाइक्सविले हाई स्कूल (पीएचएस) के पूर्व एथलेटिक निदेशक डैज़ोन लेस्ली डेरियन को कथित तौर पर एआई सॉफ़्टवेयर का उपयोग करके स्कूल के प्रिंसिपल का प्रतिरूपण करने के लिए गिरफ्तार किया है ताकि ऐसा लगे जैसे उन्होंने नस्लवादी और यहूदी विरोधी टिप्पणी की है।
बाल्टीमोर, मैरीलैंड के डेरियन पर बाद में गवाहों के प्रतिशोध, पीछा करने, चोरी करने और स्कूल संचालन में बाधा डालने का आरोप लगाया गया। उन्हें देर रात बीडब्ल्यूआई थर्गूड मार्शल हवाई अड्डे पर उड़ान भरने की कोशिश करते हुए हिरासत में लिया गया। सुरक्षा कर्मियों ने उसे रोक दिया क्योंकि उसके पास जो घोषित बंदूक थी वह अनुचित तरीके से पैक की गई थी और पृष्ठभूमि की जांच में उसकी गिरफ्तारी के लिए एक खुला वारंट सामने आया।
बाल्टीमोर काउंटी पुलिस के प्रमुख रॉबर्ट मैकुलॉ ने आज एक स्ट्रीम प्रेस कॉन्फ्रेंस में कहा, "17 जनवरी, 2024 को बाल्टीमोर काउंटी पुलिस विभाग को सोशल मीडिया पर प्रसारित हो रही एक वॉयस रिकॉर्डिंग के बारे में पता चला।" “यह आरोप लगाया गया था कि ऑडियो फ़ाइल में कैद की गई आवाज़ पाइक्सविले हाई स्कूल के प्रिंसिपल श्री एरिक आइस्वर्ट की है। अब हमारे पास इस बात के निर्णायक सबूत हैं कि रिकॉर्डिंग प्रामाणिक नहीं थी।
“बाल्टीमोर काउंटी पुलिस विभाग एक व्यापक जांच करने के बाद इस निर्णय पर पहुंचा, जिसमें रिकॉर्डिंग की समीक्षा करने के लिए एफबीआई के साथ अनुबंधित एक फोरेंसिक विश्लेषक को लाना शामिल था। विश्लेषण के नतीजे बताते हैं कि रिकॉर्डिंग में एआई-जनरेटेड सामग्री के निशान थे।
मैकुलॉ ने कहा कि कैलिफोर्निया विश्वविद्यालय, बर्कले के एक फोरेंसिक विश्लेषक की दूसरी राय से यह भी पता चला कि रिकॉर्डिंग प्रामाणिक नहीं थी।
उन्होंने कहा, "निष्कर्षों और आगे की जांच के आधार पर, यह निर्धारित किया गया है कि रिकॉर्डिंग कृत्रिम बुद्धिमत्ता तकनीक के उपयोग के माध्यम से तैयार की गई थी।"
डेरियन की गिरफ्तारी के लिए जारी वारंट के अनुसार, स्कूल के शिक्षकों को ईमेल के माध्यम से भेजे जाने के बाद ऑडियो फ़ाइल 17 जनवरी को सोशल मीडिया के माध्यम से साझा की गई थी। रिकॉर्डिंग से ऐसा लग रहा था जैसे प्रिंसिपल एरिक आइस्वर्ट ने इतनी भड़काऊ टिप्पणी की थी कि कर्मचारियों के लिए सुरक्षात्मक सुरक्षा उपायों पर सलाह देने के लिए पुलिस को वहां जाना पड़ा।
"इस बात पर ध्यान दिया जाना चाहिए कि रिकॉर्डिंग में टिप्पणियाँ [ईस्वर्ट के] अफ्रीकी-अमेरिकी छात्रों के परीक्षण अंकों के साथ कथित निराशाओं और इस दावे के बारे में थीं कि वे (अफ्रीकी अमेरिकी छात्र) 'पेपर बैग से बाहर निकलने का परीक्षण' करने में असमर्थ थे," वारंट कहता है.
“रिकॉर्डिंग में यहूदी व्यक्तियों और दो शिक्षकों के बारे में अपमानजनक टिप्पणियाँ की गईं जिन्हें स्कूल में 'कभी नौकरी पर नहीं रखा जाना चाहिए' था। रिकॉर्डिंग में [ईसवर्ट] और पीएचएस के एक सहायक प्रिंसिपल के बीच बातचीत को दर्शाया गया है।''
और फिर सभी लोग ढेर हो गये
वारंट के अनुसार, क्लिप के कारण ईस्वर्ट को उनके पद से अस्थायी रूप से हटा दिया गया और "सोशल मीडिया पर नफरत भरे संदेशों की लहर और स्कूल में कई कॉल आए," और स्कूल संचालन में काफी बाधा उत्पन्न हुई। पुलिस का कहना है कि इससे आइस्वर्ट को धमकियाँ मिलीं और उसकी सुरक्षा को लेकर चिंताएँ पैदा हुईं।
आइस्वर्ट ने जांचकर्ताओं को बताया कि उनका मानना है कि ऑडियो क्लिप नकली थी क्योंकि "रिकॉर्डिंग में उनकी बातचीत कभी नहीं थी।" और उन्होंने कहा कि उनका मानना है कि डेरियन एआई के साथ अपनी तकनीकी परिचितता के कारण जिम्मेदार था और इसका एक संभावित मकसद था: ईस्वर्ट ने कहा कि "डेरियन के साथ लगातार कार्य प्रदर्शन चुनौतियों के कारण अगले सेमेस्टर में उसके अनुबंध को नवीनीकृत नहीं किए जाने के बारे में बातचीत हुई थी।"
वारंट में उन चुनौतियों का अधिक विशिष्ट शब्दों में वर्णन किया गया है। एक घटना में ईसवर्ट ने बिना मंजूरी के लंबे समय से कोच को नौकरी से निकालने के लिए डेरियन को फटकार लगाई।
दूसरी बात यह है कि आइस्वर्ट डेरियन द्वारा स्कूल फंड के प्रबंधन की जांच कर रहा था। वारंट में कहा गया है, "दिसंबर 2023 में, डेरियन एक संभावित चोरी जांच [ईसवर्ट] का विषय था।" इसलिए, गवाह प्रतिशोध का आरोप लगाता है।
रिकॉर्डिंग में सुने गए दूसरे पक्ष ने जांचकर्ताओं को बताया कि बातचीत नहीं हुई थी और कहा कि टिप्पणियों से ऐसा नहीं लग रहा था कि ईस्वर्ट ने कुछ कहा होगा।
डेरियन और स्कूल के सहयोगियों के साथ साक्षात्कार से पता चलता है कि फ़ाइल एक जीमेल खाते, TJFOUST9 से बाल्टीमोर काउंटी पब्लिक स्कूल के पते पर भेजी गई थी। साक्षात्कार में शामिल लोगों में से एक ने कहा कि डेरियन ने "उससे एक 'अजीब' संदेश के लिए अपने बीसीपीएस ईमेल खाते की जांच करने का आग्रह किया था।"
इसके बाद, एक अन्य स्टाफ सदस्य - जिसे "विभिन्न कारणों से [ईसवर्ट के] नेतृत्व में काम करने में कठिनाई हुई" - ने खुलासा किया कि उसने ईमेल को एक पीएचएस छात्र के सेलफोन पर भेज दिया था, जिसके बारे में उसे पता था कि यह संदेश तेजी से विभिन्न सोशल मीडिया आउटलेट्स और पूरे देश में फैल जाएगा। स्कूल।" उनके पूर्व विश्वविद्यालय ईमेल खाते के लिए एक सम्मन ने संकेत दिया कि फ़ाइल समाचार संगठनों और एनएएसीपी को भेज दी गई थी।
जांचकर्ताओं के साथ अपने शुरुआती साक्षात्कार के दौरान, डेरियन ने "टीजे फ़ाउस्ट" नाम के किसी भी व्यक्ति को जानने से इनकार किया और रिकॉर्डिंग के निर्माण और वितरण में किसी भी तरह की भागीदारी से इनकार किया।
इसका दोष दादी पर डालो
इसके बाद, जांचकर्ताओं ने खाता स्वामित्व जानकारी और आईपी पते की जानकारी प्राप्त करने के लिए Google और AT&T को सम्मन भेजा। उन्होंने निर्धारित किया कि जीमेल पता 15 अगस्त, 2022 को डेरियन की दादी के लॉस एंजिल्स निवास से जुड़े आईपी पते पर बनाया गया था। उन्होंने आगे पाया कि TJFOUST9 खाते के लिए पुनर्प्राप्ति फ़ोन नंबर डेरियन में पंजीकृत टी-मोबाइल यूएस खाते से जुड़ा था।
कथित तौर पर डेरियन द्वारा उपयोग किए जाने वाले विशिष्ट एआई टूल का खुलासा नहीं किया गया है। हालाँकि, वारंट इंगित करता है कि बीसीपीएस सूचना प्रौद्योगिकी कार्यालय ने डेरियन के नेटवर्क एक्सेस की समीक्षा की और ऐसे कई उदाहरण पाए जहां उसने बिंग चैट के माध्यम से ओपनएआई टूल की खोज की।
हम एक नई गहन चिंता वाली सीमा में प्रवेश कर रहे हैं
ओपनएआई वॉयस इंजन, सिंथेटिक आवाज़ें बनाने का एक उपकरण, कथित अपराधों के समय सार्वजनिक रूप से उपलब्ध नहीं था। वह था की घोषणा 29 मार्च, 2024 को। हालाँकि, अन्य कंपनियाँ पसंद करती हैं ग्यारहलैब्स लंबे समय से वॉयस क्लोनिंग तकनीक की पेशकश कर रहे हैं।
प्रेस कॉन्फ्रेंस के दौरान, बाल्टीमोर काउंटी के कार्यकारी जॉन ओल्स्ज़वेस्की ने सार्वजनिक मीडिया के संबंध में अधिक सावधानी बरतने का आह्वान किया।
उन्होंने कहा, "यह स्पष्ट है कि हम उभरती प्रौद्योगिकी और नवाचार तथा सामाजिक भलाई के लिए इसकी क्षमता को अपनाना जारी रखते हुए एक नए गहन चिंताजनक मोर्चे पर भी प्रवेश कर रहे हैं।"
“हमें उन लोगों के खिलाफ भी सतर्क रहना चाहिए जिन्होंने इसका इस्तेमाल दुर्भावनापूर्ण इरादे से किया होगा। इसके लिए हमें हमारे द्वारा सुने जाने वाले ऑडियो और देखी जाने वाली छवियों के बारे में अधिक जागरूक और अधिक समझदार होने की आवश्यकता होगी। हमें अपने फैसले में सावधान रहना होगा।” ®
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
- प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
- प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
- स्रोत: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/
