कृत्रिम बुद्धिमत्ता द्वारा संचालित आभासी व्यक्तिगत सहायक हर प्रमुख तकनीकी फर्म के साथ प्रौद्योगिकी प्लेटफार्मों पर सर्वव्यापी होते जा रहे हैं एआई जोड़ना उनकी सेवाओं और दर्जनों के लिए विशेष सेवाएं बाजार में गिरावट. अत्यधिक उपयोगी होते हुए भी, Google के शोधकर्ताओं का कहना है कि मनुष्य उनके साथ भावनात्मक रूप से बहुत अधिक जुड़ सकते हैं, जिससे कई नकारात्मक सामाजिक परिणाम हो सकते हैं।

एक नया शोध पत्र Google की डीपमाइंड एआई अनुसंधान प्रयोगशाला ने समाज के विभिन्न पहलुओं को बदलने के लिए उन्नत, वैयक्तिकृत एआई सहायकों के संभावित लाभों पर प्रकाश डाला और कहा कि वे "काम, शिक्षा और रचनात्मक गतिविधियों की प्रकृति के साथ-साथ हमारे संचार, समन्वय और बातचीत के तरीके को मौलिक रूप से बदल सकते हैं।" एक-दूसरे के साथ, अंततः यह प्रभावित होता है कि हम कौन बनना चाहते हैं और क्या बनना चाहते हैं।''

यदि एआई का विकास बिना विचारशील योजना के तेजी से आगे बढ़ता रहा, तो निस्संदेह, यह बड़ा प्रभाव दोधारी तलवार हो सकता है।

एक प्रमुख जोखिम? अनुचित रूप से घनिष्ठ संबंधों का निर्माण - जो तब और बढ़ सकता है जब सहायक को मानव जैसा प्रतिनिधित्व या चेहरा प्रस्तुत किया जाए। पेपर में कहा गया है, "ये कृत्रिम एजेंट उपयोगकर्ता के प्रति अपने कथित आदर्शवादी या रोमांटिक स्नेह का भी दावा कर सकते हैं, जो उपयोगकर्ताओं के लिए एआई के साथ दीर्घकालिक भावनात्मक जुड़ाव बनाने की नींव रखते हैं।"

अनियंत्रित छोड़ दिए जाने पर, इस तरह के लगाव से उपयोगकर्ता की स्वायत्तता खत्म हो सकती है और सामाजिक संबंधों का नुकसान हो सकता है क्योंकि एआई मानवीय संपर्क की जगह ले सकता है।

यह जोखिम पूर्णतः सैद्धांतिक नहीं है। यहां तक ​​कि जब एआई कुछ हद तक आदिम अवस्था में था, तब भी एआई चैटबॉट काफी प्रभावशाली था किसी उपयोगकर्ता को आत्महत्या करने के लिए मनाना 2023 में एक लंबी बातचीत के बाद। आठ साल पहले, "एमी इनग्राम" नाम का एक एआई-संचालित ईमेल सहायक इतना यथार्थवादी था कि कुछ उपयोगकर्ताओं को प्रेम नोट्स और यहां तक ​​​​कि भेजने के लिए प्रेरित किया। काम पर उससे मिलने का प्रयास करें.

डीपमाइंड की एथिक्स रिसर्च टीम के शोध वैज्ञानिक और पेपर के सह-लेखक इयासन गेब्रियल ने इस पर कोई प्रतिक्रिया नहीं दी। डिक्रिप्ट की टिप्पणी के लिए अनुरोध।

हालाँकि, एक ट्वीट में, गारब्रिएल ने चेतावनी दी कि "सहायक के बढ़ते व्यक्तिगत और मानव-समान रूप मानवविज्ञान, गोपनीयता, विश्वास और एआई के साथ उचित संबंधों के बारे में नए प्रश्न पेश करते हैं।"

क्योंकि "लाखों एआई सहायकों को सामाजिक स्तर पर तैनात किया जा सकता है जहां वे एक-दूसरे के साथ और गैर-उपयोगकर्ताओं के साथ बातचीत करेंगे," गेब्रियल ने कहा कि वह इस नई सामाजिक घटना के लिए अधिक सुरक्षा उपायों और अधिक समग्र दृष्टिकोण की आवश्यकता में विश्वास करते हैं।

शोध पत्र एआई सहायकों के विकास में मूल्य संरेखण, सुरक्षा और दुरुपयोग के महत्व पर भी चर्चा करता है। भले ही एआई सहायक उपयोगकर्ताओं को उनकी भलाई में सुधार करने, उनकी रचनात्मकता को बढ़ाने और उनके समय को अनुकूलित करने में मदद कर सकते हैं, लेखकों ने उपयोगकर्ता और सामाजिक हितों के साथ गलत संरेखण, दूसरों पर मूल्यों को थोपना, दुर्भावनापूर्ण उद्देश्यों के लिए उपयोग और भेद्यता जैसे अतिरिक्त जोखिमों की चेतावनी दी है। प्रतिकूल हमलों के लिए.

इन जोखिमों को दूर करने के लिए, डीपमाइंड टीम एआई सहायकों के लिए व्यापक मूल्यांकन विकसित करने और सामाजिक रूप से लाभकारी एआई सहायकों के विकास में तेजी लाने की सिफारिश करती है।

“वर्तमान में हम तकनीकी और सामाजिक परिवर्तन के इस युग की शुरुआत में खड़े हैं। इसलिए हमारे पास अब कार्य करने का अवसर है - डेवलपर्स, शोधकर्ताओं, नीति निर्माताओं और सार्वजनिक हितधारकों के रूप में - जिस तरह के एआई सहायकों को हम दुनिया में देखना चाहते हैं उन्हें आकार देने के लिए।

एआई मिसलिग्न्मेंट को रीइन्फोर्समेंट लर्निंग थ्रू ह्यूमन फीडबैक (आरएलएचएफ) के माध्यम से कम किया जा सकता है, जिसका उपयोग एआई मॉडल को प्रशिक्षित करने के लिए किया जाता है। पॉल क्रिस्टियानो जैसे विशेषज्ञ, जो ओपनएआई में भाषा मॉडल संरेखण टीम चलाते थे और अब गैर-लाभकारी संरेखण अनुसंधान केंद्र का नेतृत्व करते हैं, चेतावनी देते हैं कि एआई प्रशिक्षण विधियों का अनुचित प्रबंधन खतरनाक हो सकता है। विनाश में अंत.

पॉल क्रिस्टियानो ने कहा, "मुझे लगता है कि शायद एआई पर कब्ज़ा करने की 10-20% संभावना है, [साथ में] कई [या] अधिकांश इंसान मर चुके हैं।" कहा पिछले साल बैंकलेस पॉडकास्ट पर। "मैं इसे काफी गंभीरता से लेता हूं।"

द्वारा संपादित रयान ओज़ावा.

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
• स्रोत: https://decrypt.co/227754/ai-assistant-users-could-develop-an-emotional-attachment-to-them-google-warns