ओपेरा ने अपने एआई फ़ीचर ड्रॉप प्रोग्राम के हिस्से के रूप में ओपेरा वन डेवलपर ब्राउज़र पर स्थानीय रूप से बड़े भाषा मॉडल (एलएलएम) चलाने के लिए प्रयोगात्मक समर्थन जोड़ा है।
इस समय ओपेरा के मुख्य इंटरनेट ब्राउज़र, ओपेरा वन के डेवलपर संस्करण के लिए विशेष, अपडेट एलएलएएमए, जेम्मा और मिक्सट्राल सहित 150 अलग-अलग एलएलएम परिवारों से 50 अलग-अलग एलएलएम जोड़ता है। पहले, ओपेरा ने केवल अपने स्वयं के एलएलएम, आरिया के लिए समर्थन की पेशकश की थी, जो माइक्रोसॉफ्ट के कोपायलट और ओपनएआई के चैटजीपीटी के समान एक चैटबॉट के रूप में तैयार किया गया था।
हालाँकि, आरिया, कोपायलट (जो केवल इच्छा रखता है) के बीच मुख्य अंतर भविष्य में इसे स्थानीय स्तर पर चलाया जाएगा), और एआई चैटबॉट्स के समान यह है कि वे इंटरनेट के माध्यम से एक समर्पित सर्वर से जुड़े होने पर निर्भर करते हैं। ओपेरा का कहना है कि स्थानीय रूप से चलने वाले एलएलएम के साथ इसे ओपेरा वन डेवलपर में जोड़ा गया है, डेटा उपयोगकर्ताओं के पीसी के लिए स्थानीय रहता है और शुरुआत में एलएलएम डाउनलोड करने के अलावा इंटरनेट कनेक्शन की आवश्यकता नहीं होती है।
ओपेरा ने अपनी नई स्थानीय एलएलएम सुविधा के लिए संभावित उपयोग के मामले की भी परिकल्पना की है। "क्या होगा यदि भविष्य का ब्राउज़र आपके डिवाइस पर सभी डेटा रखते हुए आपके ऐतिहासिक इनपुट के आधार पर एआई समाधान पर भरोसा कर सके?" जबकि गोपनीयता के प्रति उत्साही लोगों को शायद यह विचार पसंद आएगा कि उनका डेटा केवल उनके पीसी पर रखा जाएगा और कहीं और नहीं, ब्राउज़र-आधारित एलएलएम इतना अधिक याद रखना उतना आकर्षक नहीं हो सकता है।
ओपेरा ने अपने लेख में कहा है, ''यह इतनी खतरनाक धार है कि यह टूट भी सकती है।'' ब्लॉग पोस्ट. हालांकि यह एक चुटकी है, लेकिन यह सच्चाई से बहुत दूर नहीं है। ओपेरा वीपी जान स्टैंडल ने बताया, "हालांकि हम यथासंभव सबसे स्थिर संस्करण शिप करने का प्रयास करते हैं, डेवलपर बिल्ड प्रयोगात्मक होते हैं और वास्तव में थोड़ा गड़बड़ हो सकते हैं।" रजिस्टर.
इस बारे में कि यह स्थानीय एलएलएम सुविधा नियमित ओपेरा वन में कब आएगी, स्टैंडल ने कहा: “हमारे पास इसकी कोई समयसीमा नहीं है कि यह सुविधा नियमित ओपेरा ब्राउज़र में कब और कैसे पेश की जाएगी। हालाँकि, हमारे उपयोगकर्ताओं को उम्मीद करनी चाहिए कि एआई फ़ीचर ड्रॉप प्रोग्राम में लॉन्च की गई सुविधाएँ हमारे मुख्य ब्राउज़रों में पेश होने से पहले विकसित होती रहेंगी।
चूंकि एनवीडिया जैसी कंपनियों के हाई-एंड जीपीयू से लैस बड़े सर्वरों के साथ प्रतिस्पर्धा करना काफी कठिन हो सकता है, ओपेरा का कहना है कि ऑनलाइन एलएलएम का उपयोग करने की तुलना में स्थानीय होना संभवतः "काफी धीमा" होगा। कोई मजाक नहीं।
हालाँकि, बहुत सारे एलएलएम आज़माने के इच्छुक लोगों के लिए भंडारण एक बड़ी समस्या हो सकती है। ओपेरा का कहना है कि प्रत्येक एलएलएम के लिए दो से दस गीगाबाइट स्टोरेज की आवश्यकता होती है, और जब हमने ओपेरा वन डेवलपर के बारे में पता लगाया, तो यह बहुत सारे एलएलएम के लिए सच था, जिनमें से कुछ का आकार लगभग 1.5 जीबी था।
हालाँकि, ओपेरा वन के माध्यम से प्रदान किए जाने वाले बहुत सारे एलएलएम के लिए 10 जीबी से अधिक की आवश्यकता होती है। कई 10-20 जीबी क्षेत्र में थे, कुछ लगभग 40 जीबी के थे, और हमें एक, मेगडॉल्फ़िन भी मिला, जिसका आकार 67 जीबी था। यदि आप ओपेरा वन डेवलपर में शामिल एलएलएम की सभी 150 किस्मों का नमूना लेना चाहते हैं, तो मानक 1 टीबी एसएसडी शायद इसमें कटौती नहीं करेगा।
इन सीमाओं के बावजूद, इसका मतलब यह है कि ओपेरा वन (या कम से कम डेवलपर शाखा) स्थानीय स्तर पर एलएलएम चलाने के लिए समाधान पेश करने वाला पहला ब्राउज़र है। यह एलएलएम को स्थानीय रूप से पीसी पर लाने के कुछ समाधानों में से एक है एनवीडिया का चैटविथआरटीएक्स चैटबॉट और एक मुट्ठी भर अन्य ऐप्स. हालाँकि यह थोड़ी विडंबनापूर्ण है कि एक इंटरनेट ब्राउज़र एआई चैटबॉट्स के प्रभावशाली प्रसार के साथ आता है जिसे स्पष्ट रूप से काम करने के लिए इंटरनेट की आवश्यकता नहीं होती है। ®
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
- प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
- प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
- स्रोत: https://go.theregister.com/feed/www.theregister.com/2024/04/03/opera_local_llm/
