طوكيو ، 24 أبريل 2024 - (JCN Newswire) - قامت شركة NEC Corporation (NEC; TSE: 6701) بتوسيع خدمات الذكاء الاصطناعي التوليدية "NEC cotomi" من خلال تطوير "NEC cotomi Pro" و"NEC cotomi Light"، وهما نموذجان جديدان عاليا السرعة للذكاء الاصطناعي الكبير (LLM) يتميزان بالتحديث بيانات التدريب والهندسة المعمارية.
مع التطور السريع للذكاء الاصطناعي التوليدي في السنوات الأخيرة، قامت مجموعة واسعة من المؤسسات بدراسة والتحقق من تحول الأعمال باستخدام LLMs. ومع ظهور سيناريوهات تطبيق محددة، هناك حاجة إلى توفير نماذج وتنسيقات تلبي احتياجات العملاء من حيث وقت الاستجابة وتنسيق بيانات الأعمال وحماية المعلومات والجوانب الأمنية الأخرى أثناء التنفيذ والتشغيل.
إن NEC cotomi Pro وNEC cotomi Light المطورين حديثًا من NEC عبارة عن نماذج عالية السرعة وعالية الأداء توفر نفس الأداء العالي الذي توفره برامج LLM العالمية، ولكن بسرعة تزيد عن عشرة أضعاف.
بشكل عام، لتحسين أداء LLM، يجب جعل النموذج أكبر حجمًا، لكن هذا يؤدي إلى إبطاء سرعة التشغيل. ومع ذلك، نجحت شركة NEC في تحسين السرعة والأداء من خلال تطوير أسلوب وبنية تدريب جديدة متقدمة.
يحقق "NEC cotomi Pro" أداءً يضاهي النماذج العالمية عالية المستوى مثل "GPT-4" و"Claude 2"، مع وقت استجابة أسرع بنسبة 87% تقريبًا من GPT-4 باستخدام بنية تحتية مكونة من وحدتي معالجة رسوميات ( GPU). بالإضافة إلى ذلك، يتمتع "NEC cotomi Light" الأسرع بنفس مستوى الأداء مثل النماذج العالمية مثل "GPT-3.5-Turbo"، ولكن يمكنه معالجة عدد كبير من الطلبات بسرعة عالية من خلال بنية تحتية تبلغ حوالي 1 إلى 2 GPU ، مما يوفر الأداء الكافي للعديد من المهام.
على وجه التحديد، في نظام استرجاع المستندات الداخلي باستخدام تقنية تسمى RAG، حقق النظام معدل استجابة صحيح أعلى من GPT-3.5 دون ضبط دقيق ومعدل استجابة صحيح أعلى من GPT-4 بعد الضبط الدقيق، مع استجابة الوقت الذي هو ما يقرب من 93٪ أسرع.
ميزات NEC cotomi Pro وNEC cotomi Light1. إنتاجية عالية لمختلف المهام
يتمتع كل من "NEC cotomi Pro" و"NEC cotomi Light" بمستويات عالية من قوة المعالجة التي تعد على أعلى مستوى عالميًا من حيث المعرفة والقدرة على التعامل مع المهام المختلفة، مثل تلخيص المستندات والتفكير المنطقي والإجابة على الأسئلة.
"مهام ELYZA 100" (أعلى رسمين بيانيين) ومقارنات مرجعية "MT-Bench اليابانية" (الرسم البياني السفلي)
على وجه التحديد، أكدت شركة NEC الأداء عالي المستوى، ليس فقط في اليابان ولكن أيضًا على مستوى العالم، في معيارين قياسيين يستخدمان بشكل شائع لقياس الأداء الإجمالي لماجستير القانون: "ELYZA Tasks 100" و"MT-Bench الياباني". قدمت شركة NEC cotomi Pro نتائج أسرع بخمس مرات من GPT-4 (*) على خادم قياسي مزود بوحدتي معالجة رسوميات. علاوة على ذلك، فقد تفوق في سرعة نماذج مثل "Gemini 1.0 Pro" وأظهر أداءً يضاهي كلود 2 وGPT-4. وفي الوقت نفسه، قدم "NEC cotomi Light" نتائج أسرع بأكثر من 15 مرة من GPT-4 بينما تفوق في الأداء على النماذج الكبيرة مثل "LLaMA2-70B" وأظهر أداءً مشابهًا لـ GPT-3.5-Turbo.
2. السرعه العاليه
بالإضافة إلى الأداء العالي أثناء الاستدلال، فإن الوقت (السرعة) بين إرسال الطلب وتلقي الرد مهم أيضًا للتطبيق العملي لـ LLM. حققت NEC cotomi Pro وNEC cotomi Light معالجة عالية السرعة أسرع بنسبة 87% إلى 93% من GPT-4 مع وحدتي معالجة رسومات قياسيتين. وقد تم تحقيق ذلك بفضل الابتكارات المعمارية التي عززت الأداء والسرعة، بالإضافة إلى قاموس ياباني كبير (للترميز) في النموذج. لا تعمل هذه الابتكارات على زيادة سرعة الاستدلال فحسب، بل تزيد أيضًا من عدد عمليات الوصول المتزامنة وتقلل من وقت التدريب المطلوب للضبط الدقيق. علاوة على ذلك، يمكن إجراء تحسينات إضافية في السرعة من خلال زيادة عدد وحدات معالجة الرسومات إلى 4 أو 8، مما يسمح ببناء مرن لتلبية احتياجات كل تطبيق.
من خلال استخدام نموذج يحقق قوة معالجة عالية مع سرعة عالية ووصول جماعي، من الممكن تقليل وقت استجابة تطبيقات الأعمال التي تستخدم الذكاء الاصطناعي التوليدي وتحسين تجربة المستخدم بشكل كبير. بالإضافة إلى ذلك، يمكن لقوة المعالجة العالية أن تحسن الأداء بشكل كبير بعد الضبط الدقيق للبيانات الفردية لكل شركة. ومن الآن فصاعدا، ستواصل شركة NEC تعزيز التعاون مع الشركاء وتوفير خدمات ذكاء اصطناعي آمنة وموثوقة تعتمد على تشكيلة NEC cotomi الموسعة، مع الهدف هو مساعدة العملاء على حل مجموعة واسعة من التحديات المعقدة.
(*) قدمت التجربة دقة حسابية تبلغ 16 بت في بيئة GPU المجهزة بجهازي L40sShare
حول شركة NEC
أنشأت شركة NEC نفسها كشركة رائدة في دمج تقنيات تكنولوجيا المعلومات والشبكات مع الترويج لبيان العلامة التجارية "تنظيم عالم أكثر إشراقًا". تمكّن شركة NEC الشركات والمجتمعات من التكيف مع التغيرات السريعة التي تحدث في كل من المجتمع والسوق لأنها توفر القيم الاجتماعية للسلامة والأمن والإنصاف والكفاءة لتعزيز عالم أكثر استدامة حيث تتاح للجميع الفرصة لتحقيق إمكاناتهم الكاملة لمزيد من المعلومات ، قم بزيارة NEC at https://www.nec.com.
- محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
- PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
- أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
- أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
- أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
- المصدر https://www.jcnnewswire.com/pressrelease/90452/3/
