জেনারেটিভ ডেটা ইন্টেলিজেন্স

অ্যামাজন সেজমেকার ক্যানভাসে লামা 2 এবং মিস্ট্রাল মডেল এবং স্ট্রিমিং প্রতিক্রিয়াগুলির জন্য সমর্থন ঘোষণা করা | আমাজন ওয়েব সার্ভিসেস

তারিখ:

2021 চালু, আমাজন সেজমেকার ক্যানভাস কোনো কোড লেখার প্রয়োজন ছাড়াই মেশিন লার্নিং (ML) মডেল তৈরি ও স্থাপনের জন্য একটি ভিজ্যুয়াল, পয়েন্ট-এন্ড-ক্লিক পরিষেবা। সেজমেকার ক্যানভাসে উপলভ্য রেডি-টু-ইউজ ফাউন্ডেশন মডেল (এফএম) গ্রাহকদের বিষয়বস্তু তৈরি এবং সংক্ষিপ্তকরণের মতো কাজের জন্য জেনারেটিভ এআই ব্যবহার করতে সক্ষম করে।

Amazon SageMaker Canvas-এর সর্বশেষ আপডেটগুলি ঘোষণা করতে পেরে আমরা রোমাঞ্চিত, যা প্ল্যাটফর্মে উত্তেজনাপূর্ণ নতুন জেনারেটিভ এআই ক্ষমতা নিয়ে আসে। Meta Llama 2 এবং Mistral.AI মডেলগুলির সমর্থন এবং স্ট্রিমিং প্রতিক্রিয়াগুলি চালু করার সাথে, SageMaker Canvas তাদের প্রত্যেককে ক্ষমতায়ন করে চলেছে যারা এক লাইন কোড না লিখে জেনারেটিভ AI দিয়ে শুরু করতে চায়৷ এই পোস্টে, আমরা এই আপডেটগুলি এবং তাদের সুবিধাগুলি নিয়ে আলোচনা করি।

মেটা লামা 2 এবং মিস্ট্রাল মডেল উপস্থাপন করা হচ্ছে

Llama 2 হল Meta-এর একটি অত্যাধুনিক ফাউন্ডেশন মডেল যা বিস্তৃত জেনারেটিভ AI টাস্কগুলির জন্য উন্নত স্কেলেবিলিটি এবং বহুমুখিতা প্রদান করে। ব্যবহারকারীরা রিপোর্ট করেছেন যে Llama 2 অর্থপূর্ণ এবং সুসঙ্গত কথোপকথনে জড়িত হতে, নতুন বিষয়বস্তু তৈরি করতে এবং বিদ্যমান নোট থেকে উত্তর বের করতে সক্ষম। Llama 2 হল অত্যাধুনিক লার্জ ল্যাঙ্গুয়েজ মডেলের (LLMs) মধ্যে যা ওপেন সোর্স সম্প্রদায়ের জন্য তাদের নিজস্ব AI-চালিত অ্যাপ্লিকেশন তৈরি করতে আজ উপলব্ধ।

Mistral.AI, একটি নেতৃস্থানীয় AI ফ্রেঞ্চ স্টার্ট-আপ, Mistral 7B তৈরি করেছে, 7.3 বিলিয়ন প্যারামিটার সহ একটি শক্তিশালী ভাষা মডেল। মিস্ট্রাল মডেলগুলি ওপেন-সোর্স সম্প্রদায়ের দ্বারা খুব ভালভাবে গ্রহণ করা হয়েছে দ্রুত অনুমানের জন্য গ্রুপড-কোয়েরি অ্যাটেনশন (GQA) ব্যবহারের জন্য ধন্যবাদ, এটিকে অত্যন্ত দক্ষ করে তোলে এবং মডেলের তুলনায় দ্বিগুণ বা তিনগুণ প্যারামিটারের সাথে তুলনামূলকভাবে পারফর্ম করে।

আজ, আমরা ঘোষণা করতে পেরে আনন্দিত যে SageMaker Canvas এখন তিনটি Llama 2 মডেলের ভেরিয়েন্ট এবং দুটি Mistral 7B ভেরিয়েন্ট সমর্থন করে:

এই মডেলগুলি পরীক্ষা করতে, SageMaker ক্যানভাসে নেভিগেট করুন৷ ব্যবহার করার জন্য প্রস্তুত মডেল পৃষ্ঠা, তারপর চয়ন করুন বিষয়বস্তু তৈরি করুন, নির্যাস করুন এবং সংক্ষিপ্ত করুন. এখানেই আপনি SageMaker Canvas GenAI চ্যাটের অভিজ্ঞতা পাবেন। এখানে, আপনি মডেল ড্রপ-ডাউন মেনুতে নির্বাচন করে Amazon Bedrock বা SageMaker JumpStart থেকে যেকোনো মডেল ব্যবহার করতে পারেন।

আমাদের ক্ষেত্রে, আমরা লামা 2 মডেলগুলির মধ্যে একটি বেছে নিই। এখন আপনি আপনার ইনপুট বা প্রশ্ন প্রদান করতে পারেন. আপনি যখন ইনপুট পাঠান, সেজমেকার ক্যানভাস আপনার ইনপুটকে মডেলে ফরোয়ার্ড করে।

সেজমেকার ক্যানভাসে উপলব্ধ মডেলগুলির মধ্যে কোনটি আপনার ব্যবহারের ক্ষেত্রে সবচেয়ে উপযুক্ত তা বেছে নেওয়ার জন্য আপনাকে নিজেরাই মডেলগুলির সম্পর্কে তথ্য বিবেচনা করতে হবে: Llama-2-70B-চ্যাট মডেলটি একটি বড় মডেল (70 বিলিয়ন প্যারামিটার, 13 বিলিয়নের তুলনায় Llama-2-13B-chat এর সাথে ), যার অর্থ হল এর কার্যকারিতা সাধারণত ছোটটির চেয়ে বেশি হয়, সামান্য বেশি লেটেন্সি এবং টোকেন প্রতি বর্ধিত খরচে। Mistral-7B-এর Llama-2-7B বা Llama-2-13B-এর সাথে তুলনীয় পারফরম্যান্স রয়েছে, তবে এটি Amazon SageMaker-এ হোস্ট করা হয়েছে। এর মানে হল মূল্য নির্ধারণের মডেলটি ভিন্ন, একটি ডলার-প্রতি-টোকেন মূল্যের মডেল থেকে একটি ডলার-প্রতি-ঘন্টা মডেলে। এটি প্রতি ঘন্টায় উল্লেখযোগ্য পরিমাণ অনুরোধ এবং স্কেলে সামঞ্জস্যপূর্ণ ব্যবহারের সাথে আরও সাশ্রয়ী হতে পারে। উপরের সমস্ত মডেলগুলি বিভিন্ন ব্যবহারের ক্ষেত্রে ভাল পারফর্ম করতে পারে, তাই আমাদের পরামর্শ হল আউটপুট, থ্রুপুট এবং খরচ ট্রেড-অফ বিবেচনা করে কোন মডেলটি আপনার সমস্যার সবচেয়ে ভাল সমাধান করে তা মূল্যায়ন করা।

আপনি যদি মডেলগুলি কীভাবে আচরণ করে তা তুলনা করার জন্য একটি সরল উপায় খুঁজছেন, সেজমেকার ক্যানভাস স্থানীয়ভাবে মডেল তুলনা আকারে এই ক্ষমতা প্রদান করে। আপনি তিনটি পর্যন্ত ভিন্ন মডেল নির্বাচন করতে পারেন এবং একই ক্যোয়ারী একবারে তাদের সকলকে পাঠাতে পারেন৷ SageMaker ক্যানভাস তারপরে প্রতিটি মডেল থেকে প্রতিক্রিয়া পাবে এবং সেগুলিকে পাশাপাশি চ্যাট UI এ দেখাবে৷ এটি করতে, নির্বাচন করুন তুলনা করা এবং তুলনা করার জন্য অন্যান্য মডেল বেছে নিন, যেমন নীচে দেখানো হয়েছে:

প্রতিক্রিয়া স্ট্রিমিং প্রবর্তন: রিয়েল-টাইম মিথস্ক্রিয়া এবং বর্ধিত কর্মক্ষমতা

এই রিলিজের মূল অগ্রগতিগুলির মধ্যে একটি হল স্ট্রিম করা প্রতিক্রিয়াগুলির প্রবর্তন৷ প্রতিক্রিয়াগুলির স্ট্রিমিং ব্যবহারকারীর জন্য একটি সমৃদ্ধ অভিজ্ঞতা প্রদান করে এবং একটি চ্যাটের অভিজ্ঞতাকে আরও ভালভাবে প্রতিফলিত করে৷ স্ট্রিমিং প্রতিক্রিয়াগুলির সাথে, ব্যবহারকারীরা তাদের চ্যাটবট অ্যাপ্লিকেশনগুলিতে তাত্ক্ষণিক প্রতিক্রিয়া এবং বিরামহীন একীকরণ পেতে পারেন। এটি চ্যাটবটের সামগ্রিক কর্মক্ষমতা এবং ব্যবহারকারীর সন্তুষ্টি বৃদ্ধি করে আরও ইন্টারেক্টিভ এবং প্রতিক্রিয়াশীল অভিজ্ঞতার জন্য অনুমতি দেয়। চ্যাটের মতো পদ্ধতিতে তাৎক্ষণিক প্রতিক্রিয়া পাওয়ার ক্ষমতা আরও স্বাভাবিক কথোপকথন প্রবাহ তৈরি করে এবং ব্যবহারকারীর অভিজ্ঞতা উন্নত করে।

এই বৈশিষ্ট্যটির সাহায্যে, আপনি এখন রিয়েল টাইমে আপনার AI মডেলগুলির সাথে ইন্টারঅ্যাক্ট করতে পারেন, তাত্ক্ষণিক প্রতিক্রিয়া গ্রহণ করতে পারেন এবং বিভিন্ন অ্যাপ্লিকেশন এবং ওয়ার্কফ্লোতে বিরামবিহীন ইন্টিগ্রেশন সক্ষম করতে পারেন। অ্যামাজন বেডরক এবং সেজমেকার জাম্পস্টার্ট থেকে - সেজমেকার ক্যানভাসে অনুসন্ধান করা যেতে পারে এমন সমস্ত মডেল ব্যবহারকারীর কাছে প্রতিক্রিয়া স্ট্রিম করতে পারে৷

আজই শুরু করো

আপনি একটি চ্যাটবট, সুপারিশ সিস্টেম বা ভার্চুয়াল সহকারী তৈরি করছেন না কেন, স্ট্রিম করা প্রতিক্রিয়াগুলির সাথে মিলিত লামা 2 এবং মিস্ট্রাল মডেলগুলি আপনার প্রকল্পগুলিতে উন্নত কর্মক্ষমতা এবং ইন্টারঅ্যাক্টিভিটি নিয়ে আসে৷

সেজমেকার ক্যানভাসের সর্বশেষ বৈশিষ্ট্যগুলি ব্যবহার করতে, অ্যাপটি মুছে ফেলা এবং পুনরায় তৈরি করা নিশ্চিত করুন। এটি করতে, অ্যাপ থেকে লগ আউট নির্বাচন করে লগ আউট, তারপর আবার সেজমেকার ক্যানভাস খুলুন। আপনি নতুন মডেল দেখতে এবং সর্বশেষ প্রকাশ উপভোগ করা উচিত. সেজমেকার ক্যানভাস অ্যাপ্লিকেশান থেকে লগ আউট করলে ওয়ার্কস্পেস ইন্সট্যান্সের দ্বারা ব্যবহৃত সমস্ত সংস্থান মুক্তি পাবে, তাই অতিরিক্ত অনাকাঙ্ক্ষিত চার্জ এড়ানো।

উপসংহার

সেজমেকার ক্যানভাসে লামা 2 এবং মিস্ট্রাল মডেলগুলির জন্য নতুন স্ট্রিম করা প্রতিক্রিয়াগুলির সাথে শুরু করতে, এখানে যান সেজমেকার কনসোল এবং স্বজ্ঞাত ইন্টারফেস অন্বেষণ. সেজমেকার ক্যানভাস এবং জেনারেটিভ এআই কীভাবে আপনার ব্যবসায়িক লক্ষ্য অর্জনে সহায়তা করতে পারে সে সম্পর্কে আরও জানতে, পড়ুন Amazon SageMaker Canvas এবং Generative AI ব্যবহার করে কোম্পানির নথি থেকে অন্তর্দৃষ্টি বের করতে আপনার ব্যবসার ব্যবহারকারীদের ক্ষমতায়ন করুন এবং জেনারেটিভ এআই এবং অ্যামাজন সেজমেকার ক্যানভাসের সাথে সাধারণ যোগাযোগ কেন্দ্রের চ্যালেঞ্জগুলি অতিক্রম করা.

আপনি যদি সেজমেকার ক্যানভাস বৈশিষ্ট্যগুলি সম্পর্কে আরও জানতে চান এবং অন্যান্য এমএল ব্যবহারের ক্ষেত্রে গভীরভাবে ডুব দিতে চান, তাহলে এখানে উপলব্ধ অন্যান্য পোস্টগুলি দেখুন সেজমেকার ক্যানভাস বিভাগ AWS ML ব্লগের। আপনি এই নতুন ক্ষমতার সাথে যে আশ্চর্যজনক AI অ্যাপ্লিকেশনগুলি তৈরি করবেন তা দেখার জন্য আমরা অপেক্ষা করতে পারি না!


লেখক সম্পর্কে

ডেভিডের ছবিডেভিড গ্যালিটেলি AI/ML-এর জন্য একজন সিনিয়র স্পেশালিস্ট সলিউশন আর্কিটেক্ট। তিনি ব্রাসেলসে অবস্থিত এবং সারা বিশ্বের গ্রাহকদের সাথে ঘনিষ্ঠভাবে কাজ করেন যারা লো-কোড/নো-কোড মেশিন লার্নিং প্রযুক্তি এবং জেনারেটিভ এআই গ্রহণ করতে চাইছেন। তিনি খুব অল্প বয়স থেকেই একজন বিকাশকারী ছিলেন, 7 বছর বয়সে কোড করতে শুরু করেছিলেন। তিনি বিশ্ববিদ্যালয়ে এআই/এমএল শিখতে শুরু করেছিলেন এবং তখন থেকেই এর প্রেমে পড়েছিলেন।

ড্যান সিনরিচ AWS-এর একজন সিনিয়র প্রোডাক্ট ম্যানেজার, লো-কোড/নো-কোড মেশিন লার্নিংকে গণতান্ত্রিক করতে সাহায্য করে। এডব্লিউএস-এর আগে, ড্যান তৈরি এবং বাণিজ্যিকীকৃত এন্টারপ্রাইজ SaaS প্ল্যাটফর্ম এবং টাইম-সিরিজ মডেলগুলি প্রাতিষ্ঠানিক বিনিয়োগকারীরা ঝুঁকি পরিচালনা করতে এবং সর্বোত্তম পোর্টফোলিও তৈরি করতে ব্যবহার করে। কাজের বাইরে, তাকে হকি, স্কুবা ডাইভিং এবং কল্পবিজ্ঞান পড়তে দেখা যায়।

স্পট_আইএমজি

সর্বশেষ বুদ্ধিমত্তা

স্পট_আইএমজি