সংস্থাগুলিকে তাদের বাজেটের অতিরিক্ত প্রসারিত না করে তাদের AI ব্যবহার স্কেল করতে সহায়তা করার জন্য, আমরা সামঞ্জস্যপূর্ণ এবং অ্যাসিঙ্ক্রোনাস কাজের চাপে খরচ কমানোর দুটি নতুন উপায় যুক্ত করেছি:

• প্রতিশ্রুতিবদ্ধ থ্রুপুটে ব্যবহারে ছাড়: GPT-4 বা GPT-4 Turbo-তে টোকেন প্রতি মিনিটে (TPM) ব্যবহারের টেকসই স্তরের গ্রাহকরা প্রতিশ্রুতির আকারের উপর ভিত্তি করে 10-50% পর্যন্ত ছাড় পেতে প্রভিশনড থ্রুপুটে অ্যাক্সেসের অনুরোধ করতে পারেন।
• অ্যাসিঙ্ক্রোনাস ওয়ার্কলোডের খরচ কমানো হয়েছে: গ্রাহকরা আমাদের নতুন ব্যবহার করতে পারেন ব্যাচ API অ-জরুরী কাজের চাপগুলি অ্যাসিঙ্ক্রোনাসভাবে চালানোর জন্য। ব্যাচ এপিআই অনুরোধের মূল্য শেয়ার করা মূল্যে 50% ছাড়, অনেক বেশি হারের সীমা অফার করে এবং 24 ঘন্টার মধ্যে ফলাফল ফেরত দেয়। মডেল মূল্যায়ন, অফলাইন শ্রেণীবিভাগ, সংক্ষিপ্তকরণ এবং সিন্থেটিক ডেটা জেনারেশনের মতো ব্যবহারের ক্ষেত্রে এটি আদর্শ।

আমরা এন্টারপ্রাইজ-গ্রেড নিরাপত্তা, প্রশাসনিক নিয়ন্ত্রণ, এবং খরচ ব্যবস্থাপনার উপর দৃষ্টি নিবদ্ধ করে নতুন বৈশিষ্ট্য যোগ করার পরিকল্পনা করছি। এই লঞ্চগুলি সম্পর্কে আরও তথ্যের জন্য, আমাদের দেখুন API ডকুমেন্টেশন or আমাদের দলের সাথে যোগাযোগ করুন আপনার এন্টারপ্রাইজের জন্য কাস্টম সমাধান নিয়ে আলোচনা করতে।