Kuruluşların bütçelerini aşırı genişletmeden AI kullanımlarını ölçeklendirmelerine yardımcı olmak amacıyla tutarlı ve eşzamansız iş yüklerinde maliyetleri azaltmanın iki yeni yolunu ekledik:

• Taahhüt edilen aktarım hızında indirimli kullanım: GPT-4 veya GPT-4 Turbo'da sürekli düzeyde dakika başına jeton (TPM) kullanımına sahip müşteriler, taahhüdün boyutuna bağlı olarak %10 ila %50 arasında değişen indirimlerden yararlanmak için sağlanan aktarım hızına erişim talep edebilir.
• Eşzamansız iş yüklerinde daha düşük maliyetler: Müşteriler yeni ürünümüzü kullanabilir Toplu API acil olmayan iş yüklerini eşzamansız olarak çalıştırmak için. Toplu API istekleri, paylaşılan fiyatlarda %50 indirimli olarak fiyatlandırılır, çok daha yüksek oran limitleri sunar ve sonuçları 24 saat içinde döndürür. Bu, model değerlendirme, çevrimdışı sınıflandırma, özetleme ve sentetik veri oluşturma gibi kullanım durumları için idealdir.

Kurumsal düzeyde güvenliğe, idari kontrollere ve maliyet yönetimine odaklanan yeni özellikler eklemeye devam etmeyi planlıyoruz. Bu lansmanlar hakkında daha fazla bilgi için web sitemizi ziyaret edin. API belgeleri or ekibimizle iletişime geçin İşletmenize özel çözümleri görüşmek üzere.