Untuk membantu organisasi meningkatkan penggunaan AI tanpa membebani anggaran secara berlebihan, kami telah menambahkan dua cara baru untuk mengurangi biaya pada beban kerja yang konsisten dan asinkron:

• Penggunaan yang didiskon pada throughput yang berkomitmen: Pelanggan dengan tingkat penggunaan token per menit (TPM) berkelanjutan di GPT-4 atau GPT-4 Turbo dapat meminta akses ke throughput yang disediakan untuk mendapatkan diskon mulai dari 10–50% berdasarkan besarnya komitmen.
• Mengurangi biaya pada beban kerja asinkron: Pelanggan dapat menggunakan produk baru kami API kumpulan untuk menjalankan beban kerja yang tidak mendesak secara asinkron. Permintaan API batch diberi diskon 50% dari harga bersama, menawarkan batas tarif yang jauh lebih tinggi, dan mengembalikan hasil dalam waktu 24 jam. Ini ideal untuk kasus penggunaan seperti evaluasi model, klasifikasi offline, ringkasan, dan pembuatan data sintetis.

Kami berencana untuk terus menambahkan fitur baru yang berfokus pada keamanan tingkat perusahaan, kontrol administratif, dan manajemen biaya. Untuk informasi lebih lanjut tentang peluncuran ini, kunjungi kami Dokumentasi API or hubungi tim kami untuk mendiskusikan solusi khusus untuk perusahaan Anda.