組織が予算を過度に拡張することなく AI の使用量を拡張できるように、一貫性のある非同期ワークロードのコストを削減する 2 つの新しい方法を追加しました。

• コミットされたスループットでの使用量の割引: GPT-4 または GPT-4 Turbo で継続的なレベルのトークン/分 (TPM) 使用量があるお客様は、プロビジョニングされたスループットへのアクセスをリクエストして、コミットメントのサイズに基づいて 10 ～ 50% の範囲の割引を受けることができます。
• 非同期ワークロードのコスト削減: お客様は当社の新しい製品を使用できます バッチAPI 緊急ではないワークロードを非同期で実行します。バッチ API リクエストの価格は共通価格の 50% オフで、はるかに高いレート制限が提供され、24 時間以内に結果が返されます。これは、モデル評価、オフライン分類、要約、合成データ生成などのユースケースに最適です。

私たちは、エンタープライズ グレードのセキュリティ、管理制御、コスト管理に重点を置いた新機能を追加し続ける予定です。これらの発売に関する詳細については、当社のウェブサイトをご覧ください。 APIドキュメント or 私たちのチームに連絡してください 企業向けのカスタム ソリューションについて話し合います。