openaijamodel: gpt-5-mini-2025-08-07
AI Gateway:アップストリーム障害時の自動再試行をサポート
Key Points
- ゲートウェイで自動再試行
- 最大5回の再試行
- ヘッダーで上書き可能
Summary
AI Gatewayがゲートウェイレベルで自動再試行をサポートしました。アップストリームプロバイダがエラーを返した場合、クライアント側の変更なしにゲートウェイが設定されたポリシーに基づいてリクエストを再試行します。
Key Points
- 再試行設定: 最大試行回数は5回まで、遅延は100ms〜5sで指定可能。
- バックオフ戦略: Constant、Linear、Exponentialを選択可能。
- デフォルト設定はゲートウェイ経由の全リクエストに適用されるが、個別リクエストはヘッダーで上書き可能。
- クライアントを変更できないケースでの堅牢性向上に有効。
- プロバイダ間の複雑なフェイルオーバーはDynamic Routingを使用。
- 詳細は Manage gateways を参照してください。