AI Gatewayでアップストリームプロバイダーの障害時に自動リトライ

公開日: 2026年4月2日

AI Gatewayがゲートウェイレベルでの自動リトライをサポートするようになりました。アップストリームプロバイダーがエラーを返した場合、クライアント側の変更を必要とせずに、設定したリトライポリシーに基づいてゲートウェイがリクエストを自動的にリトライします。

設定可能な項目

• リトライ回数: 最大5回まで設定可能
• リトライ間隔: 100msから5秒まで設定可能
• バックオフ戦略: 以下から選択
  • Constant（一定間隔）
  • Linear（線形増加）
  • Exponential（指数的増加）

これらのデフォルト設定はゲートウェイを通るすべてのリクエストに適用され、リクエストごとのヘッダーでオーバーライドすることも可能です。

利用シーン

この機能は、リクエストを行うクライアントを制御できず、呼び出し側でリトライロジックを実装できない場合に特に有用です。

より複雑なフェイルオーバーシナリオ

異なるプロバイダー間でのフェイルオーバーなど、より複雑なシナリオについては、Dynamic Routingをご利用ください。

詳細については、ゲートウェイの管理を参照してください。