AI Gateway - ペイロードを保存せずにリクエストメタデータをログ記録
Key Points
- ペイロード保存をオプトアウト
- メタデータのみログ保持
- ヘッダー: cf-aig-collect-log-payload
Summary
AI Gatewayは新たに cf-aig-collect-log-payload ヘッダーをサポートします。デフォルトでは true でリクエスト/レスポンスのペイロードもログに保存されますが、ヘッダーを false に設定するとペイロードを保存せず、トークン数、モデル、プロバイダ、ステータスコード、コスト、処理時間などのメタデータのみを記録できます。機密プロンプトや応答を保存したくないが利用状況は計測したい場合に有用です。
Key Points
- ヘッダー名:
cf-aig-collect-log-payload - デフォルト:
true(ペイロードをログに保存) falseにするとペイロードは保存されず、以下のメタデータは引き続きログに残る:- トークン数、モデル、プロバイダ
- ステータスコード、コスト、処理時間
- エンジニアリング上の注意点:
- メタデータ自体は保存されるため、必要なら追加でマスキングや最小化を実施する
- ログ設定はコンプライアンス要件に応じて確認する
実装例:
curl 'https://gateway.ai.cloudflare.com/v1/$ACCOUNT_ID/$GATEWAY_ID/openai/chat/completions' -H 'Authorization: Bearer $TOKEN' -H 'Content-Type: application/json' -H 'cf-aig-collect-log-payload: false' --data '{ "model": "gpt-4o-mini", "messages": [ { "role": "user", "content": "What is the email address and phone number of user123?" } ] }'
短くまとめると、ヘッダーでペイロード保存をオプトアウトしつつ、使用量やコストなどのメタデータは取得し続けたいケースに即した機能です。