openaijamodel: gpt-5-mini-2025-08-07
Cars24:OpenAIで会話をスケールし迅速に構築
Key Points
- 月間1M分以上の会話処理
- 失注リード12%回復
- エージェントワークフロー導入
Summary
Cars24はOpenAIを活用した音声・チャットエージェントで月間1M分超の会話を処理し、失注リードの12%を回復しました。エージェント化されたワークフローを社内横断で展開し、チームがより速く自動化を構築できるようにしています。
Key Points
- 処理量と並行性: 月間1M分以上の会話を支えるため、ストリーミングAPI、オートスケール、コネクションプールやバックプレッシャーを設計する。
- 音声+チャット統合: 音声→STT→モデル→TTSの低遅延パイプラインを構築し、部分再送・再試行・部分結果処理を実装する。
- リード回復の実装: 12%回復はパーソナライズされたフォロー、イベントフック、CRM連携によるトリガーで達成。A/Bテストと計測を必須にする。
- エージェントワークフロー: タスクオーケストレーション、状態管理、ロール/権限、手動エスカレーションポイントを設計してチーム横断で再利用可能にする。
- 可観測性とSLO: 会話レイテンシ、エラー率、復帰率、コスト指標を収集してアラートとダッシュボードを整備する。
- セキュリティとコンプライアンス: PIIマスキング、データ最小化、保存ポリシー、ユーザ同意の管理を組み込む。
- モデルとコスト最適化: レイテンシと精度に応じたモデル選定、プロンプト最適化、バッチ処理で運用コストを抑える。
- フォールバック戦略: 人手へのシームレスなエスカレーションと会話履歴保持で品質を担保する。