Summary

Cars24はOpenAIを活用した音声・チャットエージェントで月間1M分超の会話を処理し、失注リードの12%を回復しました。エージェント化されたワークフローを社内横断で展開し、チームがより速く自動化を構築できるようにしています。

Key Points

• 処理量と並行性: 月間1M分以上の会話を支えるため、ストリーミングAPI、オートスケール、コネクションプールやバックプレッシャーを設計する。
• 音声＋チャット統合: 音声→STT→モデル→TTSの低遅延パイプラインを構築し、部分再送・再試行・部分結果処理を実装する。
• リード回復の実装: 12%回復はパーソナライズされたフォロー、イベントフック、CRM連携によるトリガーで達成。A/Bテストと計測を必須にする。
• エージェントワークフロー: タスクオーケストレーション、状態管理、ロール／権限、手動エスカレーションポイントを設計してチーム横断で再利用可能にする。
• 可観測性とSLO: 会話レイテンシ、エラー率、復帰率、コスト指標を収集してアラートとダッシュボードを整備する。
• セキュリティとコンプライアンス: PIIマスキング、データ最小化、保存ポリシー、ユーザ同意の管理を組み込む。
• モデルとコスト最適化: レイテンシと精度に応じたモデル選定、プロンプト最適化、バッチ処理で運用コストを抑える。
• フォールバック戦略: 人手へのシームレスなエスカレーションと会話履歴保持で品質を担保する。