AI 時代の食品流通を再構築
Choco は食品・飲料流通を近代化する AI 駆動型プラットフォームで、米国、英国、ヨーロッパ、GCC 全域で 21,000 以上のディストリビューターと 100,000 以上のバイヤーにサービスを提供しています。レストラン、サプライヤー、ディストリビューターを統一されたシステムに接続することで、食品サプライチェーン全体の注文、営業、顧客管理を合理化します。
注文量が増加するにつれて、Choco は大きなボトルネックに直面しました。注文はメール、テキスト、ボイスメール、画像、手書きメモなど、さまざまな形式で到着していました。チームはこれらの入力を手動で構造化された ERP 注文に変換していました。これは遅く、エラーが発生しやすいプロセスで、スケーリングを制限し、継続的な運用上の摩擦を生み出していました。
「これらの入力を処理することは最初の障壁でしたが、最も難しい問題ではありませんでした。本当の問題は暗黙的なコンテキストです。顧客固有の SKU マッピング、単位の設定、配送パターン。その知識は注文デスク担当者の頭の中にあり、注文キャプチャの時点で曖昧性を解決する推論レイヤーにそれをエンコードする必要がありました。」—Narbeh Mirzaei、VP Engineering
本番対応の LLM の出現により、Choco はワークフロー ソフトウェアを超えて、直接作業を実行できる AI システムを構築する機会を見出しました。OpenAI API がその変革の中心となりました。
展開の内部
Choco は OpenAI API をプラットフォームのコアに組み込み、新世代の AI ネイティブ製品を強化しました。同社は OrderAgent を導入しました。これはメール、SMS、画像、ドキュメントを含むマルチモーダル入力を処理し、構造化された ERP 対応の注文に変換します。
「文字起こしと抽出機能は強固な基盤を提供しました。本当のエンジニアリング上の課題は、動的なインコンテキスト学習インフラストラクチャを構築することでした。これにより、システムは各顧客の注文履歴とカタログに対して曖昧性を解決します。これが自動化とインテリジェンスを区別するものです。」—Narbeh Mirzaei、VP Engineering
Choco は OpenAI の Realtime API を搭載した VoiceAgent も構築しており、顧客は営業時間外でも 1 秒未満のレイテンシーで電話で自然に注文を出すことができます。
OpenAI は、モデルのパフォーマンス、マルチモーダル機能、構造化出力、および大規模な本番環境での信頼性のために選択されました。テキスト、ビジョン、オーディオを単一のエコシステム内で処理できる機能により、Choco は以前は接続されていなかったワークフローを 1 つのインテリジェント システムに統合できました。
実装は迅速でスケーラブルでした。OpenAI の SDK と API を使用して、Choco は音声テキスト変換、埋め込み、関数呼び出しなどの機能をインフラストラクチャに迅速に統合しました。チームはまた、本番環境での精度とパフォーマンスを確保するために、グラウンドトゥルース データセット、継続的な監視、A/B テストを備えた厳密な評価フレームワークを構築しました。
採用は、注文ワークフロー全体にわたるシームレスな統合によって促進されました。顧客は電話、テキスト、メールのいずれで注文しても、システムは顧客に適応しました。
一目でわかる結果
- 年間 880 万件以上の注文を処理し、数百万の手動ワークフローを排除
- 手動注文入力を最大 50% 削減し、チームをより高い価値の仕事に解放
- 2 倍の生産性向上を実現し、追加の人員なしでチームをスケーリング可能に
- 設定可能な自動化閾値で 1～5% 以下のエラー率を維持
- 24/7 の注文受け入れをサポートし、夜間と週末の遅延を排除
リーダーシップの教訓
初日から評価を開始する: わずかなグラウンドトゥルース データセット (10～20 の例) でも、チームが進捗を測定し、改善を検証し、自信を持って反復することができます。
AI ネイティブの可観測性に投資する: AI システムのデバッグには従来のログ以上のものが必要です。モデルの入力、出力、推論トレースをキャプチャすることは、パフォーマンスを理解し改善するために不可欠です。
早期に適切な期待を設定する: 決定論的なソフトウェアとは異なり、LLM は確率的です。チームとユーザーにこの違いを教育することは、信頼を構築し、採用中の摩擦を回避するための鍵です。
次のステップ
Choco は食品流通エコシステム全体で AI 機能を拡張し続け、複雑な運用ワークフローを実行する際のエージェントの役割を深めています。AI システムがより多くの責任を担うにつれて、同社は新しいクラスのユーザー (エンジニアではない「エージェント オーケストレーター」) を有効にしており、ビジネス成果を推進するインテリジェント システムを設計・管理しています。
今後、Choco は OpenAI API の使用をさらに拡大して、営業、コマース、サプライチェーン運用全体でより自律的でコンテキスト認識型のシステムを強化する予定です。これはワークフロー ソフトウェアから AI 駆動型実行インフラストラクチャへのシフトを継続しています。
結果
| メトリック | 数値 |
|---|
| 年間処理注文数 | 8.8M+ |
| 本番環境で処理された AI トークン | 200B+ |
| 手動注文入力の削減 | ↑50% |
| 営業チームの生産性向上 | 2x |