Workers AI - Moondream 3.1 now available on Workers AI

Summary

Moondream 3.1（@cf/moondream/moondream3.1-9B-A2B）がWorkers AIで利用可能になりました。Mixture-of-Experts構成で総パラメータ9B、アクティブ2B、32Kトークンのコンテキストを持ち、視覚言語タスクでフロンティアレベルの推論を高速かつコスト効率よく実行します。ストリーミングで初期トークンは約20–30 msで返り、エッジに近いサーバレス推論との相性が良いです。

Key Points

• モデル: Moondream 3.1 (@cf/moondream/moondream3.1-9B-A2B) — MoE、総9B / アクティブ2B
• コンテキスト長: 32Kトークン（複雑な問い合わせ・構造化出力対応）
• 主要機能:
  • Query: 画像に関する開放質問（optional reasoningパラメータ）
  • Caption: 短・標準・長のキャプション生成
  • Point: 対象語句に一致する座標を返す
  • Detect: 対象語句に一致するバウンディングボックスを返す
• レイテンシ（クライアント観測 p50、単一被写体画像の目安）:
  • Query: 約770 ms
  • Caption: 約480 ms
  • Point: 約145 ms
  • Detect: 約160 ms
• ストリーミング: 初期トークンは約20–30 msで返却（ネットワーク状況とクエリ内容に依存）
• 推奨ユースケース: 即時画像モデレーション、ライブフレームの物体検出によるオーバーレイ、フォーム送信時のフィールド抽出、エージェントの単一ターン判断

How to call

• Workers AIバインディング: env.AI.run()
• REST API: POST /ai/run
• AI Gateway経由も利用可能
• 詳細・料金: モデルページとpricingを参照