DocsDigest
Back to listLanguage: JA
OpenAIOpenAI NewsJun 24, 2026, 6:00 AM

OpenAI and Broadcom unveil LLM-optimized inference chip

A condensed section focused on the key takeaways first.

Original Post
OpenAIClaude

Quick Digest

Summary

A condensed section focused on the key takeaways first.

openaienmodel: gpt-5-mini-2025-08-07

OpenAI and Broadcom unveil LLM-optimized inference chip

llminferenceacceleratorasicpower-efficiencybroadcomopenaidatacenter

Key Points

  • Jalapeño: LLM inference accelerator
  • Nine-month design-to-tape-out
  • Early tests show higher performance-per-watt

Summary

OpenAI and Broadcom announced Jalapeño, a purpose-built inference accelerator designed from the ground up for LLM inference. Engineering samples are running production-target workloads (including GPT-5.3-Codex-Spark) at target frequency and power; early lab tests report substantially better performance-per-watt than current state-of-the-art. The chip and surrounding platform were co-developed in nine months using OpenAI models to accelerate design and optimization, and will be deployed in a multi-generation rack and networking platform (Broadcom silicon, Tomahawk networking, Celestica integration) targeted for gigawatt-scale datacenters beginning in 2026. A detailed technical performance report is forthcoming.

Key Points

  • Purpose-built for inference: blank-slate architecture optimized for LLM kernels, memory movement, networking, and low-latency serving (not a repurposed general-purpose accelerator).
  • Early lab results: engineering samples run at production target frequency/power; early testing indicates significantly better performance-per-watt versus current accelerators (detailed benchmarks to follow).
  • System co-design: architecture reduces data movement and balances compute, memory, and networking to increase realized utilization closer to theoretical peak.
  • Rapid ASIC cycle: design-to-tape-out completed in nine months, enabled by software–hardware co-development and use of OpenAI models to accelerate optimizations.
  • Production path: Broadcom provides silicon and Tomahawk networking; Celestica handles board/rack/system integration; platform is planned for multi-generation deployment at gigawatt scale with partners.
  • Practical implications for engineers:
    • Expect to adapt inference stacks (kernels, memory tiling, scheduling, network-aware partitioning) to exploit the architecture.
    • Plan to benchmark real workloads once the technical report and sample/board-level data are published.
    • Anticipate vendor integration at rack/network level (Tomahawk networking, Broadcom boards, Celestica systems) rather than a standalone GPU drop-in.

Next actions

  • Track the forthcoming technical report for power, latency, and throughput benchmarks.
  • Start inventorying inference-kernel dependencies and network-aware sharding strategies to prepare for porting/optimization.
  • Engage vendor channels for early-access samples, board specs, and integration guidance when available.

Full Translation

Translations

A translation section that keeps the flow of the original article.

openaijamodel: gpt-5-mini-2025-08-07

OpenAIとBroadcomがLLMに最適化された推論チップを発表

2026年6月24日 — OpenAIとBroadcomは、LLM推論の将来像に基づいて設計された加速器「Jalapeño」を発表しました。JalapeñoはOpenAIとBroadcomが共同で構築するマルチ世代のコンピュートプラットフォームにおける最初のAIアクセラレータであり、高速で信頼性が高く、より多くの人に先進的なAIを提供することを目指しています。

目次

  • LLM向けの最良の推論プラットフォームとして設計
  • テープアウト（9か月）、OpenAIのモデルにより加速
  • パートナーと共に複数世代にわたるプラットフォームを構築
  • 高度なAIをより広く利用可能にする

LLM向けの最良の推論プラットフォームとして設計

Jalapeñoは従来の汎用アクセラレータを流用したものではなく、現代のLLM推論のために白紙から設計されたアクセラレータです。ChatGPT、Codex、API、将来のエージェント製品など、OpenAIが日々運用するシステム群から得た知見に基づいて設計されており、業界全体の現在および将来のLLMにも対応する柔軟性を備えています。

目的は、今日の主要なAIアクセラレータが持つ演算能力とスループットを、専用推論システムに近いレイテンシで組み合わせることで、スケールする対話型LLM製品に適したプラットフォームを作ることです。これがフルスタックの利点です。OpenAIは最先端モデルの開発やそれを使った製品構築だけでなく、チップアーキテクチャ、カーネル、メモリシステム、ネットワーキング、スケジューリング、デプロイメントシステム、製品体験といった基盤インフラを自ら設計しています。スタック全体を運用することで、各層を同じ目標（モデルをより高速に、信頼性を高め、より安価にする）に最適化できます。

JalapeñoはOpenAIの進化を支えるフライホイールを強化します。より良いインフラはコンピュート効率を高め、効率向上はトレーニングとサービングを改善し、より高性能なモデルを実現します。より良いモデルはより良い製品となり、利用増・顧客増・収益増を通じて次世代インフラへの再投資を可能にします。このサイクルにより、時間とともに知能はより高性能で信頼性が高く、コストが下がっていきます。

テープアウト（9か月）、OpenAIのモデルにより加速

Jalapeñoは設計開始から製造のテープアウトまでわずか9か月で共開発されました。このカスタムAIアクセラレータプログラムは、高性能先端半導体において達成された最速のASIC開発サイクルの一つであるとOpenAIは述べています。高速性はOpenAIのエンジニアリングチームとの密接なソフトウェア・ハードウェア共同開発、Broadcomのシリコン実装の専門知識、そして設計・最適化プロセスを加速するためにOpenAIのモデルを活用したことを反映しています。

公開されているエンジニアリングサンプルは、製造目標の周波数と消費電力でラボ内のMLワークロード（GPT‑5.3‑Codex‑Sparkを含む）を実行しています。OpenAIは最終性能をまだ測定中ですが、初期テストではJalapeñoが現行の最先端よりもワットあたりの性能で大幅に優れることが示唆されています。詳細な技術レポートは数か月以内に提示される予定です。

アーキテクチャはデータ移動を削減し、演算、メモリ、ネットワーキング資源のバランスを取ることで、理論上のピーク性能により近い実効利用率を達成します。Broadcomのシリコン実装とTomahawkネットワーキングシリコンを含むネットワーキング技術が、プラットフォームの大規模生産化を支えます。

パートナーと共に複数世代にわたるプラットフォームを構築

Jalapeñoは複数世代にわたるコンピュートプラットフォームの第一歩であり、2026年末までの初期展開、その後数年にわたる拡張を見越して設計されています。プラットフォームはOpenAI設計のアクセラレータとBroadcomのシリコン実装、ネットワーキング／接続技術、そしてCelesticaのボード・ラック・システム統合の専門性を組み合わせます。展開はMicrosoftやその他のパートナーとともにギガワット規模で進められる予定です（2026年開始）。

主要な技術的特徴

  • ハードウェア近傍での高効率なワークロード実行に最適化されたアーキテクチャ
  • データ移動を抑え、演算・メモリ・ネットワークのバランスを重視
  • Broadcomのシリコン実装とTomahawkネットワーキングシリコンによる大規模実装対応
  • Celesticaによるボード・ラック・システム統合とスケール可能な生産体制

高度なAIをより広く利用可能にする

この取り組みの目的は明確です：推論はAIが人々に届く場です。コスト、速度、信頼性のすべての改善は、より速いChatGPTの応答、より多くのステップをこなせるCodexタスク、構築コストが低いAPI製品、高負荷時のより安定したアクセスといった形で現れます。AIの民主化とは、先進的なモデルをより多くの人が日常的に使えるように、信頼性高く、十分に安価にすることです。

JalapeñoはOpenAIがインフラのより多くの部分を有用なインテリジェンスへと変換することを支援し、学生、開発者、小規模事業者、研究者、企業、そして学び・創作・難問解決に取り組む誰もが恩恵を受けられるようにします。

「世界はコンピュート主導の経済へ移行している」とOpenAI共同創業者で社長のGreg Brockmanは述べています。「Jalapeñoは我々の長期的なフルスタックインフラ戦略の一部であり、コンピュートをより豊富にすることで、より高速で信頼性が高く、より手ごろなAIを提供し、より重要な問題の解決に使えるようにすることを目指しています。スタックのより多くを自分たちで設計することで、より効率的にインテリジェンスを提供し、先進的なAIの普及を進められます。」

「JalapeñoはOpenAIの研究者との緊密な協力から得た詳細な知見を用いて、LLM推論のためにゼロから設計されました」とOpenAIのハードウェアプログラム責任者のRichard Hoは述べています。「我々はカーネル、メモリ移動、ネットワーキング、サービングパターンに基づいてアーキテクチャを最適化しました。初期テストに基づけば、Jalapeñoは最も重要なワークロードをハードウェアの理論的限界に近い効率で実行します。」

「我々とOpenAIの協業は、今後10年のAIに必要となる物理インフラをスケールするための根本的なコミットメントを示すものです」とBroadcom社長兼CEOのHock Tanは述べています。「これはマルチ世代ロードマップの始まりに過ぎません。業界をリードするシリコンをOpenAIと直接共開発することで、Microsoftや他のパートナーと共に2026年からギガワット規模のデータセンター展開を可能にします。」

2026年 著者: OpenAI

関連記事

  • Daybreak: Tools for securing every organization in the world — Security（2026-06-22）
  • Samsung Electronics brings ChatGPT and Codex to employees — Company（2026-06-21）
  • OpenAI to acquire Ona — Company（2026-06-11）