2026年2月28日
2026年3月2日の更新
議論を通じて、国防省は我々のツールが国内監視に使用されないことを保証するという我々のコミットメントを共有することを明確にしました。我々の原則を可能な限り明確にするため、合意に追加の文言を加えることで協力しました。この文言は、我々のツールが商業的に取得された個人情報や識別可能情報の調達や使用を通じたものを含め、米国人の国内監視の実施に使用されないことを明示しています。
国防省はまた、我々のサービスがNSAのような国防省の諜報機関によって使用されないことを確認しました。これらの機関へのサービス提供には新たな合意が必要となります。
新しい文言は以下の通りです：
合衆国憲法修正第4条、1947年国家安全保障法、1978年FISA法を含む適用法に従い、AIシステムは米国人および米国民の国内監視に意図的に使用されてはならない。疑義を避けるため、国防省は、この制限が商業的に取得された個人情報や識別可能情報の調達や使用を通じたものを含め、米国人や米国民の意図的な追跡、監視、またはモニタリングを禁止することを理解している。
国防省は、フロンティアAI研究所、クラウドプロバイダー、および国防省の政策・運用コミュニティのリーダーで構成される作業グループを招集する予定です。OpenAIは参加し、これが新興AI能力、プライバシー、国家安全保障の課題に関する継続的な対話の重要なフォーラムになることを期待しています。
これらの更新は先週発表したフレームワークに基づいており、他の研究所が今後国防省と協力するための道筋を作るのに役立つことを願っています。
昨日、我々は機密環境での高度なAIシステムの展開についてペンタゴンと合意に達しました。これをすべてのAI企業が利用できるようにすることも要請しました。我々の合意は、Anthropicのものを含む機密AI展開に関する以前のどの合意よりも多くのガードレールを持っていると考えています。その理由は以下の通りです。
国防省との作業を導く3つの主要なレッドライン
我々には国防省との作業を導く3つの主要なレッドラインがあり、これらは他のいくつかのフロンティア研究所でも一般的に共有されています：
- OpenAI技術の大規模国内監視への使用禁止
- OpenAI技術の自律兵器システムの指揮への使用禁止
- OpenAI技術の高リスク自動決定（例：「社会信用」システムなど）への使用禁止
他のAI研究所は安全ガードレールを削減または除去し、国家安全保障展開における主要な保護手段として主に使用ポリシーに依存しています。我々のアプローチは受け入れがたい使用に対してより良い保護を提供すると考えています。
我々の合意では、より包括的で多層的なアプローチを通じてレッドラインを保護しています。我々は安全スタックに対する完全な裁量権を保持し、クラウド経由で展開し、認可されたOpenAI職員がループに入り、強力な契約上の保護を持っています。これらはすべて、米国法の既存の強力な保護に加えてのものです。
我々は民主主義を強く信じています。この技術の重要性を考慮すると、唯一の良い前進の道はAIの取り組みと民主的プロセスの間の深い協力を必要とすると信じています。また、我々の技術は世界に新しいリスクをもたらすと信じており、米国を守る人々に最高のツールを持ってもらいたいと考えています。
我々の合意に含まれる内容
1. 展開アーキテクチャ
これはクラウドのみの展開で、これらの原則やその他を含む我々が運用する安全スタックを持っています。我々は国防省に「ガードレールなし」や非安全訓練モデルを提供しておらず、エッジデバイス（自律致死兵器への使用の可能性がある場所）にモデルを展開していません。我々の展開アーキテクチャにより、分類器の実行と更新を含め、これらのレッドラインが越えられていないことを独立して検証できます。
2. 我々の契約
関連する文言は以下の通りです：
国防省は、適用法、運用要件、および確立された安全・監督プロトコルに従い、すべての合法的目的でAIシステムを使用することができる。AIシステムは、法律、規制、または国防省の政策が人間の制御を要求する場合において、自律兵器を独立して指揮するために使用されることはなく、同じ権限の下で人間の意思決定者による承認を必要とする他の高リスク決定を引き受けるために使用されることもない。
DoD指令3000.09（2023年1月25日付）に従い、自律および半自律システムにおけるAIの使用は、展開前に現実的な環境で意図された通りに機能することを保証するため、厳格な検証、妥当性確認、およびテストを受けなければならない。
諜報活動については、個人情報の取り扱いは修正第4条、1947年国家安全保障法および1978年外国諜報監視法、大統領令12333、および定義された外国諜報目的を要求する適用DoD指令に準拠する。AIシステムは、これらの権限と一致して、米国人の個人情報の無制限な監視に使用されてはならない。システムはまた、ポッセ・コミタトゥス法およびその他の適用法によって許可される場合を除き、国内法執行活動に使用されてはならない。
3. AI専門家の関与
我々は政府を支援する認可された前方展開OpenAIエンジニアを配置し、認可された安全性とアライメント研究者をループに入れます。
FAQ
なぜこれを行うのですか？
第一に、米軍は特にAI技術をシステムに統合している潜在的な敵対者からの脅威の増大に直面して、任務を支援するために強力なAIモデルを絶対に必要としていると考えています。我々は当初、保護手段とシステムが準備できていないと感じたため、機密展開の契約に飛び込むことはせず、レッドラインが越えられないことを保証する保護手段を持って機密展開が実現できるよう懸命に取り組んできました。我々は国家安全保障業務のパフォーマンスを向上させるために主要な技術的保護手段を除去することを望まず、現在も望んでいません。それは米軍を支援する正しいアプローチではありません。
第二に、国防省と米国のAI研究所の間の状況を緩和したいとも考えていました。良い未来には政府とAI研究所の間の真の深い協力が必要です。この取引の一環として、同じ条件をすべてのAI研究所が利用できるようにし、特に政府がAnthropicとの問題を解決するよう努めることを求めました。現在の状況は政府とAI研究所の間の協力の次の段階を開始する非常に悪い方法です。
なぜAnthropicができなかった取引ができたのですか？彼らが署名しなかった取引に署名したのですか？
我々が知る限り、我々の契約はAnthropicの元の契約を含む以前の合意よりも良い保証とより責任ある保護手段を提供していると信じています。展開がクラウドのみ（エッジではない）に制限され、我々の安全スタックが我々が最良と考える方法で機能し続け、認可されたOpenAI職員をループに入れ続けるため、我々のレッドラインはここでより強制力があると考えています。
Anthropicがなぜこの取引に達することができなかったかは分からず、彼らやより多くの研究所がそれを検討することを願っています。
Anthropicを「サプライチェーンリスク」として指定すべきだと思いますか？
いいえ、我々はこの点について政府に我々の立場を明確にしています。
この取引により国防省はOpenAIモデルを使用して自律兵器を動かすことができるようになりますか？
いいえ。我々の安全スタック、クラウドのみの展開、契約文言、および既存の法律、規制、政策に基づいて、これは起こり得ないと確信しています。追加の保証のためにOpenAI職員もループに入れます。
この取引により国防省はOpenAIモデルを使用して米国人に対する大規模監視を実施できるようになりますか？
いいえ。我々の安全スタック、契約文言、および国防省の国内監視を大幅に制限する既存の法律に基づいて、これは起こり得ないと確信しています。追加の保証のためにOpenAI職員もループに入れます。
安全スタックなしでモデルを展開する必要がありますか？
いいえ、我々は展開する安全スタックに対する完全な制御を保持し、安全ガードレールなしでは展開しません。さらに、我々の安全性とアライメント研究者がループに入り、時間をかけてシステムの改善を支援します。他のAI研究所がモデルガードレールを削減し、主要な保護手段として使用ポリシーに依存していることは知っていますが、我々の多層アプローチは受け入れがたい使用に対してより良い保護を提供すると考えています。
政府が契約条件に違反した場合はどうなりますか？
どの契約でもそうですが、相手方が条件に違反した場合、我々はそれを終了することができます。そのようなことが起こるとは予想していません。
政府が法律や既存の国防省政策を変更した場合はどうなりますか？
我々の契約は現在存在する監視と自律兵器の法律と政策を明示的に参照しているため、将来これらの法律や政策が変更されても、我々のシステムの使用は合意に反映された現在の基準に沿ったものでなければなりません。
国防省との議論に関するAnthropicのブログ投稿での議論にどう対処しますか？
彼らの投稿で、Anthropicは2つのレッドライン（我々も同じ2つのレッドラインに加えて3つ目：自動化された高リスク意思決定を持っています）を述べ、当時国防省から見た契約ではこれらのレッドラインが維持されないと信じる理由を述べています。以下は、我々の契約で同じレッドラインが維持されると信じる理由です：
大規模国内監視：我々のやり取りで、国防省は大規模国内監視を違法と考えており、この目的での使用を計画していないことが明確でした。我々は、それが合法的使用の下でカバーされていないという事実を我々の契約で明示的にしました。
完全自律兵器：我々の契約でカバーされるクラウド展開サーフェスは、エッジ展開を必要とするため、完全自律兵器の動力供給を許可しません。これらの保護に加えて、我々の契約は安全スタックとループ内のOpenAI技術専門家を含む追加の多層保護手段を提供します。