私たちの原則

著: Sam Altman

AI は社会の多くの側面を大きく改善する可能性を持っています。この技術は過去の技術と同様に、人々により多くの能力と行動の自由を与えます。AI によって人々ができることは、蒸気機関や電気によって可能になったことをはるかに上回るでしょう。私たちは、現在の想像をはるかに超えるレベルで広範に繁栄が広がり、個々人の可能性・主体性・充足感が大きく増す世界を描いています。多くのSFでしか夢見られなかったことが現実になり、今日よりも多くの人がより意味のある人生を送れるようになるかもしれません。

しかし、この結果は自動的に保証されるものではありません。将来の力は、超知能を利用・支配するごく少数の企業の手に渡る可能性もあれば、人々に分散して保持される可能性もあります。私たちは後者の方がはるかに望ましく、本当に汎用的なAIをできるだけ多くの人々の手に渡すことを目標としています。現在と同様に未来も全てが良いわけでも悪いわけでもありませんが、今のうちに下す決定は良い結果を最大化するのに役立ちます。

私たちの使命は、AGI が全人類に利益をもたらすようにすることです。以下が私たちの仕事を導く原則です。

1. 民主化

この技術が少数の手に権力を集中させる可能性に抵抗します。つまり、すべての人にAIへのアクセスを提供するだけでなく、AIに関する重要な決定が単にAI研究所によって行われるのではなく、民主的なプロセスと平等主義の原則に基づいて行われるようにする必要があります。

2. エンパワーメント

AI は誰もが目標を達成し、より多くを学び、より幸せで充実した人生を追求できるようにする力を与えると信じています。社会全体もこれによって利益を得るでしょう。その実現には、人々が目の前にある巨大な可能性を探求できるようにし、それを可能にする製品を構築する必要があります。ユーザーは私たちのサービスでますます価値の高いタスクを確実に達成できるべきです。

世界は多様であり、人々のニーズは異なります。私たちはユーザーに必要な自律性を与え、合理的な範囲で可能な限り自由を認めたいと考えています。サービスの利用に広い自由度を与えたいと強く信じる一方で、被害を最小化する形で構築・展開する責任もあります。これには壊滅的な被害の防止はもちろん、局所的な害の最小化や社会に対する浸食的な影響の回避も含まれます。これは不確実性が存在する状況では慎重な側に寄ることを意味し、証拠が増えれば制約を緩める、という姿勢を取ります。

3. 普遍的繁栄

私たちは誰もが充実した生活を送れる未来を望んでいます。多くの計算力を備えた使いやすいAIシステムを全ての人の手に渡すことで、人々は新しい価値創造の方法を見つけ、特に新たな科学的発見を通じて生活の質を大幅に向上させると信じています。

繁栄が完全に実現し広く共有されるためには、次のことが必要だと考えています。

1. 価値創造に誰もが参加できるよう、政府が新しい経済モデルを検討する必要があるかもしれないこと。
1. AI インフラを大量に構築し、AI インフラコストを大幅に引き下げる新技術を開発する必要があること。

私たちが行っている一見奇妙に見える多くの行動——収益が比較的小さい段階で大量の計算資源を購入すること、コストを下げ技術を使いやすくするための垂直統合、世界中にデータセンターを建設しようとする取り組みなど——は、普遍的繁栄という基本的信念に基づくものです。

4. レジリエンス（回復力）

AI は新たなリスクをもたらし、これらを解決するために他社、エコシステム、政府、社会と協力して取り組みます。私たちはこの取り組みを支援するために Foundation の資源を大規模に活用します。どの AI 研究所も単独で良い未来を確保することはできません。

例えば、高い能力を持つモデルが新たな病原体の作成を容易にすることがあり得ます。これに対しては病原体非依存の（pathogen-agnostic）対策で社会全体として防御する必要があります。
別の例として、モデルのサイバーセキュリティ能力が向上するにつれて、オープンソースソフトウェアや重要インフラの保護にこれらのモデルを迅速に活用すると同時に、誰もがより安全なソフトウェアを作れるようにモデルを訓練する必要があります。

これは私たちが長年採用してきた「iterative deployment（反復的な段階的展開）」戦略の拡張です。社会はAIの各能力レベルに向き合い、それを理解し、統合し、共に最良の道を見出す必要があります。これは真空状態では行えません。社会と技術は共進化し、そのためには時間が必要です。

これは唯一の安全戦略を意味するものではありません。安全なシステムを作り、技術的アラインメント（整合性）に関する優れた作業を続ける必要があります。また、重大な整合性・安全性・社会的問題が十分に解決されるまで、政府や国際機関、他のAGI取り組みと協力する必要がある期間があると想定しています。

5. 適応性

極めて予測不可能な未来の課題に対応する唯一の方法は、学ぶにつれて立場を更新する準備ができていることだと考え続けています。また、OpenAI は数年前よりもはるかに大きな力を持つ存在になっていることを認め、運営方針がいつ、どのように、なぜ変わるのかを透明にします。

具体例として、普遍的繁栄の重要性は今後も維持されると強く確信していますが、将来のある時期にはエンパワーメントの一部をレジリエンスにトレードオフしなければならない状況も想像できます。AI の発展は多くの驚きをもたらしており、これからも驚きは続きます。技術が進むにつれて、その出現的な振る舞いはますます予測困難になります。私たちはその不確実性を受け入れつつ、能力を慎重に進め、システムを段階的に展開し、世界との相互作用から学習していきます。

それほど昔のことではありませんが、GPT‑2 の重みを公開するかどうかに神経質になっていた時期がありました。当時は社会への影響が分からず不安だったのです。振り返ればその懸念は的外れだった面もありますが、それが「iterative deployment（反復的展開）」という戦略の発見につながり、私たちが見つけた最も重要なことの一つとなりました。

技術が改善を続ける中で、私たちは非常に大きな影響力のある段階に向かっています。私たちのすべての決定は批判に値しますし、私たちがしていることの重みを考えれば非常に厳しい監視を受けるに値します。すべてを正しく行えるわけではありませんが、私たちは速やかに学び、軌道修正します。過去よりも未来をより良くするために我々が果たすべき役割を担うことに全力を尽くします。このような重要な仕事に取り組めることを幸運に感じています。

2026年 — 著者: Sam Altman

続きを読む

Introducing ChatGPT Images 2.0 — Product — Apr 21, 2026
Scaling Codex to enterprises worldwide — Company — Apr 21, 2026
The next phase of enterprise AI — Company — Apr 8, 2026

Our principles

要約

Summary