グローバル・リーダーシップによる若者の安全と機会の促進

AIは若者にとって強力な支援ツールになり得ます。難しい概念の理解を助けたり、新しい言語の練習、面接準備、創造的な発想の探求、スキル習得を支援したりできます。20世紀中葉に読み書き運動が印刷物と熟練した教師の広範な配備を必要としたのと同様に、今日では安全なAIへのアクセスを提供することが、パーソナライズされた学習機会を広げ、支援の届きにくい層の障壁を下げ、労働力の準備性を高めます。

その潜在的利益が非常に大きいため、若者が安全で年齢に適した健全な発達を支える形でAIにアクセスできることが不可欠です。その責任を主に保護者や若者自身に負わせるべきではありません。OpenAIを含む企業は、デフォルトで適切なセーフガードを備えた製品を構築しつつ、家庭がAI利用を導くためのツールと情報で力を与える責任があります。

今月後半にフランス・エヴィアンで開催されるG7首脳会合では、若者向けAI安全が重要な議題となります。OpenAIは若者の安全に関するより広い協力、業界基準の引き上げ、そして国際的な青年安全研究所（AI Safety Institute）の設立を求める新たな提案について議論するため参加します。

専用のAI安全研究所の必要性

G7首脳会合は若者の安全についてのグローバルな協調を図る稀な機会です。しかし、専用の研究所は単一の首脳会合を超えた継続性とフォローアップを提供し、政府、研究者、市民社会、産業界が証拠を共有し、指針を作成し、基準を段階的に引き上げ続ける助けになります。

実現方法はいくつか考えられます。新しい国際研究所を立ち上げる方法、あるいは既存または新設の国家的AI研究所にグローバルな使命を与えて世界のパートナーと研究・証拠・指針を共有する方法などです。重要なのはその組織が果たす機能です。若者向けAI安全は継続的な注目、信頼できる証拠、そして技術の進化に追随できる実践的な指針を必要とします。

この研究所は、OpenAI Foundationが支援するCommon Sense Media’s Youth AI Safety Institute などの新興イニシアチブや、American Federation of Teachers との実務的な協力など、教育者との共同取り組みを踏まえて発展させることができます。また、エストニアの学校におけるChatGPTの全国導入のような実運用事例にも基づき、OpenAIはStanfordやエストニアの研究者と共同で影響を調査し、学習でのより安全で効果的な活用に資する知見を得ています。

OpenAIはフランス政府、他のG7政府、市民社会、学術界、産業界のパートナーとこの重要な作業で協力し、若者の安全に関する世界基準を引き上げる機会を歓迎します。

若者向けAI安全に関する重要原則

以下は、強固な若者向けAI安全フレームワーク（G7で合意される可能性のある合意を含む）が基づくべき主要な原則です。

事業者はユーザーが未成年であるかを把握し、年齢に適した保護を適用すべきである。
- これは、プライバシーを保護する効果的な年齢推定などの手段を用い、未成年と成人を区別し、年齢が判別できない場合は保護的なセーフガードをデフォルトで適用することを意味します。基盤がなければ、最も意図の良い保護策でさえ対象の若者に届かない可能性があります。
企業は若者に対するリスクと利益を定期的に評価し、被害が発生する前に対処する措置を講じるべきである。
- プロバイダには年次の若者向け安全リスク評価を実施し、特定されたリスクに基づいて比例的なセーフガードを実装することを求めるべきです。評価は発達段階に応じたリスク、実際の使用から得られる実証的証拠、関連する研究や規制ガイダンスを考慮すべきです。評価は潜在的な害だけでなく、学習、創造性、スキル開発、機会へのアクセスなど、AIが支援する正の成果も検討する必要があります。
保護者・後見人には、年齢に応じた自立を支援しつつ子どもの体験を導くためのアクセスしやすく使いやすいコントロールを提供すべきである。
- これにはメモリ、データ使用、利用時間制限など主要設定を管理するツールを含めるべきです。保護者向けツールは積極的に周知され、存在と使い方が理解されるようにすべきです。
家族は、企業が若年ユーザーをどのように保護しているかについて明確で理解しやすい情報を受け取る権利がある。
- 企業は若者を保護するためにどのようなセーフガードが存在するか、利用可能な保護者向けツール、リスクの変化に合わせてどのように保護を更新しているかを説明した安全ポリシーを公開すべきです。こうした透明性は信頼を築き、保護者が情報に基づいた選択をする助けになります。
企業は、自傷行為、搾取、グルーミング、性的搾取的コンテンツ、その他高リスクな相互作用など、深刻な安全事案に対処する明確なプロトコルを整備すべきである。
- これにはインシデント対応のサポート、適切なリソースへの紹介、適切な場合の保護者への速やかな通知を含めるべきです。企業はまた、グラフィックな性的・暴力的表現など、子どもにとって安全で発達的に不適切なコンテンツを生成しないようシステム設計を行うべきです。
若者が使用するAIシステムは、学習、発達、現実の人間関係を支援するよう設計されるべきであり、それらを置き換えるものであってはならない。
- AIは若者が学び、創造し、スキルを構築し、将来に備えるためのツールであるべきです。同時に、健全な発達が人間の判断や現実の関係、専門的支援に依存する領域については明確な境界を設けるべきです。
未成年者の個人情報は保護されるべきである。
- 若年層に対するプライバシー侵害的なターゲティング広告を禁止し、個人情報の販売を禁じることを意味します。
若者向け安全フレームワークは、機会、リテラシー、保護を同時に促進すべきである。
- 若者は学習、創造性、スキル開発、将来の機会を支援するAIツールにアクセスできると同時に、AIを安全かつ責任を持って使用するための知識と批判的思考力を身に付ける必要があります。これはAIリテラシーの推進や、AIシステムの可能性と限界を若者が理解できるようにする取組みを含みます。
強力な説明責任メカニズム（独立監査を含む）は、これらの保護が実務で意味あるものになるために不可欠である。
- 監査は管轄を超えて相互運用可能な共通基準に裏付けられるべきです。立法フレームワークには、企業が若者向け安全セーフガードを効果的に実施しているか、特定されたリスクを軽減しているか、若年の安全とプライバシー義務に準拠しているかを政府が評価・執行できる監督・執行手段を含めるべきです。

ChatGPTとOpenAIの実務

これらの原則は、モデル挙動やプロダクト設計、専門家の意見、実運用サポートに至るまで、ChatGPTの構築と運用に反映されています。OpenAIは18歳未満のユーザー向けのセーフガードを強化し、保護者向けのコントロールを導入してプロアクティブな通知を行い、年齢推定システムを進化させて、利用者が18歳未満である可能性がある場合により強力な保護を適用できるようにしています。

Model Spec（モデルの挙動指針）には、18歳未満のユーザー向けの専用原則が含まれており、ティーンの安全、年齢に適した体験、現実世界での支援、明確な期待事項を優先しています。実務面では、自傷、危険な行為、グラフィックな表現、身体イメージ、秘密の促進に関するより強固なガードレールを設け、必要に応じて信頼できるオフラインの支援や危機リソースを求めるよう促します。年齢が不確実な場合は、より強力な保護をデフォルトで適用します。

教育分野での導入と協力

強力なセーフガードと明確なガイダンス、家庭や教育者からの支援があれば、若者は学習・創造・機会を広げるツールとしてAIを安全に活用できます。AIは難しい概念の理解、言語練習、文章改善、コーディング学習、研究の整理、創造的アイデアの探求、変化する職務への準備などを支援します。

OpenAIは Education for Countries を通じて、研究に基づく導入、ローカライズされた学習ツール、教師研修に関して政府や教育者と協働し、AI導入が証拠と実際の教室ニーズに根差すよう努めています。この取り組みはすでにエストニア、ギリシャ、シンガポールなどのパートナー国の国家的教育施策を支援しています。

G7サミットでのOpenAIの取り組み

OpenAIは首脳会合への参加に加え、OpenAI Forum をパリに招致し、政府、研究者、市民社会、教育者、産業界が共有する若者安全の目標を具体的なセーフガード、基準、実装手法に落とし込む実務的な対話を行います。フランスのAI・デジタル担当大使 Clara Chappaz、OpenAIの Chief Global Affairs Officer Chris Lehane、iRaise/Everyone.AI の若者安全リーダーらが参加し、若者がAIの恩恵を受けつつリスクを低減する方法について議論します。

OpenAIはフランス政府、他のG7政府、市民社会、学術界、産業界のパートナーと協働してこの重要な課題に取り組み、若者の安全に関する世界基準を引き上げることを歓迎します。

Advancing youth safety and opportunity through global leadership

Summary

Summary

Key Points

Practical implications for engineering teams