DocsDigest
Back to listLanguage: JA
ClaudeOpenAI NewsApr 8, 2026, 5:00 AM

Introducing the Child Safety Blueprint

A condensed section focused on the key takeaways first.

Original Post
OpenAIClaude

Quick Digest

Summary

A condensed section focused on the key takeaways first.

claudeenmodel: claude-sonnet-4-20250514

OpenAI Releases Child Safety Blueprint for AI Systems

child-safetyai-ethicscsam-preventionsafety-by-designcontent-moderationlaw-enforcementpolicy-framework

Key Points

  • Three-pillar framework targeting AI-generated CSAM prevention
  • Multi-stakeholder collaboration with NCMEC and Attorney General Alliance
  • Safety-by-design approach with layered AI system defenses

Summary

OpenAI has introduced a comprehensive Child Safety Blueprint aimed at combating AI-enabled child sexual exploitation. The framework was developed in collaboration with key organizations including NCMEC, the Attorney General Alliance, and Thorn to establish stronger industry standards for child protection in the AI era.

Key Points

  • Three-pillar approach: Modernizing laws for AI-generated CSAM, improving provider reporting coordination, and implementing safety-by-design measures in AI systems
  • Multi-stakeholder collaboration: Framework incorporates feedback from child safety experts, law enforcement, and attorneys general to ensure practical implementation
  • Layered defense strategy: Combines detection systems, refusal mechanisms, human oversight, and continuous adaptation to evolving misuse patterns
  • Prevention-focused: Emphasizes interrupting exploitation attempts early and improving signal quality to law enforcement
  • Industry accountability: Establishes voluntary framework with specific commitments for measurable child safety improvements

Full Translation

Translations

A translation section that keeps the flow of the original article.

claudejamodel: claude-sonnet-4-20250514

Child Safety Blueprintの紹介

Child Safety Blueprintの紹介

AIを活用した児童の性的搾取に対抗し、防止するためのフレームワーク

文書を読む（新しいウィンドウで開きます）

児童の性的搾取は、デジタル時代における最も緊急性の高い課題の一つです。AIは、これらの害が業界全体でどのように発生するか、そしてそれらを大規模にどのように対処できるかの両方を急速に変化させています。

OpenAIでは、システムの悪用を防ぐためのセーフガードを構築し、継続的に強化しており、National Center for Missing and Exploited Children（NCMEC）や法執行機関などのパートナーと密接に連携して、検出と報告の改善に取り組んでいます。この取り組みにより、業界全体でより強力で共有された基準が必要な領域が明らかになりました。

本日、AI時代における米国の児童保護フレームワークを強化するための実践的な道筋を示すポリシーブループリントを紹介します。このブループリントは、NCMEC、Attorney General Allianceとそのタスクフォース共同議長であるノースカロライナ州司法長官Jeff Jacksonとユタ州司法長官Derek Brown、そしてThornを含む、児童安全エコシステム全体の複数の主要組織と専門家からのフィードバックを反映し、組み込んでいます。これにより、彼らの優先事項を反映し、児童への害を防ぐためのより効果的な協力を促進できるようになっています。

ブループリントは3つの主要な優先事項に焦点を当てています：

  • AIで生成・改変されたCSAMに対処するための法律の現代化
  • より効果的な捜査を支援するためのプロバイダーの報告と連携の改善
  • 悪用を防止・検出するためのAIシステムへの安全性バイデザイン対策の直接的な組み込み

単一の介入だけでは、この課題に対処することはできません。このフレームワークは、法的、運用的、技術的アプローチを統合して、リスクをより適切に特定し、対応を加速し、説明責任を支援する一方で、技術が進歩しても執行権限が強力であり続けることを保証します。

これらのステップを組み合わせることで、業界は児童安全により早く、より効果的に対処できるようになります。搾取の試みをより早期に阻止し、法執行機関に送信される信号の質を向上させ、エコシステム全体の説明責任を強化することで、このフレームワークは害が発生する前に防止し、リスクが発生した際に児童をより迅速に保護することを目指しています。

「Attorney General AllianceのAIタスクフォースの共同議長として、私たちは、技術セクターの児童安全慣行を私たちの事務所が日々直面している執行の現実と整合させるための意義深いステップとして、このブループリントを歓迎します。私たちは特に、効果的なGenAIセーフガードには多層防御が必要であるというフレームワークの認識に勇気づけられています。単一の技術的制御ではなく、検出、拒否メカニズム、人間による監視、そして新たな悪用パターンへの継続的な適応の組み合わせです。これは私たちが実際に見ていることを反映しています：脅威は絶えず進化し、静的な解決策では不十分です。上流での防止アーキテクチャを正しく構築することは、業界が児童安全に対して行える最も高いレバレッジの投資です。最終的に、あらゆる自主的フレームワークの強さは、そのコミットメントの具体性と、業界がそれらに対して説明責任を負う意欲にかかっています。これらの推奨事項が児童のための持続可能な保護に変換されることを確実にするため、OpenAI、NCMEC、そして同僚の司法長官との継続的なパートナーシップを楽しみにしています。」

— ノースカロライナ州司法長官Jeff Jacksonとユタ州司法長官Derek Brown、Attorney General AllianceのAIタスクフォース共同議長

「Attorney General Allianceは、司法長官、業界リーダー、非営利団体、グローバルパートナーを結集して、AIとデジタル安全に関する実践的で先進的なソリューションを推進することで、オンラインでの若者保護の道を切り開いています。協力とイノベーションを通じて、AGAは新興技術を責任を持って受け入れながら若者を保護する方法について強力な基準を設定しています。私たちは、OpenAIの安全性への継続的なコミットメントと、AGAおよび司法長官との関与により、児童安全のための非常に価値のあるブループリントを開発していることを称賛します。」

— Karen White、Attorney General Alliance事務局長

「生成AIは、オンライン児童性的搾取の犯罪を深刻に憂慮すべき方法で加速させています - 障壁を下げ、規模を拡大し、新しい形の害を可能にしています。しかし同時に、National Center for Missing & Exploited Children（NCMEC）は、OpenAIのような企業が、最初からセーフガードを組み込んで、これらのツールをより責任を持って設計する方法について考察していることを心強く思っています。単一の組織、企業、またはセクターだけでは、これに対処することはできません。私たちは、害を減らし、児童の安全をより良く支援するソリューションを推進するため、業界、政府、児童保護コミュニティ全体のパートナーと協力し続けることにコミットしています。」

— Michelle DeLaune、National Center for Missing & Exploited Children会長兼CEO

2026 User Safety & Control
著者：OpenAI

続きを読む

すべて表示