DocsDigest
Back to listLanguage: JA
ClaudeOpenAI NewsMar 23, 2026, 12:00 AM

Creating with Sora Safely

A condensed section focused on the key takeaways first.

Original Post
OpenAIClaude

Quick Digest

Summary

A condensed section focused on the key takeaways first.

claudeenmodel: claude-sonnet-4-20250514

Sora 2 Video Generation Platform Launches with Comprehensive Safety Framework

soravideo-generationai-safetycontent-moderationwatermarkingc2paconsent-management

Key Points

  • All Sora videos include C2PA metadata and watermarks for content traceability
  • Consent-based character system gives users control over their digital likeness
  • Multi-layered safety filtering covers prompts, outputs, and audio content

Summary

OpenAI has released Sora 2, a state-of-the-art video generation model and app with built-in safety protections from launch. The platform introduces multiple layers of content moderation, user consent mechanisms, and technical safeguards to ensure responsible AI-generated video creation.

Key Points

  • Content Provenance: All generated videos include visible and invisible watermarks, C2PA metadata signatures, and internal reverse-search capabilities for content traceability
  • Likeness Protection: Image-to-video generation requires user consent attestation, with stricter guardrails for content involving people, especially minors
  • Character System: Consent-based likeness control allowing users to manage how their appearance and voice are used, with ability to revoke access anytime
  • Teen Safety: Enhanced protections including content filtering, limited adult interaction, parental controls, and scroll time restrictions
  • Content Moderation: Multi-layered filtering system checking prompts, outputs, video frames, and audio transcripts against usage policies
  • Audio Safeguards: Automatic transcript scanning and protection against music imitation of living artists or existing works
  • User Controls: Comprehensive reporting system, content removal options, and account blocking capabilities

Full Translation

Translations

A translation section that keeps the flow of the original article.

claudejamodel: claude-sonnet-4-20250514

Soraで安全にコンテンツを作成する

Soraで安全にコンテンツを作成する

2026年3月23日 安全性

Sora 2モデルとSoraアプリは、共同で創作する新しい方法を提供する最先端の動画生成技術であり、私たちは最初から安全性を組み込むことを確実にしています。私たちのアプローチは具体的な保護策に基づいています：

AIコンテンツの識別

Soraで生成されたすべての動画には、可視および不可視の出所信号が含まれています。すべてのSora動画にはC2PAメタデータ（業界標準の署名）も埋め込まれており、ChatGPT画像生成とSora 1の成功したシステムを基に構築された、動画をSoraまで高精度で追跡できる内部逆画像・音声検索ツールを維持しています。多くの出力には、作成者の名前を含む可視的で動的に動くウォーターマークも付いています。

実在人物の肖像を使用した画像から動画への変換

Soraのガードレールを強化し続ける中で、家族や友人の写真から動画を作成できるようにするなど、より多くの創造的表現とつながりを可能にしています。ユーザーは人物が写った画像をアップロードしてSoraで動画を作成できますが、その際は登場人物からの同意とメディアをアップロードする権利があることを証明する必要があります。人物を含む画像から動画への生成は、Soraキャラクター（旧カメオ機能）で許可されているものよりもさらに厳格な安全ガードレールの対象となります。子供や若く見える人物を含む画像は、それらから作成できる内容について、さらに厳格なモデレーションとガードレールの対象となります。これらの動画は共有時に常にウォーターマークが付きます。

キャラクターを使用した同意に基づく肖像使用

私たちはSoraにおけるあなたの肖像の強力なコントロールを提供するために[キャラクター機能](opens in a new window)を作成しました。肖像には外見と声が含まれます。キャラクターに取り込まれたあなたの音声と画像の肖像が、あなたの同意を得て使用されることを確実にするためのガードレールがあります。あなたのキャラクターを誰が使用できるかを決めるのはあなただけであり、いつでもアクセスを取り消すことができます。また、キャラクター機能を使用している場合を除き、公人の描写をブロックする措置も講じています。

他のユーザーが作成した下書きを含む、あなたのキャラクターを含む動画は常にあなたに表示されます。これにより、あなたのキャラクターが登場する動画を簡単に確認し、削除（必要に応じて報告）することができます。また、キャラクターを含むすべての動画に追加の安全ガードレールを適用し、使用タイプを制限するさらに厳格なガードレールセットを有効にすることもできます。これには、外見の大幅な変更の制限、恥ずかしい状況への配置、アイデンティティの広範囲な一貫性の維持が含まれます。

10代ユーザーへの保護措置

Soraには、成人向けコンテンツの出力制限を含む、若いユーザーへのより強力な保護が含まれています。フィードはすべてのSoraユーザーに適切になるよう設計されており、有害、安全でない、または年齢に不適切な可能性のあるコンテンツは10代のアカウントから除外されます。10代のプロフィールは大人には推奨されず、大人は10代とメッセージを開始することはできません。ChatGPTの保護者管理機能により、保護者は10代がDMを送受信できるかどうかを管理し、Soraアプリで非個人化フィードを選択することができます。また、デフォルトで10代にはSoraでの連続スクロール時間に制限があります。

有害コンテンツのフィルタリング

Soraは創造性の余地を残しながらフィードを安全に保つために、多層防御を使用しています。作成時には、プロンプトと複数の動画フレームおよび音声トランスクリプト全体の出力をチェックすることで、性的素材、テロリストのプロパガンダ、自傷行為の促進を含む安全でないコンテンツが作成される前にブロックしようとするガードレールがあります。新たなリスクを探るためにレッドチーム演習を実施し、Soraのより高いリアリズムと動きと音声の追加を考慮して、画像生成に対してポリシーを厳格化しています。

生成を超えて、自動化システムがすべてのフィードコンテンツを[グローバル使用ポリシー](opens in a new window)に照らしてスキャンし、安全でないまたは年齢に不適切な素材を除外します。これらのシステムは新しいリスクについて学習するにつれて継続的に更新され、最も影響の大きい害に焦点を当てた人間によるレビューによって補完されます。

音声の保護措置

Soraに音声を追加することで安全性の基準が高くなり、完璧な保護は困難ですが、この分野への真剣な投資を続けています。Soraは生成された音声のトランスクリプトを自動的にスキャンして潜在的なポリシー違反を検出し、生きているアーティストや既存の作品を模倣した音楽の生成試行もブロックします。私たちのシステムはそのようなプロンプトを検出して停止するよう設計されており、Soraの出力が自分の作品を侵害していると考える作成者からの削除要求に応じます。

ユーザーコントロールと救済措置

あなたは動画をいつ、どのように共有するかを選択でき、公開したコンテンツをいつでも削除できます。動画はあなたが選択した場合にのみフィードに共有されます。すべての動画、プロフィール、ダイレクトメッセージ、コメント、キャラクターは悪用について報告でき、ポリシーに違反した場合の明確な救済措置があります。また、いつでもアカウントをブロックすることを選択でき、これにより他の人があなたのプロフィールや投稿を見ること、あなたのキャラクターを使用すること、ダイレクトメッセージであなたに連絡することを防ぐことができます。

Sora 2026
著者：Soraチーム

関連記事

  • 内部コーディングエージェントの不整合監視方法 - 安全性 - 2026年3月19日
  • OpenAI Japan、10代の安全性を最優先にする日本10代安全性ブループリントを発表 - 安全性 - 2026年3月17日
  • 推論モデルは思考の連鎖をコントロールするのに苦労する、そしてそれは良いことだ - 研究 - 2026年3月5日