Summary

Sora 2 と Soraアプリは、動画生成の出自確認と人の容姿や音声の保護を中心に、安全性を組み込んで設計されています。出力にはC2PAメタデータや可視/不可視の透かしを埋め込み、フレーム・音声トランスクリプトのチェックや逆画像/音声検索で追跡可能にしています。人物を含む画像→動画生成は同意の宣誓と厳格なガードレール（特に未成年はさらに強化）を必須とし、キャラクター機能で類似性の利用を明示的に管理できます。

Key Points

出自・追跡: C2PAメタデータの埋め込み、可視/不可視透かし、内部の逆画像/音声検索によりSora起源を高精度で特定可能。
生成時検査: プロンプトと生成結果をフレーム単位と音声トランスクリプトで検査し、性的表現・テロ・自傷などを前段でブロック。
画像→動画（実在人物）: アップロード時にアップローダーの同意宣誓を要求。共有時は常に透かしが付与され、人物関連の生成に対して厳格なモデレーションを適用。
キャラクター（類似性管理）: ユーザーが自分の容姿・声を登録して利用権を制御可能。利用権の付与/撤回、オーナーが他者生成のドラフト含め可視化・削除・報告できる仕組み。
ティーン保護: 未成年向けの出力制限、DM制限、親管理（ペアレンタルコントロール）やスクロール制限などのアカウント設定。
音声関連対策: 生成音声のトランスクリプトスキャン、既存アーティスト模倣や既存作品の生成を検出してブロック、権利者からの削除対応。
運用と管理: 自動フィルタ＋ハイリスクには人的レビュー、ポリシーの継続的更新、ユーザーによる報告・ブロック・削除の明確な手続き。
エンジニア向け実務示唆: C2PA埋め込みと透かしの実装、フレーム単位検査のパイプライン、逆画像/音声検索のインデクシング、アカウント種別に応じたポリシーフラグとレート制御、監査ログとユーザー通知の整備。

Practical next steps for engineers

出力生成パスの各段階（入力プロンプト、各フレーム、音声トランスクリプト）に検査フックを追加する。
メタデータ（C2PA）と透かしの付与を生成後すぐに行い、共有時に剥がせない状態を担保する。
画像→動画のアップロード時に同意宣誓ワークフローを組み込み、未成年検出時は追加の制限を適用する。
キャラクターの許可管理・撤回APIと、オーナー向けの可視化ダッシュボードを用意する。
自動検出ルールと人的レビューが連携する運用指標（誤検知率・合格率・処理時間）を計測して継続改善する。

openaijamodel: gpt-5-mini-2025-08-07

Soraで安全に創作する

2026年3月23日 | 安全性

Sora 2モデルとSoraアプリは、共同創作の新しい方法を提供する最先端のビデオ生成機能を備えており、最初から安全性を組み込んでいます。私たちのアプローチは具体的な保護策に基づいています。

AI生成コンテンツの識別

すべてのSora生成ビデオには、可視・不可視の出所（provenance）シグナルが含まれます。
すべてのSoraビデオはC2PAメタデータ（業界標準の署名）を埋め込んでおり、内部の逆画像検索や音声検索ツールによって高い精度でSora由来の動画を追跡できます。これらはChatGPTの画像生成やSora 1での成功したシステムに基づいています。
多くの出力には、作成者名を含む可視の動的ウォーターマークも付与されます。

実在人物のルックスを用いた画像→動画変換

家族や友人の写真から動画を作成できるなど、創造的表現を強化しつつガードレールも厳格にしています。
ユーザーは、掲載されている人物から同意を得ており、メディアをアップロードする権利があることを宣誓した上で人物を含む画像をアップロードできます。
人物を含む画像からの画像→動画生成には、特に厳しい安全ガードレールが適用されます。これはSora Characters（旧称：cameo feature）よりもさらに厳格です。
子どもや若く見える人物を含む画像については、作成可能な内容に関してさらに厳しいモデレーションとガードレールが適用されます。
これらの動画は共有時に常にウォーターマークが付与されます。

キャラクターを使った同意ベースのルックス管理

Sora Characters（新しいウィンドウで開きます）は、Sora上で自分のルックス（外見や声）を強くコントロールできる機能です。
キャラクターに記録された音声や画像のルックスが同意のもとで使用されるよう、ガードレールを設けています。
キャラクターの使用権を与えるかどうかは本人のみが決定でき、いつでもアクセス権を取り消せます。
公的な人物の描写は、キャラクター機能を使う場合を除き、ブロックする措置を取っています。
あなたのキャラクターを含むビデオ（他のユーザーが作成した下書きを含む）は常にあなたに表示されます。これにより、簡単に確認、削除（必要なら報告）できます。
キャラクターを含む映像には追加の安全ガードレールを適用しており、外見の大幅な変更や恥をかかせる状況への配置などを制限する、より厳しいガードレールを有効にすることもできます。

ティーン向けの保護策

Soraは若年ユーザー向けにより強力な保護を含み、成人向けの出力に制限を設けています。
フィードは全てのSoraユーザーに適した内容となるよう設計されており、危険または年齢不相応なコンテンツはティーンアカウント向けにフィルタリングされます。
ティーンプロフィールは大人向けには推奨されず、大人はティーンに対してメッセージを開始できません。
ChatGPTのペアレンタルコントロールを使って、保護者はティーンがDMを送受信できるかどうか、Soraアプリで非パーソナライズドフィードを選択するかを管理できます。
デフォルトで、ティーンにはSoraで連続スクロールできる量にも制限があります。

有害コンテンツのフィルタリング

Soraは多層の防御を用いてフィードの安全を保ちながら創造性の余地を残します。
作成時には、プロンプトと出力の両方を複数のビデオフレームや音声のトランスクリプトにわたってチェックし、性的な内容、テロ宣伝、自傷行為の助長などの不安全なコンテンツを生成前にブロックしようとします。
新たなリスクを探るためにレッドチーミング（攻撃想定テスト）を行い、Soraの高いリアリズムや動き・音声の追加を踏まえて画像生成時のポリシーを強化しています。
生成後についても、自動化されたシステムがすべてのフィードコンテンツを当社のGlobal Usage Policiesに照らしてスキャンし、不安全または年齢不相応な素材をフィルタリングします。
これらのシステムは新たなリスクに応じて継続的に更新され、最も重大な害に焦点を当てた人間によるレビューで補完されています。

音声に関する安全対策

音声の追加は安全性のハードルを上げるため、この分野へも真剣に投資を続けています。
Soraは生成された音声のトランスクリプトを自動でスキャンし、ポリシー違反のおそれがあるものを検出します。
実在のアーティストや既存作品を模倣する音楽の生成試行はブロックされます。これらのプロンプトを検出して停止するよう設計しています。
作品の権利者からの削除要請（takedown request）についても対応します。

ユーザーのコントロールと救済手段

動画をいつ・どのように共有するかはユーザーが決定できます。公開したコンテンツはいつでも削除できます。
ビデオがフィードに公開されるのは、ユーザーが共有を選択した場合のみです。
すべてのビデオ、プロフィール、ダイレクトメッセージ、コメント、キャラクターは不正利用として報告できます。ポリシーが違反された場合の明確な救済措置があります。
アカウントをブロックすることで、他者があなたのプロフィールや投稿を見たり、あなたのキャラクターを使用したり、ダイレクトメッセージで連絡することを防げます。

Sora 2026

著: The Sora team

How we monitor internal coding agents for misalignment — Safety — Mar 19, 2026
OpenAI Japan announces Japan Teen Safety Blueprint to put teen safety first — Safety — Mar 17, 2026
Reasoning models struggle to control their chains of thought, and that’s good — Research — Mar 5, 2026

Creating with Sora Safely

要約