AI Security for Appsが一般提供開始

2026-03-11
Liam Reese、Zhiyuan Zheng、Catherine Newcomb
5分で読める

この投稿は、Français、한국어、Español、Рyсский、Nederlands、Deutschでもご利用いただけます。

CloudflareのAI Security for AppsはAI駆動アプリケーションへの脅威を検出し、軽減します。本日、一般提供開始を発表いたします。カスタムトピック検出などの新機能を提供し、すべてのCloudflareのお客様（Free、Pro、Businessプランを含む）に対してAIエンドポイント検出を無料で提供し、インターネット向けアプリ全体でAIがどこに展開されているかの可視性を提供します。

また、IBMとの拡大されたコラボレーションを発表します。IBMはクラウド顧客にAIセキュリティを提供するためにCloudflareを選択しました。さらに、Wizとパートナーシップを結び、共通の顧客にAIセキュリティ態勢の統一されたビューを提供します。

新しい種類の攻撃面

従来のWebアプリケーションには定義された操作があります：銀行残高の確認、送金の実行など。これらのやり取りを保護するために決定論的なルールを書くことができます。AI駆動アプリケーションとエージェントは異なります。自然言語を受け入れ、予測不可能な応答を生成します。入力と出力が確率的であるため、許可または拒否する固定された操作セットはありません。

攻撃者は大規模言語モデルを操作して、不正な行動を取らせたり、機密データを漏洩させたりできます。プロンプトインジェクション、機密情報の開示、無制限の消費は、OWASP Top 10 for LLM Applicationsでカタログ化されたリスクのほんの一部です。

AIアプリケーションがエージェントになると、これらのリスクは拡大します。AIがツール呼び出しへのアクセス権を得ると（返金処理、アカウント変更、割引提供、顧客データへのアクセス）、単一の悪意のあるプロンプトが即座にセキュリティインシデントになります。

お客様は直面している課題について教えてくれます。「Newfold Digitalのほとんどのチームは独自の生成AI保護機能を導入していますが、誰もが非常に迅速にイノベーションを行っているため、最終的にはいくつかのギャップが生じることは避けられません」と、Bluehost、HostGator、Domain.comを運営するNewfold DigitalのPrincipal Systems ArchitectであるRick Radingerは述べています。

AI Security for Appsの機能

これに対処するためにAI Security for Appsを構築しました。サードパーティのモデルを使用している場合でも、独自にホストしている場合でも、Cloudflareのリバースプロキシの一部として、AI駆動アプリケーションの前に配置されます。以下を支援します：(1) Webプロパティ全体でAI駆動アプリを発見、(2) これらのエンドポイントへの悪意のあるまたはポリシー違反の行動を検出、(3) 使い慣れたWAFルールビルダーを介して脅威を軽減。

検出 — 全員に無料で提供

LLM駆動アプリケーションを保護する前に、それらがどこで使用されているかを知る必要があります。LLM市場が進化し、開発者がモデルやプロバイダーを交換する中で、アプリ全体でのAI展開の完全な全体像を持たないセキュリティチームからよく聞きます。

AI Security for Appsは、ホストされている場所やモデルに関係なく、Webプロパティ全体でLLM駆動エンドポイントを自動的に識別します。本日より、この機能はFree、Pro、Businessプランを含むすべてのCloudflareのお客様に無料で提供されます。

これらのエンドポイントを自動的に発見するには、/chat/completionsのような一般的なパスパターンのマッチング以上のものが必要です。多くのAI駆動アプリケーションにはチャットインターフェースがありません：製品検索、不動産評価ツール、推薦エンジンなどを考えてみてください。エンドポイントの名前ではなく、動作を見る検出システムを構築しました。

AI駆動エンドポイントを確実に識別するには、十分な有効なトラフィックが必要です。発見されたAI駆動エンドポイントは、Security → Web Assetsの下にcf-llmとラベル付けされて表示されます。

Freeプランのお客様の場合、エンドポイント検出はDiscovery pageに最初にナビゲートしたときに開始されます。有料プランのお客様の場合、検出は定期的にバックグラウンドで自動的に実行されます。AI駆動エンドポイントが発見されている場合は、すぐに確認できます。

検出

AI Security for Appsの検出は、AI駆動エンドポイントへのトラフィックに対して常時オンのアプローチに従います。各プロンプトは、プロンプトインジェクション、PII露出、機密または有害なトピックに対する複数の検出モジュールを通して実行されます。結果（プロンプトが悪意のあるものかどうか）は、ポリシーを実施するためにカスタムWAFルールで使用できるメタデータとして添付されます。

私たちは、Web全体の約20%のトラフィックを見る当社のグローバルネットワークを活用して、数百万のサイト全体で新しい攻撃パターンを識別し、それらがあなたのサイトに到達する前に検出する方法を継続的に探求しています。

GA新機能：カスタムトピック検出

製品には、一般的な脅威に対する組み込み検出が付属しています：プロンプトインジェクション、PII抽出、有害なトピック。しかし、すべてのビジネスには、何が制限されているかについて独自の定義があります。金融サービス会社は特定の証券の議論を検出する必要があるかもしれません。ヘルスケア会社は患者データに触れる会話にフラグを立てる必要があるかもしれません。小売業者は顧客が競合製品について質問しているときを知りたいかもしれません。

新しいカスタムトピック機能では、これらのカテゴリを定義できます。トピックを指定すると、プロンプトを検査し、ログ記録、ブロック、または決定した方法で処理するために使用できる関連性スコアを出力します。私たちの目標は、あなたのユースケースに柔軟に対応する拡張可能なツールを構築することです。

GA新機能：カスタムプロンプト抽出

AI Security for Appsは、安全でないプロンプトがインフラストラクチャに到達する前にガードレールを実施します。検出を正確に実行し、リアルタイム保護を提供するために、まずリクエストペイロード内のプロンプトを識別する必要があります。

プロンプトはリクエストボディのどこにでも存在でき、異なるLLMプロバイダーはAPIを異なって構造化します。OpenAIとほとんどのプロバイダーはチャット補完に$.messages[*].contentを使用します。AnthropicのバッチAPIは$.requests[*].params.messages[*].content内にプロンプトをネストします。カスタム不動産評価ツールは$.property_descriptionを使用するかもしれません。

標準では、OpenAI、Anthropic、Google Gemini、Mistral、Cohere、xAI、DeepSeek、その他で使用される標準フォーマットをサポートしています。既知のパターンにマッチできない場合、デフォルトセキュアな姿勢を適用し、リクエストボディ全体で検出を実行します。

これは、ペイロードに機密だがAIモデルに直接フィードされないフィールドが含まれている場合に偽陽性を引き起こす可能性があります。例えば、実際のプロンプトと一緒に$.customer_nameフィールドがあると、不必要にPII検出をトリガーする可能性があります。

近日中に、プロンプトを見つける正確な場所を教えるために独自のJSONPath式を定義できるようになります。これにより偽陽性が減り、より正確な検出につながります。また、時間の経過とともにアプリケーションの構造に自動的に適応するプロンプト学習機能も構築しています。

軽減

脅威が識別されスコア化されると、アプリケーションセキュリティの他の部分で既に使用している同じWAFルールエンジンを使用して、ブロック、ログ記録、またはカスタム応答の配信ができます。

Cloudflareの共有プラットフォームの力は、AI固有のシグナルを、WAFで利用可能な数百のフィールドで表現される、リクエストについて知っているすべての情報と組み合わせることができることです。

プロンプトインジェクション試行は疑わしいものです。ログインページを探査し、以前の攻撃に関連するブラウザフィンガープリントを使用し、ボットネットを通じてローテーションしているIPからのプロンプトインジェクション試行は別の話です。AI層のみを見るポイントソリューションでは、これらの接続を作ることができません。

この統一されたセキュリティ層は、AIエンドポイントを発見、ラベル付け、保護するためにNewfold Digitalで必要としているものそのものです、とRadingerは述べています：「これらすべてのプロジェクトでフェイルセーフとして機能させるために使用することを楽しみにしています。」

成長するエコシステム

AI Security for ApplicationsはIBM Cloudとの統合を含む、Cloudflareの成長するエコシステムを通じても利用可能になります。IBM Cloud Internet Services (CIS)を通じて、エンドユーザーは既に高度なアプリケーションセキュリティソリューションを調達し、IBM Cloudアカウントから直接管理できます。

また、WizとパートナーシップしてAI Security for ApplicationsをWiz AI Securityと接続し、共通の顧客にクラウドでのモデルとエージェントの発見からエッジでのアプリケーション層ガードレールまで、AIセキュリティ態勢の統一されたビューを提供します。

開始方法

AI Security for AppsはCloudflareのEnterpriseのお客様に現在利用可能です。開始するにはアカウントチームにお問い合わせいただくか、セルフガイドツアーで製品の動作をご覧ください。

Free、Pro、またはBusinessプランをご利用の場合、本日からAIエンドポイント検出を使用できます。ダッシュボードにログインし、Security → Web Assetsにナビゲートして、識別されたエンドポイントを確認してください。

注目してください — すべてのプランのお客様にAI Security for Appsのすべての機能を近日中に利用可能にする予定です。

設定の詳細については、ドキュメントをご覧ください。

Cloudflareのconnectivity cloudは企業ネットワーク全体を保護し、お客様がインターネット規模のアプリケーションを効率的に構築することを支援し、あらゆるWebサイトやインターネットアプリケーションを高速化し、DDoS攻撃を防御し、ハッカーを寄せ付けず、Zero Trustへの道のりを支援します。

あらゆるデバイスから1.1.1.1にアクセスして、インターネットをより高速で安全にする無料アプリを開始してください。より良いインターネットの構築を支援するという私たちの使命について詳しく学ぶには、こちらから始めてください。新しいキャリアの方向性をお探しの場合は、求人情報をご確認ください。