Cloudflareはこのほど、同社のWebアプリケーションファイアウォール（WAF）製品に、「Firewall for AI」と呼ばれる新機能を追加したことを発表した。この機能は、悪用や攻撃がLarge Language Models（LLM）に到達し、改ざんされる前に特定する新たな保護レイヤーを追加する。
AI用ファイアウォール機能は、脆弱性を特定し、モデル所有者に可視性を提供するために、アプリケーションの前に配置することができるツールで構成されている。さらに、レート制限や 機密データ検出といった既存のWAF機能に加え、現在開発中の新しい保護レイヤーも含まれている。このレイヤーは、エンドユーザーによって送信されたプロンプトを精査し、モデルを悪用したり、データを抽出したり、その他の不正な行為に関与しようとする試みを検出する。
AI用ファイアウォールを有効にすると、セキュリティチームは、CloudFlareのWorkers AI OfferingにあるLLMの前に導入することで、迅速な脅威を検出することができる。LLMはCloudflareのグローバルネットワーク上の企業顧客の近くで実行されるため、この位置づけによってレイテンシーが最小限に抑えられる。ユーザープロンプトをスキャンして悪用の試みを検出することで、ファイアウォールは人手を介さずに脅威を自動的にブロックし、プロンプトインジェクション攻撃やその他のベクトルから防御することができる。Workers上でLLMを実行しているCloudflareの顧客は、この機能を無料で利用し、進化するセキュリティ上の懸念から保護することができる。
AI向けファイアウォール機能の概要（出典：Cloudflareブログポスト）
Cloudflareのようなソリューションは、OpenAIのChatGPTのような高度なAIが出現して以来の今日では、有用なものであるだろう。LLMの進歩により、ユーザーを欺いて電子メールやメッセージで機密情報を暴露させようとする攻撃者の精巧さが増している。以前は、このような詐欺は文法やデザインのミスが目立つため、説得力に欠けることが多かった。しかし現在では、AIによって攻撃者がメッセージをパーソナライズできるようになり、説得力が増し、ユーザーがパスワードや機密データを明かしてしまう可能性が高まっている。
Cloudflareのグループ・プロダクト・マネージャーであるDaniele Molteni氏は、ブログの中で次のように結んでいる：
CloudFlareは、AIアプリケーションを保護するための一連のツールを発表した最初のセキュリティ・プロバイダーの1つです。Firewall for AIを使うことで、顧客は言語モデルに届くプロンプトやリクエストを制御し、悪用やデータ流出のリスクを減らすことができます。
また、Cloudflareの共同設立者兼CEOであるMatthew Prince氏 は、プレスリリースで次のように述べている：
CloudflareのAI向けファイアウォールにより、我々はAI環境にセキュリティを最初から組み込むことを支援します。私たちは、AIモデルのための史上初のシールドのひとつを提供することで、企業を確実に保護しながら、テクノロジーが解き放つ機会を活用できるようにします。
一方、LevoIncHQのCEO兼共同設立者であるBuchi Reddy B氏は、以下のようにポストしている：
そのようなソリューションの余地はありますが、根本的な原因に対処しなければなりません。 同じようなことがAPIセキュリティでも起きています。API WAFソリューションは、問題をブロックすることを約束するだけで、根本的な原因には対処しません。 そのため、必要なものかもしれませんが、十分なものではないと思います。