EchoLeakと新たなAI脅威のフロンティア：CopilotとChatGPTの時代における企業のための5つの教訓

スハース・コダガリ、サラン・ワルドカル著

2025年7月14日 5 分で読む

最近の EchoLeak (CVE-2025-32711)-Microsoft 365 Copilotを標的としたゼロクリック、間接的なプロンプトインジェクションの脆弱性であるEchoLeak（CVE-2025-32711）は、役員室やSOCに明確なシグナルを送りました：AIはもはや単なる生産性向上ツールではありません。AIはもはや生産性を向上させるだけの存在ではなく、企業の攻撃対象の一部となっているのだ。

EchoLeakが特に憂慮すべき点は、ユーザーによる操作が必要なかったことです。悪意を持って作成された電子メールだけで、Copilotは隠された指示を取り込み、それに基づいて行動し、機密データを漏えいする可能性がありました。

CISOやデータ保護チームにとって、これはモーニングコール以上のものであり、企業全体でAIをどのように管理し、保護し、監視するかを再考することが義務付けられている。

EchoLeakとは？

• ゼロクリック攻撃:ユーザーの操作は不要で、細工した電子メールを送信するだけです。Copilotは、ワークスペースのデータを要約する際に、そのメールを開いたり操作したりしなくても、隠された指示を取り込むことができます。
• 間接プロンプト注射:悪意のあるコンテンツが「正常な」電子メールや文書に埋め込まれており、用語や言い回しが慎重に細工されているため、Copilotはそれらを良性の要求と見なします。
• RAGエクスプロイト:Copilotの検索システムには、最近の電子メールがコンテキストに含まれています。要約する際に、悪意のあるプロンプトをピックアップし、機密データを抽出したり、隠し画像やマークダウンリンクを介して攻撃者が管理するサーバーにデータを流出させたりするタスクを実行する可能性があります。

すべての組織がEchoLeakから学ぶべき5つの重要な教訓

 

1.シャドーAIは急成長する盲点

シャドーAIの利用は企業全体で爆発的に増加している。 AIアプリへのトラフィックは過去1年で200%増加しそして 企業では平均320の非公認AIアプリが使用されている (AI CARR 2025）.この急増は、いかにAI対応ツールがITの監督外で採用され、可視性とガバナンスの課題を生み出しているかを浮き彫りにしている。また、従業員は企業のワークフローを最適化するために、これらのアプリに企業データをアップロードしている。これに対処するため、組織は以下のソリューションを活用しています。 SSEソリューションを活用し、認可されていないAIツールを自動的に検出し、リスクスコアを割り当て、不正なデータアクセスを防止するポリシーを実施しています。実際、SSEソリューションは、未承認のAIアプリのLLMリスクに関する情報を提供し、企業内で許可されるAIアプリに関するガバナンスを強化します。このようなガードレールにより、セキュリティチームは、企業の従業員によるAIの導入が急速に拡大する中で、コントロールを取り戻すことができます。

2.AIアプリのデータ保護は重要

Skyhigh Security データから、以下のことが明らかになりました。 AIアプリケーションにアップロードされたファイルの11%に企業の機密コンテンツが含まれているまだ このリスクを軽減するためのデータ保護ポリシーを導入している企業は10%未満である。 (AI CARR 2025）.AIアプリケーションにアップロードされるデータを制御することは、流出する可能性のあるデータの大部分を占める。現在、セキュリティチームが抱えている重要な懸念は、企業データがAIアプリにアップロードされると、企業内外のユーザーが巧妙なプロンプトエンジニアリングを使用してこのデータを取得することが可能になることです。そのため、AIアプリにアップロードされたデータにDLPを適用することは、今や企業のデータ・セキュリティの重要な一部となっています。これには、シャドーAIアプリや企業公認AIアプリにアップロードされたデータも含まれます。

3.マイクロソフト・コパイロットを介した企業データの流出は、データ流出の主要なリスクである。

マイクロソフト・コパイロットの急成長この1年間でトラフィックは3,600倍、データアップロードは6,000倍に増加した（AI CARR 2025）。-LLMを搭載したアシスタントが企業のワークフローに急速に組み込まれつつあることを浮き彫りにしている。セキュリティチームは、機密データがM365 Copilotにアップロードされることに加え、Copilotが取り込んだデータがチャットボットによって従業員に共有され、従業員がそのデータを取得するよう促されることも懸念している。例えば、Copilotがプロジェクト情報を含むプレゼンテーションや会議の記録をインジェストした後、権限のない従業員に機密プロジェクトの詳細を明かす可能性がある。この問題に対処するため、セキュリティチームはSSEソリューションのDLPを使用して必要な分類ラベルを適用し、機密データがCopilotに取り込まれないようにしています。こうすることで、プロンプトエンジニアリングが実行されても、Copilotから機密データが漏れることはなくなります。

4.プロンプト・インジェクションのリスクにはプロアクティブな防御が必要

EchoLeakは、間接的なプロンプト・インジェクションと呼ばれる、善良に見えるコンテンツに敵対的な指示が隠されている、増えつつある攻撃の一群に属する。驚くべきことに AIサービスの94%は、プロンプト・インジェクション、マルウェア、バイアス、毒性など、少なくとも1つのLLMリスク・ベクターに対して脆弱である。 (AI CARR 2025）.これに対処するため、企業は以下の機能を備えたSSEプラットフォームを使用しています。 プロンプト・インジェクション・プロテクションを搭載したSSEプラットフォームを使用しています。これは、企業のAIシステムに到達する前に入力をスキャンしてサニタイズし、隠れた脅威を効果的に無効化します。

5.内部脅威を監視するようにAIの活動を監視する

AIエージェントはシステム・レベルのスピードで動作するが、人間的な判断力がないため、特に確立されたパターンから逸脱した行動を取る場合、その行動を潜在的なリスクとみなすことが不可欠となる。これを軽減するため、企業はSSEソリューションを使用してAIアプリのユーザー・アクティビティを監視・追跡し、異常な使用パターンやファイルのアップロード、ダウンロードを検出する必要があります。これらのソリューションでは、UEBAを使用して使用状況や位置情報に基づく異常を検出し、これらのインプットをユーザーリスクの計算に反映させます。これらのワークフローは、すでに他のSaaSソリューションで企業によって実装されており、現在AIアプリにまで拡大しています。

未来：レジリエントな企業のためのAIネイティブSSE

EchoLeakはAIアプリに対する最後の攻撃ではないだろう。ユーザーがAIアプリとプロンプト・エンジニアリングについて理解を深めるにつれ、このような攻撃はさらに増えるだろう。企業は、AIアプリへの流出やAIアプリ経由の流出から企業データをより適切に保護するために、AIの使用に関するコントロールを今すぐ導入する必要があります。Skyhigh Security ようなSSEソリューションは、このような制御を実施するための重要な機能を提供します。 

AI Exploitを防ぐSSEの主要機能：

• シャドーAIディスカバリー:未承認のGenAIツールを検出し、リスクスコアを割り当てる。
• AIガバナンス：リスクの高いAIアプリをブロックしたり、よりきめ細かなアクティビティ制御を適用するための制御を適用します。
• AIプロンプトのDLP：プロンプトとレスポンスにデータ保護コントロールを適用
• プロンプト・インジェクション・プロテクション:隠されたプロンプトのコンテンツをスキャンし、AIの悪用をブロックします。
• UEBA / アクティビティ・モニタリング：AIアプリ上で実行されたアクティビティに対して脅威を特定し、脅威調査を実行します。

Skyhigh Security 、企業向けAIネイティブセキュリティのパイオニアです。当社のクラウド型Security Service Edge （SSE）プラットフォームは、機密データを保護し、AIリスクを管理するために独自に設計されており、公認・非公認のGenAIツール、コパイロット、RAGベースのエージェントに対応しています。Skyhighは、CASB、SWG、ZTNA、RBI、統合DLPに関する深い専門知識により、EchoLeakのような新たな脅威を先取りしながら、企業が責任を持ってAIを導入できるよう支援します。

詳細はこちら スカイハイAIセキュリティソリューションをご覧ください。

ブログへ戻る