ボットの摘発：AIチャットボットのデータ漏洩疑惑

AIを搭載したチャットボットは、質問への回答やカスタマーサービスの支援から、個人的なタスクの管理、取引の実行に至るまで、私たちの生活のほぼあらゆる側面にシームレスに溶け込んでいます。瞬時にパーソナライズされた対話を提供する能力により、私たちは深く考えずに機密データを自由に共有しています。しかし、チャットボットサービスでデータ漏洩が発生した場合、それは個人のプライバシーを侵害するだけでなく、ユーザーがこれらのテクノロジーに寄せている信頼そのものを揺るがします。これらのAIシステムとやり取りされる個人、財務、会話データの膨大な量は、侵害が個人セキュリティから私たちが依存するAIサービスの信頼性に至るまで、広範囲にわたる影響を及ぼす可能性があることを意味します。

悪名高いBreach Forumsに投稿された情報によると、ハッカーが広く利用されているAIチャットボットおよび生産性プラットフォームであるOmniGPTに侵入したと主張していると報じられています。この侵害により、メールアドレス、電話番号、3,400万行以上の会話ログを含む、30,000人のユーザーの個人データが流出したとされています。ユーザーのチャットに加え、流出したデータにはアップロードされたファイルへのリンクも含まれており、その中には認証情報、請求詳細、APIキーなどの機密情報が含まれているものもあります。

実のところ、AIチャットボットサービスがデータ漏洩に直面していることには、少なからず警戒せざるを得ません。特に、これらのツールが急速に普及したことを考えると、なおさらです。私たちは、クリエイティブライティングやブレインストーミングから、調査、さらにはビジネスの自動化まで、幅広い機能でこれらに依存しています。

なぜこれらのインシデントが発生するのでしょうか？

AIを搭載したチャットボットやクリエイティビティサービスのアクセシビリティと利便性は、それらを私たちの日常生活に不可欠なものにしましたが、ここで最も懸念されるのは、侵害がサービスのバックエンドで発生したことです。これは、ユーザーや消費者がそれを防ぐためにできることの範囲を完全に超えていることを意味します。

AIチャットボットをあらゆる情報の気軽な保管場所として扱う傾向がよく見られます。しかし実際には、これらのプラットフォームは「ブラックボックス」として機能し、ユーザーは自分のデータがどのように処理、保存、保護されているかについて、実質的に知ることができません。この認識と現実の乖離は、本件のように、アップロードされた文書、APIキー、個人情報などの機密データが漏洩した場合に、壊滅的な結果をもたらす可能性があります。

同様に重要なのは、ユーザー向けの継続的なセキュリティ意識向上トレーニングです。多くの人々は、AIチャットボットサービスやクラウドプラットフォームに機密情報を入力することに伴うリスクをまだ十分に認識していない可能性があります。潜在的なデータ悪用についてユーザーを教育し、個人情報や機密データを共有する際には注意を促すことで、情報漏洩のリスクを大幅に軽減できます。

強力で、しばしば無料のAI強化サービスの魅力は増し続けるばかりであり、セキュリティに対する従来の「モグラ叩き」のようなアプローチはますます無益になるでしょう。毎週何百（いや、何千）もの新しいAIサービスが登場する中、サイバーセキュリティチームは既に手一杯で、到底追いつくことはできません。
「最近は暇で仕方がない」と、どのサイバーセキュリティチームも言ったことはありません！

あらゆるAIツールを追いかけるのではなく、根本的なリスクに焦点を移す必要があります。これは、共有されるサービスが何であれ、機密データの保護を最優先することを意味します。一見正当に見えるAIプラットフォームであろうと、他のシャドーITリソースであろうと、データ連携を制限し、堅牢なセキュリティ対策を導入する方が、拡大し続けるAIツールの状況を監視しようとするよりもはるかに効果的であることが証明されるでしょう。最近の出来事が示すように、堅牢に見えるサービスでさえ、高度な脅威アクターの標的となる可能性があります。

何ができるでしょうか？

AIは紛れもなく革命的であり、数えきれないほど多くの方法で産業や日常生活を変革しています。しかし、純粋に技術的な観点から見れば、AIサービス、特にウェブやクラウドを介してアクセスされるものは、基本的には単なるウェブサイトまたはクラウドプラットフォームに過ぎません。その基盤となるテクノロジーは非常に強力で革新的ですが、サイバーセキュリティの観点からは、データ漏洩や不正アクセスの潜在的な経路となります。市民記録、PII、ソースコードなどの機密性の高い組織データを保護する任務を負うセキュリティ専門家にとって、AIサービスはシャドーITの視点から見る必要があります。

AIは効率性とイノベーションを推進する一方で、データ漏洩、コンプライアンス違反、シャドーAIの使用といった課題も提起します。AIの急速な導入はしばしばガバナンスを上回る速度で進み、適切なセキュリティ対策がなければ、組織は評判、財務、法的なリスクに対して脆弱な状態になります。

シャドーITとは、定義上、企業での使用やデータ取引について明示的に承認または許可されていないあらゆるサービスを指します。AIサービスをシャドーITとして考えると、関連するリスクが明確になります。機密性の高い顧客データを未承認のウェブサイトに入力することを許可しますか？機密の添付ファイルを未知のクラウドサービスにアップロードすることを許可しますか？データ保護慣行に疑問のある管轄区域でホストされているプラットフォームを従業員が使用することを容認しますか？これらの質問すべてに対する答えは、断固としてノーであるべきです。

AIサービスをシャドーITとして扱うことは、必要な視点の転換を促します。組織は、その技術の能力に目を奪われるのではなく、他の未承認サービスに適用するのと同じ厳格なセキュリティ基準を適用しなければなりません。これには、データ連携の制限、アクセス制限、堅牢な監視の導入が含まれ、どれほど革新的で役立つように見えても、管理されていない外部プラットフォームに内在するリスクに機密情報がさらされるのを防ぎます。

私たちは、現在のデータ保護規則をAIアプリにも適用範囲を広げる必要があり、理想的には、承認済みアプリ、未承認アプリ、さらには自社の内部アプリを含むすべてに適用できる単一のルールセットが必要です。

セキュリティ担当者として、特定のサービス/エンティティに関連するリスクを特定したら、最終的に次の3つの質問を問いかけることになるでしょう。

• 当社のユーザーで、これを閲覧した、または使用した者はいるか？もしいるなら、何人か？そして具体的に誰か？
• 当社のウェブおよびクラウドインフラストラクチャのいずれかの部分が、このサービスにアクセスしたか？
• そして、最初の2つの質問のいずれかが「はい」であった場合、貴社とそのサービス間でどれくらいのデータがやり取りされたか？