AIの衝撃波：DeepSeekの驚異的な台頭がエンタープライズチャットボットの状況をいかに再構築しているか

Thyaga Vasudevan 著 - 製品担当エグゼクティブバイスプレジデント

2025年2月3日 6 分で読めます

2023年に設立された中国の人工知能スタートアップであるDeepSeekは、過去1週間で驚異的な人気を博しました。米国のApp Storeで最も評価の高い無料アプリとしてChatGPTを抜き去っただけでなく、主要なテクノロジー株が大幅に下落したことで、このAIアシスタントは市場に大きな影響を与えました。大手AIチップメーカーであるNvidiaは、株価が17%近く急落し、約5,890億ドルの市場価値を失いました。これはウォール街史上最大の1日あたりの損失です。

DeepSeekに関するイノベーションは、AIの民主化の進展を意味し、人類全体にとって良いことです。このAI企業のイノベーションにより、既存のプラットフォームに匹敵する性能を持ちながら、より費用対効果が高く、エネルギー効率の良いオープンソースAIモデルが提供されるようになりました。このアプリのユーザーフレンドリーなインターフェースと、透明性の高い「思考の可視化」機能は、AIの推論プロセスをユーザーが追跡できるようにすることで、その魅力をさらに高めています。

独自のLLMモデルを持つ別のAIチャットボットの登場は、AIへの投資を増やす企業、特に大企業にとって重要な問いを投げかけています。企業は、自社の利用のために新しいAIチャットボットをどのように評価すべきでしょうか？従業員によるAIアプリケーションの利用と企業での導入におけるメリットとデメリットを決定する上で、どのような要素が考慮されるべきでしょうか？最近のレポートや実際の事例は、特定のLLM、特に堅牢なセキュリティフレームワークを欠くオープンソースのバリアントが、データセキュリティ、規制遵守、ブランドの評判に重大な脅威をもたらすことを示しています。

このブログでは、以下について探ります。

• DeepSeekのような危険なLLMの台頭
• AIに関連する主要なセキュリティ脆弱性
• 企業が新しいAIチャットボットを評価、管理、保護する方法
• Skyhigh Security SSEのような統合アプローチが不可欠である理由

危険なLLMとチャットボットの台頭

DeepSeekのようなオープンソースのLLMは、期待と懸念の両方を生み出しています。企業で検証されたAIソリューションとは異なり、オープンソースのLLMは、機密性の高いビジネスデータを保護するために必要な堅牢なセキュリティ制御を欠いていることが多く、Enkrypt AIの最近のレポートで示されています。

• 3倍 比較モデルよりも偏りがある
• 4倍 不安全なコードを生成する可能性が高い
• 11倍 有害なコンテンツを生成しやすい

これらの問題にもかかわらず、DeepSeekはApple App Storeのトップに躍り出て、わずか24時間で260万ダウンロードを達成し（2025年1月28日）、ChatGPTさえも凌駕しました。この爆発的な普及は、根本的な緊張関係を浮き彫りにしています。AIは猛烈な速さで進化していますが、セキュリティ監視はしばしば遅れをとり、企業を潜在的なデータ漏洩、コンプライアンス違反、評判の損害にさらしています。

AIチャットボットを評価する際の主要なリスク領域

Skyhigh AIセキュリティブログで強調したように、企業はAIがもたらす固有のリスクを認識する必要があります。それには以下が含まれます。

• 利用状況データの不足：セキュリティチームは、企業内でどれくらいのユーザーがシャドウAIアプリを使用して業務を行っているかを把握していません。
• LLMリスクの理解不足：どのAIアプリとLLMモデルが危険であるかを理解することはガバナンスの鍵ですが、この情報は容易には入手できません。
• データ流出：業務を遂行する過程で、ユーザーは企業データをAIアプリにアップロードしますが、これが機密データの流出につながる可能性があります。
• 敵対的プロンプト: AIチャットボットは、偏見のある、有害な、あるいは単に不正確な（ハルシネーション）応答を提供することがよくあります。さらに、マルウェアを含む可能性のあるコードを提供することもあります。これらの応答を利用すると、企業に問題を引き起こす可能性があります。
• データポイズニング: 企業は、ビジネスニーズに合わせてカスタムの公開またはプライベートAIアプリケーションを作成しています。これらのアプリケーションは、企業データを使用してトレーニングおよび調整されます。トレーニングデータが意図せず、または悪意によって侵害された場合、カスタムAIアプリケーションが誤った情報を提供する可能性があります。
• コンプライアンスおよび規制リスク: AIアプリケーションの使用は、データ流出、機密データの漏洩、またはカスタムAIチャットボットに関連する不正確なプロンプトや敵対的プロンプトにより、企業をより大きなコンプライアンスおよび規制リスクにさらします。

統合アプローチが重要な理由: Skyhigh Security SSE

企業が新しいAIアプリケーションやチャットボットを評価する際には、企業資産を保護するために必要な制御を適用するツールがあるかどうかを検討する必要があります。セキュリティスタックが、AIアプリケーションに制御を適用するだけでなく、これらのアプリケーションから発生する悪意のある活動や脅威を評価し、対応できる体制になっていることを確認する必要があります。

Skyhigh SecurityのようなSecurity Services Edge (SSE) ソリューションは、企業のAIセキュリティの重要な要素です。これらのツールは、企業がオンプレミスおよびクラウドトラフィックを保護してきたため、すでに企業セキュリティスタックと統合されています。セキュリティチームはすでにガバナンスおよびデータ保護ポリシーを定義しており、これらはAIアプリケーションにも容易に拡張できます。そして最後に、柔軟な展開モードにより、ウェブ、シャドウアプリケーション、承認済みアプリケーション、プライベートアプリケーションをカバーすることで、SSEソリューションは企業内のAIフットプリントの全範囲をカバーし、包括的なセキュリティを提供できます。

企業がAIアプリケーションに適用しようとしている主要な制御は以下のとおりです。

• シャドウAIのガバナンス: シャドウAIアプリケーションのガバナンスを推進するには、AIアプリケーションの使用状況とリスクを理解し、制御を適用する必要があります。主要なSSEソリューションは、シャドウAIアプリケーションに対する包括的な可視性を提供します。さらに、基盤となるLLMモデルが、ジェイルブレイク、バイアス、有害性、マルウェアなどのリスクに対してどの程度危険であるかを含む、AIリスクに関する深い理解を提供します。最後に、これらのアプリケーションは手動介入なしに検出、グループ化され、制御を適用できます。
• データ保護: 企業がAIアプリケーションに関して抱える主な懸念は、従業員がAIによって提供される大幅な生産性向上を利用しようとする際に、機密性の高い企業データが未承認の危険なAIアプリケーションに流出することです。この問題は他のシャドウアプリケーションと何ら変わりませんが、AIアプリケーションが短期間で大幅な成長を遂げたことにより、その重要性が増しています。SSEソリューションを使用することで、企業は既存のデータ保護制御をAIアプリケーションに拡張できます。一部のソリューションはAPI経由で統合された企業承認済みアプリケーションに対してのみこれらの機能を提供しますが、Skyhigh Securityのような主要なSSEソリューションは、統合されたデータ保護制御を提供します。これは、同じポリシーをシャドウアプリケーション、承認済みアプリケーション、またはプライベートアプリケーションに適用できることを意味します。
• 敵対的プロンプト制御: LLMモデルの登場により、敵対的プロンプトという新たなリスクベクトルが生まれました。これは、エンドユーザーがジェイルブレイクやプロンプトインジェクションなどを用いて、LLMモデルを操作し、望ましくない情報や違法な情報を提供させようとすることを指します。また、AIアプリケーションが応答において、有害、偏見のある、危険な、NSFW（職場での閲覧注意）、または不正確なコンテンツを提供する可能性も指します。いずれの場合も、企業はこれらのコンテンツが社内資料で使用されるリスクがあり、規制、ガバナンス、および評判のリスクにさらされる可能性があります。企業は、DLPで行うのと同様に、危険なプロンプトを検出し、修正するための制御を適用しようとしています。
• データポイズニングの修復: 企業がOpenAI GPTやCustom Copilotを使用してカスタムAIチャットボットをますます作成するにつれて、これらのチャットボットのトレーニングに使用されるトレーニングデータの完全性がセキュリティの観点から重要性を増しています。このトレーニングデータのコーパスにアクセスできる誰かが、誤った入力や悪意のある入力で「ポイズニング」した場合、チャットボットの応答に影響を与える可能性があります。これは、特にチャットボットが一般公開されている場合、企業を法的またはその他のビジネスリスクにさらす可能性があります。企業はすでに、機密データを削除するために、トレーニングデータに対してオンデマンド（またはデータ保存時）のDLPスキャンを実行しています。また、潜在的なプロンプトインジェクションやデータポイズニングの試みを特定するために、同様のスキャンを実行しようとしています。
• コンプライアンスおよび規制の実施: 企業は、特にクラウドアプリケーションにアップロードされたり、外部の当事者と共有されたりするデータに関して、ガバナンスと規制コンプライアンスを強制するためにSSEソリューションを使用しています。複数の企業ユースケースでAIを採用するにつれて、SSEソリューションにこれらの制御をAIアプリケーションに拡張し、従業員へのアクセスを引き続き可能にすることを期待しています。

AIセキュリティの未来

AIの急速な進化は、データセキュリティを犠牲にすることなくイノベーションを保証する、新しいセキュリティパラダイムを要求しています。LLMを活用しようとする企業は、新たな脅威から保護するAIセキュリティフレームワークを採用し、慎重に行う必要があります。

Skyhigh Securityでは、お客様の最も重要な資産を保護しながら、企業がAIを安全に導入できるよう支援することに尽力しています。危険なAIの使用から組織を保護する方法の詳細については、Skyhigh AI Security Blogで最新の洞察をご覧ください。

著者について

ティヤーガ・ヴァスデヴァン

製品担当エグゼクティブバイスプレジデント

Thyaga Vasudevanは、現在Skyhigh Securityの製品担当エグゼクティブバイスプレジデントを務めるエネルギッシュなソフトウェアプロフェッショナルであり、製品管理、デザイン、製品マーケティング、およびGTM戦略を統括しています。豊富な経験を持ち、SAASベースのエンタープライズソフトウェア（Oracle、Hightail – 旧YouSendIt、WebEx、Vitalect）とコンシューマーインターネット（Yahoo! Messenger – 音声およびビデオ）の両方で製品構築に貢献してきました。彼は、根底にあるエンドユーザーの問題とユースケースを特定するプロセスに専念しており、リスクと機会の間の微妙なバランスを組織が乗り越えるのを支援することを含め、これらの課題に対処するためのハイテク製品およびサービスの仕様策定と開発を主導することに誇りを持っています。Thyagaは教育と指導を好み、RSA、Trellix Xpand、MPOWER、AWS Re:invent、Microsoft Ignite、BoxWorks、Blackhatなどの著名なイベントで講演する機会に恵まれました。彼はテクノロジーと問題解決の交差点で活躍し、現在の課題に対処するだけでなく、将来のニーズを予測するイノベーションを推進することを目指しています。