AI開発競争を止めることはできません。しかし、それをより安全で安心なものにすることは可能です。

Thyaga Vasudevan 著 - 製品担当EVP

2026年9月15日 5 読了時間：5分

今週末、AI業界では「スピード」をめぐって、いつもとは一味違う議論が交わされた。 

要約すると、AnthropicのCEOであるダリオ・アモデイ氏は は、 、最先端のAI技術は、それを理解し制御するために必要な仕組みよりも速いペースで進歩していると主張した。OpenAIのCEOサム・アルトマンもまた、適切な条件の下であれば、高度なAIシステムの開発を遅らせる意向を示している。

彼らがなぜこうした立場を取っているのかについては、推測は控えたいと思います。しかし、彼らが指摘するリスクは真剣に受け止めるべきものです。したがって、より広範な議論からは、別の結論が導き出されると私は考えています：

AIのセキュリティ戦略を、「イノベーションのペースを遅らせることができる」という前提に基づいて策定すべきではありません。 イノベーションが安全かつ確実に継続できるようなセキュリティアーキテクチャを構築すべきである。

イノベーションは止まることはない

解き放たれるのを待っている価値は、まさに計り知れないほど大きい。AIには、医療、科学、ソフトウェア開発、教育、製造、サイバーセキュリティ、そして事実上あらゆる知識集約型産業を変革する可能性がある。規制が最も厳しい市場や地域にあり、多岐にわたる業界にまたがるフォーチュン100企業の顧客と話をすると、その全員がすでにこのことを身をもって実感している。 例えば、従業員はAIアシスタントを活用し、開発者はアプリケーションにモデルを組み込み、企業はプライベートAI環境を構築しており、そのビジネスプロセスはますます自律化が進んでいます。

したがって、 もう元には戻せないのです。

AIの利用を制限することを主な対応策とする組織では、別の問題が生じる可能性があります。つまり、従業員や開発者が、セキュリティチームが把握できないツールへと移行してしまうのです。したがって、目標はAIの導入を遅らせることではなく、むしろ より安全なAIの導入であるべきだ。

F1の問題

フロンティアの速度を落とすことには、もうひとつ実用上の課題があります。 全員が同時に減速しなければならないという点です。 これはF1の問題に似ていると思います。 

例えば、あなたが驚異的なスピードでレースをしている最中に、コースの一部が危険かもしれないことに気づき、アクセルを緩めたとしましょう。これは責任ある行動かもしれませんが、ライバルは違った考えを持つかもしれません。彼らは自分たちのブレーキの方が優れていると信じているかもしれませんし、別のラインを選ぶかもしれませんし、あるいはより大きなリスクを冒すことを選ぶかもしれません。

また、AIにおいては、もう1つ考慮すべき要素があることに留意してください。 オープンソースという要素があります。イノベーションはますますグローバルかつ分散化が進んでいます。これらのフロンティア・ラボ同士が競合しているわけではなく、国家同士が競い合っているのです。企業はオープンソースを基盤として、独自のカスタムモデルを構築しています。 

したがって、組織は、すべての関係者がそのペースについて合意しているかどうかに関わらず、AIの能力が今後も急速に進化し続けると想定しておく必要がある。

F1の場合と同じように、答えは単にスピードを落とすことではありません。答えは、より安全な車、より優れたブレーキ、より強固な防護柵、より高度なテレメトリー、そしてより良いルールを構築することにあります。同様に、AIにもそれと同等の対策が必要です。 セキュリティこそが、イノベーションのガードレールとならなければなりません。

AIのセキュリティは単一の問題ではない

AIセキュリティは、プロンプトの保護やLLMのセキュリティ確保に限定されて捉えられることがありますが、それはあまりにも視野が狭すぎます。現在、エンタープライズAIの範囲は、従業員による公開AIツールの試用から、アプリケーション、API、企業データにアクセスする自律型エージェントに至るまで広がっています。したがって、組織には 包括的なAIセキュリティアーキテクチャが必要であり、単なる単体の製品では不十分です。

ここでは Skyhigh Security当社では、成熟度モデルの5つの段階を通じてこの問題を検討しています。

1. 発見

目に見えないものは保護できません。組織はまず、承認済みAI、シャドウAI、プライベートAI、そして拡大を続けるLLMを活用したアプリケーションの全体像を把握する必要があります。誰がAIを利用しているのか、どのアプリケーションにアクセスされているのか、それらがどのようなリスクをもたらすのか、そして機密データがどこへ流れている可能性があるのかを理解する必要があります。

2. 管理・予防

可視化は、ポリシーの策定につながらなければならない。すべての従業員がすべてのAIサービスに対して同等のアクセス権を持つべきではなく、また、すべてのAIアプリケーションが同等のデータを受け取るべきでもない。ここで重要なのが Security Service Edge (SSE) ＋ ゼロトラスト が重要な役割を果たし、不可欠となるのです。また、セキュリティ対策によってエンドユーザーの体験にパフォーマンスや遅延が生じないよう、アーキテクチャはローカルでの適用を可能にする必要があります

ID、アプリケーションのリスク、デバイスの状態、データの機密性、およびコンテキストによって、AIとのやり取りを許可するか、ブロックするか、制限するか、あるいは別の経路に迂回させるかが決定されます。

3. データの保護

エンタープライズAIの価値は、企業データへのアクセスによってますます高まっています。同時に、そこには多くのリスクも潜んでいます。組織は以下を活用することができます データセキュリティ・ポスチャー管理 （DSPM)を活用することで、や DLP および セキュアブラウザ制御 が連携して、機密情報を検出し、転送中の情報を保護するとともに、ユーザーがAIアプリケーションに対してアップロード、ダウンロード、コピー、貼り付け、または公開できる内容を制御します。

データセキュリティのないAIセキュリティは不完全である。

4. 安全なAIとのやり取り

次の層は、会話そのものを保護するものです。プロンプトには機密情報が含まれている可能性があります。プロンプトインジェクションによってモデルが操作される恐れがあります。応答には、安全でない、あるいは不適切な内容が含まれている可能性があります。組織には プロンプトのセキュリティ、コンテンツのモデレーション、および特注のLLMに対する制御機能 を組み合わせることで、人間とAIの相互作用に対して動的なガードレールを適用する必要があります。

この質問は、次の問いから派生したものです： 「このユーザーは、このAIアプリケーションにアクセスできますか？」

宛先： 「このユーザーが、この文脈において、この情報をこのモデルに送信すべきか？」

5. セキュア・アジェンティックAI

これは最終的には最も重要な層となるかもしれません。AIは、 「質問に答える」ことから「行動を起こす」ことへと移行しつつありますへと移行しつつあります。エージェントは、システムへのアクセス、ツールの起動、APIの呼び出し、データの取得、そして他のエージェントとの通信を、マシンの速度で行えます。MCPなどのプロトコルにより、こうした接続はますます強力になっています。したがって、組織には エージェントのアイデンティティ、ゼロトラスト、およびMCPセキュリティ を必要としており、それによって自律的なマシン間相互作用に、アイデンティティ、権限、ポリシー、そして継続的な認可が確保されるのです。

私たちは数十年にわたり、人間向けのアイデンティティおよびゼロトラストアーキテクチャを構築してきました。今や、自律的に動作する機械のためにも、それらが必要となっています。

安全を重視したイノベーション

結論として、この議論は「革新」と「安全性」のどちらを選ぶかという問題ではない。 それは誤った二者択一である。サイバーセキュリティ業界が取り組むべき課題は、 安全かつ確実なイノベーションことにあるはずです。

AIはさらに高速化していくでしょう。自律性も高まり、より多くの企業データにアクセスできるようになり、人間に代わってより多くの行動をとるようになるでしょう。組織は、エコシステム全体が総じて減速するという期待を基にAI戦略を立てることはできません。

彼らのセキュリティアーキテクチャは、その逆を前提とする必要がある。AI時代の勝者は、必ずしも動きが最も遅い組織とは限らない。勝者となるのは、 迅速に動く方法と、適切な安全策を講じる方法を両立させる組織である。

ブログへ戻る