Scott Schlee:
今日は2024年9月11日です。Scott Schlee Skyhigh Security Cloudcast本日は、技術者、起業家、教育者、そしてSkyhigh Security のアドバイザーであるセカール・サルッカイ氏をお迎えし、企業が人工知能を活用して生産性を向上させ、進化するサイバー脅威に対するセキュリティ対策を強化する方法を探ります。
この急速に変化する世界で、組織が一歩先を行くための実践的な戦略と、進化するAIの状況について議論する。セカール、本日はありがとうございます。お元気ですか？
セカール・サルッカイ
ああ、最高だよ。お招きいただきありがとうございます。
Scott Schlee:
セカール、Skyhigh Security でのポジションを教えてくれる？
セカール・サルッカイ
ええ、興味深いことです。ご存知のように、私はスカイハイ・ネットワークスのセカールの一人でした。その後、McAfeeに買収され、McAfeeに2、3年在籍しましたが、UC Berkeleyでサイバーセキュリティを教えるなど、他の仕事をするために退職しました。
しかし最近、新CEOのヴィシャールが着任したとき、彼は業界のトレンドや新しい問題に対処するためのコンサルティングができないか、と言ってきた。そうして私は現在、アドバイザーとして、純粋に相談ベースでスカイハイと関わっている。
Scott Schlee:
あなたをチームの一員に迎えられて、とても嬉しく思っています。さらに、今日、AI、将来のトレンド、Skyhigh Security 、AIを使って何をしようとしているのかについてお話しいただけることを嬉しく思っています。そこで、まず、サイバーセキュリティの将来を形作ることになりそうな、新たなAI技術にはどのようなものがあるのかについて、数分だけでもお話できればと思います。
セカール・サルッカイ：
ChatGPTが流行した2、3年前、文字通りITの世界は少なくとも一変したと思います。人々が直感的に「これは違う」と感じ、さまざまな使い方ができるようになり、この分野で信じられないほどのイノベーションが生まれました。
そして、それは成長し続けると思う。基盤モデルのように、安定していて、これから進化していくことが分かっている重要な分野もあると思います。しかし、オープンAIや他の多くの企業がやっていることは、そのようなことではありません。しかし、オープンAIや他の多くの企業がやっていることは、安定したものです。それは着実な道筋をたどっていると思います。マルチモーダル（テキストだけでなく、音声やビデオ、画像も含む）については、興味深い研究がたくさんあります。
その変化には目を見張るものがある。今日、あなたはプロンプトを与えることができます。そして成果は、想像上の空間のビデオクリップでしょう？かなりリアルに見えますね。だから、この分野には多くの仕事があり、発展していくと思う。ディープフェイクもその一つです。つまり、マルチモーダルAIは、クールなことがたくさんできる反面、セキュリティ上の問題もあります、ChatGPTで文書や映画の要約を頼むと、たぶん素晴らしい仕事をしてくれるだろう。
それはできないだろう。そこで、LLMとAIを拡張して実際に行動を起こすという新たな進化がある。つまり、これらは大規模な行動モデルなのです。企業での利用も多い。あるいは、そのような使用例は、これらのAI技術の大きな価値が進化していく可能性があると思います。
これは、次世代のSaaSと呼ばれるものです。今日、SaaSと言えば、Office 365やSalesforceを指します。基本的にはサービスとしてのソフトウェアです。これまではダウンロードやサーバーへのデプロイが必要だったものが、サービスとして利用できるようになります。
エージェント・システムなどが進化して、その次世代を支援するのは、ソフトウェアとしてのサービスとでもいうべきものです。
ほとんどコパイロットのようなものですが、バーチャルのセールス・エージェントを得ることができるオートパイロットにするのです。つまり、人間が仕事をうまくこなせるようにサポートするのではなく、基本的に人間がやることをやってくれるようにするんですね。それが自動化です。これがタスク分析だ。
そして、それには明らかに良いことも悪いこともある。社会、仕事、そして人間。しかし、何かを成し遂げたいという目標があり、それを達成すべきタスクに分解し、実際に実行に移すことができる。
そして、タスクを完了させることは、非常に急速に進化している。魅力的なデモをネットで見ることができる。デベロッパー......デベロッパー・エージェントとでも言いましょうか。YouTubeで「Devin」と検索してください。Devinは開発者のペルソナですが、リアルタイムでコードを生成しているのを見るのは魅力的です。
そして、もし例外やエラーがあれば、実際に探しに行く。開発者のサブ・スタックやその他のあらゆる場所にある水飲み場を探し出し、問題を修正し、それを読んで、すべてを展開する。自動化を実現するという考え方は、現実的なものであり、企業に大きな影響を与える可能性がある。
Scott Schlee:
私のような開発者の多くは、このことを見て、自分の仕事が奪われることを恐れるか、それとも自分の仕事をより効率的にするためのアシスタントになると考えるか、どちらかだと思う。
セカール・サルッカイ
ええ、それが100万ドルの質問ですね？
どこまで続くかわからないし、デモを見れば、あれは嘘だ、と言う人もいるだろう。専門家のプログラマーがやるようなことはできない。で、次のデモを見たら、すごい、これならできそうだ、と。そう。あるいは、20人のチームでなくても、1人の開発者でもいい。
誰がゼロからスタートアップを立ち上げ、この技術の一部を使ってコードも開発できるのか、
Scott Schlee:
今日のAIはこれまでで最も間抜けだ。過去3年、半年から1年の間に、AIがその黎明期から飛躍的に進歩するのを目の当たりにしてきました。
セカール・サルッカイ
その通りだ、スコット。そして、それはあなたがベッドのどちら側に立つかにもよりますが、大きなチャンスか大きな懸念のどちらかだと思います。
Scott Schlee:
では、これらのAIはどのように進化しているのでしょうか？私たちが話しているのは、オープンAIのようなもので、誰でもそれを手に入れることができ、実際に良い目的にも悪い目的にも使うことができる。
こうした進歩は、脅威と防御という点で、サイバーセキュリティにどのような影響を与えようとしているのだろうか？
セカール・サルッカイ
ほんの2年前には現実の問題だとは考えられなかったようなことが、すでに起きているのです。サイバーセキュリティの実務家として、この仕事はますます難しくなると思います。
いろいろなことが原因だと思います。今日、GNIの文脈でセキュリティについて人々に尋ねると、多くの新興企業や、スカイハイのような既存企業でさえ、LLM自体のセキュリティを確保するとはどういうことなのか、ということに注目していますよね。ジェイルブレイク（脱獄）とか、適切でない答えを出すようにモデルを誘導する方法とか、そういう考え方があります。
フォーチュン100社の典型的な例では、JNIプラットフォーム上で作成されたチャットボットによって、CEOの給与が暴露されました。このようなことは非常に重要で、多くの人々が取り組んでいることであり、スカイハイSSEのようなプラットフォームへの拡張や、新興スタートアップ企業との提携によって、このような自然なギャップを埋めることができるようになるでしょう。
しかし、攻撃側から出てくる問題は他にもあるんですよね？つまり、これは悪役の方がこれらの変化に適応するのが早いという典型的なケースなんだ。典型的な例を挙げましょう。デビンの話をしましたよね？その例を使ってみよう。Devinは問題を見つけると、ある水飲み場に行くことができる。
スタック・オーバーフローで確認しよう。その修正方法は？そして様々な開発者のコメントを見て、適切なものを選び、その修正を実装する。さて、実際にこれが公開されたのは数カ月前のことだが、悪者がいることが判明した。
国家がスポンサーとなって、非常に興味深いことをしているのだと思う。彼らは実際にStack Overflowでバックドアされた悪意のあるPythonライブラリを公開していました。GitHubで公開し、Stack Overflowでそれについて話している。そして
Scott Schlee:
問題の解決策として。
セカール・サルッカイ
例外でも何でも。
もしあなたが人間で、GitHub CopilotのようなCopilotが「これを修正しろ」と言ってきたとします。それを見て、自分の判断で、これは使わないほうがよさそうだ、とか言うでしょう？そして、その新しいPythonライブラリでアップデートするかどうかを決めるのは僕次第なんだ。
しかし、もしDevinのようなエージェント的なものだとしたら、何をどのようにコントロールするのだろうか。スピードと効率、そしていかに素早くクールな方法で解決できるかが重要だからだ。また、Stack Overflowのコメントを無視すべきかどうかを判断する定量的な方法があるかどうかもわかりません。
この場合、本質的にデータ・サプライ・チェーン攻撃のリスクがあるわけですね。というのも、この例では推論時、つまりモデルを実際に使用する時の話をしているからです。データサプライチェーンにまつわるこの種の問題は、モデル自体を訓練するために実際にどのデータが使われたかにまつわるものです。
マルウェアや悪意のあるデータに関する問題はもちろんですが、データの所有権や著作権の問題など、根本的な問題もあります。著作権を侵害した場合に責任を問われる可能性のある企業にとって、これらはますます難しくなっていくかもしれません。
もし彼らがそれを自分たちにとって価値のあるものに使ったり、公共のものに使ったりすれば、誰かがそのことで彼らを訴えることができる。ですから、そのような問題があることは間違いなく、さらに考える必要があると思います。そして最終的に、私はこう言いたい。エージェント的な世界、物事の自動化、人間や私たちの選択をAIに置き換えるという強い動きがあるため、悪質な行為者のキャンペーンは、AIのスピードで起こるため、人間に触れることすらないかもしれません。
つまり、攻撃を仕掛ける悪質な行為者がいるわけですが、それは純粋にAIに基づいていて、AIがあなたの環境の脆弱性を見つけて攻撃を仕掛けるからです。デビンが正当な理由でコードを作成したように、悪質な行為者はそれを使ってネットワークに侵入することができるんだ。データを流出させるためにね。もしそうなった場合、人間のスピードでそれに対応することは助けにならないでしょう。なぜなら、人間は今日の世界のように、ソックスに脆弱性を発見し、チケットを作成し、誰かがその所有者を特定し、問題を発見する必要があるからです。
それじゃ、うまくいかないよ。
Scott Schlee:
対応に数時間から数日かかる。
セカール・サルッカイ：
昔あったマンガのようなものです。私が子供の頃は、スパイはスパイでしたが、それと同じようなものです。サイバーセキュリティの本格的なアクションは、時間をかけて行われることになると思う。
Scott Schlee:
多くの人が、AI対AIでどうなるかを理論的に考えているのは知っています。西部開拓時代のシナリオでは、最悪の事態に備えなければならない。
セカール・サルッカイです：
SkyhighがSkyhighのネットワークだったころは、SkyhighはSkyhighのネットワークでしたが、その後Skyhigh Security 。
ガートナーのLingoはCASBからSSEセキュアサービスエッジに変化し、CASB、SWG、RBI、その他多くの機能を備えていますが、スカイハイが目指しているのはSSCプラットフォームの自然な拡張であり、AIを総合的に扱うことだと思います、というのも、スカイハイがエンタープライズ・データを見てきたように、エンタープライズについて考えるのであれば、スカイハイはエンタープライズ・データを見てきました。
また、あまり多くのデータを公開するわけではありませんが、興味深い調査結果としては、多くの企業がAIを導入している一方で、大企業の多くはChatGPTをブロックしています。
それに未知の部分が多いので、自分だけのインスタンスで展開したいんです。ChatGPTをSASSとして使うよりもね。社員がChatGPTに問い合わせをすることは許さないが、独自のエンタープライズインスタンスを持つ。社員がChatGPTに問い合わせをすることができるのは、データがこの高速なChatGPT環境に漏れることを心配しているからです。社内であれば
Scott Schlee:
彼らが承認したガードレールを設置している限りはね。
セカール・サルッカイ
しかし、VPC内では、基本的に従業員だけがGPTのインスタンスを使用しています。
APIを通じて、あるいはChatGPTであるUIを通じて、そしてAWSと同様に、これらのパブリック・クラウド環境はすべて、その周辺でかなり健全なビジネスを成長させている。最初のステップは、どのようなGen AIが使用されているかを可視化することだ。これは、クラウドがすべての企業で利用されていた10年前のシャドーITに近い。
今、CISOの多くが知りたいのは、自分の企業で使われているAIとは何か、どのビジネスラインで使われているのか、それはリスクがあるのかないのか、ということだ。LLMの中には大丈夫なものもある。マルウェア攻撃やジェイルブレイクを受けやすく、従業員や顧客のこの企業に対する認識に影響を与える可能性があるからだ。
つまり、このレベルの可視性があるわけです。JNIとLLMに特化した属性は、SSEベンダーとしては初めてとは言わないまでも、Skyがいち早く市場に投入したものですね。それは、単に発見するだけでなく、A.I.が何を発見したかを報告できることです。企業でどのようなA.I.が使用されているかをレポートするだけでなく、どのA.I.が危険で、どのA.I.が危険でないかなど、リスクベースの視点も持つことができます。
スカイハイのプラットフォームは、皆さんご存知の通り、データ・セキュリティに非常に優れています。Skyhighプラットフォームはデータセキュリティに非常に強いです。CASBのルーツはデータセキュリティにもあります。お客さまが抱える懸念の多くは、データ漏えいに関するものです。だからChatGPTはブロックして、プライベートな利用は可能にしているんだ。
また、SSEの大きなユースケースはOffice 365の周辺にあります。スカイハイブのレポートでも紹介されていますが、LLMやGen AIは、企業での利用において、他のものと比べて、3桁も大きな差があります。
そして、それがOffice 365 Copilotの使用です。これはマイクロソフトのコパイロットで、コパイロットはGen AI基礎モデルの上に構築されます。OpenAIのGPT 4.0とか、LLAMAモデルとか、他にもたくさんあります。人間工学的なものであれ、何であれ。しかし、基本的にマイクロソフトはOpenAIを使用していますが、Office 365のアドオンであるMicrosoft Office 365 Copilotを作成しました。
Office365のユーザーがChatGPTのような自由なインタラクションができるだけでなく、Office365が可視化できる企業データすべてにコンテキストを持たせることができます。そして、大企業について考えてみると、彼らはすべてOffice 365で標準化されていますよね？
SharePoint、OneDrive、Microsoft Teams、すべての電子メールなど、企業や皆さん、企業の従業員が今日、交流し、生産性を高め、価値を創造するために使用しているものはすべて、マイクロソフトのプラットフォーム内にあり、マイクロソフトのプラットフォームのどこかに保存されています。そして、Microsoft Copilotはそのすべてをインデックス化します。
また、インデックスを作成したくないものなどをコントロールすることもできます。しかし、Office 365にバンドルされているか、アドオンされているという事実のおかげで、Microsoft Copilotの採用率は本当に頭一つ抜けています。しかし、従業員がOffice 365を使用し、Copilotとやり取りし、多くの機密データがマイクロソフトの環境にあるため、データ保護は、Skyのデータ保護の自然な延長線上にあると思います。
コパイロットの世界では、顧客にとって計り知れない価値がある。その周辺には多くの問題があります。マイクロソフトがいくつかのベースライン・コントロールを持っていることは知っていますが、SSEが大企業に必要なだけで、コパイロットの場合はさらに重要になると思います。
例えば、マイクロソフトのCopilotには典型的な例があり、APIを通じてCopilotに接続できるアプリケーションがある。そのため、データの流出経路になる可能性がある。先日のBlack HatカンファレンスでCopilotを使った非常に興味深い攻撃が紹介されたので、興味のある方はCopilotで検索してみてください。
実際にコパイロットを説得して、ミーティングに参加した人全員や、最も多く連絡を取った人のメールアドレスを返答させることができる。そしてその人と最後に何を話したか？そして、コパイロットとのやり取りから十分な情報を引き出し、その人に何かを依頼するメッセージを作成する。
Scott Schlee:
グループとしての会員へ、CEOより
セカール・サルッカイ
その通りです。
Scott Schlee:シェーカー、Skyhigh Security はどのようなAIソリューションを持っていて、将来にどのように備えているのですか？
セカール・サルッカイ
Copilotの導入を管理するためのより良い方法を、顧客は求めていると思います。これは将来的なことではなく、ニーズなのです。スカイハイは、Office 365環境のデータ保護における強みを、同じDLPテストを行うことで基本的にCopilotに適用することができます。
例えば、スカイハイにはすでに、ある文書についてあなたと共同作業をしているときに、突然、私が契約社員だとします。この場合、私はアドバイザーだとします。スコット、あなたは私と何かを共有しており、非従業員や非重役などには従順ではない、非常に機密性の高いものを共有しようとしています。
すでにスカイハイブには、共有が許可されるべき内容よりも機密性の高い変更について、共同作業を停止する機能がありますよね。それと同じようなものです。コパイロットは、コンテンツを生成しているときに、何か機密性の高いものがあれば、申し訳ありませんが、私が持っているよりも機密性の高いものがあれば、それをブロックすることができるはずです。
だからSkyはその手助けができる可能性がある。実はSkyは、ガードレールの作成に特化したAIスタートアップと連携しています。これはEncryptというスタートアップで、レッドチームの観点からリスク・スコアリングのために統合しましたが、ガードレールのためにも統合しています。
つまり、ChatGPTと同じように脱獄してはいけないというガードレールは、Office 365にとっても重要なのですね。つまり、Office 365が何かを吐き出してしまうことは避けたいのです。スカイハイは、このような不適切な状況に対応することで、お客様をサポートすることができます。
私は、機密性を理解することができると思います。ドキュメントを保護することもできますが、コラボレーションという点では、誰がそれを見ることができるのか、また、Office 365とすでに連携しているAPI連携や、プロキシ（フォワードプロキシ、リバースプロキシ）を通じて、ほぼリアルタイムでそれを修正することができます。
Scott Schlee:
というのも、先ほども申し上げたように、AIは今まさにワイルド・ウェスト（西部開拓時代）なのです。AIがどこにあるのか、どこに向かっているのか、どのように機密データを保護すればいいのか、十分に理解していない人もいます。
3カ月以内には、すべてがまったく違うものになっていると思うから。だから、また近況報告をしてほしい。
セカール・サルッカイ
もちろんです、スコット。どういたしまして。喜んで飛びつきますよ。興味深いトピックがたくさんありますし、私たちもそれを取り上げています。
そして、企業がこの業界についてどのように考えているかを知る必要があると思います。この分野の進化と、Gen AIとの関連性に関してあなたが尋ねたいくつかの質問。セキュリティとジェニーのセキュリティにとって、私はどちらも超重要であり、これは確実に長い話になるでしょう。
Scott Schlee:
そうだね。シェーカーオンラインであなたを見つけたい人は、どうやって連絡を取ればいいのでしょうか？
セカール・サルッカイ
LinkedInでシェーカーと検索するのが一番だと思います。そして、この新たな領域について、皆の見解を聞きたいと思います。これは最も重要なことです。
Scott Schlee:とてもいい。
彼の情報はショーノートにあります。そこに簡単なリンクを貼っておきます。彼や私、Skyhigh Security までお気軽にご連絡ください。 AIの未来について、そして私たちがどのようにお手伝いできるか、ぜひお話させてください。
セカール・サルッカイ
ありがとうございます。
Scott Schlee:
Cloudcastこのエピソードを楽しんでいただけたなら、お好きなプラットフォームで購読して更新を見逃さないようにしてください。
番組を気に入っていただけたら、ぜひレビューをお寄せください。他の人がポッドキャストを見つけるのに役立ちます。Skyhigh Security またはCloudcast について詳しくは、SkyhighSecurity.comをご覧ください。
注意：すべての原稿は、音声認識ソフトウェアと人の手によって書き起こされており、誤りが含まれている可能性があります。印刷物に引用する前に、対応する音声をご確認ください。