تقنيات الذكاء الاصطناعي الناشئة وتأثيرها على الأمن السيبراني

Scott Schlee:
إنه 11 سبتمبر 2024. أنا مضيفكم، Scott Schlee ، وأنتم تستمعون إلى Skyhigh Security Cloudcast . ينضم إليّ اليوم سيخار ساروكاي التقني ورائد الأعمال والمعلم والمستشار Skyhigh Security لاستكشاف كيف يمكن للشركات الاستفادة من الذكاء الاصطناعي لزيادة الإنتاجية وتعزيز تدابيرها الأمنية ضد التهديدات الإلكترونية المتطورة.

سوف نناقش الاستراتيجيات العملية والمشهد المتطور للذكاء الاصطناعي الذي يمكن أن يساعد المؤسسات على البقاء في المقدمة في هذا العالم سريع التغير. سيخار، شكراً لانضمامك إلينا اليوم. كيف حالك؟

سيخار ساروكاي
أنا بخير حال. شكراً جزيلاً لك يا سكوت على استضافتي هنا.

Scott Schlee:
سيخار، هل يمكنك أن تخبرني بموقعك في Skyhigh Security ؟

سيخار ساروكاي
نعم، إنه أمر مثير للاهتمام. أنا، كما تعلمون، كنتُ أحد سيخار في شركة Skyhigh Networks. ثم بعد أن استحوذت عليها شركة مكافي McAfee، كنت هناك مع مكافي لبضع سنوات، ثم غادرت للقيام بأشياء أخرى مثل التدريس، حيث أقوم بالتدريس في مجال الأمن السيبراني في جامعة كاليفورنيا في بيركلي، وعملت مع الكثير من أصحاب رؤوس الأموال الاستثمارية وأشياء أخرى.

ولكن في الآونة الأخيرة، عندما جاء فيشال، الرئيس التنفيذي الجديد للشركة، تواصل معي لمعرفة ما إذا كان هناك بعض الاستشارات، مثل المساعدة في بعض الاتجاهات والقضايا الجديدة التي يجب التعامل معها في هذه الصناعة. وهذه هي الطريقة التي أتعامل بها مع Skyhigh الآن، على أساس استشاري بحت، على أساس استشاري بحت كمستشار، بشكل أساسي.

Scott Schlee:
أعلم أننا سعداء جداً بانضمامك إلى فريقنا، وأكثر من ذلك أنا سعيد بانضمامك إلينا اليوم للحديث عن الذكاء الاصطناعي، والاتجاهات المستقبلية، وما الذي يفعله Skyhigh Security مع الذكاء الاصطناعي، ولذلك كنت آمل أن نتمكن من قضاء بضع دقائق فقط للحديث عن، أولاً، ما هي بعض تقنيات الذكاء الاصطناعي الناشئة التي من المحتمل أن تشكل مستقبل الأمن السيبراني؟

سيخار ساروكاي:
هذا سؤال محمل يمكن أن يكون في محادثتنا، ولكننا جميعًا، أعتقد أن العالم، حرفيًا عالم تكنولوجيا المعلومات، على الأقل تحول قبل عامين عندما انطلقت ChatGPT، أليس كذلك؟ لقد كان هناك شيء ما حيث شعر الناس في قرارة أنفسهم أن الأمر مختلف، وهناك الكثير من الاستخدامات المختلفة لها، والتي انتشرت في هذا المجال، وقدر لا يصدق من الابتكار في هذا المجال.

وأعتقد أن ذلك سيستمر في النمو. أعتقد أن هناك بعض المجالات الرئيسية التي أعتقد أنها مستقرة ويعرف الناس أين ستتطور، مثل نماذج التأسيس. ولكن ما يقوم به الذكاء الاصطناعي المفتوح و حفنة من الآخرين يفعلونه. أعتقد أن هناك مسارًا ثابتًا. هناك الكثير من العمل المثير للاهتمام حول تعدد الوسائط، وهو ليس فقط النص، وهو المكان الذي يتم إنشاؤه فيه، ولكن مع الصور الصوتية والفيديو.

من المذهل مدى التغير الذي طرأ عليها. اليوم يمكنك أن تعطي موجهًا والنتائج، مقطع فيديو لفضاء متخيل، أليس كذلك؟ والذي يبدو واقعياً جداً. ولذا هناك الكثير من العمل في هذا المجال، أعتقد أنه سيتطور. وكما أن التزييف العميق هو أحد تلك الاستخدامات السيئة لتلك التقنية حيث يمكنني أن أجعل الأمر يبدو وكأن الله يقول شيئًا لم يفعله أبدًا وسيكون من الصعب جدًا تمييز ذلك من الواقع لذا فإن هذا كله الذكاء الاصطناعي متعدد الوسائط لديه الكثير من الأشياء الرائعة التي يمكنك القيام بها ولكن لديه أيضًا كما تعلمون مشاكل أمنية تأتي معه المجال الكبير الآخر الذي أود أن أقول إنه يحظى بالاهتمام مؤخرًا في يمكنني أن أقول، بضعة أرباع حول الذكاء الاصطناعي العميل، وهو أنك إذا ذهبت إلى ChatGPT، وطلبت منه تلخيص مستند أو فيلم، ربما يقوم بعمل رائع في ذلك، ولكن إذا أردت أن تطلب منه أن يحجز لك تذكرة للذهاب إلى فيلم، وتنسيق التقويمات مع أصدقائك للذهاب لمشاهدته.

لن تكون قادرة على القيام بذلك. ولذا، هناك هذا التطور الجديد لتوسيع نطاق نماذج العمل الكبيرة والذكاء الاصطناعي لاتخاذ إجراءات فعلية. لذا فهذه نماذج عمل كبيرة. وهناك الكثير من الاستخدامات المؤسسية. أو حالات استخدام من هذا النوع الذي يغذي نوعًا ما حيث أعتقد أن القيمة الكبيرة لكل تقنيات الذكاء الاصطناعي هذه قد تتطور.

وهذا هو، ما يسميه البعض الجيل القادم من SaaS، أليس كذلك؟ اليوم، إذا كنت، إذا تحدث أي شخص عن SaaS، فهو مثل Office 365 أو Salesforce أو العالم. إنها في الأساس برمجيات كخدمة. أي شيء كان يجب عليك في السابق تنزيله أو نشره في خوادمك، فأنت في الواقع تستهلكه كخدمة.

إن الجيل التالي من ذلك، والذي ستتطور الأنظمة الوكيلة وغيرها للمساعدة في إنشاء ما يسمى، ما يمكن اعتباره خدمة كبرنامج، وهو، إذا نظرت إلى ما يفعله رجل المبيعات اليوم، لكن Salesforce لديهم يستخدمون قوة المبيعات كوسيلة لجعلهم أكثر إنتاجية والذهاب وإتمام صفقة أو إدارة حملة أو أيًا كان ما قد يكون ما سيفعله الجيل التالي هو اتخاذ الخطوة التالية، وهي عدم

فقط ليكون مثل الطيار الآلي تقريبًا، ولكن لجعله طيارًا آليًا حيث يمكنك بالفعل الحصول على وكيل مبيعات افتراضي، أليس كذلك؟ لذا بدلاً من مساعدة إنسان ما على إكمال مهمته بشكل أفضل، سيكون هذا في الأساس قادرًا على القيام بما يقوم به الإنسان، أليس كذلك؟ وهذا هو الأتمتة. هذا هو تحليل المهام.

ومن الواضح أن هناك أشياء جيدة وسيئة في ذلك. لا أعرف إلى أين سينتهي الأمر من حيث. المجتمع والوظائف والأشخاص، ولكن، الحركة نحو القول، حسناً، أريد أن أنجز شيئاً ما، وأن أعطيه هدفاً وأن أكون قادراً على تحليل ذلك إلى مهام يجب إنجازها والذهاب فعلياً وتنفيذها.

وإكمال المهام هو شيء تطور بسرعة كبيرة. أود أن أقول إن هناك بعض العروض التوضيحية الرائعة التي يمكنك مشاهدتها على الإنترنت. هناك واحد من مطور وكيل مطور، إذا صح التعبير. وهذا يمكنك البحث عن فيديو، في يوتيوب عن ديفين. ديفين هو شخصية مطور، ولكن من الرائع أن تراه يعمل في الوقت الحقيقي، حيث يولد التعليمات البرمجية.

ثم إذا كان هناك بعض الاستثناءات أو الخطأ، فإنه في الواقع يذهب ويبحث في في جميع الثغرات الفرعية للمطورين أو في أي مكان آخر قد يذهب ليجدها ويذهب لإصلاح المشكلة ويقرأ عليها وينشر كل ذلك. لذا فإن فكرة القدرة على الوصول إلى تلك الأتمتة هي فكرة حقيقية ويمكن أن يكون لها تأثير عميق على المؤسسات.

Scott Schlee:
وأعتقد أن الكثير من الأشخاص، المطورين مثلي، سينظرون إلى هذا الأمر ويأخذونه على أحد وجهين، هل أخشى أن يسلبني هذا الأمر وظيفتي بطريقة ما، أم أنظر إليه على أنه سيكون مساعداً لي لأكون أكثر كفاءة في عملي؟

سيخار ساروكاي:
نعم، وهذا هو سؤال المليون دولار، أليس كذلك؟

لا أعرف إلى أين سينتهي الأمر وبعض، ترى بعض العروض التوضيحية، تقول، أتعرف ماذا، هذا ليس صحيحًا. هذا لا يمكن أن يفعل ما يمكن أن يفعله مبرمج خبير. ثم ترى عرضًا تجريبيًا تاليًا حيث يكون رائعًا، هذا ما يفعله. نعم. أو أنك لا تحتاج، 20 شخصًا في فريق، ربما هناك مطور شخص واحد.

من يستطيع بناء شركة ناشئة من الصفر وتطوير الكود البرمجي أيضاً باستخدام بعض هذه التكنولوجيا,

Scott Schlee:
أعلم أن القول المأثور هو أن الذكاء الاصطناعي اليوم هو أغبى ما يمكن أن يكون عليه في أي وقت مضى سيصبح أكثر ذكاءً وأفضل. لذلك رأيت في السنوات الثلاث الماضية فقط، من ستة أشهر إلى سنة، رأينا جميعًا أن الذكاء الاصطناعي يتقدم بشكل كبير عن ما كان عليه في بداياته.

سيخار ساروكاي
بالتأكيد، سكوت. وأعتقد أن ذلك يعتمد أيضًا على أي جانب من السرير تستيقظ، أعتقد أنها إما فرصة كبيرة أو مصدر قلق كبير.

Scott Schlee:
إذن كيف هي هذه التطورات في الذكاء الاصطناعي الجيني؟ نحن نتحدث هنا عن ذكاء اصطناعي مفتوح، بحيث يمكن لأي شخص أن يضع يده عليه ويستخدمه بالفعل لأغراض جيدة أو شنيعة.

كيف ستؤثر هذه التطورات على الأمن السيبراني من حيث التهديدات والدفاعات؟

سيخار ساروكاي
نعم، هذا مرة أخرى إنه يتطور بسرعة كبيرة لدرجة أنك رأيت بالفعل مشكلات لم تكن تعتقد أنها مشكلة حقيقية قبل عامين فقط. وأعتقد أننا كممارسين في مجال الأمن السيبراني ستزداد صعوبة المهمة.

أعتقد أن ذلك بسبب الكثير من الأشياء. اليوم، إذا نظرت إلى، إذا سألت الناس عن الأمن مع، في سياق GNI، هناك الكثير من الشركات الناشئة و، حتى الشركات القائمة مثل Skyhigh، أنت تبحث في، في ماذا يعني تأمين LLM نفسه، أليس كذلك؟ هناك فكرة كسر الحماية، أو، كيف يمكنك في الواقع إقناع النموذج بإعطاء إجابة غير مناسبة، أشياء من هذا القبيل.

هناك أيضًا مخاوف بشأن تسرب البيانات، وهناك مثال كلاسيكي مع شركة فورتشن 100 حيث تم الكشف عن راتب الرئيس التنفيذي من خلال روبوت الدردشة الآلية، الذي تم إنشاؤه على رأس منصة JNI. أشياء من هذا القبيل، وهي أمور مهمة للغاية وشيء يعمل عليه الكثير من الناس وسيستمر إما أن يتم تعزيزها في منصات مثل Skyhigh SSE أو شراكات مع الشركات الناشئة الناشئة للمساعدة في سد هذه الفجوة الطبيعية.

لكن هناك مشاكل أخرى تأتي من الجانب الهجومي، أليس كذلك؟ إذن، هذه حالة كلاسيكية حيث يكون اللاعبون السيئون أسرع في التكيف مع بعض هذه التغييرات، أليس كذلك؟ لذا سأعطيك مثالاً كلاسيكياً تحدثنا عن ديفين، صحيح؟ لذا دعني أستخدم هذا المثال. إذاً ديفين، عندما يجد مشكلة ما يمكنه الذهاب إلى أحد هذه الحفر المائية.

Stack Overflow لأرى، حسناً، لماذا حصلت على هذا الخطأ؟ وما هو إصلاحه؟ وسينظر في، تعليقات المطورين المختلفين ويختار الإصلاح المناسب وينفذ هذا الإصلاح. الآن، ما اتضح في الواقع أنه تم نشر هذا قبل شهرين، في الواقع، كان هناك فاعل سيء.

أعتقد أنه فاعل ترعاه الدولة ويقومون بشيء مثير للاهتمام. لقد كانوا في الواقع ينشرون مكتبات بايثون الخبيثة في Stack Overflow وليس فقط نشرها النشر في GitHub، والتحدث عنها في Stack Overflow. و

Scott Schlee:
كحل للمشكلة

سيخار ساروكاي
لذلك، استثناء أو أيًا كان.

وهكذا تخيل لو كنت إنسانًا وإذا كان طيارًا تجريبيًا، مثل GitHub Copilot، الذي يخبرني أن أذهب لإصلاح هذا، لكنني سأذهب إلى Stack overflow، وأجده. خذ ذلك، واستخدم حكمي لأقول، أتعلم ماذا، هذا يبدو وكأنه شيء قد لا أستخدمه أو أيًا كان، أليس كذلك؟ والأمر متروك لي لأقرر ما إذا كنت سأقوم بالتحديث بمكتبة بايثون الجديدة.

ولكن إذا كان عميلاً مثل ديفين، فما هي الضوابط وكيف، لأن الأمر كله يتعلق بالسرعة والكفاءة ومدى سرعة وفعالية الطرق الرائعة التي يمكن أن تحل بها المشكلة. ولا أعرف حتى ما إذا كانت هناك طريقة كمية يمكنك من خلالها الحكم على ما إذا كان يجب تجاهل تلك التعليقات في Stack Overflow أم لا.

لذا فإن خطر هجوم سلسلة توريد البيانات بشكل أساسي في هذه الحالة، أليس كذلك؟ لذلك هو حقيقي جدًا بالنسبة للذكاء الاصطناعي لأنني أتحدث عن في هذا المثال، في وقت الاستدلال، في الوقت الذي تستخدم فيه النموذج بالفعل. هناك الكثير من هذه الأنواع من المشكلات المتعلقة بسلسلة توريد البيانات، والتي تدور حول البيانات التي تم استخدامها بالفعل لتدريب النموذج نفسه.

وهناك بالتأكيد أسئلة حول، البرمجيات الخبيثة والبيانات الضارة، ولكن هناك أيضًا أسئلة أساسية حول ملكية البيانات، وقضايا حقوق النشر، وأشياء من هذا القبيل. وقد تصبح هذه الأمور صعبة على نحو متزايد بالنسبة للمؤسسات التي قد تكون مسؤولة عن انتهاك حقوق النشر سواء تم إنشاؤها بواسطة الذكاء الاصطناعي العام لهم أم لا، أليس كذلك؟

إذا استخدموها في شيء له قيمة بالنسبة لهم أو إذا كانت عامة يمكن لشخص ما مقاضاتهم عليها. لذلك هناك بالتأكيد هذه الأنواع من القضايا، والتي أعتقد أنها ستحتاج إلى مزيد من التفكير فيها. وأعتقد أنه بشكل أساسي، أخيرًا، أود أن أقول. لأن هناك هذا التحرك القوي نحو عالم عميل وهذه الأتمتة للأشياء واستبدال الأشخاص والخيارات التي نتخذها بالذكاء الاصطناعي، قد لا تمس حملة الفاعل السيئ حتى الإنسان لأنها تحدث بسرعة الذكاء الاصطناعي.

إذن هناك فاعل سيء قد يشن هجومًا يعتمد على الذكاء الاصطناعي فقط لأن الذكاء الاصطناعي يجد ثغرة في بيئتك ويشن الهجوم. كما فعل ديفين لأسباب وجيهة لإنشاء شيفرة، يمكن للفاعل الشرير أن يستخدمها لاختراق الشبكة، أليس كذلك؟ لاستخراج البيانات. وإذا حدث ذلك، فإن الرد على ذلك بسرعة البشر لن يساعد لأن البشر سيضطرون بعد ذلك، كما هو الحال في عالم اليوم، إلى إنشاء برمجية وتذهب إلى الجورب وتنشئ تذكرة ويحتاج شخص ما إلى معرفة من يملكها، ويجد مشكلة.

هذا لن ينجح.

Scott Schlee:
ساعات إلى أيام قبل أن تتم معالجتها

سيخار ساروكاي:
ولذا أنت بحاجة، إنها تقريبًا مثل هذه القصص المصورة، التي كانت موجودة، أنا أؤرخ نفسي. كنت أكبر، وهو أن الجاسوس كان جاسوسًا، إنه نفس النوع من الأشياء، وهو الذكاء الاصطناعي مقابل الذكاء الاصطناعي، أليس كذلك؟ هذا هو المكان الذي أعتقد أن عمل الأمن السيبراني الحقيقي سيكون مع مرور الوقت.

Scott Schlee:
هذا مفهوم مثير للاهتمام، أعرف أن الكثير من الناس قد وضعوا نظريات عن كيفية عمل ذلك في مواجهة الذكاء الاصطناعي ضد الذكاء الاصطناعي و. في سيناريو أشبه بسيناريو الغرب المتوحش، عليك فقط أن تستعد للأسوأ.

سيخار ساروكاي:
نعم، لا، في الواقع الطريقة التي أفكر بها في الأمر هي أن سكاي هاي هي واحدة من الرواد في CASB، Skyhigh، عندما كانت سكاي هاي شبكة سكاي هاي ثم تحولت إلى Skyhigh Security.

والمجال نفسه، لينجو جارتنر، لقد تحول من CASB إلى SSE Secure Service Edge، ولديه CASB، ولديه SWG، و RBI، ومجموعة من الميزات الأخرى، ولكن أعتقد أن ما أعتقد أن Skyhigh تسير فيه، وأعتقد أنه امتداد طبيعي لمنصة SSC هو معالجة الذكاء الاصطناعي بشكل شامل, لأنه إذا كنت تفكر في المؤسسات بالطريقة التي نظرنا بها في Skyhigh في بيانات المؤسسات، وأعتقد أنهم سينشرون هذا التقرير عن بعض البيانات الرائعة للغاية، وأنا متأكد من أنك ستقوم بعمل بودكاست آخر حول هذا الموضوع.

وفي مرحلة ما لا أريد أن أكشف الكثير من البيانات، ولكن بعض النتائج المثيرة للاهتمام هي أن الكثير من الشركات، إنهم يتبنون بالفعل الذكاء الاصطناعي الجيني، ولكن الكثير من الشركات الكبرى تحظر في الواقع ChatGPT لأنه يبدو وكأنه منظور متناقض، ولكن ما يقولونه حقًا هو أنه مهم جدًا.

وهناك الكثير من الأمور المجهولة التي أريد نشرها في مثالي الخاص. بدلاً من استخدام ChatGPT كـ SASS، أليس كذلك؟ لذا فهم لا يسمحون لموظفيهم بإجراء استعلامات إلى ChatGPT، ولكن سيكون لديهم مثيل مؤسسي خاص بهم منه. حيث يمكنك، يمكن للموظفين الذهاب وطرح هذه الاستعلامات لأنهم قلقون من أن البيانات يمكن، أن تتسرب إلى بيئة ChatGPT السريعة هذه، ولا بأس في الحصول على القيمة. إذا كانت داخلية.

Scott Schlee:
طالما أنهم وضعوا الحواجز التي وافقوا عليها.

سيخار ساروكاي:
نعم، لا، ليس ذلك فحسب، بل إنهم في الواقع في جميع هذه الحالات تقريبًا، يستخدمون مثل Azure AI، فهم يستخدمون مثل Azure AI، إنه نشر تمرير على بنية تحتية عامة، ولكن داخل VPC الخاص بهم، يستخدم موظفوهم فقط موظفيهم هذا المثيل من GPT.

إما من خلال واجهة برمجة التطبيقات أو من خلال واجهة المستخدم، وهي عبارة عن ChatGPT، وبالمثل مع AWS، فقد نمت جميع هذه البيئات السحابية العامة بعض الأعمال الصحية جدًا حول ذلك. لذا فإن الخطوة الأولى هي حقًا الحصول على رؤية حول ما يتم استخدام الذكاء الاصطناعي من الجيل الذي يتم استخدامه. هذه هي تقريبًا تكنولوجيا معلومات الظل منذ 10 سنوات عندما كانت السحابة تُستخدم من قبل جميع الشركات.

والآن، يريد الكثير من مدراء أمن المعلومات معرفة ما هو الذكاء الاصطناعي الذي تستخدمه مؤسستي، وما هي خطوط الأعمال التي تستخدمها، وهل هي محفوفة بالمخاطر أم لا؟ هناك بعض من تلك التي لا بأس بها. وبعضها مشكوك فيها لأنك لا تريد، ربما تكون أكثر قابلية لهجمات البرمجيات الخبيثة وكسر الحماية مما قد يؤثر على الموظفين أو على نظرة العملاء لهذه المؤسسة.

لذا، هذا المستوى من الرؤية. ومع السمات الخاصة ب JNI و LLM هو شيء تمتلكه sky كونها واحدة من أوائل بائعي SSE، إن لم تكن أول بائع SSE يطرح في السوق، أليس كذلك؟ وهو أن تكون قادرًا على عدم الاكتشاف فقط. والإبلاغ عن ماهية الذكاء الاصطناعي الذي تستخدمه المؤسسة، ولكن أيضًا الحصول على رؤية قائمة على المخاطر بشأن أي منها محفوف بالمخاطر وأيها غير محفوف بالمخاطر وما إلى ذلك.

لكن الأمر يتجاوز ذلك، على ما أعتقد، لأنني أعتقد أن منصة Skyhigh كما نعلم جميعًا، أليس كذلك؟ إنها في الواقع قوية جدًا في أمن البيانات. إنها جذور CASB هناك في أمن البيانات أيضًا. الكثير من المخاوف التي لدى العملاء تدور حول تسرب البيانات، أليس كذلك؟ وهذا هو السبب في أنهم يحظرون حتى ChatGPT، لكنهم يقومون بتمكين الاستخدام الخاص وما إلى ذلك.

وهناك حالة استخدام كبيرة لـ SSEs حول Office 365. والنتيجة الأخرى المثيرة للاهتمام، والتي ستراها في تقرير SkyHive أيضًا، هي أن هناك حالة استخدام واحدة من نوع LLM أو Gen AI، والتي تبرز حقًا في استخدام المؤسسات مقارنة بأي شيء آخر، بأضعاف، مثل ثلاثة أضعاف.

وهذا هو استخدام Office 365 Copilot. إنه Microsoft Copilot وCopilots مبنية على، النماذج التأسيسية للذكاء الاصطناعي العام. OpenAI's GPT 4. 0، أو ربما يكون نموذج LLAMA أو، مجموعة من النماذج الأخرى. أنثروبيك، أياً كان. ولكن في الأساس تستخدم مايكروسوفت OpenAI، لكنهم أنشأوا هذا Microsoft Office 365 Copilot، وهو إضافة إلى Office 365.

وما يفعله هو أنه لا يسمح فقط لمستخدمي Office 365 بالحصول على تفاعل حر كما تفعل في ChatGPT، ولكنه أيضًا يضعه في سياق جميع بيانات المؤسسة، والتي يمتلك Office 365 رؤية لها. وإذا كنت تفكر في مؤسسة كبيرة، فكلها موحدة على Office 365، أليس كذلك؟

لديهم جميعًا SharePoint، وOneDrive Microsoft Teams، وكل البريد الإلكتروني، وكل ما تستخدمه أنت والموظفون في العمل اليوم للتفاعل والإنتاجية وخلق القيمة موجود في منصة Microsoft، مخزن في مكان ما في منصة Microsoft. وفي الواقع يقوم برنامج Microsoft Copilot بفهرسة كل ذلك.

ولديهم بعض عناصر التحكم لتحديد أي منها لا تريد فهرستها وما إلى ذلك. ولكن بسبب حقيقة أنها مدمجة أو أنها إضافة إلى Office 365، فإن اعتماد Microsoft Copilot هو في الحقيقة أعلى من أي شيء آخر. وقد يسحب ذلك في استخدام OpenAI وأشياء أخرى، ولكن لأن الموظفين يستخدمون Office 365، لأنهم يتفاعلون مع Copilot، لأن الكثير من البيانات الحساسة موجودة في بيئة Microsoft، أعتقد أن حماية البيانات، الامتدادات الطبيعية الطبيعية الطبيعية لـ Sky لديها حماية البيانات.

في عالم Copilot يمكن أن تكون ذات قيمة هائلة للعملاء. هناك الكثير من المشكلات حول ذلك. أعلم أن Microsoft لديها بعض الضوابط الأساسية، ولكن مجرد SSE مطلوب لبعض هذه المؤسسات الكبيرة، وأعتقد أنه مع وجود Copilots، يصبح الأمر أكثر أهمية.

هناك أمثلة كلاسيكية مع Microsoft Copilot، على سبيل المثال هناك تطبيقات يمكنها بالفعل الاتصال ب Copilot من خلال واجهات برمجة التطبيقات. وبالتالي، يصبح ذلك ناقلًا لاختراق البيانات المحتملة. هناك استخدام، حالات قد يكون هناك بعض الهجمات المثيرة للاهتمام، والتي تم تقديمها لكوبيلوت في مؤتمر بلاك هات الأخير، يجب عليك، إذا كان شخص ما مهتمًا، أن يبحث عن كوبيلوت وسترى بعض نواقل الهجوم، التي تحاول القيام به، على سبيل المثال، صياغة هجوم تصيد بالرمح باستخدام الذكاء الموجود في منصة مايكروسوفت كوبيلوت.

يمكنك في الواقع أن تقنع الطيار الآلي بالرد على من كان في اجتماع ما أو ما هو عنوان البريد الإلكتروني للشخص الذي تواصلت معه أكثر من غيره. وما هو ما الذي تحدثت عنه آخر مرة مع هذا الشخص؟ ومن ثم الحصول على، استخلاص معلومات كافية من هذا التفاعل مع Copilot ومن ثم صياغة رسالة تطلب فيها من هذا الشخص القيام بشيء ما، وهو

Scott Schlee:
إلى الأعضاء كمجموعة، من الرئيس التنفيذي

سيخار ساروكاي
بالضبط.

Scott Schlee: شاكر، ما هي حلول الذكاء الاصطناعي المتوفرة لدى Skyhigh Security وكيف نستعد للمستقبل؟

سيخار ساروكاي
أعتقد أن العملاء يطلبون طريقة أفضل لإدارة عمليات نشر Copilot اليوم. وما لدي، لذلك لا يتعلق الأمر بالمستقبل بقدر ما هو حاجة، أليس كذلك؟ و Skyhigh أعلم أنها في وضع يسمح لها بأخذ القوة في حماية البيانات لبيئات Office 365 وتطبيقها على Copilot بشكل أساسي من خلال إجراء نفس نوع اختبار DLP، أليس كذلك؟

على سبيل المثال، لدى Skyhigh بالفعل إمكانيات للقول، وإذا كنت أتعاون معك في مستند وفجأة أنا، ولنفترض أنني متعاقد. أو لنفترض أنني مستشار في هذه الحالة، سكوت، أنت تشاركني شيئًا ما وأنت على وشك مشاركة شيء حساس للغاية، وهو أمر غير قابل لغير الموظفين أو غير التنفيذيين أو أيًا كان.

نحن بالفعل SkyHive لدينا بالفعل القدرة على القول، حسناً، أوقفوا التعاون على شيء ما تغير من حيث المحتوى أكثر حساسية مما ينبغي السماح بمشاركته، أليس كذلك؟ إذن هذا هو نفس الشيء. مع قدرة Copilot على القول، وأنت تنشئ المحتوى، إذا كان هناك شيء حساس، وهو أكثر حساسية، آسف، مستوى أكثر حساسية مما لدي، يجب أن يكونوا قادرين على حظره.

لذا من المحتمل أن تساعد السماء في ذلك. تعمل Sky في الواقع مع بعض شركات الذكاء الاصطناعي، وهي شركة ناشئة خاصة بالذكاء الاصطناعي، والتي تركز على إنشاء حواجز حماية. هذه شركة ناشئة تدعى Encrypt والتي قمنا بدمجها من أجل تسجيل المخاطر من منظور الفريق الأحمر، ولكننا ندمجها أيضًا في مجال الحواجز الأمنية، أليس كذلك؟

لذا فإن نفس الحواجز الوقائية التي لديك لـ ChatGPT لتقول، لا يجب عليك كسر الحماية مهم لـ Office 365 أيضًا، أليس كذلك؟ لذلك لا تريد أن تجعل Office 365 يبصق شيئًا ما. غير مناسب لذا فإن القدرة على معالجة ذلك هو شيء يمكن لـ Skyhigh مساعدة العملاء فيه.

أعتقد أن القدرة على فهم حساسية من المستند القدرة على حمايته، ولكن من حيث التعاون، من حيث من يمكنه رؤية ذلك والقدرة على معالجته في الوقت الفعلي تقريبًا إما من خلال تكامل واجهة برمجة التطبيقات لدينا، وهو ما لدينا مع Office 365 بالفعل، أو من خلال وكيلنا، إما وكيل أمامي أو عكسي نهجنا، والذي أعتقد أنه يتم النظر فيه والعمل عليه الآن.

Scott Schlee:
أقدر حقًا مجيئك وتوضيحك للكثير من هذا الأمر، لأنني أعلم أنه، كما قلت من قبل، إنه الغرب المتوحش الآن مع الذكاء الاصطناعي وهناك الكثير من المعلومات المتضاربة هناك. بعض الناس لا يدركون تمامًا أين هو الذكاء الاصطناعي، وإلى أين يتجه، وكيفية حماية بياناتك الحساسة.

آمل حقًا أن نتمكن من التحدث مرة أخرى قريبًا جدًا لأنني متأكد من أنه في غضون ثلاثة أشهر، سيكون كل شيء مختلفًا تمامًا. لذا أود أن أستضيفك مرة أخرى لإطلاعك على آخر المستجدات.

سيخار ساروكاي
بالتأكيد، سكوت. من دواعي سروري. وسأكون سعيداً بالمشاركة. هناك الكثير من المواضيع المثيرة للاهتمام حول هذا الموضوع ونحن نغطي ذلك.

وأعتقد أن هناك الكثير، هناك حاجة للمؤسسات إلى بعض الرؤية حول كيفية تفكير الصناعة في هذا التطور في هذا المجال، وبعض الأسئلة التي طرحتها حول أهمية الذكاء الاصطناعي العام. بالأمن وأمان جيني، فكلاهما مهمان للغاية، وسيكون هذا حواراً طويلاً بالتأكيد.

Scott Schlee:
هذا صحيح. شاكر. كيف يمكن للناس أن يتواصلوا معك إذا أرادوا العثور عليك على الإنترنت؟

سيخار ساروكاي
أعتقد أن أفضل طريقة هي البحث عن شاكر عبر موقع لينكد إن. لذا حسناً ودعونا نتواصل ونحب أن نحصل على وجهة نظر الجميع في هذا المجال الناشئ. وهو أمر في غاية الأهمية.

Scott Schlee: جيد جداً

وستكون معلوماته في ملاحظات العرض. سيكون لدي رابط سريع لكم هناك و. لا تترددوا في التواصل معه أو معي Skyhigh Security. نود أن نتحدث إليكم عن مستقبل الذكاء الاصطناعي وكيف يمكننا المساعدة.

سيخار ساروكاي
شكراً لك.

Scott Schlee:
شكراً لكم مرة أخرى على الاستماع إلى Skyhigh Cloudcast. إذا كنت قد استمتعت بهذه الحلقة، تأكد من الاشتراك على منصتك المفضلة حتى لا يفوتك أي تحديث.

إذا أعجبك البرنامج، يرجى ترك تعليق. فهذا يساعد الآخرين في العثور على البودكاست. لمزيد من المعلومات حول Skyhigh Security أو Cloudcast ، يرجى زيارة SkyhighSecurity.com.

يرجى ملاحظة: يتم إنشاء جميع النصوص باستخدام برنامج التعرف على الكلام والنسخ البشري، وقد تحتوي على أخطاء. يرجى التحقق من الصوت المقابل قبل الاقتباس في النسخة المطبوعة.