24 فبراير، 2023
بقلم رودمان رامزانيان - قائد التهديدات السحابية العالمية ، Skyhigh Security
ما لم تكن تعيش تحت صخرة ، فمن المؤكد أنك قرأت أو سمعت عن ChatGPT الآن. أثار روبوت الدردشة هذا الذي يحركه الذكاء الاصطناعي اهتمامات الملايين من المستخدمين النشطين يوميا ، مما أدى إلى تغذية جميع أنواع الأفكار وحالات الاستخدام المختلفة - من كتابة المقالات للمشاريع المدرسية ، إلى تأليف أوراق الأعمال الفنية ، وحتى الإشادة بمغني الراب الراحلين مثل توباك شاكور القافية الخيالية حول الأمن السيبراني (موصى به للغاية لقليل من المرح) ، وكل شيء بينهما.
يبدو أن الاحتمالات مع ChatGPT لا حدود لها.
إن استخدام الذكاء الاصطناعي (الذكاء الاصطناعي) في الأمن السيبراني ليس جديدا تماما. استفادت منتجات الأمان من الذكاء الاصطناعي والتعلم الآلي (ML) لسنوات حتى الآن. على سبيل المثال ، يتم استخدام الذكاء الاصطناعي / ML بشكل شائع في الوقت الحاضر لتحليل حركة المرور والبيانات في الوقت الفعلي ، وفي النهاية لتحديد الأنشطة الشاذة قبل أن تتحول إلى خروقات أمنية. مثل هذه الابتكارات مرحب بها للغاية عندما يمكنها تقديم رؤى مبكرة لفرق الأمن حول المؤشرات المحتملة للاختراق.
الاثار
على الرغم من الفوائد التي جلبتها الذكاء الاصطناعي و ML إلى مجال الأمن السيبراني ، يمثل ChatGPT مستوى جديدا من المخاطر المحتملة. في حين أن العديد من الأدوات الموجهة الذكاء الاصطناعي قد ركزت على اكتشاف ومنع النشاط المشبوه ، فإن ChatGPT لديها القدرة على مساعدة الجهات الفاعلة في التهديد بنشاط في جهودها لمهاجمة الأنظمة.
سأوضح هذا بمثال. لن يكتب ChatGPT في الواقع بريدا إلكترونيا للتصيد الاحتيالي يحتوي على كل ما أحتاجه افتراضيا لشن هجوم (انظر أدناه - يبدو أن هناك مرشحا أخلاقيا بدائيا).
ومع ذلك ، فإنه سيكتب قالب بريد إلكتروني غير ضار فيما يتعلق بحدث عمل وهمي يمكن تسليحه بجهد ضئيل جدا لأغراض التصيد الاحتيالي (أدناه)
الآن ، يمكن للمرء أن يجادل بأن الجهات الفاعلة الخبيثة تعمل بالفعل على أتمتة الهجمات والاستفادة من بعض أشكال نماذج الذكاء الاصطناعي / ML لتحقيق كفاءاتها الملتوية. بعد نفس هذا القطار الفكري ، ومع ذلك ، يمكن اعتبار ChatGPT بمثابة هدية لهم إلى حد ما. ويمكنها بسهولة توسيع آفاقها من خلال السماح لها بتوليد كميات هائلة من الهجمات الفريدة، وبالتالي شن ضربات منسقة وموجهة على نطاقات واسعة.
في حدث Skyhigh Sales Kick-Off الأخير في لاس فيجاس ، شارك الرئيس التنفيذي لدينا ، Gee Rittenhouse ، مثالا مروعا على كيفية استخدام طالب الصف الرابع تقنيا الآن ChatGPT للأغراض التعليمية لصياغة هجوم تجاوز سعة المخزن المؤقت لمتصفح ويب شائع الاستخدام.
بالتفكير في صورة أكبر لثانية هنا: هذا يعني أننا لا نحاول فقط إحباط المتسللين ذوي المهارات العالية الذين يعرفون طريقهم حول عمليات الاستغلال ونقاط الضعف المتطورة. من المحتمل أن نواجه الآن أيضا جيشا أكبر بكثير من المبتدئين والشباب وأي مستخدم ويب فضولي يمكنه الوصول إلى chat.openai.com
على الجانب الآخر ، هل يمكن استخدام ChatGPT لمساعدة المؤسسات على تأمين أنظمتها بشكل أفضل؟
ليس هناك شك في أنه يمكن تسخير قوة ChatGPT وقدرتها لتوليد كميات هائلة من البيانات: تسهيل اختبارات إجهاد النظام ، وإجراء اختبارات غامضة ضد تطورات البرامج ، وربما حتى محاكاة الجهات الفاعلة الخبيثة لتمارين الطاولة للاستجابة للحوادث.
تذكرة لمكن يتذكر
بينما يمكن استخدام ChatGPT لتعزيز دفاعاتنا ، يمكن أيضا استغلاله من قبل الجهات الفاعلة السيئة لتنفيذ هجمات بسهولة وفعالية أكبر ، كما تظهر الأمثلة السابقة. لذلك من الضروري أن يظل ممارسو الأمن يقظين وأن يواكبوا آخر التطورات في الذكاء الاصطناعي وكيف يمكن استخدامها في مجال الأمن السيبراني.
هذا لا يعني فقط إدراك الفوائد المحتملة لهذه الأدوات ، ولكن أيضا الاستعداد للدفاع ضد إساءة استخدامها المحتملة. كما هو الحال مع أي تقنية ، من الأهمية بمكان فهم المخاطر واتخاذ خطوات للتخفيف منها.
Skyhigh Securityيوفر السجل السحابي عدسة شاملة قائمة على المخاطر في أكثر من 30,000 خدمة SaaS و PaaS و IaaS - مع كون ChatGPT واحدة منها فقط.
ضمن هذا السجل السحابي ، Skyhigh Security يحسب ويعين لكل خدمة سحابية تصنيف CloudTrust يشير إلى استعدادها للمؤسسة، باستخدام متوسط مرجح يبلغ 55 سمة خطورة تم تطويرها مع تحالف أمان السحابة (CSA). تمتد هذه السمات إلى فئات البيانات والمستخدم / الجهاز والخدمة والأعمال والقانونية والإلكترونية. يقوم بتطبيع النتيجة إلى قيمة بين 1 و 9. تستخدم الشركات تصنيف CloudTrust كجزء من تحديد سياسات حوكمة السحابة.
الشكل 1. Skyhigh Security السجل السحابي: نظرة عامة
الشكل 2. Skyhigh Security السجل السحابي: المخاطر
بصفتك ممارسا أمنيا ، بمجرد تحديد المخاطر المرتبطة بخدمة / كيان معين ، فأنت تريد في النهاية طرح ثلاثة أسئلة:
- هل قام أي من مستخدمينا بتصفح / استخدام هذا؟ إذا كان الأمر كذلك ، كم عددهم؟ ومن بالضبط؟
- هل وصل أي جزء من البنية التحتية للويب والسحابة إلى هذه الخدمة؟
- وإذا أدى أي من السؤالين الأولين إلى "نعم" ، فما مقدار البيانات التي تم التعامل معها بين مؤسستك وتلك الخدمة؟
بمجرد أن تعرف ما تواجهه ، يمكنك اتخاذ الإجراءات المناسبة لحماية أجهزتك والويب والبيئات السحابية.
الشكل 3. Skyhigh Security السجل السحابي: الاستخدام
الشكل 4. Skyhigh Security السجل السحابي: حركة المرور - مسموح بها | عناوين URL المرفوضة
من التحليل Skyhigh Securityالقياس عن بعد على مستوى العالم ، نرى أنه بين نوفمبر 2022 - فبراير 2023:
عندما تواجه محرك الذكاء الاصطناعي متقدما ورائدا متاحا مجانا على الويب ، فهذا هو نوع الرؤية والبصيرة والتحكم الذي تحتاجه عبر بيئتك بأكملها.
في المخص:
لا يزال ChatGPT في مهده ، وهناك بالفعل الكثير من القضايا الأخلاقية التي يجب مراعاتها عند استخدامه.
ليس من الصعب تخيل مستقبل تجعل فيه روبوتات المحادثة الذكاء الاصطناعي المتقدمة حياتنا أسهل وعملنا أفضل. ومع ذلك ، ليس من المستحيل أيضا أن يكتسب المتسللون اليد العليا في استخدام ChatGPT بشكل أكثر فعالية لأغراض شائنة.
في النهاية ، على الرغم من ذلك ، في كفاحنا لقلب موازين الدفاع السيبراني لصالحنا ، إذا كان شيء مثل ChatGPT يمكن أن يساعد الجهات الفاعلة السيئة بأي طريقة أو شكل أو شكل ، فإن الأمر يستحق اهتمامنا واهتمامنا!
سحب Skyhigh Securityحلول الحماية واطلب عرضا توضيحيا لتراه بنفسك.
العودة إلى المدونات