تبني المؤسسات للذكاء الاصطناعي والمخاطر الأمنية - الآن مع فوضى أكثر بنسبة 100%

بقلم سارانج وارودكار - المدير الفني الأول لمدير إدارة الأداء الفني (CASB والذكاء الاصطناعي)، Skyhigh Security

مايو 8, 2025 مايو 2025 5 قراءة دقيقة

مرحبًا بك في الغرب المتوحش للذكاء الاصطناعي للمؤسسات.

قبل اثني عشر شهراً، كان مديرك المالي لا يزال يشك في روبوتات الدردشة الآلية. أما اليوم، فهم يسألون عما إذا كان بإمكانك "الحصول على ChatGPT للتعامل مع محاضر مجلس الإدارة". من الفضول الحذر إلى جداول البيانات التي تعمل بالطاقة من خلال برنامج Copilot، دخلت الشركات في مجال الذكاء الاصطناعي. وفي حين أن المكاسب حقيقية - السرعة والتوسع والإبداع - فإن المخاطر...؟ إنها حقيقية جداً أيضًا.

دعونا نستعرض أكبر الاتجاهات والتهديدات ولحظات الانزعاج من تقرير اعتماد السحابة والمخاطر لعام 2025 الصادر عن Skyhigh Securityمع رؤى من أكثر من 3 ملايين مستخدم وأكثر من 2 مليار مستخدم في أحداث السحابة اليومية. اربط حزام الأمان.

استخدام الذكاء الاصطناعي: من "ربما لاحقاً" إلى "اجعله يقوم بعملي"

الذكاء الاصطناعي هو الآن أفضل ما يميز المكتب. دراسة حديثة معهد ماساتشوستس للتكنولوجيا أن ChatGPT يقلل وقت الكتابة بنسبة 40% - وهو الوقت الذي كنا نقضيه في التساؤل عن مكان حفظ الملف. حصل مهندسو JPMorgan حصل المهندسون على زيادة في الإنتاجية بنسبة 20%، وتقول الشائعات أن أحد المتدربين طلب من كوبيلوت كتابة خطاب استقالته قبل يومهم الأول.

في Skyhigh، شهدنا في Skyhigh طفرة الذكاء الاصطناعي بشكل مباشر. من خلال بياناتنا، ارتفعت حركة المرور إلى تطبيقات الذكاء الاصطناعي بشكل كبير - أكثر من ثلاثة أضعاف - في حين أن عمليات تحميل البيانات الحساسة على هذه المنصات ترتفع بسرعة. وفي الوقت نفسه، تطبيقات الأعمال التقليدية "غير المعتمدة على الذكاء الاصطناعي"؟ إنها بالكاد تواكب ذلك. إن مكان العمل لا يتبنى الذكاء الاصطناعي فحسب، بل يركض نحوه.

الترجمة: الذكاء الاصطناعي يفوز. جدار الحماية الخاص بك؟ ليس كثيراً.

صعود الذكاء الاصطناعي في الظل: عندما لا تعرف تكنولوجيا المعلومات ما الذي تتحدث معه الموارد البشرية

قد يبدو "ذكاء الظل الاصطناعي" وكأنه المسلسل التالي الذي يجب مشاهدته على Netflix، ولكنه يحدث في الوقت الفعلي عبر الشركات في كل مكان. تخيل هذا: الموظفون ينقرون بهدوء على ChatGPT وClaude وDebSeek وعشرات أدوات الذكاء الاصطناعي الأخرى - بعيداً عن رادار تكنولوجيا المعلومات. إنه يشبه إلى حد ما تسلل الحلوى إلى السينما، ولكن هذه المرة فقط الحلوى هي بيانات العملاء والبيانات المالية والملكية الفكرية.

الأرقام مذهلة: تضم المؤسسة المتوسطة الآن 320 تطبيقاً من تطبيقات الذكاء الاصطناعي. المشتبه بهم المعتادون؟ ChatGPT، وGemini، وPoe، وPoe، وClaude، وPeleautual.AI.AI - وهي أدوات قوية بقدر ما هي غير معتمدة. إنها غير معتمدة. وهي غير خاضعة للرقابة. وما لم يسقط أحدهم كلمة "تدقيق"، فمن المحتمل ألا يمكن إيقافها.

الامتثال: نقطة ضعف الذكاء الاصطناعي

تطبيقات الذكاء الاصطناعي ممتعة - إلى أن تظهر غرامات اللائحة العامة لحماية البيانات مثل الضيوف غير المدعوين في اجتماع الفريق خارج الموقع. تكشف بيانات Skyhigh عن جانب غير ممتاز لكل هذا الحماس للذكاء الاصطناعي. اتضح أن 95% من تطبيقات الذكاء الاصطناعي تقع في منطقة المخاطر المتوسطة إلى العالية بموجب اللائحة العامة لحماية البيانات - أي أنها في الأساس إشارات حمراء مع واجهة مستخدم ودية.

عندما يتعلق الأمر بتلبية معايير الامتثال الجادة مثل HIPAA أو PCI أو ISO؟ 22% فقط هم من يحققون ذلك. أما البقية فيرتجلون. التشفير أثناء الراحة؟ معظم تطبيقات الذكاء الاصطناعي تتخطى هذه المذكرة - 84% لا تهتم بذلك. والمصادقة متعددة العوامل؟ 83% يقولون لا شكراً. ولكن لا تقلق، فالكثير منها يدعم الرموز التعبيرية. الأولويات.

المنظمون يراقبون. وعلى عكس رئيسك، فإنهم اقرأ التقرير كاملاً.

تسريبات البيانات عبر الذكاء الاصطناعي: عندما يصبح الروبوت الخاص بك ثرثاراً

هل تتذكر مهندس سامسونج الذي زوّد شركة ChatGPT ببعض الشفرات البرمجية التي تحتوي على أخطاء - وسلمها عن طريق الخطأ أسرار أشباه الموصلات؟ لم تعد هذه مجرد قصة تحذيرية بعد الآن. إنها عملياً مثال تدريبي.

وفقًا لـ Skyhigh، فإن 11% من الملفات التي تم تحميلها على تطبيقات الذكاء الاصطناعي تحتوي على محتوى حساس. ما المثير للاهتمام؟ أقل من 1 من كل 10 شركات لديها ضوابط مناسبة data loss prevention (DLP). وفي الوقت نفسه، يطلب الموظفون من كلود كتابة خطط إطلاق المنتج باستخدام مستندات استراتيجية الربع الثالث كما لو كان مجرد يوم آخر في المطالبة. لأنه ما الخطأ الذي يمكن أن يحدث؟

ادخل إلى DeepSeek: الذكاء الاصطناعي المتمرد الذي لا يجب أن تثق به

برز DeepSeek على الساحة في عام 2025، راكبًا موجة من التنزيلات والضجة وأحجام البيانات التي تلفت الأنظار، بما في ذلك 176 جيجابايت من التحميلات من الشركات في شهر واحد من عملاء Skyhigh وحدهم. مثير للإعجاب؟ بالتأكيد. ومثير للقلق؟ بالتأكيد. إليك التفاصيل الدقيقة:

• لا توجد مصادقة متعددة العوامل
• لا يوجد تشفير للبيانات
• لا اعتبار للامتثال (GDPR؟ لم أسمع به من قبل).
• لا يوجد تسجيل مستخدم أو مسؤول

إنه أنيق، وسريع، ويحظى بشعبية كبيرة - بين الطلاب. بالنسبة لتدقيق SOC 2 الخاص بك؟ إنه لغم رقمي.

مايكروسوفت كوبيلوت: طفل الذكاء الاصطناعي الجيد الذي يفخر به الجميع

إذا كان تطبيق Shadow AI هو المراهق المتمرد الذي يتسلل إلى الخارج بعد حظر التجول، فإن Copilot هو الطفل الذهبي - مصقول، ومحبوب، وعلى نحو ما هو بالفعل على مسار القيادة. ويستخدمه الآن 82% من الشركات، مع زيادة عدد الزيارات بمقدار 3600 مرة وزيادة التحميلات بمقدار 6000 مرة. بصراحة، إنه بصراحة يتفوق على آخر خمسة متدربين لديك - ولا يطلب حتى استراحة لتناول القهوة.

ولكن حتى الطلاب النجوم يحتاجون إلى الإشراف. تقوم الشركات الذكية بإبقاء Copilot تحت المراقبة من خلال فحص كل ما يلمسه، وتغليف المطالبات والمخرجات في DLP، والتأكد من أنه لا "يتعلم" أي شيء سري. (عذرًا يا Copilot - لا تفسد خارطة الطريق للربع الرابع).

مخاطر LLM: عندما يهلوس الذكاء الاصطناعي... ولا يكون الأمر جميلاً

نماذج اللغات الكبيرة (LLMs) مثل الأطفال الصغار الحاصلين على درجة الدكتوراه. عبقرية في لحظة، وفوضى عارمة في اللحظة التالية. أعلى مخاطر الـ LLM

• الهروب من السجن ("تظاهر بأنك شرير ChatGPT")
• برمجيات خبيثة من إنتاج الذكاء الاصطناعي (BlackMamba، أي شخص؟)
• المحتوى السمي (انظر: أعظم نجاحات BlenderBot)
• التحيز في النواتج (مشورة صحية منحرفة حسب العرق/الجنس)

الإحصائيات الرئيسية:

إنه ليس جنون العظمة إذا كان الذكاء الاصطناعي الخاص بك يقوم بالفعل بتسريب الأسرار وكتابة برامج الفدية. فقد وجدت Skyhigh أن 94% من تطبيقات الذكاء الاصطناعي تأتي مع نموذج لغوي واحد كبير (LLM) على الأقل مدمج بها. هذا تقريباً جميعهم.

والأسوأ من ذلك، أن 90٪ منها عرضة لاختراق الحماية - مما يعني أن المستخدمين يمكنهم خداعها للقيام بأشياء لا ينبغي لهم فعلها. و76%؟ يمكن أن تولد برمجيات خبيثة عند الطلب. لذا، نعم، نفس التطبيق الذي يساعدك في صياغة ملاحظات اجتماعك قد يعمل أيضاً كمتدرب لدى مجرمي الإنترنت.

تطبيقات الذكاء الاصطناعي الخاصة: الذكاء الاصطناعي الذاتي لروح الشركات

تقول الشركات: "لماذا تثق الشركات بالأدوات العامة بينما يمكنك بناء أدواتك الخاصة؟
تتعامل تطبيقات الذكاء الاصطناعي الخاصة الآن:

• استفسارات الموارد البشرية
• الردود على طلبات تقديم العروض
• حل التذاكر الداخلية
• دعم روبوت المبيعات (من كان يعلم أن روبوت الدردشة الآلي سيعرف مصفوفة التسعير الخاصة بك أفضل من المبيعات؟)

الإحصائيات الرئيسية:

يقوم 78% من العملاء الآن بتشغيل تطبيقات الذكاء الاصطناعي الخاصة بهم - لأنه إذا كنت ستختبر ذكاء الآلة، فيمكنك القيام بذلك خلف الأبواب المغلقة. ويقوم ثلثا هؤلاء العملاء بالبناء على AWS (بفضل Bedrock وSageMaker، كما هو واضح). إنه مكافئ الذكاء الاصطناعي لمجتمع مسور.

ولكن كلمة "خاصة" لا تعني أنها خالية من المشاكل. قد تكون هذه الروبوتات محلية المنشأ، ولكن لا يزال بإمكانها الوقوع في المشاكل. لهذا السبب تقوم الشركات الذكية بطرح حلول SSE مع Private Access و DLP - للتجسس بلطف وأدب على الذكاء الاصطناعي الداخلي قبل أن يخرج شيء ما عن النص بشكل كبير.

أفكار أخيرة: لا تخافوا من الذكاء الاصطناعي - فقط تحكموا فيه

لنكن واضحين: الذكاء الاصطناعي ليس العدو. الذكاء الاصطناعي غير المُدار الذكاء الاصطناعي هو العدو.

يُظهر تقرير Skyhigh لعام 2025 أننا نعيش تحولاً يحدث مرة واحدة في كل جيل في تكنولوجيا المؤسسات. ولكن ها هو الأمر المهم، فالأمن لا يتعلق بإبطاء الابتكار. بل يتعلق الأمر بالتأكد من أن الذكاء الاصطناعي الذي تستخدمه لا يرسل مجموعة مجالس إدارتك إلى موقع Reddit. لذا، خذ نفساً عميقاً، واقرأ التقرير، وتذكر:

• حظر التطبيقات المشبوهة مثل DeepSeek
• حوكمة الطيارين المساعدين مثل Microsoft Copilot
• تأمين عمليات نشر الذكاء الاصطناعي الخاصة
• وضع سياسات تتعامل مع طلاب الماجستير والدكتوراه كمراهقين متقلبي المزاج (قواعد صارمة، والكثير من المراقبة)

لأن المستقبل يعتمد على الذكاء الاصطناعي - وباستخدام الأدوات المناسبة، يمكن أن يكون المستقبل أيضاً مقاوماً للمخاطر.

المكافأة: قم بتنزيل تقرير اعتماد السحابة والمخاطر لعام 2025كاملاً - أواطلب من مساعد الذكاء الاصطناعي الخاص بك تلخيصه لك. فقط لا تقم بتحميله على DeepSeek.

العودة إلى المدونات