تسرّب الصدى وحدود تهديدات الذكاء الاصطناعي الجديدة: 5 دروس للمؤسسات في عصر كوبيلوت وشاتGPT

بقلم سوهاس كوداجالي وسارانج وارودكار -

يوليو 14, 2025 يوليو 2025 5 قراءة دقيقة

الكشف الأخير عن EchoLeak (CVE-2025-32711)-وهي ثغرة أمنية في الحقن الفوري غير المباشر بنقرة واحدة تستهدف Microsoft 365 Copilot-أرسلت إشارة واضحة عبر غرف الاجتماعات وشركات خدمات العملاء على حد سواء: لم يعد الذكاء الاصطناعي مجرد عامل تمكين للإنتاجية. لقد أصبح الآن جزءًا من سطح هجوم المؤسسات.

ما يجعل EchoLeak ينذر بالخطر بشكل خاص هو أنه لم يكن هناك حاجة إلى أي إجراء من المستخدم. كانت رسالة بريد إلكتروني مصممة بشكل خبيث كافية لتحفيز Copilot على استيعاب التعليمات المخفية، والتصرف بناءً عليها، وربما تسريب بيانات حساسة - كل ذلك في الخلفية.

بالنسبة لرؤساء أمن المعلومات وفرق حماية البيانات، فإن هذا أكثر من مجرد دعوة للاستيقاظ، بل هو تفويض لإعادة التفكير في كيفية إدارة الذكاء الاصطناعي وتأمينه ومراقبته في جميع أنحاء المؤسسة.

ما هو EchoLeak؟

• هجوم النقر الصفري: لا يتطلب الأمر أي إجراء من المستخدم - فقط أرسل بريدًا إلكترونيًا مصممًا. حتى دون فتحها أو التفاعل معها، يمكن لـ Copilot استيعاب التعليمات المخفية عند تلخيص بيانات مساحة العمل.
• الحقن الفوري غير المباشر: يتم تضمين المحتوى الخبيث داخل رسائل البريد الإلكتروني أو المستندات "العادية" - حيث يتم صياغة المصطلحات والصياغة بعناية بحيث يراها Copilot على أنها طلبات حميدة.
• استغلال RAG: يتضمن نظام الاسترجاع الخاص بـ Copilot رسائل البريد الإلكتروني الحديثة في السياق. عند التلخيص، قد يلتقط الموجه الخبيث وينفذ مهام مثل استخراج البيانات الحساسة واستخراجها عبر الصور المخفية أو روابط تخفيض السعر إلى خوادم يتحكم فيها المهاجمون.

5 دروس مهمة يجب على كل مؤسسة أن تستخلصها من EchoLeak

 

1. الذكاء الاصطناعي في الظل هو النقطة العمياء الأسرع نموًا

يزداد استخدام الذكاء الاصطناعي في الظل في جميع أنحاء المؤسسات، مع زادت حركة المرور إلى تطبيقات الذكاء الاصطناعي بنسبة 200% في العام الماضي و بلغ متوسط عدد تطبيقات الذكاء الاصطناعي غير المصرح بها في الشركات 320 تطبيق ذكاء اصطناعي قيد الاستخدام (AI CARR 2025). تؤكد هذه الطفرة على كيفية اعتماد الأدوات التي تدعم الذكاء الاصطناعي خارج نطاق إشراف تكنولوجيا المعلومات، مما يخلق تحديات في الرؤية والحوكمة. ويقوم الموظفون بتحميل بيانات الشركة إلى هذه التطبيقات لتحسين سير العمل في الشركة. ولمعالجة ذلك، تستفيد المؤسسات من حلول SSE لاكتشاف أدوات الذكاء الاصطناعي غير المصرح بها تلقائيًا، وتعيين درجات المخاطر، وفرض سياسات تمنع الوصول غير المصرح به إلى البيانات. في الواقع، توفر حلول SSE معلومات حول مخاطر LLM لتطبيقات الذكاء الاصطناعي غير المصرح بها، مما يتيح حوكمة أكبر لتطبيقات الذكاء الاصطناعي المسموح بها داخل المؤسسة. وبفضل هذه الحواجز، يمكن لفرق الأمن استعادة السيطرة على التوسع السريع في اعتماد الذكاء الاصطناعي من قبل موظفي الشركات.

2. حماية البيانات على تطبيقات الذكاء الاصطناعي أمر بالغ الأهمية

تكشف بياناتSkyhigh Security أن 11% من الملفات التي تم تحميلها على تطبيقات الذكاء الاصطناعي تحتوي على محتوى حساس للشركاتومع ذلك أقل من 10% من المؤسسات طبقت سياسات حماية البيانات للتخفيف من هذه المخاطر (AI CARR 2025). يعد التحكم في البيانات التي يتم تحميلها إلى تطبيقات الذكاء الاصطناعي جزءًا كبيرًا مما يمكن أن يتم تسريبه. يتمثل أحد المخاوف الرئيسية التي تواجهها فرق الأمن اليوم في أنه بمجرد تحميل بيانات الشركة إلى تطبيق الذكاء الاصطناعي، فمن الممكن للمستخدمين داخل المؤسسة أو خارجها استرداد هذه البيانات باستخدام هندسة ذكية سريعة. وبالتالي، فإن تطبيق البرمجة اللغوية الموزعة DLP على البيانات التي يتم تحميلها إلى تطبيقات الذكاء الاصطناعي أصبح الآن جزءًا مهمًا من أمن بيانات المؤسسة. ويشمل ذلك البيانات التي يتم تحميلها إلى تطبيقات الذكاء الاصطناعي الموازية وتطبيقات الذكاء الاصطناعي المعتمدة من الشركة.

3. انكشاف بيانات الشركة عبر مايكروسوفت كوبيلوت من المخاطر الرئيسية لاختراق البيانات

الارتفاع الهائل لـ Microsoft Copilot-نمت حركة المرور 3,600 مرة وزادت عمليات تحميل البيانات 6,000 مرة في العام الماضي (AI CARR 2025)-يسلط الضوء على مدى سرعة دمج المساعدين المدعومين من LLM في تدفقات عمل المؤسسات. وبالإضافة إلى البيانات الحساسة التي يتم تحميلها إلى M365 Copilot، تشعر فرق الأمن بالقلق أيضاً بشأن البيانات التي يتم استيعابها بواسطة Copilot والتي يتم مشاركتها بواسطة روبوت الدردشة الآلي مع الموظفين الذين يقومون بهندسة المطالبات لاستردادها. على سبيل المثال، يمكن أن يكشف Copilot عن تفاصيل مشروع سري لموظف غير مصرح له بعد استيعاب عرض تقديمي أو نسخة من اجتماع يحتوي على معلومات ذلك المشروع. ولمعالجة هذه المشكلة، تستخدم فرق الأمن تقنية DLP ضمن حلول SSE لتطبيق تسميات التصنيف اللازمة لمنع استيعاب البيانات الحساسة في Copilot. بهذه الطريقة، حتى مع الهندسة الفورية، لن يكشف Copilot عن هذا المحتوى.

4. مخاطر الحقن الموجه تتطلب دفاعاً استباقياً

ينتمي EchoLeak إلى فئة متزايدة من الهجمات التي تُسمى الحقن الفوري غير المباشر، حيث يتم إخفاء التعليمات العدائية في محتوى يبدو حميدًا. ومن المثير للقلق 94% من خدمات الذكاء الاصطناعي معرضة لناقل خطر واحد على الأقل من ناقلات مخاطر LLM، بما في ذلك الحقن الفوري أو البرمجيات الخبيثة أو التحيز أو السمية (AI CARR 2025). ولمكافحة ذلك، تستخدم الشركات منصات SSE مع الحماية من الحقن الفوري التي تقوم بفحص المدخلات وتعقيمها قبل وصولها إلى أنظمة الذكاء الاصطناعي للمؤسسات، مما يؤدي إلى تحييد التهديدات الخفية بشكل فعال.

5. راقب نشاط الذكاء الاصطناعي كما تراقب التهديدات الداخلية

يعمل وكلاء الذكاء الاصطناعي بسرعة على مستوى النظام لكنهم يفتقرون إلى الحكم البشري، مما يجعل من الضروري النظر إلى تصرفاتهم على أنها قد تكون محفوفة بالمخاطر - خاصةً عندما ينحرف السلوك عن الأنماط المحددة. وللتخفيف من هذه المشكلة، يجب على الشركات استخدام حلول SSE لمراقبة وتتبع نشاط المستخدم على تطبيقات الذكاء الاصطناعي للكشف عن أنماط الاستخدام غير المعتادة أو تحميل الملفات أو تنزيلها. وتستخدم هذه الحلول حلول UEBA لإظهار الحالات الشاذة القائمة على الاستخدام والموقع وتغذية هذه المدخلات في حساب مخاطر المستخدم. وقد تم تنفيذ تدفقات العمل هذه بالفعل من قبل الشركات على حلول SaaS أخرى ويتم توسيع نطاقها الآن لتشمل تطبيقات الذكاء الاصطناعي.

المستقبل: الذكاء الاصطناعي - الذكاء الاصطناعي - الذكاء الاصطناعي والهندسة البرمجية للشركات المرنة

لن يكون EchoLeak آخر هجوم على تطبيقات الذكاء الاصطناعي. فمع زيادة فهم المستخدمين لتطبيقات الذكاء الاصطناعي والهندسة السريعة، من المرجح أن نشهد المزيد من هذه الهجمات. تحتاج الشركات إلى نشر ضوابط اليوم على استخدام الذكاء الاصطناعي لحماية بيانات الشركات بشكل أفضل من التسريب إلى تطبيقات الذكاء الاصطناعي أو عبرها. توفر حلول SSE مثل Skyhigh Security قدرات أساسية لفرض هذه الضوابط. 

قدرات SSE الرئيسية لمنع ثغرات الذكاء الاصطناعي:

• اكتشاف الذكاء الاصطناعي الظل: اكتشاف أدوات الذكاء الاصطناعي الجيني غير المصرح بها وتعيين درجات المخاطر.
• حوكمة الذكاء الاصطناعي: تطبيق عناصر التحكم لحظر تطبيقات الذكاء الاصطناعي الخطرة أو تطبيق المزيد من عناصر التحكم في الأنشطة الدقيقة
• DLP على مطالبات الذكاء الاصطناعي: تطبيق ضوابط حماية البيانات على المطالبات والاستجابات
• حماية الحقن الفوري: فحص المحتوى بحثًا عن المطالبات المخفية وحظر إساءة استخدام الذكاء الاصطناعي.
• UEBA/مراقبة النشاط: تحديد التهديدات وإجراء تحقيق في التهديدات على النشاط الذي يتم إجراؤه على تطبيقات الذكاء الاصطناعي

تُعد Skyhigh Security شركة رائدة في مجال الأمن القائم على الذكاء الاصطناعي للمؤسسات. صُممت منصتنا السحابية Security Service Edge (SSE) بشكل فريد لحماية البيانات الحساسة وإدارة مخاطر الذكاء الاصطناعي - عبر أدوات الذكاء الاصطناعي العام (GenAI) المصرح بها وغير المصرح بها، والوكلاء المساعدين والوكلاء المستندين إلى RAG. بفضل الخبرة العميقة في CASB، وSWG، وZTNA، وRBI، وDLP المتكامل، تمكّن Skyhigh المؤسسات من تبني الذكاء الاصطناعي بمسؤولية مع البقاء في صدارة التهديدات الناشئة مثل EchoLeak.

اعرف المزيد عن حلول سكاي هاي للذكاء الاصطناعي الأمنية اليوم

العودة إلى المدونات