एआई शॉकवेव: डीपसीक का जबरदस्त उदय किस तरह एंटरप्राइज चैटबॉट परिदृश्य को नया आकार दे रहा है

त्याग वासुदेवन - कार्यकारी उपाध्यक्ष, उत्पाद

3 फरवरी, 2025 6 मिनट पढ़ें

2023 में स्थापित एक चीनी आर्टिफिशियल इंटेलिजेंस स्टार्टअप डीपसीक ने पिछले हफ़्ते लोकप्रियता में जबरदस्त उछाल देखा है। यह न केवल चैटजीपीटी को पीछे छोड़कर यूएस ऐप स्टोर पर सबसे ज़्यादा रेटिंग वाला मुफ़्त ऐप बन गया, बल्कि एआई असिस्टेंट का बाज़ार पर भी गहरा असर पड़ा, क्योंकि प्रमुख प्रौद्योगिकी शेयरों में भारी गिरावट आई। अग्रणी एआई चिप निर्माता एनवीडिया के शेयरों में लगभग 17% की गिरावट देखी गई, जिसके परिणामस्वरूप बाजार मूल्य में लगभग $589 बिलियन का नुकसान हुआ - वॉल स्ट्रीट के इतिहास में सबसे बड़ा एकल-दिवसीय नुकसान।

डीपसीक के इर्द-गिर्द नवाचार एआई के बढ़ते लोकतंत्रीकरण का प्रतिनिधित्व करता है, जो मानवता के लिए अच्छा है। एआई कंपनी के नवाचार ने एक ओपन-सोर्स एआई मॉडल की पेशकश की है जो प्रदर्शन में मौजूदा प्लेटफार्मों को टक्कर देता है जबकि अधिक लागत प्रभावी और ऊर्जा कुशल है। ऐप के उपयोगकर्ता के अनुकूल इंटरफ़ेस और पारदर्शी "ज़ोर से सोचने" की सुविधा ने इसकी अपील को और बढ़ा दिया है, जिससे उपयोगकर्ता एआई की तर्क प्रक्रिया का पालन कर सकते हैं।

अपने स्वयं के एलएलएम मॉडल के साथ एक और एआई चैटबॉट का आगमन भी कंपनियों, विशेष रूप से बड़े उद्यमों के लिए एक महत्वपूर्ण प्रश्न है, क्योंकि वे अपने एआई निवेश को बढ़ाते हैं। उद्यमों को अपने उपभोग के लिए एक नए एआई चैटबॉट का मूल्यांकन कैसे करना चाहिए? कर्मचारियों द्वारा एआई एप्लिकेशन के उपभोग और कॉर्पोरेट अपनाने के लिए लाभ और नुकसान का निर्धारण करने में कौन से कारक शामिल होते हैं? हाल की रिपोर्ट और वास्तविक दुनिया की घटनाएं दर्शाती हैं कि कुछ एलएलएम-विशेष रूप से ओपन-सोर्स वेरिएंट जिनमें मजबूत सुरक्षा ढांचे की कमी है-डेटा सुरक्षा, नियामक अनुपालन और ब्रांड प्रतिष्ठा के लिए महत्वपूर्ण खतरे पैदा करते हैं।

इस ब्लॉग में हम निम्नलिखित का अन्वेषण करेंगे:

• डीपसीक जैसे जोखिमपूर्ण एलएलएम का उदय
• AI से जुड़ी प्रमुख सुरक्षा कमज़ोरियाँ
• उद्यम नए AI चैटबॉट का मूल्यांकन, प्रबंधन और सुरक्षा कैसे कर सकते हैं
• एक एकीकृत दृष्टिकोण क्यों- जैसे Skyhigh Security एसएसई—महत्वपूर्ण है

जोखिमपूर्ण एलएलएम और चैटबॉट का उदय

डीपसीक जैसे ओपन-सोर्स एलएलएम ने उत्साह और चिंता दोनों को जन्म दिया है। एंटरप्राइज़-सत्यापित एआई समाधानों के विपरीत, ओपन-सोर्स एलएलएम में अक्सर संवेदनशील व्यावसायिक डेटा की सुरक्षा के लिए आवश्यक मज़बूत सुरक्षा नियंत्रणों का अभाव होता है, जैसा कि एनक्रिप्ट एआई की एक हालिया रिपोर्ट में दिखाया गया है:

• तुलनीय मॉडलों की तुलना में 3 गुना अधिक पक्षपाती
• असुरक्षित कोड उत्पन्न होने की संभावना 4 गुना अधिक
• हानिकारक सामग्री के प्रति 11 गुना अधिक प्रवणता

इन मुद्दों के बावजूद, डीपसीक ने ऐप्पल ऐप स्टोर में शीर्ष स्थान हासिल किया, और चैटजीपीटी को भी पीछे छोड़ दिया, जिसने केवल 24 घंटों में (28 जनवरी 2025 को) 2.6 मिलियन डाउनलोड प्राप्त किए। यह विस्फोटक स्वीकृति एक बुनियादी तनाव को उजागर करती है: एआई बहुत तेज़ी से आगे बढ़ रहा है, लेकिन सुरक्षा निरीक्षण अक्सर पीछे रह जाता है, जिससे उद्यम संभावित डेटा लीक, अनुपालन उल्लंघन और प्रतिष्ठा को नुकसान पहुंचाने के लिए उजागर हो जाते हैं।

एआई चैटबॉट्स का मूल्यांकन करते समय प्रमुख जोखिम क्षेत्र

जैसा कि हमने अपने स्काईहाई एआई सिक्योरिटी ब्लॉग में बताया है, व्यवसायों को एआई द्वारा उत्पन्न अंतर्निहित जोखिमों को पहचानना चाहिए, जिनमें शामिल हैं:

• उपयोग संबंधी डेटा का अभाव : सुरक्षा टीमें यह नहीं समझ पाती हैं कि उनके उद्यमों में कितने उपयोगकर्ता अपना काम पूरा करने के लिए शैडो एआई ऐप्स का उपयोग कर रहे हैं।
• एलएलएम जोखिम की सीमित समझ : यह समझना कि कौन से एआई ऐप और एलएलएम मॉडल जोखिमपूर्ण हैं, शासन के लिए महत्वपूर्ण है और यह जानकारी आसानी से प्राप्त नहीं होती है।
• डेटा एक्सफ़िलट्रेशन : काम पूरा करने की प्रक्रिया में, उपयोगकर्ता कॉर्पोरेट डेटा को AI ऐप्स में अपलोड करते हैं और इससे संवेदनशील डेटा का एक्सफ़िलट्रेशन हो सकता है।
• प्रतिकूल संकेत : एआई चैटबॉट अक्सर पक्षपाती, विषाक्त या गलत (मतिभ्रम) प्रतिक्रियाएँ दे सकते हैं। इसके अलावा, वे ऐसा कोड दे सकते हैं जिसमें मैलवेयर हो सकता है। इन प्रतिक्रियाओं का उपभोग कंपनी के लिए समस्याएँ पैदा कर सकता है।
• डेटा पॉइज़निंग : उद्यम अपनी व्यावसायिक ज़रूरतों के हिसाब से कस्टम पब्लिक या प्राइवेट AI एप्लीकेशन बना रहे हैं। इन ऐप्स को कंपनी के डेटा का इस्तेमाल करके प्रशिक्षित और ट्यून किया जाता है। अगर अनजाने में या दुर्भावनापूर्ण इरादे से प्रशिक्षण डेटा से समझौता किया जाता है, तो इससे कस्टम AI ऐप गलत जानकारी दे सकता है।
• अनुपालन एवं विनियामक जोखिम : एआई ऐप्स के उपयोग से उद्यमों को अधिक अनुपालन और विनियामक जोखिमों का सामना करना पड़ता है, जो या तो डेटा एक्सफ़िलट्रेशन, संवेदनशील डेटा के प्रदर्शन, या कस्टम एआई चैटबॉट्स से जुड़े गलत या प्रतिकूल संकेतों के कारण हो सकता है।

एकीकृत दृष्टिकोण क्यों महत्वपूर्ण है: Skyhigh Security एसएसई

जब उद्यम नए AI ऐप या चैटबॉट का मूल्यांकन करते हैं, तो उन्हें इस बात पर विचार करना चाहिए कि क्या उनके पास अपनी कॉर्पोरेट संपत्तियों की सुरक्षा के लिए आवश्यक नियंत्रण लागू करने के लिए उपकरण हैं। उन्हें यह सुनिश्चित करना चाहिए कि उनका सुरक्षा स्टैक न केवल AI अनुप्रयोगों पर नियंत्रण लागू करने के लिए, बल्कि इन अनुप्रयोगों से उत्पन्न होने वाली दुर्भावनापूर्ण गतिविधि और खतरों का मूल्यांकन करने और उनका जवाब देने के लिए भी स्थित है।

सुरक्षा सेवा एज (एसएसई) समाधान जैसे Skyhigh Security एंटरप्राइज़ AI सुरक्षा का एक प्रमुख घटक हैं। ये उपकरण पहले से ही एंटरप्राइज़ सुरक्षा स्टैक के साथ एकीकृत हैं क्योंकि कंपनियों ने ऑन-प्रिमाइसेस और क्लाउड ट्रैफ़िक को सुरक्षित कर लिया है। सुरक्षा टीमों ने पहले से ही शासन और डेटा सुरक्षा नीतियों को परिभाषित किया है और इन्हें आसानी से AI अनुप्रयोगों तक बढ़ाया जा सकता है। और अंत में, अपने लचीले परिनियोजन मोड द्वारा वेब, शैडो ऐप, स्वीकृत ऐप और निजी ऐप को कवर करके, SSE समाधान एंटरप्राइज़ के भीतर AI पदचिह्न के स्पेक्ट्रम को कवर कर सकते हैं और व्यापक सुरक्षा प्रदान कर सकते हैं।

यहां वे शीर्ष नियंत्रण दिए गए हैं जिन्हें उद्यम AI ऐप्स पर लागू करना चाहते हैं:

• शैडो एआई का शासन : शैडो एआई अनुप्रयोगों के शासन को चलाने के लिए एआई अनुप्रयोगों के उपयोग और जोखिम को समझने के साथ-साथ नियंत्रण लागू करना भी आवश्यक है। अग्रणी एसएसई समाधान शैडो एआई अनुप्रयोगों में व्यापक दृश्यता प्रदान करते हैं। इसके अलावा, वे एआई जोखिम की गहरी समझ प्रदान करते हैं, जिसमें अंतर्निहित एलएलएम मॉडल जेलब्रेकिंग, पूर्वाग्रह, विषाक्तता और मैलवेयर जैसे जोखिमों के लिए कितना जोखिम भरा है। अंत में, इन अनुप्रयोगों का पता लगाया जा सकता है, समूहीकृत किया जा सकता है, और मैन्युअल हस्तक्षेप की आवश्यकता के बिना नियंत्रण लागू किया जा सकता है।
• डेटा सुरक्षा : एआई ऐप्स के साथ उद्यमों की प्राथमिक चिंता यह है कि संवेदनशील कॉर्पोरेट डेटा को अनधिकृत और जोखिम भरे एआई ऐप्स में भेजा जा रहा है क्योंकि कर्मचारी एआई द्वारा दी जाने वाली महत्वपूर्ण उत्पादकता लाभ का लाभ उठाना चाहते हैं। यह समस्या किसी भी अन्य शैडो एप्लिकेशन से अलग नहीं है, लेकिन कम समय में एआई ऐप्स में हुई उल्लेखनीय वृद्धि के कारण इसने प्रमुखता हासिल कर ली है। SSE समाधानों का उपयोग करके, उद्यम अपने मौजूदा डेटा सुरक्षा नियंत्रणों को AI ऐप्स तक बढ़ा सकते हैं। जबकि कुछ समाधान केवल कॉर्पोरेट स्वीकृत ऐप्स के लिए ये क्षमताएँ प्रदान करते हैं जो API के माध्यम से एकीकृत होते हैं, प्रमुख SSE समाधान, जैसे Skyhigh Security , एकीकृत डेटा सुरक्षा नियंत्रण प्रदान करते हैं। इसका मतलब है कि एक ही नीति को शैडो ऐप, प्रतिबंधित ऐप या निजी ऐप पर लागू किया जा सकता है।
• प्रतिकूल संकेत नियंत्रण : एलएलएम मॉडल के आगमन ने प्रतिकूल संकेतों में एक नए जोखिम वेक्टर को जन्म दिया है। यह अंतिम उपयोगकर्ताओं को संदर्भित करता है जो जेलब्रेकिंग या प्रॉम्प्ट इंजेक्शन जैसी अवांछनीय या अवैध जानकारी प्रदान करने के लिए एलएलएम मॉडल में हेरफेर करने का प्रयास करते हैं। यह एआई ऐप्स को उनके जवाबों में विषाक्त, पक्षपाती, खतरनाक, NSFW या गलत सामग्री प्रदान करने का भी संदर्भ दे सकता है। इन दोनों मामलों में, कंपनी को इस सामग्री के अपने कॉर्पोरेट सामग्री के भीतर उपयोग किए जाने और इसे विनियामक, शासन और प्रतिष्ठा संबंधी जोखिमों के प्रति संवेदनशील बनाने का जोखिम है। कंपनियाँ जोखिम भरे संकेतों का पता लगाने और उन्हें दूर करने के लिए नियंत्रण लागू करना चाहती हैं, जैसा कि वे DLP के साथ करती हैं।
• डेटा पॉइज़निंग का निवारण : जैसे-जैसे उद्यम OpenAI GPT या कस्टम कोपायलट का उपयोग करके अपने कस्टम AI चैटबॉट बनाते जा रहे हैं, इन चैटबॉट को प्रशिक्षित करने के लिए उपयोग किए जाने वाले प्रशिक्षण डेटा की पवित्रता ने सुरक्षा के दृष्टिकोण से महत्व प्राप्त कर लिया है। यदि प्रशिक्षण डेटा के इस कोष तक पहुँच रखने वाला कोई व्यक्ति इसे गलत या दुर्भावनापूर्ण इनपुट के साथ 'पॉइज़न' करता है, तो यह संभवतः चैटबॉट की प्रतिक्रियाओं को प्रभावित करता है। यह कंपनी को कानूनी या अन्य व्यावसायिक जोखिमों के अधीन कर सकता है, खासकर अगर चैटबॉट सार्वजनिक पहुँच के लिए खुला हो। उद्यम पहले से ही संवेदनशील डेटा को हटाने के लिए प्रशिक्षण डेटा पर ऑन-डिमांड (या डेटा-एट-रेस्ट) DLP स्कैन कर रहे हैं। वे संभावित त्वरित इंजेक्शन या डेटा पॉइज़निंग प्रयासों की पहचान करने के लिए इसी तरह के स्कैन करने की भी तलाश कर रहे हैं।
• अनुपालन और विनियामक प्रवर्तन : उद्यम शासन और विनियामक अनुपालन को लागू करने के लिए SSE समाधानों का उपयोग कर रहे हैं, विशेष रूप से क्लाउड ऐप पर अपलोड किए जा रहे डेटा या बाहरी पक्षों के साथ साझा किए जा रहे डेटा के मामले में। चूंकि वे कई कॉर्पोरेट उपयोग मामलों में AI को अपनाते हैं, इसलिए वे इन नियंत्रणों को AI ऐप तक विस्तारित करने और अपने कर्मचारियों तक पहुँच को सक्षम करने के लिए SSE समाधानों की ओर देख रहे हैं।

एआई सुरक्षा का भविष्य

एआई का तेजी से विकास एक नए सुरक्षा प्रतिमान की मांग करता है - जो यह सुनिश्चित करता है कि नवाचार डेटा सुरक्षा की कीमत पर न आए। एलएलएम का लाभ उठाने की चाह रखने वाले उद्यमों को सावधानी के साथ ऐसा करना चाहिए, एआई सुरक्षा ढांचे को अपनाना चाहिए जो उभरते खतरों से सुरक्षा प्रदान करते हैं।

पर Skyhigh Security , हम व्यवसायों को उनकी सबसे महत्वपूर्ण संपत्तियों की सुरक्षा करते हुए AI को सुरक्षित रूप से अपनाने में मदद करने के लिए प्रतिबद्ध हैं। अपने संगठन को जोखिम भरे AI उपयोग से कैसे सुरक्षित रखें, इस बारे में अधिक जानने के लिए , Skyhigh AI सुरक्षा ब्लॉग में हमारी नवीनतम जानकारी देखें।

ब्लॉग पर वापस जाएं