एंटरप्राइज़ AI अपनाना और सुरक्षा जोखिम – अब 100% अधिक अराजकता के साथ

सारंग वरुडकर - सीनियर टेक्निकल पीएमएम (सीएएसबी और एआई) द्वारा, Skyhigh Security

8 मई, 2025 5 मिनट पढ़ें

उद्यम एआई के वाइल्ड वेस्ट में आपका स्वागत है।

बारह महीने पहले, आपके सीएफओ को अभी भी चैटबॉट पर संदेह था। आज, वे पूछ रहे हैं कि क्या आप "चैटजीपीटी को बोर्ड मिनट्स को संभालने के लिए कह सकते हैं।" सतर्क जिज्ञासा से लेकर कोपायलट-संचालित स्प्रेडशीट तक, उद्यम पूरी तरह से एआई पर निर्भर हो गए हैं। और जबकि लाभ वास्तविक हैं - गति, पैमाना और रचनात्मकता - जोखिम...? ओह, वे बहुत वास्तविक भी हैं।

आइये, आज के सबसे बड़े रुझानों, खतरों और शर्मनाक क्षणों का विश्लेषण करें। Skyhigh Security 2025 क्लाउड अपनाने और जोखिम रिपोर्ट, 3M+ उपयोगकर्ताओं और 2B+ दैनिक क्लाउड घटनाओं से प्राप्त जानकारी के साथ। तैयार हो जाइए।

AI का उपयोग: "शायद बाद में" से लेकर "इससे मेरा काम करवाओ" तक

AI अब ऑफिस का MVP बन गया है। हाल ही में MIT के एक अध्ययन में कहा गया है कि ChatGPT लिखने के समय को 40% तक कम कर देता है - जो कि लगभग उतना ही समय है जितना हम यह सोचने में बिताते थे कि फ़ाइल कहाँ सेव की गई है। जेपी मॉर्गन के इंजीनियरों को 20% उत्पादकता में वृद्धि मिली और, अफवाह है कि एक इंटर्न ने कोपायलट से अपने पहले दिन से पहले ही अपना त्यागपत्र लिखने के लिए कहा ।

स्काईहाई में, हमने AI में उछाल को प्रत्यक्ष रूप से देखा है। हमारे डेटा में, AI ऐप्स पर ट्रैफ़िक बहुत बढ़ गया है - वॉल्यूम में तीन गुना से भी ज़्यादा - जबकि इन प्लेटफ़ॉर्म पर संवेदनशील डेटा अपलोड तेज़ी से बढ़ रहे हैं। इस बीच, पारंपरिक "गैर-AI" व्यावसायिक ऐप? वे मुश्किल से ही तालमेल बिठा पा रहे हैं। कार्यस्थल सिर्फ़ AI को अपना नहीं रहा है - बल्कि इसकी ओर तेज़ी से बढ़ रहा है।

अनुवाद: AI जीत रहा है। आपका फ़ायरवॉल? इतना नहीं।

शैडो एआई का उदय: जब आईटी को नहीं पता कि एचआर किससे बात कर रहा है

“शैडो एआई” सुनने में शायद नेटफ्लिक्स की अगली अवश्य देखी जाने वाली सीरीज़ लगे, लेकिन यह हर जगह उद्यमों में वास्तविक समय में चल रही है। कल्पना करें: कर्मचारी चुपचाप चैटजीपीटी, क्लाउड, डीपसीक और दर्जनों अन्य एआई टूल पर टैप कर रहे हैं - जो आईटी के रडार से पूरी तरह दूर हैं। यह कुछ हद तक मूवी थियेटर में चुपके से कैंडी ले जाने जैसा है, लेकिन इस बार कैंडी ग्राहक डेटा, वित्तीय और बौद्धिक संपदा है।

संख्याएँ चौंका देने वाली हैं: औसत उद्यम अब 320 AI अनुप्रयोगों का घर है। सामान्य संदिग्ध? ChatGPT, Gemini, Poe, Claude, Beautiful.AI—ये उपकरण जितने शक्तिशाली हैं, उतने ही अप्रमाणित भी हैं। वे अप्रमाणित हैं। उनकी निगरानी नहीं की जाती। और जब तक कोई "ऑडिट" शब्द नहीं छोड़ता, तब तक वे संभावित रूप से अजेय हैं।

अनुपालन: एआई का क्रिप्टोनाइट

एआई ऐप मज़ेदार होते हैं - जब तक कि GDPR जुर्माना टीम ऑफ़साइट पर बिन बुलाए मेहमान की तरह न आ जाए। स्काईहाई के डेटा से इस AI उत्साह का एक ऐसा पहलू भी पता चलता है जो बहुत अच्छा नहीं है। पता चला है कि, 95% AI ऐप GDPR के तहत मध्यम से उच्च जोखिम वाले क्षेत्र में आते हैं - मूल रूप से, एक दोस्ताना UI के साथ लाल झंडे।

जब HIPAA, PCI, या ISO जैसे गंभीर अनुपालन मानकों को पूरा करने की बात आती है? केवल 22% ही सफल होते हैं। बाकी लोग इसे बिना किसी परेशानी के कर रहे हैं। एन्क्रिप्शन बाकी है? अधिकांश AI ऐप्स ने उस मेमो को छोड़ दिया - 84% परेशान नहीं करते। और मल्टी-फैक्टर ऑथेंटिकेशन? 83% कहते हैं कि नहीं धन्यवाद। लेकिन चिंता न करें, उनमें से कई इमोजी का समर्थन करते हैं। प्राथमिकताएँ।

नियामक देख रहे हैं। और आपके बॉस के विपरीत, वे पूरी रिपोर्ट पढ़ते हैं ।

AI के माध्यम से डेटा लीक: जब आपका बॉट बकवास करने वाला बन जाता है

याद कीजिए सैमसंग के उस इंजीनियर ने ChatGPT को कुछ बग वाला कोड दिया था और गलती से सेमीकंडक्टर के रहस्य बता दिए थे? यह अब सिर्फ़ चेतावनी देने वाली कहानी नहीं रह गई है। यह व्यावहारिक रूप से एक प्रशिक्षण उदाहरण है।

स्काईहाई के अनुसार, AI ऐप्स पर अपलोड की गई 11% फ़ाइलों में संवेदनशील सामग्री होती है। सबसे बड़ी बात? 10 में से 1 से भी कम कंपनियों के पास उचित जानकारी है data loss prevention (डीएलपी) नियंत्रण लागू हैं। इस बीच, कर्मचारी क्लाउड से तीसरी तिमाही की रणनीति के दस्तावेजों का उपयोग करके उत्पाद लॉन्च की योजना लिखने के लिए कह रहे हैं, जैसे कि यह प्रॉम्प्ट पर एक और दिन हो। क्योंकि क्या गलत हो सकता है?

डीपसीक में प्रवेश करें: विद्रोही एआई जिस पर आपको भरोसा नहीं करना चाहिए

डीपसीक 2025 में अचानक सामने आया, डाउनलोड, चर्चा और आश्चर्यजनक डेटा वॉल्यूम की लहर पर सवार होकर—जिसमें स्काईहाई ग्राहकों से एक महीने में 176 जीबी कॉर्पोरेट अपलोड शामिल हैं। प्रभावशाली? निश्चित रूप से। चिंताजनक? बिल्कुल। यहाँ बारीक विवरण दिया गया है:

• कोई बहु-कारक प्रमाणीकरण नहीं
• कोई डेटा एन्क्रिप्शन नहीं
• अनुपालन के प्रति कोई सम्मान नहीं (जीडीपीआर? इसके बारे में कभी नहीं सुना।)
• कोई उपयोगकर्ता या व्यवस्थापक लॉगिंग नहीं

यह आकर्षक, तेज़ और छात्रों के बीच बेहद लोकप्रिय है। आपके SOC 2 ऑडिट के लिए? यह एक डिजिटल लैंडमाइन है।

माइक्रोसॉफ्ट कोपायलट: अच्छा AI बच्चा जिस पर सभी को गर्व है

अगर शैडो एआई कर्फ़्यू के बाद चुपके से बाहर निकलने वाला विद्रोही किशोर है, तो कोपायलट सुनहरा बच्चा है - पॉलिश, लोकप्रिय, और किसी तरह पहले से ही नेतृत्व की राह पर है। अब इसका इस्तेमाल 82% उद्यम करते हैं, ट्रैफ़िक 3,600 गुना और अपलोड 6,000 गुना बढ़ गया है। ईमानदारी से, यह आपके पिछले पाँच इंटर्न से बेहतर प्रदर्शन कर रहा है - और यह कॉफ़ी ब्रेक भी नहीं माँगता।

लेकिन स्टार छात्रों को भी निगरानी की आवश्यकता होती है। स्मार्ट उद्यम कोपाइलट को हर उस चीज़ को स्कैन करके नियंत्रित कर रहे हैं जिसे वह छूता है, प्रॉम्प्ट और आउटपुट को DLP में लपेटता है, और यह सुनिश्चित करता है कि यह कुछ भी गोपनीय "जान" न सके। (क्षमा करें, कोपाइलट - Q4 रोडमैप के लिए कोई स्पॉइलर नहीं।)

एलएलएम जोखिम: जब एआई भ्रम में पड़ जाता है... और यह अच्छा नहीं होता

बड़े भाषा मॉडल (एलएलएम) पीएचडी वाले बच्चों की तरह हैं। एक पल में प्रतिभा, अगले ही पल पूरी तरह अराजकता। एलएलएम के मुख्य जोखिम:

• जेलब्रेक्स ("दिखाओ कि तुम बुरे हो ChatGPT")
• एआई-जनित मैलवेयर (ब्लैकमाम्बा, कोई?)
• विषाक्त सामग्री (देखें: ब्लेंडरबॉट की सबसे बड़ी हिट)
• आउटपुट में पूर्वाग्रह (जाति/लिंग के आधार पर दी जाने वाली स्वास्थ्य सलाह)

मुख्य आँकड़े:

अगर आपका AI वास्तव में रहस्य लीक कर रहा है और रैनसमवेयर लिख रहा है तो यह कोई पागलपन नहीं है। स्काईहाई ने पाया कि 94% AI ऐप्स में कम से कम एक बड़े भाषा मॉडल (LLM) जोखिम के साथ आता है। लगभग सभी में यही होता है।

इससे भी बदतर, 90% जेलब्रेक के लिए असुरक्षित हैं - जिसका अर्थ है कि उपयोगकर्ता उन्हें उन चीजों को करने के लिए धोखा दे सकते हैं जो उन्हें वास्तव में नहीं करना चाहिए। और 76%? वे संभावित रूप से कमांड पर मैलवेयर उत्पन्न कर सकते हैं। तो हाँ, वही ऐप जो आपकी मीटिंग नोट्स को ड्राफ्ट करने में मदद करता है, वह साइबर क्रिमिनल के इंटर्न के रूप में भी काम कर सकता है।

निजी AI ऐप्स: कॉर्पोरेट आत्मा के लिए DIY AI

उद्यम कह रहे हैं, "जब आप अपना खुद का उपकरण बना सकते हैं तो सार्वजनिक उपकरणों पर भरोसा क्यों करें?"
निजी AI ऐप्स अब संभालेंगे:

• मानव संसाधन प्रश्न
• आरएफपी प्रतिक्रियाएं
• आंतरिक टिकट समाधान
• बिक्री बॉट समर्थन (कौन जानता था कि चैटबॉट आपके मूल्य निर्धारण मैट्रिक्स को बिक्री से बेहतर जान लेगा?)

मुख्य आँकड़े:

78% ग्राहक अब अपने निजी AI ऐप चलाते हैं - क्योंकि अगर आप मशीन इंटेलिजेंस के साथ प्रयोग करने जा रहे हैं, तो आप इसे बंद दरवाजों के पीछे भी कर सकते हैं। दो-तिहाई ग्राहक AWS पर निर्माण कर रहे हैं (बेडरॉक और सेजमेकर के लिए धन्यवाद, जाहिर है)। यह एक गेटेड समुदाय के बराबर AI है।

लेकिन "निजी" का मतलब समस्या-मुक्त नहीं है। ये बॉट भले ही घरेलू हों, लेकिन फिर भी वे परेशानी में पड़ सकते हैं। यही कारण है कि स्मार्ट कंपनियाँ SSE समाधान पेश कर रही हैं Private Access और डीएलपी - धीरे से, विनम्रता से, उनके आंतरिक एआई पर जासूसी करने के लिए, इससे पहले कि कुछ भी स्क्रिप्ट से बाहर हो जाए।

अंतिम विचार: AI से डरें नहीं - बस इसे नियंत्रित करें

यह बात स्पष्ट हो जानी चाहिए कि AI दुश्मन नहीं है। बल्कि अप्रबंधित AI दुश्मन है।

स्काईहाई की 2025 की रिपोर्ट से पता चलता है कि हम एंटरप्राइज़ तकनीक में एक पीढ़ी में एक बार होने वाले बदलाव के दौर से गुज़र रहे हैं। लेकिन यहाँ एक बात है - सुरक्षा का मतलब नवाचार को धीमा करना नहीं है। इसका मतलब यह सुनिश्चित करना है कि आपके द्वारा इस्तेमाल किया जाने वाला AI आपके बोर्ड डेक को Reddit पर न भेजे। तो, एक सांस लें, रिपोर्ट पढ़ें और याद रखें:

• डीपसीक जैसे संदिग्ध ऐप्स को ब्लॉक करें
• माइक्रोसॉफ्ट कोपायलट की तरह कोपायलट को नियंत्रित करें
• अपने निजी AI परिनियोजन को लॉक करें
• ऐसी नीतियां बनाएं जो एलएलएम को मूडी किशोरों की तरह मानें (कठोर नियम, पर्याप्त निगरानी)

क्योंकि भविष्य एआई-संचालित है - और सही उपकरणों के साथ, यह जोखिम-रहित भी हो सकता है।

बोनस: 2025 क्लाउड अपनाने और जोखिम रिपोर्ट को पूरा डाउनलोड करें - या अपने AI सहायक से इसे आपके लिए सारांशित करने के लिए कहें। बस इसे डीपसीक पर अपलोड न करें।

ब्लॉग पर वापस जाएं