हम एआई की दौड़ को रोक नहीं सकते। हम इसे अधिक सुरक्षित और संरक्षित बना सकते हैं।

त्याग वासुदेवन - उत्पाद के कार्यकारी उपाध्यक्ष द्वारा

15 सितंबर, 2026 5 मिनट रीड

इस सप्ताहांत, एआई उद्योग में गति को लेकर एक असामान्य चर्चा हुई। 

संक्षेप में, एंथ्रोपिक के सीईओ डारियो अमोदेई ने तर्क दिया कि अत्याधुनिक एआई क्षमताएं उन्हें समझने और नियंत्रित करने के लिए आवश्यक तंत्रों की तुलना में तेज़ी से विकसित हो रही हैं। ओपनएआई के सीईओ सैम अल्टमैन ने भी उपयुक्त परिस्थितियों में उन्नत एआई प्रणालियों के विकास को धीमा करने की इच्छा व्यक्त की है।

मैं इस बारे में अटकलें नहीं लगाना चाहता कि वे ये रुख क्यों अपना रहे हैं। हालांकि, उनके द्वारा वर्णित जोखिमों को गंभीरता से लिया जाना चाहिए। इसलिए, मेरा मानना ​​है कि व्यापक चर्चा एक अलग निष्कर्ष की ओर इशारा करती है:

हमें अपनी एआई सुरक्षा रणनीति इस धारणा पर आधारित नहीं बनानी चाहिए कि नवाचार को धीमा किया जा सकता है। हमें एक ऐसी सुरक्षा संरचना बनानी चाहिए जो नवाचार को सुरक्षित रूप से जारी रखने की अनुमति दे।

नवाचार रुकने वाला नहीं है

कृत्रिम बुद्धिमत्ता में अपार संभावनाएं छिपी हैं; इसमें चिकित्सा, विज्ञान, सॉफ्टवेयर विकास, शिक्षा, विनिर्माण, साइबर सुरक्षा और लगभग हर ज्ञान-आधारित उद्योग को बदलने की क्षमता है। जब मैं सबसे विनियमित बाजारों और क्षेत्रों में स्थित और कई उद्योगों में फैले फॉर्च्यून 100 संगठनों के ग्राहकों से बात करता हूं, तो उनमें से प्रत्येक इसे प्रत्यक्ष रूप से देख रहा होता है। उदाहरण के लिए, कर्मचारी कृत्रिम बुद्धिमत्ता सहायकों का उपयोग कर रहे हैं, डेवलपर मॉडल को अनुप्रयोगों में एकीकृत कर रहे हैं, कंपनियां निजी कृत्रिम बुद्धिमत्ता वातावरण बना रही हैं और उनकी व्यावसायिक प्रक्रियाएं तेजी से सक्रिय होती जा रही हैं।

इसलिए, हम जिन्न को वापस बोतल में नहीं डाल सकते।

जो संगठन मुख्य रूप से एआई को प्रतिबंधित करके प्रतिक्रिया देते हैं, वे एक और समस्या पैदा कर सकते हैं: कर्मचारी और डेवलपर ऐसे उपकरणों की ओर बढ़ने लगते हैं जिन्हें सुरक्षा टीमें देख नहीं सकतीं। इसलिए उद्देश्य एआई को अपनाने की गति को धीमा करना नहीं होना चाहिए, बल्कि इसे सुरक्षित रूप से अपनाना होना चाहिए ।

फॉर्मूला 1 की समस्या

इस प्रगति की गति को धीमा करने में एक और व्यावहारिक चुनौती है: सभी को एक साथ धीमा होना पड़ेगा। मुझे लगता है कि यह फॉर्मूला 1 जैसी समस्या है।

मान लीजिए, आप असाधारण गति से दौड़ रहे हैं और आपको पता चलता है कि ट्रैक का कुछ हिस्सा असुरक्षित हो सकता है, इसलिए आप एक्सीलरेटर से पैर हटा लेते हैं। यह एक ज़िम्मेदार कदम हो सकता है, लेकिन आपका प्रतिद्वंद्वी अलग सोच सकता है। हो सकता है कि उन्हें लगे कि उनके ब्रेक बेहतर हैं, हो सकता है कि वे कोई और रेसिंग लाइन चुनें या हो सकता है कि वे अधिक जोखिम उठाने का विकल्प चुनें।

इसके अलावा, ध्यान दें कि कृत्रिम बुद्धिमत्ता में एक और महत्वपूर्ण कारक है: ओपन सोर्स । नवाचार तेजी से वैश्विक और विकेंद्रीकृत हो रहा है। ऐसा नहीं है कि ये अग्रणी प्रयोगशालाएँ आपस में प्रतिस्पर्धा करती हैं - बल्कि राष्ट्र प्रतिस्पर्धा करते हैं। उद्यम ओपन सोर्स पर आधारित अपने स्वयं के अनुकूलित मॉडल विकसित कर रहे हैं।

इसलिए, संगठनों को यह मानकर चलना होगा कि एआई की क्षमताएं तेजी से आगे बढ़ती रहेंगी, भले ही सभी प्रतिभागी इसकी गति पर सहमत हों या न हों।

फॉर्मूला 1 की तरह, इसका समाधान केवल धीमी गति से गाड़ी चलाना नहीं है। इसका समाधान सुरक्षित कारें, बेहतर ब्रेक, मजबूत बैरियर, बेहतर टेलीमेट्री और बेहतर नियम बनाना है। ठीक इसी तरह, एआई को भी इन सब की आवश्यकता है। सुरक्षा को नवाचार का मार्गदर्शक सिद्धांत बनना चाहिए।

एआई सुरक्षा एक अकेली समस्या नहीं है

एआई सुरक्षा को अक्सर प्रॉम्प्ट की सुरक्षा या एलएलएम की सुरक्षा तक सीमित कर दिया जाता है। यह बहुत ही संकीर्ण दृष्टिकोण है। एंटरप्राइज़ एआई अब सार्वजनिक एआई उपकरणों के साथ प्रयोग करने वाले कर्मचारियों से लेकर एप्लिकेशन, एपीआई और एंटरप्राइज़ डेटा तक पहुँचने वाले स्वायत्त एजेंटों तक फैला हुआ है। इसलिए संगठनों को एक व्यापक एआई सुरक्षा आर्किटेक्चर की आवश्यकता है , न कि किसी अन्य उत्पाद की।

Skyhigh Security में , हम परिपक्वता मॉडल प्रगति के पांच चरणों के माध्यम से इस पर विचार करते हैं।

1. खोजें

आप उसे सुरक्षित नहीं कर सकते जिसे आप देख नहीं सकते। संगठनों को सबसे पहले स्वीकृत एआई, शैडो एआई, प्राइवेट एआई और एलएलएम-आधारित अनुप्रयोगों के बढ़ते दायरे की जानकारी होनी चाहिए। उन्हें यह समझने की आवश्यकता है कि एआई का उपयोग कौन कर रहा है, किन अनुप्रयोगों तक पहुंच बनाई जा रही है, उनसे क्या जोखिम उत्पन्न होते हैं और संवेदनशील डेटा कहां प्रवाहित हो सकता है।

2. शासन और रोकथाम

पारदर्शिता नीति निर्माण की ओर ले जानी चाहिए। हर कर्मचारी को हर एआई सेवा तक समान पहुंच नहीं होनी चाहिए, और न ही हर एआई एप्लिकेशन को एक जैसा डेटा मिलना चाहिए। यहीं पर Security Service Edge (एसएसई) + जीरो ट्रस्ट की भूमिका महत्वपूर्ण हो जाती है। साथ ही, आर्किटेक्चर में स्थानीय प्रवर्तन की सुविधा होनी चाहिए ताकि यह सुनिश्चित हो सके कि सुरक्षा के कारण अंतिम उपयोगकर्ता के प्रदर्शन और विलंब में कोई बाधा न आए।

पहचान, एप्लिकेशन जोखिम, डिवाइस की स्थिति, डेटा की संवेदनशीलता और संदर्भ यह निर्धारित कर सकते हैं कि एआई इंटरैक्शन को अनुमति दी जानी चाहिए, अवरुद्ध किया जाना चाहिए, प्रतिबंधित किया जाना चाहिए या अलग तरीके से रूट किया जाना चाहिए।

3. डेटा की सुरक्षा करें

एंटरप्राइज़ एआई का महत्व तेजी से एंटरप्राइज़ डेटा तक उसकी पहुंच से बढ़ता जा रहा है। यहीं पर अधिकांश जोखिम भी निहित है। संगठन संवेदनशील जानकारी का पता लगाने, उसके स्थानांतरण के दौरान उसकी सुरक्षा करने और उपयोगकर्ताओं द्वारा एआई अनुप्रयोगों पर अपलोड, डाउनलोड, कॉपी, पेस्ट या प्रदर्शित की जाने वाली जानकारी को नियंत्रित करने के लिए डेटा सुरक्षा स्थिति प्रबंधन ( डीएसपीएम) , डीएलपी और सुरक्षित ब्राउज़र नियंत्रणों का एक साथ उपयोग कर सकते हैं।

डेटा सुरक्षा के बिना एआई सुरक्षा अधूरी है।

4. सुरक्षित एआई इंटरैक्शन

अगली परत बातचीत की सुरक्षा करती है। प्रॉम्प्ट में संवेदनशील जानकारी हो सकती है। प्रॉम्प्ट इंजेक्शन के ज़रिए मॉडल में हेरफेर किया जा सकता है। प्रतिक्रियाओं में असुरक्षित या अनुचित सामग्री हो सकती है। संगठनों को मानव-से-एआई इंटरैक्शन के लिए गतिशील सुरक्षा उपाय लागू करने हेतु प्रॉम्प्ट सुरक्षा + सामग्री मॉडरेशन + विशिष्ट एलएलएम के लिए नियंत्रण की आवश्यकता होती है।

सवाल इस बात से शुरू होता है: "क्या यह उपयोगकर्ता इस एआई एप्लिकेशन तक पहुंच सकता है?"

प्रश्न: "क्या इस संदर्भ में, इस उपयोगकर्ता को यह जानकारी इस मॉडल को भेजनी चाहिए?"

5. सुरक्षित एजेंटिक एआई

अंततः यही सबसे महत्वपूर्ण परत बन सकती है। AI अब सवालों के जवाब देने से आगे बढ़कर कार्रवाई करने की ओर बढ़ रहा है । एजेंट सिस्टम तक पहुंच सकते हैं, टूल्स का उपयोग कर सकते हैं, API को कॉल कर सकते हैं, डेटा प्राप्त कर सकते हैं और मशीन की गति से अन्य एजेंटों के साथ संवाद कर सकते हैं। MCP जैसे प्रोटोकॉल इन कनेक्शनों को और भी अधिक शक्तिशाली बनाते हैं। इसलिए संगठनों को एजेंट आइडेंटिटी ज़ीरो ट्रस्ट + MCP सिक्योरिटी की आवश्यकता है ताकि स्वायत्त मशीन-टू-मशीन इंटरैक्शन में पहचान, अनुमतियां, नीति और निरंतर प्राधिकरण हो।

हमने दशकों तक मनुष्यों के लिए पहचान और शून्य विश्वास वास्तुकला विकसित करने में समय बिताया। अब हमें स्वायत्त रूप से कार्य करने वाली मशीनों के लिए इनकी आवश्यकता है।

सुरक्षा के साथ नवाचार

निष्कर्षतः, बहस नवाचार या सुरक्षा के बीच नहीं है । यह एक गलत विकल्प है। साइबर सुरक्षा उद्योग के लिए चुनौती सुरक्षित नवाचार को सक्षम बनाना होना चाहिए ।

कृत्रिम बुद्धिमत्ता (एआई) और तेज़ होगी। यह अधिक स्वायत्त हो जाएगी। यह अधिक उद्यम डेटा तक पहुंच प्राप्त करेगी। और यह मनुष्यों की ओर से अधिक कार्य करेगी। संगठन अपनी एआई रणनीति को इस उम्मीद पर आधारित नहीं कर सकते कि संपूर्ण पारिस्थितिकी तंत्र सामूहिक रूप से धीमा हो जाएगा।

उनकी सुरक्षा संरचना को इसके विपरीत सोचना होगा। एआई युग के विजेता वे संगठन नहीं होंगे जो सबसे धीमी गति से आगे बढ़ते हैं। विजेता वे संगठन होंगे जो सही सुरक्षा उपायों के साथ तेजी से आगे बढ़ने का तरीका खोज निकालेंगे।

ब्लॉग पर वापस जाएं