সেখর সারুক্কাই - সাইবারসিকিউরিটি@ইউসি বার্কলে
অক্টোবর 16, 2024 6 মিনিট পড়া
পূর্ববর্তী ব্লগে , আমরা ফাউন্ডেশনাল এআই-এর সাথে সংযুক্ত নিরাপত্তা চ্যালেঞ্জগুলি অন্বেষণ করেছি, যা সমস্ত AI মডেলকে সমর্থন করে। আমরা প্রম্পট ইঞ্জিনিয়ারিং আক্রমণ, ডেটা ফাঁস এবং ভুল কনফিগার করা পরিবেশের মতো ঝুঁকিগুলি পরীক্ষা করেছি৷ AI প্রযুক্তির অগ্রগতির সাথে সাথে উঠতি দুর্বলতা রোধ করতে প্রতিটি স্তরকে সুরক্ষিত করা অত্যন্ত গুরুত্বপূর্ণ।
এই ব্লগে, আমরা লেয়ার 2: এআই কপিলটস এর সাথে সম্পর্কিত নিরাপত্তা ঝুঁকিগুলির মধ্যে ডুব দেব। এই AI-চালিত ভার্চুয়াল সহকারীগুলি কিছু নির্দিষ্ট কাজকে স্বয়ংক্রিয় করতে, সিদ্ধান্ত গ্রহণে সহায়তা করতে এবং উত্পাদনশীলতা বাড়াতে দ্রুত শিল্প জুড়ে মোতায়েন করা হচ্ছে। যদিও এআই কপিলটরা শক্তিশালী সুবিধা অফার করে, তারা নতুন নিরাপত্তা চ্যালেঞ্জগুলিও প্রবর্তন করে যা সংস্থাগুলিকে নিরাপদ এবং নিরাপদ ব্যবহার নিশ্চিত করতে অবশ্যই সমাধান করতে হবে।
এআই কপাইলট স্তরে নিরাপত্তা ঝুঁকি
কর্মচারীদের দ্বারা ব্যবহৃত তৃতীয় পক্ষের AI কপিলট (যেমন Microsoft Copilot) এবং গ্রাহক- বা অংশীদার-মুখী ব্যবসায়িক দলগুলির দ্বারা তৈরি কাস্টম AI কপিলটগুলির জন্য নিরাপত্তা ঝুঁকি আলাদা। উদাহরণস্বরূপ, তৃতীয় পক্ষের এআই কপিলটদের জ্ঞানের গ্রাফে অ্যাক্সেস এবং ম্যানিপুলেশন সীমিত এবং তাই মডেলটিকে প্রশিক্ষণ দেওয়ার জন্য কী ডেটা ব্যবহার করা হয় তার নিয়ন্ত্রণও রয়েছে। তা সত্ত্বেও, লেয়ার 1-এ সম্বোধন করা নিরাপত্তা সংক্রান্ত উদ্বেগগুলিকে তিনটি ক্ষেত্রে ফোকাস করে বাড়ানো দরকার: ডেটা, প্রসঙ্গ এবং বৃহত্তর কপিলট নিরাপত্তার চাহিদা পূরণের জন্য অনুমতি।
1. ডেটা পয়জনিং এবং মডেল ম্যানিপুলেশন
এআই কপিলটরা প্রতিক্রিয়া তৈরি করতে এবং ব্যবহারকারীদের জটিল কাজগুলিতে সহায়তা করতে প্রচুর পরিমাণে ডেটার উপর নির্ভর করে। যাইহোক, ডেটার উপর এই ভারী নির্ভরতা ডেটা বিষক্রিয়ার ঝুঁকির পরিচয় দেয়, যেখানে আক্রমণকারীরা মডেলের আউটপুটগুলিকে বিকৃত করার জন্য ইনপুট ডেটা ম্যানিপুলেট করে। এর ফলে এআই কপিলটরা ভুল পরামর্শ প্রদান করতে পারে, ত্রুটিপূর্ণ সিদ্ধান্ত নিতে পারে, এমনকি বিষাক্ত ডেটার উপর ভিত্তি করে ক্ষতিকারক কর্ম সম্পাদন করতে পারে।
একজন খারাপ অভিনেতা এআই কপিলটকে শক্তি প্রদানকারী মডেলগুলিকে সূক্ষ্ম-টিউন করতে ব্যবহৃত প্রশিক্ষণের ডেটা পরিবর্তন করতে পারে, যার ফলে সিস্টেমটি অপ্রত্যাশিতভাবে আচরণ করে বা নির্দিষ্ট ফলাফলের পক্ষে থাকে। উদাহরণস্বরূপ, এই বছরের শুরুর দিকে, গবেষকরা আলিঙ্গন মুখের নমুনা পরীক্ষা করেছেন এবং আবিষ্কার করেছেন 100 টিরও বেশি মডেল দূষিত। এমন পরিবেশে যেখানে AI কপিলটগুলি গুরুত্বপূর্ণ কাজগুলির জন্য ব্যবহার করা হয় - যেমন আর্থিক বিশ্লেষণ বা গ্রাহক সহায়তা - এর সুদূরপ্রসারী পরিণতি হতে পারে। এই দুর্বলতা সম্ভাব্যভাবে একটি সংস্থাকে বাহ্যিক হুমকির সম্মুখীন হতে পারে, যার ফলে আর্থিক এবং খ্যাতি উভয়ই ক্ষতির সম্মুখীন হতে পারে।
প্রশমন টিপ : ডেটা বিষক্রিয়ার ঝুঁকি কমাতে, সংস্থাগুলিকে কঠোর ডেটা যাচাইকরণ পদ্ধতি প্রয়োগ করা উচিত এবং AI মডেলগুলিকে প্রশিক্ষণ বা আপডেট করার জন্য ব্যবহৃত সমস্ত ডেটার অখণ্ডতা নিরীক্ষণ করা উচিত৷ নিয়মিতভাবে নির্ধারিত অডিট এবং এআই কপিলট সিস্টেমে ডেটার প্রবাহ ট্র্যাক করার জন্য ডেটা লাইনেজ টুল নিয়োগ করা সম্ভাব্য দুর্বলতা সনাক্ত করতে সাহায্য করতে পারে।
2. প্রাসঙ্গিক ঝুঁকি এবং সরবরাহ চেইন আক্রমণ
এআই কপিলটরা প্রায়শই প্রাসঙ্গিক ডেটা, যেমন ব্যবহারকারীর আচরণ, নির্দিষ্ট কোম্পানির তথ্য, বা রিয়েল-টাইম ডেটা ফিডগুলি তাদের প্রতিক্রিয়াগুলিকে উপযোগী করার জন্য ব্যবহার করে। যাইহোক, প্রসঙ্গের উপর এই নির্ভরতা প্রসঙ্গ বিষক্রিয়ার ঝুঁকির পরিচয় দেয়, যেখানে আক্রমণকারীরা সিস্টেমের আচরণ পরিবর্তন করার জন্য প্রাসঙ্গিক ডেটা ম্যানিপুলেট করে।
উদাহরণ স্বরূপ, মাইক্রোসফটের কপিলট সিস্টেম এন্টারপ্রাইজ ডেটার জন্য সমৃদ্ধ শব্দার্থিক সূচক তৈরি করে - ইমেল, নথি এবং চ্যাট সহ - সঠিক এবং প্রাসঙ্গিক প্রতিক্রিয়া প্রদান করতে। যাইহোক, এই প্রেক্ষাপট টার্গেট করা আক্রমণের জন্য কাজে লাগানো যেতে পারে। দূষিত ডেটা ইনজেকশনের মাধ্যমে বা অন্তর্নিহিত প্রসঙ্গ পরিবর্তন করে, আক্রমণকারীরা এআই কপিলটকে বিভ্রান্তিকর আউটপুট তৈরি করতে, অসাবধানতাবশত সংবেদনশীল তথ্য ভাগ করতে, বর্শা ফিশিং আক্রমণ পরিচালনা করতে বা অন্যান্য ক্ষতিকারক পদক্ষেপ নিতে পারে। মাইক্রোসফ্ট কপিলট প্রসঙ্গে ডেটা সাপ্লাই চেইন বিষাক্ততার আরেকটি রূপ শুধুমাত্র লক্ষ্য ব্যবহারকারীর সাথে একটি দূষিত ফাইল ভাগ করে নেওয়া যেতে পারে। ব্যবহারকারী শেয়ার না করলেও এবং শেয়ার করা দূষিত ফাইল সম্পর্কে অবগত না থাকলেও এই আক্রমণ কাজ করবে।
প্রশমন টিপ : সংস্থাগুলিকে এআই কপিলটদের দ্বারা প্রাসঙ্গিক ডেটা কীভাবে ব্যবহার এবং অ্যাক্সেস করা হয় তার জন্য স্পষ্ট নিয়ম প্রতিষ্ঠা করার পরামর্শ দেওয়া হয়। এর মধ্যে রয়েছে AI কপিলট প্রশিক্ষণে অন্তর্ভুক্ত করা যেতে পারে এমন ডেটার প্রকারগুলিকে সীমিত করা, অ্যাক্সেস নিয়ন্ত্রণগুলি প্রয়োগ করা এবং ম্যানিপুলেশনের লক্ষণগুলির জন্য নিয়মিত এআই আউটপুট অডিট করা। রেড টিমিং (সিমুলেটেড আক্রমণ) এআই কপিলট সিস্টেম এবং তাদের প্রাসঙ্গিক ডেটা প্রক্রিয়াকরণের দুর্বলতাগুলি সনাক্ত করতেও সহায়তা করতে পারে।
3. অনুমতির অপব্যবহার এবং বৃদ্ধি
AI Copilots এর সাথে যুক্ত একটি বড় ঝুঁকি হল অনুমতির অপব্যবহার । এই সিস্টেমগুলিকে প্রায়শই একাধিক ডেটা সেট, অ্যাপ্লিকেশন, এমনকি কোম্পানির পরিকাঠামোতে অ্যাক্সেসের প্রয়োজন হয় যাতে দক্ষতার সাথে কাজগুলি সম্পাদন করা যায়। সঠিকভাবে পরিচালিত না হলে, এআই কপিলটদের অত্যধিক অনুমতি দেওয়া যেতে পারে, তাদের সংবেদনশীল ডেটা অ্যাক্সেস করতে বা তাদের অভিপ্রেত সুযোগের বাইরে ক্রিয়া সম্পাদন করতে দেয়।
এটি ক্রমবর্ধমান আক্রমণের ঝুঁকি তৈরি করে, যেখানে আক্রমণকারীরা অননুমোদিত সিস্টেম বা গোপনীয় তথ্যে অ্যাক্সেস পেতে এআই কপিলটের অনুমতিগুলিকে কাজে লাগায়। কিছু ক্ষেত্রে, ভুল কনফিগার করা অনুমতিগুলি এআই কপিলটদের অ্যাকাউন্ট সেটিংস পরিবর্তন করা, গুরুত্বপূর্ণ ফাইলগুলি মুছে ফেলা বা তৃতীয় পক্ষের অ্যাপ্লিকেশনগুলিতে সংবেদনশীল ডেটা প্রকাশ করার মতো ক্রিয়া সম্পাদন করতে দেয়।
উদাহরণস্বরূপ, গিটহাবের কপিলটকে তৃতীয় পক্ষের প্লাগইনগুলির সাথে একীকরণের কারণে একটি ঝুঁকি হিসাবে চিহ্নিত করা হয়েছে যা সেই প্লাগইনগুলি সঠিকভাবে যাচাই করা না হলে ডেটা ফাঁস হতে পারে। কর্নেল ইউনিভার্সিটির দ্বারা পরিচালিত একটি সমীক্ষায় প্রকাশ করা হয়েছে যে GitHub-এর কপিলট ব্যবহার করে উত্পন্ন প্রায় 40% প্রোগ্রামে দুর্বলতা রয়েছে , কঠোর তদারকি ছাড়াই AI সিস্টেমকে অত্যধিক অনুমতি দেওয়ার বাস্তব-বিশ্বের ঝুঁকির উপর জোর দেয়।
প্রশমন টিপ : এআই কপিলট অনুমতিগুলি পরিচালনা করার জন্য সর্বোত্তম অনুশীলনগুলির মধ্যে রয়েছে ন্যূনতম বিশেষাধিকারের নীতি প্রয়োগ করা (এআই কপিলটদের তাদের কাজগুলি সম্পাদন করার জন্য প্রয়োজনীয় ন্যূনতম অনুমতি দেওয়া) এবং নিয়মিত অ্যাক্সেস লগগুলি পর্যালোচনা করা। স্বয়ংক্রিয় সরঞ্জামগুলি যেগুলি অস্বাভাবিক আচরণ সনাক্ত করে এবং ফ্ল্যাগ করে তা অননুমোদিত অ্যাক্সেস বা বিশেষাধিকার বৃদ্ধির ঝুঁকি কমাতেও নিযুক্ত করা উচিত।
4. দুর্বৃত্ত এআই কপিলট এবং শ্যাডো এআই
এআই কপিলটদের প্রসারিত হওয়ার সাথে সাথে সংস্থাগুলি দুর্বৃত্ত এআই কপিলট বা ছায়া এআই (অননুমোদিত এআই অ্যাপ্লিকেশনগুলি তদারকি ছাড়াই স্থাপন) এর হুমকির সম্মুখীন হতে পারে। এই শ্যাডো সিস্টেমগুলি সংস্থার আনুষ্ঠানিক নিরাপত্তা প্রোটোকলের বাইরে কাজ করতে পারে, যা ডেটা লঙ্ঘন, সম্মতি লঙ্ঘন এবং অপারেশনাল ব্যর্থতা সহ উল্লেখযোগ্য ঝুঁকির দিকে পরিচালিত করে।
ওপেন-সোর্স এআই মডেলগুলি ব্যবহার করে বা কোম্পানির নিয়ন্ত্রণগুলিকে বাইপাস করতে চাওয়া দূষিত অভ্যন্তরীণ ব্যক্তিদের দ্বারা দুর্বৃত্ত এআই কপিলট তৈরি করা যেতে পারে। নিরাপত্তা লঙ্ঘন বা কমপ্লায়েন্স অডিট তাদের অস্তিত্ব প্রকাশ না করা পর্যন্ত এই অ-অনুমোদিত সিস্টেমগুলি প্রায়শই অলক্ষিত থাকে।
শ্যাডো এআই-এর উত্থানকে শ্যাডো আইটি-এর প্রথম দিনগুলির সাথে তুলনা করা হয়েছে, যখন অ-অনুমোদিত ক্লাউড পরিষেবা এবং অ্যাপ্লিকেশনগুলি সাধারণত কর্পোরেট অনুমোদন ছাড়াই কর্মচারীদের দ্বারা ব্যবহৃত হত। একইভাবে, শ্যাডো এআই একটি প্রতিষ্ঠানের অবকাঠামোর মধ্যে লুকিয়ে থাকা অজানা দুর্বলতার ঝুঁকির পরিচয় দেয়, যার অপব্যবহারের বিরুদ্ধে সুরক্ষার জন্য কোনও আনুষ্ঠানিক নিরাপত্তা ব্যবস্থা নেই।
প্রশমন টিপ : দুর্বৃত্ত AI কপিলটদের উত্থানের বিরুদ্ধে লড়াই করার জন্য, সংস্থাগুলিকে সমস্ত AI স্থাপনার কঠোর তদারকি বজায় রাখতে হবে৷ AI গভর্নেন্স ফ্রেমওয়ার্কগুলি বাস্তবায়ন করা নিশ্চিত করতে সাহায্য করতে পারে যে শুধুমাত্র অনুমোদিত AI কপিলটদের মোতায়েন করা হয়েছে, যখন ক্রমাগত পর্যবেক্ষণ এবং স্বয়ংক্রিয় আবিষ্কার সরঞ্জামগুলি সংস্থার মধ্যে চলমান অননুমোদিত AI অ্যাপ্লিকেশনগুলি সনাক্ত করতে পারে।
এআই কপিলট সুরক্ষিত করা: সেরা অভ্যাস
উপরোক্ত ঝুঁকিগুলি ব্যবহারের ক্ষেত্রের উপর ভিত্তি করে সমাধান করা যেতে পারে। বাহ্যিক থার্ড-পার্টি এআই কপিলট (যেমন মাইক্রোসফ্ট কপিলট বা গিথুব কপিলট) ব্যবহারের জন্য, প্রথম প্রয়োজনটি আবিষ্কারের মাধ্যমে ছায়া এআই কপিলট/এআই ব্যবহারের বোঝার জন্য। Skyhigh-এর AI ঝুঁকির বৈশিষ্ট্যগুলির বর্ধিত রেজিস্ট্রি এন্টারপ্রাইজগুলির দ্বারা ব্যবহৃত তৃতীয় পক্ষের AI কপিলটগুলি আবিষ্কার করার একটি সহজ উপায় হতে পারে। এই স্তরে ডেটা সুরক্ষা নেটওয়ার্ক-ভিত্তিক এবং API-ভিত্তিক ডেটা সুরক্ষার সংমিশ্রণে সর্বোত্তমভাবে সমাধান করা হয়। ইনলাইন কন্ট্রোল হয় সিকিউর সার্ভিস এজ (এসএসই) ফরোয়ার্ড প্রক্সির মাধ্যমে প্রয়োগ করা যেতে পারে (উদাহরণস্বরূপ, এআই কপিলটগুলিতে ফাইল আপলোড করার জন্য) এবং গৃহপালিত এআই কপিলট/চ্যাটবটের জন্য অ্যাপ্লিকেশন/এলএলএম রিভার্স প্রক্সি, অথবা অ্যাপ্লিকেশন ইন্টারঅ্যাকশনের জন্য ব্রাউজার-ভিত্তিক নিয়ন্ত্রণ WebSockets ব্যবহার করুন।
এআই কপিলটগুলির সাথে সংযোগ করতে পারে এমন অন্যান্য অ্যাপ্লিকেশনগুলির চারপাশে আরেকটি ঝুঁকি কেন্দ্র। উদাহরণস্বরূপ, মাইক্রোসফ্ট কপিলটগুলিকে সেলসফোর্সের সাথে দ্বিমুখীভাবে সংযোগ করতে কনফিগার করা যেতে পারে। এই ধরনের সংযুক্ত অ্যাপ্লিকেশনগুলিতে দৃশ্যমানতা অর্জনের জন্য মাইক্রোসফ্ট কপিলট কনফিগারেশনগুলি অনুসন্ধান করার ক্ষমতা এই ফুটো ভেক্টরকে ব্লক করার জন্য অপরিহার্য হবে।
এআই কপিলট অ্যাপ্লিকেশন-লেভেল কন্ট্রোল ছাড়াও, পুনরুদ্ধার অগমেন্টেড জেনারেশন (RAG) নলেজ গ্রাফ এবং এআই কপিলটদের দ্বারা ব্যবহৃত সূচকগুলিকেও বিশেষ বিবেচনা করা দরকার। তৃতীয় পক্ষের এআই কপিলটরা এই বিষয়ে অস্বচ্ছ। তাই প্রতিষ্ঠানগুলি AI কপিলটদের দ্বারা API সমর্থনের উপর নির্ভরশীল হবে যাতে ব্যবহৃত ভেক্টর/গ্রাফ স্টোরগুলির আত্মদর্শন এবং নীতি নির্ধারণ করা হয়। বিশেষ করে, এই স্তরে মোকাবেলা করার জন্য একটি চ্যালেঞ্জিং সমস্যা ডেটা স্তরে অনুমতি ব্যবস্থাপনার পাশাপাশি বিশেষাধিকার বৃদ্ধির কেন্দ্রবিন্দুতে রয়েছে যা এআই কপিলট-সৃষ্ট সামগ্রীর জন্য অসাবধানতাবশত উদ্ভূত হতে পারে। অনেক এআই কপিলটদের এখনও ইনলাইন/রিয়েল-টাইম কন্ট্রোলের জন্য শক্তিশালী API সমর্থন নেই যা চ্যালেঞ্জকে আরও জটিল করে তোলে। পরিশেষে, API গুলি কাছাকাছি রিয়েল-টাইম সুরক্ষা এবং ডেটা নিয়ন্ত্রণের জন্য জ্ঞানের ভিত্তির অন-ডিমান্ড স্ক্যানিংয়ের পাশাপাশি ডেটা বিষক্রিয়া আক্রমণের জন্য স্ক্যান করার জন্য ব্যবহার করা যেতে পারে।
এআই কপিলটদের সাথে সম্পর্কিত নিরাপত্তা ঝুঁকির বিরুদ্ধে সুরক্ষার জন্য, সংস্থাগুলিকে নিরাপত্তার জন্য বহু-স্তরীয় পদ্ধতি অবলম্বন করা উচিত। মূল ব্যবস্থা অন্তর্ভুক্ত:
- নিয়মিত অডিট পরিচালনা করুন : ডেটা বিষক্রিয়ার দুর্বলতা, প্রসঙ্গ ম্যানিপুলেশন ঝুঁকি এবং অনুমতির ভুল কনফিগারেশনের জন্য নিয়মিতভাবে এআই কপাইলট স্থাপনার পর্যালোচনা করুন।
- অনুমতি নিয়ন্ত্রণগুলি প্রয়োগ করুন : এআই কপিলটদের কেবলমাত্র তাদের প্রয়োজনীয় ডেটা এবং সিস্টেমগুলিতে অ্যাক্সেস রয়েছে তা নিশ্চিত করতে ন্যূনতম-সুবিধাপ্রাপ্ত অ্যাক্সেস মডেলগুলি ব্যবহার করুন৷
- স্বয়ংক্রিয় পর্যবেক্ষণ সরঞ্জাম স্থাপন করুন : AI কপিলট আচরণ নিরীক্ষণ করতে এবং অননুমোদিত অ্যাক্সেস বা সন্দেহজনক ডেটা ইন্টারঅ্যাকশনের মতো অসঙ্গতিগুলি সনাক্ত করতে স্বয়ংক্রিয় সরঞ্জামগুলি প্রয়োগ করুন।
- AI ব্যবহার পরিচালনা করুন : AI স্থাপনার তত্ত্বাবধান করতে, দুর্বৃত্ত এআই কপিলটদের প্রতিরোধ করতে এবং নিরাপত্তা ও গোপনীয়তা প্রবিধানের সাথে সম্মতি নিশ্চিত করতে সুস্পষ্ট প্রশাসনিক কাঠামো স্থাপন করুন।
এই সর্বোত্তম অনুশীলনগুলি অবলম্বন করে, সংস্থাগুলি নিরাপত্তা ঝুঁকি কমিয়ে AI কপিলটগুলির সুবিধাগুলি সর্বাধিক করতে পারে।
এগিয়ে যাওয়ার পথ: এআই স্তরগুলি সুরক্ষিত করা
এআই কপিলটরা উৎপাদনশীলতা বাড়ানো এবং ব্যবসায়িক ফলাফলের উন্নতির জন্য উল্লেখযোগ্য সম্ভাবনা অফার করে, কিন্তু তারা টেবিলে নতুন নিরাপত্তা ঝুঁকিও নিয়ে আসে। ডেটা পয়জনিং থেকে শুরু করে দুর্বৃত্ত এআই কপিলট পর্যন্ত, সংস্থাগুলিকে অবশ্যই এআই প্রযুক্তির এই গুরুত্বপূর্ণ স্তরটিকে সুরক্ষিত করতে সক্রিয় পদক্ষেপ নিতে হবে। আমরা যখন AI এর আরও উন্নত স্তরে চলে যাই, শক্তিশালী নিরাপত্তা ব্যবস্থার প্রয়োজন কেবল বৃদ্ধি পায়।
আমাদের সিরিজের পরবর্তী ব্লগের জন্য সাথে থাকুন, যেখানে আমরা লেয়ার 3 এবং অন্যান্য স্বায়ত্তশাসিত AI সিস্টেমের সাথে আসা নিরাপত্তা চ্যালেঞ্জগুলি অন্বেষণ করব। আপনার AI অ্যাপ্লিকেশনগুলি সুরক্ষিত করার বিষয়ে আরও জানতে, Skyhigh AI সমাধানগুলি অন্বেষণ করুন ৷
এই সিরিজের অন্যান্য ব্লগ:
ব্লগে ফিরে যান