RSA কনফারেন্স 2023 – সান ফ্রান্সিসকো – যেহেতু এন্টারপ্রাইজ এবং সরকারী সংস্থাগুলি তাদের বৃহত্তর সিস্টেমের মধ্যে কৃত্রিম বুদ্ধিমত্তা (AI) এবং মেশিন লার্নিং (ML) ক্রমবর্ধমানভাবে বুনছে, তাই তাদের ঝুঁকির স্থিতিস্থাপকতার সমস্যাগুলির একটি পরিসরের জন্য অ্যাকাউন্ট করতে হবে যা সাইবার নিরাপত্তা উদ্বেগগুলির সাথে শুরু হয় কিন্তু সেগুলির বাইরেও ছড়িয়ে পড়ে।
24 এপ্রিল RSA কনফারেন্স 2023-এ বিশিষ্ট AI এবং নিরাপত্তা গবেষকদের সমন্বয়ে গঠিত একটি প্যানেল AI স্থিতিস্থাপকতার সমস্যা স্থান পরীক্ষা করেছে, যার মধ্যে রয়েছে প্রতিপক্ষের AI আক্রমণের মতো গুরুত্বপূর্ণ বিষয়গুলি, এআই পক্ষপাতিত্ব, এবং এআই মডেলিংয়ের নৈতিক প্রয়োগ।
সাইবারসিকিউরিটি পেশাদারদের তাদের সংস্থার মধ্যে এবং সরকার ও শিল্প গোষ্ঠীর সহযোগী হিসাবে এই সমস্যাগুলি মোকাবেলা করা শুরু করতে হবে, প্যানেলিস্টরা উল্লেখ করেছেন।
"অনেক সংস্থা তাদের মূল ব্যবসায়িক ফাংশনগুলির এআই/এমএল ক্ষমতাগুলিকে একীভূত করতে দেখবে, কিন্তু এটি করার ফলে তাদের নিজস্ব আক্রমণের পৃষ্ঠ বৃদ্ধি পাবে," প্যানেল মডারেটর ব্রায়ান ভারনড্রান ব্যাখ্যা করেছেন, এফবিআই সাইবার বিভাগের সহকারী পরিচালক। "এআই এবং এমএল বিকাশ এবং স্থাপনার চক্রের প্রতিটি পর্যায়ে আক্রমণ ঘটতে পারে, মডেল, প্রশিক্ষণের ডেটা এবং এপিআইগুলি লক্ষ্য করা যেতে পারে।"
ভাল খবর হল এই প্রচেষ্টায় এগিয়ে যাওয়ার সময় আছে যদি সম্প্রদায় এখন কাজ শুরু করে।
"একটি সম্প্রদায় হিসাবে আমাদের এখানে সত্যিই একটি অনন্য সুযোগ রয়েছে," বলেছেন৷ ক্যালিপসোএআই-এর সিইও নেইল সেরেব্রায়নি. "আমরা এই বিষয়ে সচেতন যে একটি হুমকি রয়েছে, আমরা এই হুমকির প্রাথমিক ঘটনাগুলি দেখছি, এবং হুমকিটি এখনও সম্পূর্ণরূপে প্রস্ফুটিত হয়নি।"
'এখনও' হল অপারেটিভ শব্দ, তিনি জোর দিয়েছিলেন এবং তার সহকর্মী প্যানেলিস্টরা একমত। ঝুঁকি ব্যবস্থাপনার ক্ষেত্রটি AI এর সাথে এমন একটি জায়গায় রয়েছে যেখানে 1980 এর দশকে ইন্টারনেটের সাথে সাইবার নিরাপত্তা ছিল, বব লটন বলেছেন, মিশনের ক্ষমতার প্রধান জাতীয় গোয়েন্দা বিজ্ঞান ও প্রযুক্তি গ্রুপের পরিচালকের কার্যালয়।
“ভাবুন যদি এটি 1985 হয় এবং আপনি এখন সাইবার ডোমেনে আমরা যে চ্যালেঞ্জগুলির মুখোমুখি হতে যাচ্ছি তা জানতেন, 35 বছর আগে একটি শিল্প হিসাবে আমরা একটি সম্প্রদায় হিসাবে কী করব, এবং ঠিক এই মুহূর্তে আমরা AI এর সাথে ঠিক সেখানেই আছি৷ "লটন বলেন। "এটি সঠিক করার জন্য আমাদের কাছে সময় এবং স্থান আছে।"
বিশেষ করে যখন সরাসরি আক্রমণের কথা আসে প্রতিপক্ষের দ্বারা এআই সিস্টেমের বিরুদ্ধে, হুমকিগুলি এখনও খুব প্রাথমিক, কিন্তু এটি শুধুমাত্র কারণ আক্রমণকারীরা এই মুহূর্তে তাদের উদ্দেশ্যগুলি অর্জনের জন্য তাদের প্রয়োজনীয় কাজটিই রাখছে, MITER কর্পোরেশনের এআই কৌশল সম্পাদন এবং অপারেশন ম্যানেজার ক্রিস্টিনা লিয়াঘাটি বলেছেন।
"আমি মনে করি আমরা আরও অনেক দূষিত অভিনেতাদের এই আক্রমণগুলির উচ্চ স্তরের পরিশীলিততা দেখতে পাব, কিন্তু এই মুহূর্তে তাদের তা করতে হবে না, যা আমি মনে করি এই স্থানটি সম্পর্কে সত্যিই আকর্ষণীয় বিষয়," তিনি বলেছিলেন শ্রোতা.
তবুও, তিনি সতর্ক করেছিলেন যে সংস্থাগুলি ঝুঁকিগুলিকে হালকাভাবে বিবেচনা করতে পারে না। হুমকি অভিনেতাদের তাদের পরিশীলিততা এবং এআই মডেলের জ্ঞান বাড়ানোর আগ্রহ কেবল বাড়তে থাকবে কারণ এটি এমন সিস্টেমে এমবেড করা হয়েছে যেগুলি তারা লাভজনকভাবে আক্রমণ করতে পারে। এবং এটি আর্থিক ব্যবস্থায় সাধারণ ML মডেলগুলি ব্যবহার করে ছোট সংস্থাগুলির ক্ষেত্রে ঠিক ততটাই সত্য যেমন এটি একটি বুদ্ধিমত্তার ক্ষমতায় এটি ব্যবহার করে সরকারী সংস্থাগুলির জন্য।
সবাই ঝুঁকিতে আছে
"আপনি যদি এমন কোনও পরিবেশে AI মোতায়েন করছেন যেখানে কোনও অভিনেতা সেই সিস্টেমের অপব্যবহার করতে বা এড়িয়ে যেতে বা আক্রমণ করতে চান তবে আপনার সিস্টেমটি দুর্বল," তিনি বলেছিলেন। “সুতরাং, এটি কেবলমাত্র সুপার অ্যাডভান্সড টেক জায়ান্ট বা যে কেউ AI কে ব্যাপকভাবে মোতায়েন করছে তা নয়। আপনার সিস্টেম যদি কোনো ধরনের পরিণতিমূলক পরিবেশে থাকে এবং তারপরে আপনি AI এবং মেশিন লার্নিংকে সেই বৃহত্তর সিস্টেমের প্রেক্ষাপটে অন্তর্ভুক্ত করেন, তাহলে আপনি এটিকে নতুন উপায়ে প্রকাশ করতে পারেন যা আপনি সম্ভবত চিন্তা করছেন না বা প্রয়োজনীয়ভাবে প্রস্তুত নন।"
অনেক সাইবার সিকিউরিটি এক্সিকিউটিভদের জন্য AI এর সাথে চ্যালেঞ্জ হল যে এই ঝুঁকিগুলি মোকাবেলা করার জন্য তাদের এবং তাদের দলগুলিকে AI এবং ডেটা সায়েন্সের আশেপাশে সম্পূর্ণ নতুন জ্ঞান এবং কথাবার্তা অর্জন করতে হবে।
"আমি মনে করি না যে AI নিশ্চয়তা এর মূলে একটি ঐতিহ্যগত ইনফোসেক সমস্যা," সেরেব্রিয়ানি বলেছেন। "এটা একটা মেশিন লার্নিং সমস্যা যে আমরা কীভাবে ইনফোসেক সম্প্রদায়ে অনুবাদ করা যায় তা বের করার চেষ্টা করছি।"
উদাহরণস্বরূপ, মডেলগুলিকে শক্ত করার জন্য মূল ডেটা সায়েন্স মেট্রিক্স যেমন রিকল প্রিসিশন অ্যাকুরেসি এবং F1 স্কোর বোঝার প্রয়োজন, তিনি বলেছিলেন।
"সুতরাং আমি মনে করি যে এই অন্তর্নিহিত ML ধারণাগুলি কীভাবে নেওয়া যায় এবং গবেষণা করা যায় এবং একটি নরম প্রেক্ষাপটের মধ্যে ভাষা, ধারণা এবং স্ট্যান্ডার্ড অপারেটিং পদ্ধতিগুলিকে অনুবাদ করা যায় যা ইনফোসেক সম্প্রদায়ের মধ্যে বোঝা যায় তা বোঝার জন্য এটি আমাদের দায়িত্বশীল।" সে বলেছিল.
একই সময়ে, লিয়াঘাতি বলেছে যে নিরাপত্তার মূল বিষয়গুলিকে ছাড় না দেওয়ার জন্য AI/ML মডেল এবং সিস্টেমগুলি অন্যান্য সিস্টেমের প্রেক্ষাপটে স্থাপন করা হবে যার জন্য নিরাপত্তা দলগুলির ঝুঁকি পরিচালনা করার কয়েক দশকের অভিজ্ঞতা রয়েছে। ডেটা নিরাপত্তা, অ্যাপ্লিকেশন নিরাপত্তা, এবং নেটওয়ার্ক নিরাপত্তা নীতিগুলি এখনও অত্যন্ত প্রাসঙ্গিক, যেমন স্ট্যান্ডার্ড ঝুঁকি ব্যবস্থাপনা এবং OpSec সেরা অনুশীলনগুলি।
“এগুলির মধ্যে অনেকগুলি কেবল ভাল অনুশীলন। এটি শুধুমাত্র একটি বড়, অভিনব প্রতিপক্ষ স্তর বা একটি ডেটা সেট প্যাচ করতে সক্ষম হওয়া নয়। এটি অগত্যা যে জটিল নয়, "সে বলে। "আপনি এই হুমকিগুলিকে প্রশমিত করতে পারেন এমন অনেকগুলি উপায় হল আপনি কোন মডেলগুলি ব্যবহার করছেন, আপনি কোন ডেটা ব্যবহার করছেন, এটি কোথা থেকে আসছে, [এবং ] সেই AI সিস্টেমের চারপাশে বিস্তৃত সিস্টেমের প্রেক্ষাপট কেমন দেখায়।
- এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
- প্লেটোএআইস্ট্রিম। Web3 ডেটা ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
- অ্যাড্রিয়েন অ্যাশলির সাথে ভবিষ্যত মিন্টিং। এখানে প্রবেশ করুন.
- উত্স: https://www.darkreading.com/vulnerabilities-threats/ai-experts-account-ai-ml-resilience-risk-time
