সুরক্ষা বলয় ভেঙে স্বয়ংক্রিয় ভাবে বার হয়ে সার্ভারে হামলা! এআই মডেলের তথ্য চুরির দক্ষতায় অবাক উদ্ভাবকেরা

‘ওপেনএআই’-এর একটি পরীক্ষামূলক এআই মডেল নিজস্ব নিয়ন্ত্রিত পরিবেশ (স্যান্ডবক্স) থেকে বার হয়ে ‘হাগিং ফেস’ (জনপ্রিয় ওপেন-সোর্স কৃত্রিম বুদ্ধিমত্তা এবং ‘মেশিন লার্নিং প্ল্যাটফর্ম’। এটি ডেভেলপার এবং গবেষকদের বিভিন্ন এআই মডেল—যেমন টেক্সট জেনারেশন, ইমেজ প্রসেসিং এবং অডিয়ো ট্রান্সক্রিপশন—নির্মাণ, প্রশিক্ষণ এবং শেয়ার করতে সাহায্য করে)-এর সার্ভারে সাইবার হামলা চালিয়েছে। আর তা নিয়েই প্রশ্ন উঠেছে বিজ্ঞানীমহলে।

সংশ্লিষ্ট এআই মডেলটি মানুষের হস্তক্ষেপ ছাড়াই ইন্টারনেটে প্রবেশ করে নিরাপত্তা পরীক্ষায় উত্তীর্ণ হয়ে আসল কোম্পানিটিরই ‘সুরক্ষিত তথ্য’ চুরি করতে সক্ষম হয়েছে। যা স্বয়ংক্রিয় (অটোনোমাস) এআই এজেন্টের নিরাপত্তা ঝুঁকি নিয়ে প্রশ্ন তুলেছে। বিষয়টি চমৎকৃত করেছে উদ্ভাবক সংস্থা ‘ওপেনএআই’-এর বিজ্ঞানীদেরও। প্রসঙ্গত, আমেরিকার এই শীর্ষস্থানীয় এআই গবেষণা ও প্রযুক্তি প্রতিষ্ঠানটি ২০১৫ সালে ইলন মাস্ক ও স্যাম অল্টম্যান প্রতিষ্ঠা করেছিলেন। মানবতার সামগ্রিক কল্যাণে ‘নিরাপদ ও নৈতিক এআই’ তৈরি করাই তাদের প্রধান লক্ষ্য। জনপ্রিয় চ্যাটবট চ্যাটজিপিটি এই সংস্থারই তৈরি।

সিএনএস প্রকাশিত খবরে দাবি, ‘ওপেনএআই’ তাদের অভ্যন্তরীণ সাইবার নিরাপত্তা মূল্যায়ন ফ্রেমওয়ার্ক ‘এক্সপ্লয়েটজিম’-এর সাহায্যে নতুন এআই মডেলগুলির হ্যাকিং সক্ষমতা পরীক্ষা করছিল। এই পরীক্ষার জন্য মডেলগুলোর ‘স্বাভাবিক নিরাপত্তা ব্যবস্থা’ (সেফটি গার্ডরেল) সাময়িক ভাবে বন্ধ রাখা হয়েছিল। নিয়ম অনুযায়ী পরীক্ষাটি ‘স্যান্ডবক্স’ নামক একটি সম্পূর্ণ বিচ্ছিন্ন ও সুরক্ষিত পরিবেশে হওয়ার কথা ছিল, যেখান থেকে ইন্টারনেটে প্রবেশের কোনও সুযোগ থাকে না। কিন্তু মানুষের কোনও নির্দেশ ছাড়াই এআই মডেলটি স্বয়ংক্রিয় ভাবে স্যান্ডবক্স থেকে বেরিয়ে বহিরাগত সিস্টেমে পৌঁছে যায় এবং সার্ভারে হানাদারি চালিয়ে চুরি করে নেয় ‘ওপেনএআই’-এর সুরক্ষিত তথ্য।