‘নিজেদের মধ্যে আঁতাঁত করছে এআই মডেলগুলি’! ব্যাপক ক্ষতির সতর্কবার্তা দিয়ে পদত্যাগ গুগ্‌লের এআই গবেষকের

কৃত্রিম বুদ্ধিমত্তা বা এআই-এর ঝুঁকি নিয়ে উদ্বেগ ক্রমশ বাড়ছে। এআই সংস্থা অ্যানথ্রপিকের প্রাক্তন গবেষক জ্যাকব কক্সন সতর্ক করেছিলেন, এই দশকের শেষ নাগাদ এআই-এর কারণে মানবজাতি বিলুপ্ত হয়ে যেতে পারে। সেই সতর্কবার্তার কয়েক দিনের মধ্যেই এআই নিরাপত্তা বিষয়ক আরও একজন গবেষক একটি বড় এআই গবেষণাগার ছেড়ে বেরিয়ে এসেছেন এবং কঠোর সতর্কবার্তা দিয়েছেন।

ওই এআই বিশেষজ্ঞের নাম জশ এঙ্গেলস। গুগ্‌ল ডিপমাইন্ড-এর এজিআই নিরাপত্তা দলে কর্মরত ছিলেন তিনি। সম্প্রতি সেই সংস্থা ছেড়ে এআই মূল্যায়নকারী সংস্থা ‘মেটর’-এ যোগ দিয়েছেন। এঙ্গেলস জানান, উন্নত এআই-কে ঘিরে ঝুঁকির মাত্রা অত্যন্ত বেড়ে গিয়েছে বলে মনে করায় তিনি এই সিদ্ধান্ত নিয়েছেন। এক্সে করা একটি পোস্টে এঙ্গেলস জানান, তিনি তিন সপ্তাহ আগে ডিপমাইন্ড ছেড়েছেন। উল্লেখ করেন, ওই সংস্থায় কাজ করা তিনি উপভোগ করতেন এবং এর জন্য তিনি অ্যানথ্রপিক এবং ওপেনএআই-এর মতো প্রতিষ্ঠানের প্রস্তাবও ফিরিয়ে দিয়েছিলেন।

কিন্তু এখন কী এমন হল যে হঠাৎ করে ডিপমাইন্ড ছাড়ার সিদ্ধান্ত নিলেন? এঙ্গেলস লেখেন, ‘‘আমার এখন মনে হচ্ছে, আগামী পাঁচ বছরের মধ্যে এআই-এর কারণে ব্যাপক ক্ষতির আশঙ্কা রয়েছে।’’ তিনি আরও জানিয়েছেন, এর সঠিক সম্ভাবনা বা হার কত তা তিনি জানেন না। তবে তাঁর মতে, ঝুঁকিটি এতটাই বেশি যে এআই নিরাপত্তাকে ‘বিশ্বের সবচেয়ে গুরুত্বপূর্ণ সমস্যা’ হিসেবে বিবেচনা করা উচিত।

এঙ্গেলসের উদ্বেগের মূল কারণ হল, এআই গবেষকদের ভাষায় যাকে বলা হয় ‘রিকারসিভ সেল্‌ফ ইমপ্রুভমেন্ট’ বা ‘পুনরাবৃত্তিমূলক স্ব-উন্নয়ন’ প্রক্রিয়া। এ ক্ষেত্রে একটি এআই সিস্টেম অন্য একটি এআই সিস্টেমের নকশা তৈরি বা সেটির উন্নয়নে সক্ষম হয়ে ওঠে। এর পর সেই নতুন সিস্টেমটি এআই-এর উন্নয়নে আরও দক্ষ হয়ে ওঠে। এর ফলে একটি ‘ফিডব্যাক লুপ’ বা চক্র তৈরি হয়। এঙ্গেলসের মতে, যদি এমন কোনও সিস্টেম মানুষের উদ্দেশ্যের সঙ্গে সঠিক ভাবে সামঞ্জস্যপূর্ণ না হয়, তবে এর পরিণতি অত্যন্ত ভয়াবহ হতে পারে।

এআই গবেষকের কথায়, ‘‘এআই সংস্থাগুলি সবাই অতি বুদ্ধিমত্তা (সুপার ইন্টেলিজেন্স) তৈরির চেষ্টা করছে।’’ এঙ্গেলস উল্লেখ করেছেন এমন সব সিস্টেমের কথা, যা অবশেষে বিভিন্ন ধরনের কাজে মানুষের চেয়ে অনেক বেশি দক্ষ হয়ে উঠতে পারে। তাঁর মতে, সমস্যাটি হল, গবেষকেরা এখনও জানেন না যে এই ধরনের সিস্টেমগুলিকে নিজেদের উন্নত করার সুযোগ দেওয়ার আগে কী ভাবে নিরাপত্তা গ্রহণ করা উচিত। তিনি সতর্ক করেছেন, একটি ত্রুটিপূর্ণ পুনরাবৃত্তিমূলক আত্ম-উন্নয়ন চক্র বিপর্যয়কর হতে পারে।

এঙ্গেলস এআই সম্পর্কিত সাম্প্রতিক কয়েকটি ঘটনার দিকেও ইঙ্গিত করেন। তিনি বলেন, গবেষকেরা দেখেছেন এআই মডেলগুলি একে অপরের সঙ্গে আঁতাঁত করছে, বিভিন্ন সংস্থায় হ্যাকিং করছে, নিজেদের কার্যকলাপ গোপন করছে এবং মানুষকে সামাজিক ভাবে প্রভাবিত করার চেষ্টা করছে। তিনি বিশ্বাস করেন, এআই শিল্প আত্ম-উন্নয়নশীল এআই-এর দিকে পরবর্তী বড় পদক্ষেপ করার আগে এটি একটি সতর্কবার্তা হওয়া উচিত।

যদিও এঙ্গেলস উল্লেখ করেছেন যে, এর সমাধান এই নয় যে এআই-এর উন্নয়ন পুরোপুরি বন্ধ করে দিতে হবে। বরং, তিনি চান এআই-এর উন্নয়নের গতি এতটাই কমে আসুক যাতে নিরাপত্তা গবেষণা এর সঙ্গে তাল মেলাতে পারে। তিনি লিখেছেন, ‘‘এর অর্থ হল এআই-এর উন্নয়নের গতি এমন ভাবে নিয়ন্ত্রণ করা, যাতে এর মডেলগুলির ক্ষমতা আমাদের ক্ষমতাকে ছাড়িয়ে না যায়।’’

নিরাপত্তা গবেষক এ-ও জানিয়েছেন, মেটর-এ কাজ করার সময় তাঁর মূল লক্ষ্য হবে এআই-এর অসামঞ্জস্যের উৎস নিয়ে গবেষণা করা, নিরাপত্তা ব্যবস্থাগুলি কার্যকর কি না তা পরীক্ষা করা এবং গবেষকেরা এআই-এর সামঞ্জস্যের সমস্যা সমাধানের জন্য সঠিক পথে এগোচ্ছেন কি না তা খতিয়ে দেখা।

এঙ্গেলসের এই সতর্কবার্তা এআই শিল্পের জন্য একটি বিশেষ ভাবে সংবেদনশীল সময়ে এসেছে। এই মাসের শুরুতে, জ্যাকব কক্সন অ্যানথ্রোপিক থেকে পদত্যাগ করেন। তাঁর দাবি, এআই সংস্থাগুলি স্ব-উন্নয়নশীল অতি-বুদ্ধিমত্তার দিকে দ্রুতগতিতে এগোচ্ছে এবং সতর্ক করে দেন যে, যাঁরা এই সিস্টেমগুলি তৈরি করছেন তাঁরা বিশ্বাস করেন যে এই দশকের শেষ নাগাদ এআই পুরো মানবজাতিকে ধ্বংস করতে পারে।