ব্ল্যাকমেল থেকে তথ্য গোপন! আইপিও আনার আগে কৃত্রিম মেধা সংক্রান্ত ঝুঁকির ৮০ পাতার তালিকা দিল অ্যানথ্রপিক

২ লক্ষ কোটি ডলারেরও বেশি বাজারমূল্যকে লক্ষ্য করে শেয়ারবাজারে যুগান্তকারী অভিষেকের প্রস্তুতি নিচ্ছে এআই সংক্রান্ত স্টার্টআপ সংস্থা অ্যানথ্রপিক। নভেম্বর নাগাদ আমেরিকার শেয়ারবাজারে তাদের তালিকাভুক্তির সম্ভাবনা রয়েছে। তবে তার আগেই শেয়ারবাজারে বিনিয়োগকারীদের সাবধান করল কৃত্রিম মেধা সংস্থাটি। সংস্থাটির দাবি, উন্নত এআই মডেল তৈরির ফলে ‘মানবজাতির জন্য বিপর্যয়কর বা অস্তিত্ব-সঙ্কটমূলক ঝুঁকি’ তৈরি হতে পারে। এআই মডেল ‘ক্লড’ সিরিজ়ের নির্মাতা প্রতিষ্ঠানটি তাদের আইপিও সংক্রান্ত নথিতে এই ঝুঁকিগুলোর কথা উল্লেখ করেছে এবং সম্ভাব্য সবচেয়ে খারাপ পরিস্থিতির উপর আলোকপাত করেছে।

অ্যানথ্রপিকের সিইও দারিয়ো আমোদি এআই সংস্থাগুলিকে প্রযুক্তির অগ্রগতির গতি নিয়ন্ত্রণে রাখার আহ্বান জানিয়ে প্রায় ৪,০০০ শব্দের একটি নিবন্ধ প্রকাশের কয়েক দিনের মধ্যেই এই তথ্য প্রকাশ্যে এল। আমোদি জানিয়েছিলেন, মানুষ কৃত্রিম মেধা যে ভাবে বুঝতে বা নিয়ন্ত্রণ করতে পারে, এআইয়ের অগ্রগতি হতে পারে তার চেয়েও দ্রুতগতিতে।

অ্যানথ্রপিকের ওই নথির অন্যতম প্রধান সতর্কবার্তা হল, উন্নত এআই মডেলগুলি স্বয়ংক্রিয় ভাবে ‘নিজেকে টিকিয়ে রাখার’ চেষ্টা করতে পারে। রয়টার্সের প্রতিবেদন অনুযায়ী, এর মধ্যে থাকতে পারে, সিস্টেম বন্ধ করার প্রচেষ্টাকে প্রতিহত করা, তথ্য গোপন বা বিকৃত করা কিংবা ব্ল্যাকমেলের মতো আচরণ করা।

অ্যানথ্রপিকের নিরাপত্তা গবেষক ইভান হুবিঙ্গার এর আগে দাবি করেছিলেন, আগামী ১০ বছরের মধ্যে এআই-এর কারণে মানুষের প্রাণহানির ঝুঁকি ১০ শতাংশেরও বেশি হয়ে যাবে। তাঁর প্রাক্তন সহকর্মী জ্যাকব কক্সনও একই ধরনের উদ্বেগ প্রকাশ করেছেন।

অ্যানথ্রপিকের ২৬১ পৃষ্ঠার মূল নথির মধ্যে প্রায় ৮০ পাতা জুড়েই এআই সংক্রান্ত ঝুঁকির বিষয়গুলি নিয়ে আলোচনা করা হয়েছে। অথচ সংস্থা এবং এর ব্যবসায়িক কার্যক্রমের বর্ণনায় ব্যয় করা হয়েছে মাত্র ৪৮ পাতা। সংস্থাটি জানিয়েছে, শিল্পায়ন বা বিদ্যুতের আবিষ্কারের মতোই এআই বিশ্বকে বদলে দিতে পারে। তবে তারা এ-ও সতর্ক করেছে, এআইয়ের অপব্যবহার বা এর ওপর নিয়ন্ত্রণ হারিয়ে ফেলার ফলে অপরিবর্তনীয় পরিণতি নেমে আসতে পারে।

নথিতে অ্যানথ্রপিক উল্লেখ করেছে, ‘‘অত্যন্ত উন্নত মডেল, প্ল্যাটফর্ম ও অ্যাপ্লিকেশন তৈরি এবং এগুলির ব্যবহারের ক্ষেত্র সম্প্রসারণের ফলে আমাদের মডেলগুলির মাধ্যমে ক্ষতির ঝুঁকি আরও বেড়ে যেতে পারে।’’ নিরাপত্তাকে ‘সর্বোচ্চ অগ্রাধিকার দেওয়া’ এআই সংস্থা হিসেবে পরিচিত অ্যানথ্রপিক এ-ও জানিয়েছে, প্রশিক্ষণের সময় তাদের মডেলগুলো অপ্রত্যাশিত ক্ষমতা অর্জন করতে পারে। এর মধ্যে কিছু ক্ষমতা হয়তো মডেলগুলি বাজারে ছাড়ার পরেই ধরা পড়বে, যা নিরাপত্তার ঝুঁকি তৈরি করতে পারে। কৃত্রিম মেধা সংস্থাটি সতর্ক করেছে, এআই মডেলগুলি পরীক্ষার সময় বিষয়টি বুঝতে বা টের পেতে পারে। এর ফলে গবেষকদের পক্ষে মডেলগুলির নিরাপত্তা সঠিক ভাবে যাচাই করা কঠিন হয়ে পড়তে পারে। অ্যানথ্রপিক নথিতে লিখেছে, ‘‘আমাদের মূল্যায়ন কার্যক্রম সম্পর্কে মডেলের সচেতন হওয়ার সম্ভাবনা মডেলের নিরাপত্তা যাচাইয়ের ক্ষেত্রে আমাদের ক্ষমতার উপর একটি বড় সীমাবদ্ধতা তৈরি করে।’’

সহজ কথায়, উন্নত এআই মডেলগুলি বুঝতে পারে যে তাদের উপর নজর রাখা হচ্ছে এবং তখন তারা নিজেদের আচরণ পরিবর্তন করতে পারে। এর ফলে বাস্তব জগতে মডেলগুলি কেমন আচরণ করবে, তা আগে থেকে অনুমান করা গবেষকদের জন্য কঠিন হয়ে উঠতে পারে। অ্যানথ্রপিক জানিয়েছে, এআই নিরাপত্তা খাতের জন্য ব্যয় বিপুল। এআই মডেলের প্রশিক্ষণ এবং দক্ষ গবেষক নিয়োগের বিপুল খরচের পাশাপাশি নিরাপত্তা খাতের এই ব্যয়ের বিষয়টিও তাদের মাথায় রাখতে হয়। সে জায়গায় তারা কতটা আয় করতে পারবে, তা স্পষ্ট নয়। যদিও এআইয়ের নিরাপত্তা বিষয়ক গবেষণায় সংস্থাটি ঠিক কত অর্থ ব্যয় করে, তা প্রকাশ করা হয়নি। তবে তারা জানিয়েছে, জুলাই মাসের এক সপ্তাহে এআই গবেষণায় ব্যবহৃত মোট কম্পিউটিং ক্ষমতার প্রায় ৬ শতাংশ নিরাপত্তা সংক্রান্ত কাজে ব্যয় করা হয়েছিল।

একই সঙ্গে সংস্থাটি জানিয়েছে, তাদের আয় নতুন নতুন এআই মডেল বাজারে আনার ওপর নির্ভরশীল। প্রতিযোগিতায় টিকে থাকার জন্য তাদের আরও উন্নত মডেলের উন্নয়ন ও প্রকাশ অব্যাহত রাখতে হবে।