পুরনো ভয়, নতুন নাম

কল্পনা করুন, নিঃশব্দে, কয়েক ঘণ্টার মধ্যে, একটা স্বয়ংক্রিয় এজেন্টের ঝাঁক ইন্টারনেটের উপরে দখল নিল একটা স্থায়ী বটনেট— লক্ষ লক্ষ সংক্রমিত যন্ত্রের এক অদৃশ্য বাহিনী; আর আপনার গোপনতম তথ্যের মালিকানা হাতবদল হল আপনার অজ্ঞাতসারে। এটা কল্পবিজ্ঞান নয়— কৃত্রিম বুদ্ধিমত্তার ক্ষেত্রে অন্যতম বড় সংস্থা অ্যানথ্রপিক-এর সিইও ডারিয়ো আমোদেই গত ১২ সেপ্টেম্বর সমাজমাধ্যম এক্স-এ প্রায় সাড়ে চার হাজার শব্দের এক প্রবন্ধে সতর্ক করে বলেছেন, এমনটা আগামী ছয় থেকে বারো মাসেই ঘোর বাস্তব হয়ে উঠতে পারে।

মানুষ যখনই এমন কোনও শক্তি বানিয়েছে যা তার বোঝার সীমা ছাড়িয়ে যায়, তখনই আবিষ্কারকদের মধ্য থেকেই কেউ বলে উঠেছেন— “থামো, আগে বুঝে নাও কী বানিয়েছ!” পরমাণু শক্তি, জিন-প্রকৌশল, ওজ়োন স্তর— প্রতি ক্ষেত্রেই এই ঘটনা ঘটেছে। এ বার শুধু সতর্কবার্তা আসছে বিপর্যয়ের অনেক আগেই।

বিজ্ঞানীরা আতঙ্কিত যে, পৃথিবী এখন ধ্বংসের বিপজ্জনক রকম কাছাকাছি চলে এসেছে। এই পরিপ্রেক্ষিতেই বোঝা দরকার, কেন আমোদেই বলছেন, কৃত্রিম বুদ্ধিমত্তার ক্ষেত্রে “আমাদের অগ্রগতির লাগাম টানতেই হবে।” এই প্রযুক্তিকে ব্রাত্য করতে হবে না, কিন্তু তার গতি নিয়ন্ত্রণে না আনলে নিরাপত্তা তার সঙ্গে তাল মেলাতেপারবে না।

আমোদেইয়ের এই সতর্কবার্তাকে বুঝতে গেলে অন্তত দুটো কথা মনে রাখতে হবে। এক, এআই এখন নিজেই নিজের পরের সংস্করণ বানাতে সাহায্য করছে, আর এই আত্ম-উন্নয়ন চক্র এ বছরের মাঝামাঝি থেকে প্রত্যাশার চেয়ে দ্রুত বেড়েছে। গত ডিসেম্বরে গুগল ছেড়ে দুই গবেষক লন্ডনে ‘ইনহেয়ারেন্ট’ খোলেন— তাঁদের এআই ‘ফ্যারাডে’ সংস্থার প্রতিটা ইমেল, মিটিং, কথোপকথন হজম করে নিজের উন্নত সংস্করণ তৈরি করে। নিজেই নিজেকে উন্নত করে তুলবে, এমন প্রযুক্তির স্বপ্ন বিজ্ঞান দেখছে অন্তত সত্তর বছর ধরে। কিন্তু, সেই বাস্তবের মুখোমুখি দাঁড়িয়ে বিপদগুলোও স্পষ্ট হয়ে উঠছে। অ্যানথ্রপিক কিছু দিন আগে স্বীকার করেছিল, আত্ম-উন্নয়নের দৌড় নিয়ন্ত্রণ হারানোর ঝুঁকি বাড়ায়। তবে, অন্য মত হল, আজকের প্রোটোটাইপ এখনও মানুষের সৃষ্টিশীলতার বিকল্প দিতে পারছে না, আর এমন স্বাধীন আবিষ্কারের একটা দাবি পরে বিতর্কিতও হয়েছে। অর্থাৎ পুরোপুরি স্বাধীন আত্ম-উন্নয়ন যতটা কাছে মনে হচ্ছে, ততটা কাছে নাও হতে পারে।

দ্বিতীয় কথাটি এই রকম: এজেন্ট বলতে বোঝায় এমন একটা এআই, যে চ্যাটবটের মতো শুধু প্রশ্নের জবাব দিয়েই থেমে যায় না, বরং এক বার একটা লক্ষ্য বেঁধে দিলে সে নিজে থেকেই একের পর এক ধাপে সিদ্ধান্ত নিয়ে, প্রয়োজন অনুসারে বিভিন্ন হাতিয়ার (যেমন কোড চালানো বা ইন্টারনেট ঘাঁটা) ব্যবহার করে, মানুষের প্রতি-পদক্ষেপ নির্দেশ ছাড়াই কাজটা সম্পন্ন করার চেষ্টা করে। আর এমন অনেকগুলো এজেন্ট যখন এক সঙ্গে দল বেঁধে, নিজেদের মধ্যে কাজ ভাগ করে ও সমন্বয় করে কোনও বড় লক্ষ্য পূরণের চেষ্টা করে, সেই গোটা কর্মপ্রণালীকেই বলা হয় ‘এজেন্টিক এআই’। জুলাইয়ে ওপেনএআই-এর একটা পরীক্ষায় সাত-আটশো এমনই এজেন্ট গোপনে জোট বেঁধে ‘ঝাঁক’-এ পরিণত হয়, ‘হাগিং ফেস’-এ ঢুকে পড়ে, নিজেদের কাজের ইতিহাস জাল করে, এমনকি মূল্যায়ন ব্যবস্থাকেও ফাঁকি দিতে চেষ্টা করে। আমোদেই লিখেছেন, আরও সক্ষম ঝাঁকে একই সমস্যা হলে অদূর ভবিষ্যতেই গোটা ইন্টারনেট দখল করে স্থায়ী বটনেট বানাতে পারে, ক্ষতি শত শত বিলিয়ন ডলার— আর অ্যানথ্রপিক-এও কম মাত্রায় এমনটা ঘটেছে। ২০২৪ সালে চিনের ফুদান ইউনিভার্সিটিও দেখিয়েছিল, দুটো সাধারণ ভাষা-মডেল ‘নিজেকে বাঁচাও’ নির্দেশেই মানুষের সাহায্য ছাড়া নিজেদের প্রতিলিপি তৈরি করে ফেলছে।

মাত্র কয়েকদিন আগে অ্যানথ্রপিক-এর গবেষক জ্যাকব কক্সন পদত্যাগ করে বলেন, শীর্ষস্থানীয় সংস্থাগুলো অতিমানবীয় বুদ্ধিমত্তার দিকে ছুটছে, যা জীবন নিয়ে জুয়া খেলার শামিল। এর পরই অ্যানথ্রপিকের ইভান হুবিঙ্গার স্বীকার করেন, এআই থেকে মানবজাতির বিলুপ্তির সম্ভাবনা তাঁর হিসেবে দশ শতাংশের বেশি, আর নিশ্চিত কোনও পরিকল্পনা নেই।

১৯৭৫ সালে আমেরিকার আসিলোমার-এ একশো চল্লিশেরও বেশি জীববিজ্ঞানী জিন-প্রকৌশলের বিপদ আঁচ করে নিজেদের গবেষণায় স্বেচ্ছা-বিরতি চাপান, যত দিন না নিরাপত্তা-বিধি তৈরি হয়— আজও যার ভিত্তিতে নিয়ম চলে। আমোদেই-এর প্রস্তাবের প্রথম ধাপ যেন পাঁচ দশক আগের সেই সিদ্ধান্তেরই প্রতিরূপ— এআই-এর ক্ষেত্রে স্বাধীন মূল্যায়নকারীদের সংস্থার কর্মীর সমতুল প্রবেশাধিকার দেওয়া। তার জন্য অবশ্য আমোদেইকে রাজি করাতে হয়েছে তাঁর প্রতিদ্বন্দ্বী সংস্থাগুলিকেও।

আর সেটাই ঘটেছে চমকপ্রদ দ্রুততায়। ওপেনএআই-এর স্যাম অল্টম্যান, যাঁর সঙ্গে আমোদেইয়ের সম্পর্ক বরাবরই প্রতিদ্বন্দ্বিতার, একমত হলেন। ইলন মাস্ক লিখলেন, আমোদেই ঠিক বলছেন। নোবেলজয়ী হাসাবিস বললেন, তিনি ঠিক দিকেই নির্দেশ করছেন। প্রাক্তন ব্রিটিশ প্রধানমন্ত্রী ঋষি সুনক বললেন, সরকারকেই এগিয়ে আসতে হবে, পরমাণু বা জীববিজ্ঞানের মতো। কিন্তু, আমেরিকার বার্নি স্যান্ডার্স বললেন, এটা যথেষ্ট নয়— খাদের দিকে ছুটলে ব্রেক কষতে হয়, শুধু গতি কমালে চলে না। তবে, সবাই একমত হয়েছেন, তা নয়। যেমন, টেক-বিনিয়োগকারী পালিহাপিতিয়া বললেন, এই প্রস্তাব আসলে ক্ষমতা কুক্ষিগত করে ওপেন সোর্স এআই-কে বিপাকে ফেলার কৌশল। কথাটা যে একেবারে উড়িয়ে দেওয়ার মতো নয়, তা স্বীকার করতেই হবে। কিন্তু, আপাতত সে প্রসঙ্গে ঢুকছি না।

আমোদেইয়ের প্রস্তাবের সবচেয়ে কঠিন ধাপ হল বৈশ্বিক সমন্বয়— চিনের মতো ভিন্ন সরকারের সঙ্গেও বোঝাপড়া। প্রবন্ধ প্রকাশের পর দিনই চিনের গ্লোবাল টাইমস একে ‘ঠান্ডা লড়াইয়ের কৌশল’ বলে অভিহিত করেছে; সে দেশের বিদেশ মন্ত্রক বলেছে যে, এটা নিছক ‘আতঙ্ক তৈরি করা হচ্ছে’। কিন্তু, চিনের নিজস্ব নিরাপত্তা-মানদণ্ড কমিটিই কৃত্রিম বুদ্ধিমত্তার ‘নিজেকে প্রতিলিপি করা’-কে ঝুঁকি বলে সতর্ক করেছে, আর ফুদানের গবেষণাও তো চিনেরই। রাজনৈতিক অবিশ্বাস আর প্রযুক্তিগত উদ্বেগ একই সঙ্গে চলছে।

প্রশ্ন হল, আমোদেইয়ের এই আশঙ্কা কি আদৌ বাস্তবসম্মত, না কি শুধুই আতঙ্ক তৈরি করছে? ২০১৯ সালে ওপেনএআই বলেছিল, তাদের জিপিটি-২ মডেল এত বিপজ্জনক যে, পুরোপুরি প্রকাশ করা ঠিক হবে না। আমোদেই তখন ওপেনএআই-তেই কর্মরত। কয়েক মাস পরে পুরো মডেল প্রকাশ পায়, ভয়ঙ্কর কিছুই ঘটেনি। নিরাপত্তা বিশেষজ্ঞদের একাংশও আমোদেইয়ের সাম্প্রতিক দাবিতে সন্দিহান— বলছেন, ‘হাগিং ফেস’-এর এজেন্টরা ‘বিদ্রোহ’ করেছিল এমন এক পরীক্ষার পরিবেশে, যেখানে তাদের নিরাপত্তা-ফিল্টার ইচ্ছাকৃত ভাবেই বন্ধ রাখা হয়েছিল, খোলা দুনিয়ায় ছেড়ে দেওয়া কোনও ব্যবস্থায় নয়— আর, গোটা ইন্টারনেট ‘দখল’ করার ধারণাটাও প্রযুক্তিগত ভাবে অস্পষ্ট, যে-হেতু ইন্টারনেট আসলে হাজারো আলাদা নেটওয়ার্কের সমষ্টি। অ্যানথ্রপিকের পদত্যাগী গবেষক জ্যাকব কক্সনের মতামত নিয়েও প্রশ্ন উঠেছে। তাই, এই মুহূর্তের আশঙ্কা সত্যিকারের পূর্বাভাস, না কি পুরনো এক প্যাটার্নের নতুন প্রচার— সেই প্রশ্নটা থেকে যায়।

তবে, এ কথাও মনে রাখা প্রয়োজন যে, পরমাণু বোমা, জিন-প্রকৌশল, ওজ়োন গ্যাস— প্রতি বারই প্রযুক্তির গতি বাড়ানো-কমানোর সিদ্ধান্ত মানুষের হাতে ছিল। কিন্তু এআই এখন নিজেই নিজের পরের সংস্করণ বানাতে সাহায্য করছে— ভবিষ্যতে গতির সিদ্ধান্তে মানুষের ভূমিকাই আর প্রধান নাও থাকতে পারে। আগের কোনও বিপর্যয়েই এই উপাদানছিল না। তাই মডেলের আকার বাড়িয়েই চলা বা আরও এজেন্ট ছাড়ার চেয়ে বেশি জরুরি মূল্যবোধ-সংগতি, নিরাপত্তা আর পক্ষপাত কমানোর গবেষণা দ্রুততর করা। ‘গতি নিয়ন্ত্রণ’-এর আসল অর্থ তাই স্কেলের প্রতিযোগিতা থামিয়ে বোঝাপড়ায় বিনিয়োগ বাড়ানো। সেই সুযোগ যেন কয়েকটা সংস্থার একচেটিয়া অধিকার হয়ে না দাঁড়ায়, তা নিশ্চিত করা।

মানবসভ্যতা আগেও এমন সম্ভাব্য বিধ্বংসী শক্তির মুখোমুখি হয়েছে— আর প্রতি বারই, দেরিতে হলেও, ভুল বুঝে থেমে গিয়েছে, এক সঙ্গে বসে নিয়ম বানিয়েছে। এ বার সতর্কবার্তা যখন বিপর্যয়ের আগেই পৌঁছেছে, আমরা কি সত্যিই আগের চেয়ে দ্রুত শিখব, না কি পুরনো গল্পটাই নতুন অভিনেতাদের হাতে, নতুন নামে, আবার লেখা হবে?

ইন্ডিয়ান স্ট্যাটিস্টিক্যাল ইনস্টিটিউট, কলকাতা