গত কয়েক দিন ধরে নিয়মিত নিরাপত্তা পরীক্ষার সময় কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলগুলোর নিয়ন্ত্রণহীন আচরণের পেছনে রয়েছে ইসরাইলি কোম্পানির যোগসাজশ।
যুক্তরাষ্ট্রের প্রযুক্তিবিষয়ক খবরের ওয়েবসাইট সিএনবিসি রোববার (৯ আগস্ট) একটি প্রতিবেদন প্রকাশ করেছে। এতে জানা কৃত্রিম বু্দ্ধিমত্তা বা এআইয়ের এ ধরনের ঘটনাগুলোর কেন্দ্রবিন্দুতে উঠে এসেছে একটি ছোট ইসরাইলি স্টার্টআপ প্রতিষ্ঠান 'ইরেগুলার'।
গত দুই সপ্তাহে প্রযুক্তি বিশ্বের তিন পরাশক্তি ওপেনএআই, অ্যানথ্রোপিক এবং মেটা জানিয়েছে, তাদের তৈরি এআই মডেলগুলো নিরাপত্তা পরীক্ষা চলার সময় হঠাৎ লাগামহীন বা অনিয়ন্ত্রিত হয়ে পড়ে। কীভাবে এমন ঘটনা ঘটলো, তার ব্যাখ্যা দিতে গিয়ে তিন প্রতিষ্ঠানই তেল আবিবভিত্তিক ছোট প্রযুক্তি প্রতিষ্ঠান 'ইরেগুলার'-এর নাম উল্লেখ করেছে।
তিন বছর আগে প্রতিষ্ঠিত ইরেগুলার মূলত এআই মডেলের সাইবার নিরাপত্তা পরীক্ষার পরিবেশ তৈরি করে দেয়। এতে ৮ কোটি ডলার বিনিয়োগ করেছে সিকোইয়া ও রেডপয়েন্ট ভেঞ্চার্স। গত বছর প্রতিষ্ঠানটির মূল্যায়ন করা হয়েছিল ৪৫ কোটি ডলার। এআই মডেলগুলোর ক্ষমতা দিন দিন বাড়ায় সেগুলো যাতে সাইবার হামলা চালিয়ে কোনো গুরুত্বপূর্ণ কম্পিউটার সিস্টেম বা অবকাঠামোর ক্ষতি করতে না পারে, তা যাচাই করাই ছিল ইরেগুলার-এর কাজ। তবে সাম্প্রতিক ঘটনায় দেখা গেছে, পরীক্ষার সময় এসব এআই মডেল নিষিদ্ধ ওয়েবসাইটে ঢুকে পড়েছে।
সবকিছুর মূল কারণ হিসেবে উঠে এসেছে ইরেগুলার-এর তৈরি পরীক্ষার পরিবেশ। গত ৪ আগস্ট এক ব্লগ পোস্টে ওপেনএআই জানায়, ইরেগুলার-এর তৈরি টেস্টবেডে কারিগরি কিছু ভুল ত্রুটি ছিল, যার কারণে তাদের এআই মডেলটি উন্মুক্ত ইন্টারনেটে যুক্ত হওয়ার সুযোগ পেয়ে যায়। এর এক সপ্তাহ আগে অ্যানথ্রোপিক-ও একই ধরনের তথ্য জানায়। তাদের 'ক্লড' মডেলটিও ইন্টারনেটে প্রবেশ করেছিল।
দৌড়ে কিছুটা পিছিয়ে থাকা মেটা চলতি সপ্তাহে জানায়, তাদের এআই মডেলটি ইন্টারনেটে যুক্ত হয়ে তৃতীয় কোনো পক্ষের সিস্টেমে অনুপ্রবেশ করেছে। মেটার একজন মুখপাত্র জানান, ইরেগুলার-এর মাধ্যমেই তারা বিষয়টি জানতে পেরেছেন এবং পুরো ঘটনার তদন্ত চলছে। সব তথ্য হাতে এলে একটি পুঙ্খানুপুঙ্খ প্রতিবেদন প্রকাশ করা হবে।
সিএনবিসিকে দেয়া এক বিবৃতিতে ইরেগুলার জানিয়েছে, ঘটনাগুলো একই ধরনের মূল সমস্যা থেকে তৈরি হয়েছে। প্রতিষ্ঠানটি আরও জানায়, নিরাপত্তা বেষ্টনী ভাঙা বা কোনো জটিল সাইবার হামলা এখানে ঘটেনি। সমস্যা নিয়ন্ত্রণের উপায় নিয়ে শিগগিরই একটি শ্বেতপত্র প্রকাশ করা হবে। বর্তমানে এ সংক্রান্ত কোনো নিরাপত্তা ঝুঁকি বা অমীমাংসিত সমস্যা নেই।
বিশেষজ্ঞদের মতে, এআই মডেলগুলোর ক্ষমতা এত দ্রুত বাড়ছে যে এগুলো প্রতিনিয়ত নতুন কৌশল শিখছে। ফলে স্বাভাবিক সফটওয়্যার পরীক্ষা দিয়ে এগুলো আটকানো কঠিন হয়ে পড়ছে। অ্যানথ্রোপিকের তৈরি 'মিথোস' নামের একটি মডেল যেমন কাল্পনিক পরিচয়ে মানুষদের চাপ দিয়ে ক্ষতিকর কোড অনুমোদন করানোর চেষ্টা করেছিল।
বিষয়টি এখন মার্কিন যুক্তরাষ্ট্রের রাজনৈতিক অঙ্গনেও বড় আলোচনার জন্ম দিয়েছে। অনিয়ন্ত্রিত হ্যাকিং ঠেকাতে মার্কিন আইনপ্রণেতারা একটি বিল আনার প্রস্তাব করেছেন, যাতে যেকোনো সময় প্রযুক্তি মডেলের কাজ পুরোপুরি বন্ধ বা সীমিত করার ক্ষমতা রাখা যায়। আইনপ্রণেতা টেড লিউ জানান, আইনটি এ বছরই পাস করা দরকার। অন্যদিকে মেটা, ওপেনএআই ও অ্যানথ্রোপিক জানিয়েছে, তারা যৌথভাবে ইরেগুলার-এর সাথে কাজ চালিয়ে যাচ্ছে।
