সন্ত্রাসবাদ প্রতিরোধ পরীক্ষায় প্রতি পাঁচটি এআই মডেলের তিনটিই ব্যর্থ: গবেষণা

বিশ্বজুড়ে কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলগুলোর প্রতি পাঁচটির মধ্যে তিনটিই সন্ত্রাসবাদ সংক্রান্ত নিরাপত্তা পরীক্ষায় ব্যর্থ হয়েছে। নিরাপত্তা ব্যবস্থা সরিয়ে ফেলা মডেলগুলো অনায়াসেই বিপজ্জনক তথ্য সরবরাহ করছে। যুক্তরাজ্যভিত্তিক অলাভজনক সংস্থা ‘টেক এগেইনস্ট টেররিজম’-এর এক গবেষণায় এই চিত্র উঠে এসেছে। শুক্রবার কানাডার গণমাধ্যম সিবিসি নিউজ এই তথ্য প্রকাশ করে।

গবেষণাটিতে ১৩০টিরও বেশি এআই মডেলের ওপর পরীক্ষা চালানো হয়। সন্ত্রাসীদের হামলার পরিকল্পনার ধরন অনুযায়ী কয়েকশ কৃত্রিম অনুরোধ পাঠিয়ে এগুলো যাচাই করা হয়। গবেষকরা দেখেছেন, ‘অ্যাব্লিটারেশন’ প্রক্রিয়ায় সুরক্ষা ব্যবস্থা মুছে ফেলা মডেলগুলো প্রতিটি পরীক্ষাতেই ব্যর্থ হয়েছে। মেটার ‘লামা ৩.১ এইট-বি’ মডেলটি স্বাভাবিক অবস্থায় নিরাপত্তা মানে ১০০-এর মধ্যে ৯৭ নম্বর পেয়েছিল। কিন্তু সুরক্ষা সরিয়ে নেওয়ার পর এর মান নেমে দাঁড়ায় প্রায় তিনে। পরিবর্তিত এই সংস্করণটি সন্ত্রাসী হামলা, অর্থায়ন ও উগ্রপন্থা ছড়ানোর নানা অনুরোধে বিস্তারিত তথ্য সরবরাহ করে।

সংস্থাটির প্রতিষ্ঠাতা ও নির্বাহী পরিচালক অ্যাডাম হ্যাডলি জানান, উন্মুক্ত এআই মডেলগুলোর নিরাপত্তা ব্যবস্থা ভেঙে ফেলায় বড় ধরনের নিয়ন্ত্রণহীনতার ঝুঁকি তৈরি হয়েছে। গত মাসের শেষ পর্যন্ত ‘হাগিং ফেস’ প্ল্যাটফর্মে অরক্ষিত ও সেন্সরবিহীন এআই মডেল সংক্রান্ত ২৯ হাজারের বেশি রিপোজিটরি বিজ্ঞাপিত অবস্থায় পাওয়া গেছে। একটি চরমপন্থী চ্যাটবট ছাড়া সন্ত্রাসী গোষ্ঠীগুলোর সরাসরি এসব ব্যবহারের প্রমাণ এখনো মেলেনি। তবে সংস্থাটি মডেলগুলোর বিতরণ সীমিত করা এবং কঠোর স্বাধীন নিরাপত্তা ব্যবস্থা প্রণয়নের সুপারিশ করেছে।