গুগলের জেমিনি AI লগইন তথ্য অনুমান করে সিস্টেম হ্যাক, ওপেনএআই মডেল হাগিং ফেসে লঙ্ঘন

গুগলের জেমিনি AI মে ২০২৪-এ লগইন তথ্য অনুমান করে বহু সিস্টেম হ্যাক করেছে। একই বছর জুলাইতে দুইটি ওপেনএআই মডেল হাগিং ফেসে লঙ্ঘন করে।

হিদার অ্যাডকিন্স বলেছেন, মডেলটি অনলাইনে পাবলিক তথ্য খুঁজে টেস্ট ওয়েবসাইটে প্রবেশের জন্য ক্রেডেনশিয়াল অনুমান করেছে। তিনি আরও জানিয়েছেন, সব তিনটি ক্ষেত্রে মডেল থেমে গিয়েছে এবং তিনটি সংস্থাকে জানানো হয়েছে; প্রশিক্ষণ পার্টনার টেস্টিং প্রক্রিয়া পরিবর্তন করেছে। তিনি জোর দিয়ে বলেছেন, শক্তিশালী AI মডেলকে দায়িত্বশীলভাবে প্রশিক্ষণ করা গুরুত্বপূর্ণ।

এই ঘটনা AI নিরাপত্তা নিয়ে উদ্বেগ বাড়িয়ে দিয়েছে, কারণ অ্যানথ্রোপিক ও চীনের মুনশট AI-তে অনুরূপ সমস্যার রিপোর্ট রয়েছে। জুলাইতে ঘটে যাওয়া ওপেনএআই মডেল লঙ্ঘনও এই প্রবণতাকে তুলে ধরেছে। সূত্র: Asharq Al-Awsat