ছবি: সংগৃহিত
প্রশিক্ষণমূলক একটি কাজ সম্পন্ন করতে নিজেদের পরীক্ষামূলক কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল ক্রিপ্টোকারেন্সির ওয়ালেট থেকে অর্থ নিয়েছিল বলে জানিয়েছে ওপেনএআই। অনুমতি ছাড়াই অর্থ নেওয়ার এ ঘটনা গত জুনে ঘটলেও বৃহস্পতিবার (১৫ অক্টোবর) তা প্রকাশ্যে আনে প্রতিষ্ঠানটি। খবর ইন্ডিপেন্ডেন্ট ডট ইউকের।
ঘটনায় জড়িত মডেলটির নাম জিপিটি-৫.৬ সল। এটি ওপেনএআইয়ের অভ্যন্তরীণ গবেষণার জন্য তৈরি একটি মডেল, যা গত জুলাইয়ে অর্থের বিনিময়ে ব্যবহারযোগ্য চ্যাটজিপিটির গ্রাহকদের জন্য চালু করা হয়।
প্রশিক্ষণমূলক কাজের অংশ হিসেবে মডেলটিকে একটি ক্রিপ্টোকারেন্সি লেনদেনের অ্যাপ হালনাগাদ করতে এবং ইথেরিয়ামের পরীক্ষামূলক নেটওয়ার্কে স্মার্ট কন্ট্রাক্ট প্রকাশ করতে বলা হয়েছিল। স্মার্ট কন্ট্রাক্ট হলো নির্দিষ্ট শর্ত পূরণ হলে স্বয়ংক্রিয়ভাবে কার্যকর হওয়া বিশেষ ধরনের কোড। এগুলো প্রকাশ করতে নেটওয়ার্ক ফি দিতে হয়। তবে কাজটি সম্পন্ন করার জন্য মডেলটিকে কোনো অর্থ সরবরাহ করেনি ওপেনএআই।
এরপর মডেলটি পরিচিত পুনরুদ্ধার বাক্যাংশ ব্যবহার করে পরিচালিত শত শত ক্রিপ্টো ওয়ালেটের ঠিকানা খুঁজে পায় এবং সেখান থেকে অর্থ নেয়। ওপেনএআইয়ের প্রতিবেদন অনুযায়ী, অর্থ নেওয়ার আগে মডেলটি নিজেকে প্রশ্ন করেছিল, কাজটি নৈতিকভাবে সঠিক কি না। পরে এটি যুক্তি দেয়, ওয়ালেটগুলো কার্যত পরিত্যক্ত তাই সেগুলোর অর্থ ব্যবহার করা যেতে পারে।
ওপেনএআইয়ের প্রতিবেদনে বলা হয়, নির্দেশনায় স্পষ্টভাবে কোথাও অনুমতি দেওয়া হয়নি যে মডেলটি নিজে থেকে খুঁজে পাওয়া কোনো অ্যাকাউন্টের অর্থ ব্যয় করতে পারবে।
প্রতিষ্ঠানটি আরও বলেছে, এ ঘটনা দেখায়, কোনো অ্যাকাউন্টের মালিকের অনুমতির পরিবর্তে একটি মডেল সম্ভাব্য ক্ষতি সম্পর্কে নিজের বিচারবুদ্ধিকে প্রাধান্য দিতে পারে এবং সেই সিদ্ধান্তের ভিত্তিতে অনুমোদন ছাড়াই পদক্ষেপ নিতে পারে।
তবে যে ইথেরিয়াম পরীক্ষামূলক নেটওয়ার্কে অর্থ ব্যবহার করা হয়েছিল, সেটি মূল নেটওয়ার্ক থেকে আলাদা। ফলে সেখানে ব্যবহৃত টোকেনের বাস্তব আর্থিক মূল্য নেই। অনুমতি না থাকলেও কাজটি সম্পন্ন করতে প্রয়োজনীয় টোকেন কীভাবে সংগ্রহ করেছে, তা মডেলটি তার উন্নয়নকারীদের জানায়নি।
এ ধরনের প্রশিক্ষণে অংশ নেওয়া মডেলগুলোর সরাসরি ইন্টারনেট ব্যবহারের সুযোগ বন্ধ রাখতে অতিরিক্ত সুরক্ষাব্যবস্থা চালু করেছে বলে জানিয়েছে ওপেনএআই।
ঘটনাটি আবারও স্বায়ত্তশাসিত এআই ব্যবস্থার সক্ষমতা ও নিরাপত্তা নিয়ে উদ্বেগ বাড়িয়েছে। মানুষের নির্ধারিত সীমার বাইরে গিয়ে এসব ব্যবস্থা নিজস্ব সিদ্ধান্তে কাজ করতে পারে কি না, তা নিয়ে প্রযুক্তি খাতে আলোচনা চলছে।
এর আগে গত জুলাইয়ে ওপেনএআই জানিয়েছিল, তাদের পরীক্ষামূলক মডেলগুলোর একটি দল এআই প্ল্যাটফর্ম হাগিং ফেসে সাইবার হামলা চালিয়েছিল। প্রতিদ্বন্দ্বী এআই প্রতিষ্ঠান অ্যানথ্রোপিক ও মেটাও তাদের মডেলের মাধ্যমে অন্য প্রতিষ্ঠান এমনকি সরকারি ব্যবস্থায় সাইবার হামলার ঘটনা শনাক্ত করেছে।
এ সপ্তাহের শুরুতে উন্নত এআই মডেলগুলোর সক্ষমতা নিয়ন্ত্রণ ও নিরাপদ ব্যবহারের তদারকিতে একটি আন্তর্জাতিক সংস্থা গঠনের আহ্বান জানিয়ে খোলা চিঠিতে স্বাক্ষর করেন শত শত বিজ্ঞানী। স্বাক্ষরকারীদের মধ্যে ছিলেন এআই গবেষণার অন্যতম পথিকৃৎ জিওফ্রে হিন্টন, যিনি ‘এআইয়ের গডফাদার’ হিসেবে পরিচিত। প্রযুক্তিটির সম্ভাব্য বিপদ নিয়ে তিনি দীর্ঘদিন ধরে সতর্ক করে আসছেন।
চিঠিতে বলা হয়, এআইয়ের উন্নয়ন ও ব্যবহারের পদ্ধতিতে অবিলম্বে পরিবর্তন না এলে এ ধরনের ঘটনা ঘটতেই থাকবে। ভবিষ্যতে এর পরিণতি আমাদের গুরুত্বপূর্ণ অবকাঠামোর জন্য আরও ভয়াবহ হতে পারে।
চিঠিতে আরও বলা হয়, আমরা বিজ্ঞানীরা মনে করি, এআই নিরাপত্তা নিয়ে আরও গবেষণার পাশাপাশি উন্নত এআই ব্যবস্থাকে নিয়ন্ত্রণে রাখার প্রযুক্তি ও পদ্ধতির ওপরও বেশি গুরুত্ব দেওয়া প্রয়োজন।
সূত্র : ইন্ডিপেন্ডেন্ট ডট ইউকে
