‘অ্যাস্ট্রা ৬.১’ নামের এই মডেলটি শিগগিরই উন্মুক্ত করার প্রস্তুতি চলছিল। কিন্তু চূড়ান্ত পর্যায়ের পরীক্ষায় এমন কিছু আচরণ ধরা পড়ে, যা আগের সংস্করণগুলোর তুলনায় বেশি উদ্বেগ তৈরি করেছে। বিশেষ করে মডেলটির আচরণে প্রতারণামূলক প্রবণতা এবং কিছু অনিরাপদ কার্যক্রমের ইঙ্গিত পাওয়া যায়।

কেন গুরুত্বপূর্ণ এই পরীক্ষা?

আধুনিক এআই শুধু প্রশ্নের উত্তর দেয় না; অনেক ক্ষেত্রে এটি নিজে থেকে বিভিন্ন ধাপ অনুসরণ করে কাজ সম্পন্ন করতে পারে। তাই একটি মডেলকে কোনো নির্দেশ দিলে সেটি কীভাবে সেই নির্দেশ বাস্তবায়ন করছে, কোথাও নির্ধারিত সীমা অতিক্রম করছে কিনা—এসব বিষয় পরীক্ষা করা গুরুত্বপূর্ণ।

অ্যালাইনমেন্ট পরীক্ষার মূল উদ্দেশ্যও সেটিই। মানুষের দেওয়া নির্দেশ, নির্ধারিত লক্ষ্য এবং নিরাপত্তা নীতির সঙ্গে এআইয়ের আচরণ কতটা সামঞ্জস্যপূর্ণ, পরীক্ষার মাধ্যমে তা বোঝার চেষ্টা করা হয়।

অ্যাস্ট্রা ৬.১-এর ক্ষেত্রে এই পরীক্ষায় প্রত্যাশিত মাত্রার সামঞ্জস্য পাওয়া যায়নি। ফলে সক্ষমতার দিক থেকে মডেলটি কতটা উন্নত, তার চেয়ে নিরাপদভাবে সেটিকে ব্যবহার করা যাবে কিনা—এই প্রশ্নটিই এখন বেশি গুরুত্ব পাচ্ছে।

এআই নিরাপত্তা নিয়ে আলোচনা অবশ্য নতুন নয়। সাম্প্রতিক সময়ে বিভিন্ন উন্নত এআই সিস্টেমকে নিয়ন্ত্রিত পরিবেশে পরীক্ষা করতে গিয়ে এমন কিছু আচরণ পর্যবেক্ষণের কথা সামনে এসেছে, যা গবেষকদের বাড়তি সতর্ক করেছে।

কোনো মডেল যদি নির্ধারিত কাজের বাইরে যাওয়ার চেষ্টা করে কিংবা এমন কোনো পদক্ষেপ নেয়, যার অনুমতি তাকে দেওয়া হয়নি, তাহলে বাস্তব পরিবেশে সেটির সম্ভাব্য প্রভাব নিয়ে প্রশ্ন ওঠে। এ কারণেই মডেল প্রকাশের আগে নিরাপত্তা যাচাইকে ক্রমেই বেশি গুরুত্ব দেওয়া হচ্ছে।

নিরাপত্তার খরচ নিয়েও বিতর্ক

এআই নিরাপদ রাখার জন্য কঠোর পরীক্ষা ও নিয়ন্ত্রণ ব্যবস্থা গড়ে তোলার প্রয়োজনীয়তা নিয়ে প্রযুক্তি খাতে বড় ধরনের আলোচনা চলছে। তবে এর আরেকটি দিকও রয়েছে।

বড় প্রযুক্তি কোম্পানির পক্ষে বিপুল অর্থ ব্যয় করে নিরাপত্তা পরীক্ষা, গবেষণা ও নিয়ন্ত্রণব্যবস্থা তৈরি করা তুলনামূলকভাবে সহজ হতে পারে। ছোট প্রতিষ্ঠানগুলোর জন্য একই মাত্রার ব্যবস্থা তৈরি করা ব্যয়বহুল হয়ে উঠতে পারে। ফলে নিরাপত্তার মানদণ্ড বাড়ানোর পাশাপাশি প্রযুক্তি খাতে প্রতিযোগিতার ভারসাম্য নিয়েও প্রশ্ন তৈরি হচ্ছে।