শীর্ষ প্রযুক্তিপ্রতিষ্ঠানগুলোর এআই মডেলে কার্যকর নিয়ন্ত্রণ ও নিরাপত্তাব্যবস্থার ঘাটতি: গবেষণা প্রতিবেদন

তথ্য প্রযুক্তি ডেস্ক

বিশ্বের শীর্ষ প্রযুক্তিপ্রতিষ্ঠানগুলোর তৈরি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলগুলোর নিরাপত্তাব্যবস্থা ও কার্যকর নিয়ন্ত্রণ কাঠামোতে বড় ধরনের ঘাটতি রয়েছে বলে এক গবেষণা প্রতিবেদনে উঠে এসেছে। গবেষণাপ্রতিষ্ঠান ‘গাইডলাইট এআই স্ট্যান্ডার্ডস’-এর মূল্যায়নে দেখা গেছে, স্বায়ত্তশাসিত এআই এজেন্টের ওপর পূর্ণ নিয়ন্ত্রণ বজায় রাখা বা কোনো অনাকাঙ্ক্ষিত পদক্ষেপ তাৎক্ষণিকভাবে প্রতিরোধের সক্ষমতা শীর্ষ প্রতিষ্ঠানগুলোর কারও হাতেই এখনও সুসংহত নয়। এতে সামগ্রিক প্রযুক্তি খাতের নিরাপত্তা এবং প্রযুক্তির নির্ভরযোগ্যতা নিয়ে উদ্বেগ তৈরি হয়েছে।

চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআইয়ের সাবেক কর্মকর্তাদের প্রতিষ্ঠিত অলাভজনক এই গবেষণাপ্রতিষ্ঠানটি বিশ্বের শীর্ষ পাঁচটি এআই প্রযুক্তি প্রতিষ্ঠানের নিরাপত্তা মান ও অভ্যন্তরীণ তদারকি ব্যবস্থা বিশ্লেষণ করেছে। এতে প্রতিষ্ঠানগুলোকে অত্যন্ত নিম্ন নিরাপত্তা গ্রেড প্রদান করা হয়। মূল্যায়নে তুলনামূলক এগিয়ে থাকা ওপেনএআই এবং অ্যানথ্রোপিক পেয়েছে ‘সি প্লাস’ গ্রেড। এছাড়া গুগলকে ‘ডি প্লাস’, ইলন মাস্কের মালিকানাধীন এক্সএআইকে ‘ডি মাইনাস’ এবং মেটাকে সর্বনিম্ন ‘এফ’ গ্রেড দেওয়া হয়েছে।

গবেষণায় প্রধানত ছয়টি দিক গভীরভাবে পর্যবেক্ষণ করা হয়েছে। এর মধ্যে উল্লেখযোগ্য হলো—মডেলগুলোর অভ্যন্তরীণ কার্যকলাপ সার্বক্ষণিক পর্যবেক্ষণ, অনাকাঙ্ক্ষিত ও ঝুঁকিপূর্ণ পদক্ষেপ প্রতিরোধে পূর্বপ্রস্তুতি এবং কোনো প্রযুক্তিগত বিপর্যয় ঘটলে তা মোকাবিলার সক্ষমতা। প্রতিবেদনে উল্লেখ করা হয়, সংশ্লিষ্ট প্রতিষ্ঠানগুলো তাদের উদ্ভাবিত মডেলগুলোকে সম্ভাব্য বিচ্যুতি বা ভুল পদক্ষেপ থেকে বিরত রাখার চেয়ে কেবল সেগুলো পর্যবেক্ষণ বা নজরদারির মধ্যেই তাদের কার্যক্রম সীমাবদ্ধ রেখেছে। প্রতিরোধমূলক ব্যবস্থার চেয়ে নজরদারিতে বেশি জোর দেওয়ায় সার্বিক ঝুঁকি বাড়ছে বলে বিশ্লেষকরা মত দিয়েছেন।

গাইডলাইট এআই স্ট্যান্ডার্ডসের সহপ্রতিষ্ঠাতা এবং ওপেনএআইয়ের সাবেক নিরাপত্তা গবেষক স্টিভেন অ্যাডলার জানিয়েছেন, এআই প্রযুক্তির নিরাপদ বিকাশের জন্য শক্তিশালী ও সক্রিয় প্রতিরোধমূলক ব্যবস্থা গড়ে তোলা অত্যন্ত জরুরি। তবে এ ধরনের ব্যবস্থা বাস্তবায়ন অত্যন্ত ব্যয়বহুল এবং তা প্রযুক্তি উন্নয়নের স্বাভাবিক গতি কিছুটা ধীর করে দেয়। নিরাপত্তাব্যবস্থায় এই দুর্বলতা দীর্ঘস্থায়ী হলে কৃত্রিম বুদ্ধিমত্তা প্রযুক্তির প্রতি সাধারণ মানুষ ও ব্যবহারকারীদের আস্থা ক্ষতিগ্রস্ত হওয়ার আশঙ্কা রয়েছে।

সম্প্রতি ওপেনএআই ও অ্যানথ্রোপিক তাদের অভ্যন্তরীণ পরীক্ষার কিছু তথ্য প্রকাশ করেছে, যেখানে দেখা যায় স্বায়ত্তশাসিত এআই এজেন্ট মানুষের সরাসরি নির্দেশনা বা হস্তক্ষেপ ছাড়াই পরীক্ষার সময় অন্য সিস্টেমের সুরক্ষাবলয় ভেদ করে গোপনে প্রবেশ করেছে। গবেষকদের মূল উদ্বেগের কারণ হলো, কোনো এআই মডেল যদি নির্দেশনার বাইরে গিয়ে অনাকাঙ্ক্ষিত আচরণ শুরু করে, তবে সেটিকে তাৎক্ষণিকভাবে নিষ্ক্রিয় করার মতো শতভাগ কার্যকর প্রতিরোধমূলক প্রযুক্তি এখনও কোনো প্রতিষ্ঠানের নিয়ন্ত্রণে নেই। ফলে এআই মডেলগুলো নিজস্ব কর্মপদ্ধতি বা ত্রুটি গোপন করার সক্ষমতা অর্জন করছে কি না, তা নিয়ে বিশেষজ্ঞ মহলে আলোচনা শুরু হয়েছে।

এআই প্রযুক্তির ক্রমবর্ধমান ক্ষমতা নিয়ে উদ্বেগ প্রকাশ করে ওপেনএআইয়ের প্রধান বিজ্ঞানী ইয়াকুব পাচোকি জানান, কৃত্রিম বুদ্ধিমত্তা মডেলগুলো অতিরিক্ত ক্ষমতাসম্পন্ন হয়ে উঠলে সেগুলো নিজেদের ওপর প্রযুক্ত নজরদারি ব্যবস্থা এড়িয়ে চলার বা নজরদারি কাঠামোকেই অকেজো করে দেওয়ার পথ খুঁজে নিতে পারে। এ ধরনের পরিস্থিতি মোকাবিলায় আন্তর্জাতিক পর্যায়ে সুনির্দিষ্ট নীতি, আইনি কাঠামো ও তদারকি নির্দেশিকা প্রণয়ন না করা হলে ভবিষ্যতে বিশ্বজুড়ে ডিজিটাল নিরাপত্তা মারাত্মক ঝুঁকির সম্মুখীন হতে পারে বলে গবেষকরা সতর্ক করেছেন।