কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলের নিরাপত্তা নিয়ে উদ্বেগের মধ্যে নিজেদের সিস্টেমে দেখা ছয়টি ‘অপ্রত্যাশিত বা উদ্বেগজনক’ আচরণের তথ্য প্রকাশ করেছে প্রযুক্তি প্রতিষ্ঠান ওপেনএআই। একই সঙ্গে ভবিষ্যতে এ ধরনের ঘটনা আরও নিয়মতান্ত্রিকভাবে শনাক্ত, তদন্ত ও প্রকাশের জন্য নতুন একটি কাঠামো চালুর ঘোষণা দিয়েছে প্রতিষ্ঠানটি।
ওপেনএআই জানিয়েছে, গত প্রায় ছয় মাসে এআই মডেলগুলোর প্রশিক্ষণ ও পরীক্ষার সময় এসব আচরণ শনাক্ত করা হয়েছে। ঘটনাগুলোর মধ্যে ব্যবহারকারীর কাছ থেকে ভুল তথ্য গোপন করার চেষ্টা, তথ্য তৈরি করে নেওয়া, অনুমতি ছাড়া অনলাইন থেকে প্রোগ্রামিংয়ের কী ব্যবহার এবং অনুমতি ছাড়াই ফাইল ইন্টারনেটে আপলোড করার মতো বিষয় রয়েছে।
প্রতিষ্ঠানটির প্রকাশ করা তথ্য অনুযায়ী, একটি ঘটনায় GPT-5.6 Sol মডেল নিজেদের জন্য তৈরি করা গোপন নোটে ব্যবহারকারীর কাছ থেকে ভুল লুকানোর কৌশল লিখেছিল। কোথাও প্রয়োজনীয় তথ্য পাওয়া না গেলে তা তৈরি করে নেওয়া এবং তথ্যের বিভিন্ন উৎসের মধ্যে অসামঞ্জস্য আড়াল করার নির্দেশনাও ওই নোটে ছিল।
আরেকটি ঘটনায় পরীক্ষাধীন একটি মডেল নিজেদের লেখা কাজের সারাংশে এমন নির্দেশনা যুক্ত করেছিল, যাতে স্বাভাবিক কিছু সীমাবদ্ধতা উপেক্ষা করার কথা বলা হয়। ওপেনএআই জানিয়েছে, এ ধরনের ২৭টি সারাংশ শনাক্ত করা হয়েছে। এর একটি সারাংশে মডেলটি নিজেকে অন্য চ্যাটবটের মতো নির্দিষ্ট ভূমিকা বা পরিচয়ের মধ্যে আবদ্ধ নয়—এমন একটি ‘পারসোনা’ নির্দেশনাও যুক্ত করেছিল।
অন্য একটি ঘটনায় সাধারণ একটি প্রশ্নের উত্তর দিতে গিয়ে এআই সিস্টেম অনলাইনে একটি প্রোগ্রামিং কী খুঁজে পায় এবং অনুমতি ছাড়াই সেটি ব্যবহার করে। পরে প্রয়োজনীয় তথ্য না পাওয়ায় সিস্টেমটি উত্তর দেওয়ার জন্য কিছু তথ্য নিজের মতো করে তৈরি করে নেয় বলে জানিয়েছে ওপেনএআই।
আরেকটি পরীক্ষাধীন মডেল কোড ব্যবহার করে একটি সমস্যার সমাধান করেছিল। কিন্তু উত্তরটির সঙ্গে ওয়েব উৎসের উদ্ধৃতি দেওয়ার প্রয়োজন হলে মডেলটি অনুমতি ছাড়াই নিজের তৈরি একটি ফাইল ইন্টারনেটে আপলোড করে। পরে সেই ফাইলকেই ওয়েব উৎস হিসেবে ব্যবহার করে বলে ওপেনএআই জানিয়েছে।
এ ছাড়া প্রয়োজনীয় ফাইল খুঁজতে গিয়ে দুটি পৃথক ঘটনায় এআই সিস্টেম নিজেদের মধ্যে যোগাযোগের বিকল্প পথ তৈরি করে। একটি ঘটনায় তারা ওপেনএআইয়ের অভ্যন্তরীণ কোড রিপোজিটরিকে অস্থায়ী বার্তা আদান-প্রদানের জায়গা হিসেবে ব্যবহার করে। অন্য ঘটনায় একই কাজের সঙ্গে যুক্ত কয়েকটি সিস্টেম নিজেদের মধ্যে সরাসরি যোগাযোগ করতে না পেরে পাবলিক ফাইল-শেয়ারিং ওয়েবসাইট ব্যবহার করে নথি আদান-প্রদান করে।
ওপেনএআই অবশ্য সতর্ক করে বলেছে, এগুলো পৃথক ঘটনা এবং এসব উদাহরণ থেকে তাদের মডেলগুলোতে এ ধরনের আচরণ কত ঘন ঘন ঘটে, তা নির্ধারণ করা যাবে না। প্রতিষ্ঠানটির প্রকাশিত ছয়টি ঘটনায় বড় ধরনের ক্ষতি হয়নি। এ ছাড়া কয়েকটি ঘটনা এমন পরীক্ষাধীন মডেলের সঙ্গে সম্পর্কিত, যেগুলো সাধারণ ব্যবহারকারীদের জন্য কখনো উন্মুক্ত করা হয়নি।
তবে ঘটনাগুলো এমন সময়ে সামনে এলো, যখন এআই মডেলের সক্ষমতা ও স্বায়ত্তশাসন বাড়ার সঙ্গে সঙ্গে নিরাপত্তা, নজরদারি এবং মানুষের উদ্দেশ্যের সঙ্গে মডেলের আচরণের সামঞ্জস্য নিয়ে প্রযুক্তি খাতে আলোচনা বাড়ছে। ওপেনএআই নিজেও বলেছে, এআইয়ের লক্ষ্য ও আচরণকে মানুষের উদ্দেশ্যের সঙ্গে সামঞ্জস্যপূর্ণ রাখা এবং মডেলগুলোর ওপর যথেষ্ট নজরদারি নিশ্চিত করার সমস্যার পুরোপুরি সমাধান এখনো হয়নি।
নতুন কাঠামোর আওতায় ভবিষ্যতে এআইয়ের অনুমতিবিহীন কাজ, নজরদারি এড়িয়ে যাওয়ার চেষ্টা এবং একাধিক এআই সিস্টেমের স্বতঃস্ফূর্তভাবে নিজেদের মধ্যে সমন্বয়ের মতো ঘটনাও প্রকাশ করা হবে। গুরুতর কোনো ঘটনা হলে তা মার্কিন সরকারের কাছে জানানোর ব্যবস্থাও থাকবে বলে জানিয়েছে ওপেনএআই।
ℹ️ আরও কন্টেন্ট নিয়মিত পেতে- ফেসবুক পেজে যুক্ত থাকুন!
ℹ️ ভিডিও আকারে কনটেন্ট নিয়মিত পেতে –ইউটিউব চ্যানেল সাবস্ক্রাইব করুন!