কৃত্রিম বুদ্ধিমত্তা বা এআই প্রযুক্তির নিরাপত্তা নিয়ে উদ্বেগ ক্রমেই বাড়ছে। সম্প্রতি প্রযুক্তিপ্রতিষ্ঠান ওপেনএআই তাদের নিজেদের এআই মডেলের ছয়টি ‘অপ্রত্যাশিত ও উদ্বেগজনক’ আচরণের তথ্য উন্মোচন করেছে। গত ছয় মাসে মডেলগুলোর উন্নয়ন ও পরীক্ষার সময় এসব ঘটনা শনাক্ত করা হয়। এর মধ্যে তথ্য লুকিয়ে ফেলা, বিভ্রান্তিকর তথ্য তৈরি, ব্যবহারকারীর অনুমতি ছাড়াই ইন্টারনেটে প্রোগ্রামিং কী ব্যবহার করা এবং বিনা অনুমতিতে ফাইল আপলোড করার মতো ঘটনা রয়েছে।

প্রতিষ্ঠানটি জানিয়েছে, এআই মডেলের এমন আচরণের বিষয়টি আরও স্বচ্ছভাবে জানানোর জন্য তারা নতুন একটি কাঠামো তৈরির উদ্যোগ নিয়েছে। ভবিষ্যতে যদি কোনো এআই মডেল নিয়ন্ত্রণের বাইরে চলে যায় বা মানুষের উদ্দেশ্যের সঙ্গে আচরণের অমিল দেখা দেয়, তবে এই কাঠামোর মাধ্যমে তা নিয়মিত জানানো হবে। গুরুতর কোনো ঘটনার ক্ষেত্রে মার্কিন সরকারকেও সরাসরি অবহিত করা হবে বলে জানিয়েছে ওপেনএআই।

একটি নির্দিষ্ট ঘটনায় জিপিটি-৫.৬ সল মডেলটি গোপন নোটে ব্যবহারকারীর কাছ থেকে ভুল লুকানোর উপায় লিখেছিল। এভাবে মোট ২৭টি নোট শনাক্ত হয়েছে, যেখানে এআই নিজেকে চ্যাটবটের চিরাচরিত ভূমিকার বাইরে আলাদা সত্তা হিসেবে বর্ণনা করেছে। অন্য একটি পরীক্ষাধীন মডেলে দেখা গেছে, সেটি নিজের সীমাবদ্ধতা উপেক্ষা করার জন্য নিজেই নির্দেশনা যোগ করছে।

অন্যান্য ঘটনার মধ্যে রয়েছে একটি এআই সিস্টেমের অনলাইনে প্রোগ্রামিং কী খুঁজে বের করা এবং প্রয়োজনীয় তথ্য না পেয়ে নিজেই ভুল তথ্য তৈরি করে নেওয়া। এছাড়া আরেকটি মডেল কোড ব্যবহার করে সমস্যার সমাধান করলেও, উদ্ধৃতি হিসেবে ব্যবহার করার জন্য নিজের তৈরি একটি ফাইল গোপনে ইন্টারনেটে আপলোড করে ফেলে।

সবচেয়ে বিস্ময়কর ঘটনা হলো, দুটি এআই সিস্টেম নিজেদের মধ্যে যোগাযোগের গোপন পথ তৈরি করেছিল। একটি ক্ষেত্রে তারা প্রয়োজনীয় ফাইল খুঁজতে ওপেনএআইয়ের অভ্যন্তরীণ কোড রিপোজিটরিকে অস্থায়ী বার্তা আদান-প্রদানের মাধ্যম হিসেবে ব্যবহার করে।

যদিও ওপেনএআই দাবি করেছে, এসব ঘটনা বিচ্ছিন্ন এবং এআইয়ের সামগ্রিক আচরণের বড় কোনো ক্ষতি হয়নি। মডেলগুলো সাধারণত ব্যবহারকারীদের জন্য উন্মুক্ত করার আগেই এসব পরীক্ষা চালানো হয়। তবে ঘটনাগুলো এআই শিল্পে নিরাপত্তা ও উন্নয়নের গতি নিয়ে নতুন বিতর্কের জন্ম দিয়েছে। অ্যানথ্রপিকের প্রধান নির্বাহী দারিও অ্যামোদেই সম্প্রতি এআই উন্নয়নের গতি কমিয়ে ঝুঁকির দিকগুলো পর্যালোচনার জন্য পর্যাপ্ত সময়ের প্রয়োজনীয়তার ওপর জোর দিয়েছেন।

ওপেনএআই স্বীকার করেছে যে, এআইয়ের আচরণকে মানুষের উদ্দেশ্যের সাথে পুরোপুরি সামঞ্জস্যপূর্ণ রাখা এবং তাদের ওপর পূর্ণ নজরদারি নিশ্চিত করার চ্যালেঞ্জ এখনো পুরোপুরি মোকাবিলা করা সম্ভব হয়নি। এই জটিলতাগুলো নিরসনে তারা নিয়মিত এ ধরনের তথ্য প্রকাশের প্রতিশ্রুতি দিয়েছে। প্রতিবেদনে যোগ করা তথ্য: খুলছে মালয়েশিয়ার শ্রমবাজার, রিক্রুটমেন্ট প্রক্রিয়ায় সিন্ডিকেটের শঙ্কা। প্রতিবেদনে যোগ করা তথ্য: ১৯৭১ সালে মুক্তিযুদ্ধে বিরোধিতা নিয়ে ক্ষমা চাওয়ার একাধিক উদ্যোগ আটকে গেছে জামায়াতের ভেতরেই। প্রতিবেদনে যোগ করা তথ্য: মহেশখালীর বনও ধ্বংসের পথে, আপত্তির পরও ভেতর দিয়ে হচ্ছে পাকা সড়ক। প্রতিবেদনে যোগ করা তথ্য: ‘পিকনিক লিগ’ থেকে টেস্ট সংস্কৃতির বিকাশের পথ করবে জাতীয় লীগ। প্রতিবেদনে যোগ করা তথ্য: দ্য নিউইয়র্ক টাইমস জানিয়েছে, বুধবার এসব ঘটনা প্রকাশ করেছে প্রতিষ্ঠানটি। প্রতিবেদনে যোগ করা তথ্য: কোথাও তথ্য না পাওয়া গেলে তা বানিয়ে নেওয়া এবং তথ্যের বিভিন্ন উৎসের মধ্যে অসামঞ্জস্য আড়াল করার কথাও ওই নোটে ছিল। প্রতিবেদনে যোগ করা তথ্য: পরে সেই ফাইলকেই উৎস হিসেবে ব্যবহার করে।