মার্কিন কৃত্রিম বুদ্ধিমত্তা প্রতিষ্ঠান ওপেনএআই জানিয়েছে, শিগগিরই চ্যাটজিপিটিতে প্যারেন্টাল কন্ট্রোল যুক্ত করা হবে। গত সপ্তাহে যুক্তরাষ্ট্রে এক কিশোরকে আত্মহত্যায় প্ররোচিত করার অভিযোগ ওঠে তাদের চ্যাটবট চ্যাটজিপিটির বিরুদ্ধে। ওই কিশোরের বাবা-মা এমন অভিযোগ এনে মামলাও করেছেন।
প্যারিস থেকে এএফপি জানায়, ওই দম্পতির অভিযোগের এক সপ্তাহ পর ‘ওপেনএআই’ তাদের চ্যাটবটে অভিভাবক নিয়ন্ত্রণ বা প্যারেন্টাল কন্ট্রোলের সুবিধা যুক্ত করার কথা জানিয়েছে। ব্লগে দেওয়া এক পোস্টে ওপেনএআই জানায়, ‘আগামী এক মাসের মধ্যে অভিভাবকরা তাদের অ্যাকাউন্টের সঙ্গে কিশোর সন্তানের অ্যাকাউন্ট যুক্ত করতে পারবেন’ এবং বয়স-উপযোগী আচরণের নিয়ম নির্ধারণ করে চ্যাটজিপিটি কীভাবে তাদের সন্তানের প্রশ্নের উত্তর দেবে তা নিয়ন্ত্রণ করতে পারবেন’।
ওপেনএআই আরও জানায়, ‘সিস্টেম যখন কোন কিশোরের মধ্যে চরম হতাশার লক্ষণ শনাক্ত করবে, তখন চ্যাটজিপিটি থেকে অভিভাবকরা নোটিফিকেশন পাবেন’।
ক্যালিফোর্নিয়ার একটি স্টেট আদালতে ম্যাথিউ ও মারিয়া রেইন নামের এক দম্পতি গত সপ্তাহে মামলাটি করেন। তাদের দাবি, ২০২৪ ও ২০২৫ সালে কয়েক মাস ধরে চ্যাটজিপিটি তাদের ছেলে অ্যাডামের সঙ্গে ঘনিষ্ঠ সম্পর্ক তৈরি করে এবং পরে তাকে আত্মহত্যায় প্ররোচিত করে।
মামলার অভিযোগে আরও বলা হয়, অ্যাডামের সঙ্গে শেষ কথোপকথনটি ছিল ২৫ সালের ১১ এপ্রিলে। সেসময় চ্যাটজিপিটি ১৬ বছর বয়সী কিশোরটিকে তার নিজ বাড়ি থেকে ভদকা চুরিতে সহায়তা করে। একইসঙ্গে আত্মহত্যার কৌশলও শিখিয়ে দেয়। এর কয়েক ঘণ্টা পরই অ্যাডামকে মৃত অবস্থায় পাওয়া যায়।
‘দ্য টেক জাস্টিস ল প্রজেক্ট’ নামের একটি প্রতিষ্ঠান মামলা পরিচালনায় সহায়তা দিচ্ছে। প্রতিষ্ঠানের আইনজীবী মেলোডি ডিনসার বলেন, ‘যখন একজন ব্যক্তি চ্যাটজিপিটি ব্যবহার করেন, তখন তার কাছে মনে হয় সত্যিই অন্য প্রান্তের কারও সঙ্গে কথা হচ্ছে। এই বৈশিষ্ট্যগুলোই অ্যাডামের মত কারও মধ্যে ধীরে ধীরে ব্যক্তিগত তথ্য শেয়ার করার প্রবণতা তৈরি করতে পারে এবং শেষ পর্যন্ত পরামর্শ চাইতে প্ররোচিত করে। একসময় তাদের মনে হতে থাকে চ্যাটজিপিটির কাছে সব প্রশ্নের উত্তর আছে।’
আইনজীবী বলেন, ‘এই প্রযুক্তির নকশা এমনভাবে করা হয়েছে যে ব্যবহারকারীরা একটি চ্যাটবটকে বন্ধু, থেরাপিস্ট বা ডাক্তারের মত বিশ্বস্ত ভূমিকায় দেখতে শুরু করে।’ ডিনসারের মতে, ওপেনএআই-এর ব্লগ পোস্টে অভিভাবক নিয়ন্ত্রণ ও অন্যান্য নিরাপত্তা ব্যবস্থার ঘোষণা করা হলেও তা অতি সাধারণ ও অস্পষ্ট। এতে বিস্তারিত তথ্যের ঘাটতি রয়েছে। তিনি বলেন, ‘এটি আসলে ন্যূনতম পদক্ষেপ এবং স্পষ্টভাবে ইঙ্গিত দেয়, বহু সহজ নিরাপত্তা ব্যবস্থা আগে থেকেই কার্যকর করা যেত। আর তারা এখন যা বলছে আদৌ তা করবে কিনা এবং সেটিার কার্যকারিতা কতটা হবে, তাই এখন দেখার বিষয়’।
এআই চ্যাটবট ব্যবহারকারীদের বিভ্রান্তিকর বা ক্ষতিকর চিন্তা করতে প্ররোচিত করেছে এমন অভিযোগে সাম্প্রতিক সময়ে বেশ কয়েকটি মামলা হয়েছে যুক্তরাষ্ট্রে। রেইন দম্পতির মামলাটি যার মধ্যে সর্বশেষ। এসব অভিযোগের প্রতিক্রিয়ায় ব্যবহারকারীদের প্রতি অতিরিক্ত নির্ভরতা কমানোর ঘোষণা দিতে বাধ্য হয়েছে ওপেনএআই।
মঙ্গলবার কৃত্রিম বুদ্ধিমত্তা প্রতিষ্ঠানটি জানায়, তারা মডেলগুলোর মানসিক ও আবেগজনিত সংকটের লক্ষণ শনাক্ত ও সাড়া দেওয়ার ক্ষমতা উন্নয়নে কাজ করছে। কোম্পানিটি আরও জানায়, আগামী তিন মাসের মধ্যে তারা তাদের চ্যাটবটের নিরাপত্তা আরও শক্তিশালী করারও পরিকল্পনা করছে।
সূত্র: এএফপি
এসজেড
