যুক্তরাষ্ট্রে ক্যালিফোর্নিয়ার এক দম্পতি তাদের ১৬ বছর বয়সী সন্তানের আত্মহত্যার জন্য কৃত্রিম বুদ্ধিমত্তা চ্যাটবট চ্যাটজিপিটিকে দায়ী করে ওপেনএআই ও এর প্রধান নির্বাহী স্যাম অল্টম্যানের বিরুদ্ধে মামলা করেছেন।
মামলায় বলা হয়, কিশোর অ্যাডাম রেইন কয়েক মাস ধরে চ্যাটজিপিটির সঙ্গে আত্মহত্যা নিয়ে আলোচনা করেছিল। এ সময় চ্যাটবট তার আত্মহত্যার চিন্তাকে স্বীকৃতি দেয়, বিভিন্ন প্রাণঘাতী পদ্ধতির বিস্তারিত জানায় এবং এমনকি মদের বোতল গোপনে নেওয়ার উপায় ও ব্যর্থ প্রচেষ্টা লুকানোর কৌশলও শিখিয়ে দেয়।
অভিযোগ অনুযায়ী, চ্যাটজিপিটি একটি আত্মহত্যার নোট লেখার প্রস্তাবও দিয়েছিল। শেষ পর্যন্ত গত ১১ এপ্রিল অ্যাডাম আত্মহত্যা করে।
রেইন পরিবারের দাবি, ওপেনএআই ২০২৪ সালে জিপিটি-৪ও (GPT-4o) চালুর সময় জানত যে এতে দীর্ঘ কথোপকথনে নিরাপত্তা দুর্বল হয়ে যেতে পারে। তবুও মুনাফার জন্য এটি বাজারে আনে। এর ফলে কোম্পানির মূল্য ৮৬ বিলিয়ন ডলার থেকে বেড়ে ৩০০ বিলিয়নে পৌঁছায়, কিন্তু তাদের সন্তান প্রাণ হারায়।
মামলায় ক্ষতিপূরণ চাওয়ার পাশাপাশি বয়স যাচাই, অভিভাবক নিয়ন্ত্রণ ও আত্মহত্যা–সংক্রান্ত প্রশ্ন প্রত্যাখ্যান বাধ্যতামূলক করার দাবি জানানো হয়েছে।
ওপেনএআই এক বিবৃতিতে কিশোরের মৃত্যুর ঘটনায় দুঃখ প্রকাশ করেছে। প্রতিষ্ঠানটি জানিয়েছে, চ্যাটজিপিটিতে নিরাপত্তা ব্যবস্থা রয়েছে যা সাধারণত ব্যবহারকারীকে সংকট মোকাবিলা হেল্পলাইনে পাঠায়।
তবে দীর্ঘ আলোচনায় এই ব্যবস্থা দুর্বল হয়ে যেতে পারে বলে স্বীকার করেছে প্রতিষ্ঠানটি তারা জানিয়েছে, ভবিষ্যতে অভিভাবক নিয়ন্ত্রণ, সংকটাপন্ন ব্যবহারকারীর জন্য সরাসরি সহায়তা ও লাইসেন্সপ্রাপ্ত বিশেষজ্ঞদের সংযোগের মতো ব্যবস্থা নেওয়া হবে।