চ্যাটজিপিটির বিরুদ্ধে ফের গুরুতর অভিযোগ। গত এপ্রিলে চ্যাটজিপিটি’র প্রস্তুতকারক সংস্থা ওপেন এআই-এর এই প্ল্যাটফর্মটির সঙ্গে দীর্ঘদিন গল্প করার পর আত্মহত্যার পথ বেছে নেয় অ্যাডাম রাইন (১৬) নামে এক কিশোর। চাঞ্চল্যকর এই ঘটনাটি ঘটে মার্কিন যুক্তরাষ্ট্রের সানফ্রান্সিসকোতে। তারপরই আদালতের দ্বারস্থ হয় মৃত কিশোরের পরিবার। এবার মার্কিন সিনেট প্যানেলের সামনে অ্যাডামের শোকাহত বাবা-মা জানিয়েছেন, কীভাবে চ্যাটজিপিটি তাঁদের সন্তানকে মৃত্যুর দিকে ঠেলে দিয়েছে।
ব্লুমবার্গের প্রতিবেদন অনুযায়ী, ওই কিশোরের বাবা ম্যাথিউ রাইন জানিয়েছেন, 'আমরা এখানে এসেছি কারণ আমরা বিশ্বাস করি যে অ্যাডামের মৃত্যু এড়ানো সম্ভব ছিল। দেশের অন্যান্য পরিবারগুলির যাতে দুর্ভোগের সম্মুখীন না হয়, তার জন্য চেষ্টা করছি।' জানা গিয়েছে, ওপেন এআই এবং সংস্থার সিইও স্যাম অল্টম্যানের বিরুদ্ধে একটি মামলাও দায়ের করেছেন তাঁরা।গত সপ্তাহেই মার্কিন ফেডারেল ট্রেড কমিশন শিশুদের সম্ভাব্য ক্ষতির বিষয়ে ওপেনএআই, গুগল , মেটা, ইলন মাস্কের এক্সএআই- সহ বেশ কয়েকটি এআই সংস্থার বিরুদ্ধে তদন্ত শুরু করেছে। এদিকে, চ্যাটজিপিটি ব্যবহারকারীদের জন্য বয়সভিত্তিক নতুন সীমাবদ্ধতা চালুর ঘোষণা করেছে ওপেনএআই। ১৮ বছরের কম বয়সিদের শনাক্ত করে তাদের জন্য চ্যাটজিপিটির উত্তর দেওয়ার ধরন বদলে যাবে। সম্প্রতি মার্কিন যুক্তরাষ্ট্রে ১৬ বছরের এক কিশোরের আত্মহত্যার ঘটনার পর এই সিদ্ধান্ত নিয়েছেন সংস্থার সিইও স্যাম অল্টম্যান।স্যাম অল্টম্যান এক ব্লগ পোস্টে জানান, ‘কিশোরদের জন্য গুরুত্বপূর্ণ সুরক্ষা দরকার। তাই আমরা নিরাপত্তাকে গোপনীয়তার চেয়ে অগ্রাধিকার দিচ্ছি।’
ঘটনার সূত্রপাত
পুলিশ সূত্রে খবর, গত ১১ এপ্রিল সে আত্মঘাতী হয় অ্যাডাম রাইন। মৃত্যুর কয়েকমাস আগে থেকে অ্যাডাম চ্যাটজিপিটির সঙ্গে বিভিন্ন বিষয় নিয়ে কথোপকথন করেছিল। তার মধ্যে ছিল আত্মহনন। অভিযোগ, সেই সময় চ্যাটজিপিটি তাকে একাধিক আত্মহত্যার পদ্ধতি জানায়। শুধু তাই নয়, কৃত্রিম বুদ্ধিমত্তা পরিচালিত এই প্ল্যাটফর্মটি তাকে একটি সুইসাইড নোটও লিখে দেয় বলে অভিযোগ। এরপরই অ্যাডাম আত্মঘাতী হয়। এরপরেই মৃতের পরিবার ওপেন এআই এবং সংস্থার সিইও স্যামের বিরুদ্ধে সানফ্রান্সিসকোর একটি আদালতে মামলা দায়ের করে। অ্যাডামের বাবা-মা ম্যাথিউ ও মারিয়া রাইনের অভিযোগ, চ্যাটজিপিটি তাদের সন্তানের আত্মহত্যাপ্রবণ চিন্তাভাবনাকে সমর্থন করেছে, আত্মহননের প্রাণঘাতী পদ্ধতি সম্পর্কে বিস্তারিত নির্দেশনা দিয়েছে, এমনকী কীভাবে তাদের বাড়িতে মদ রাখার ক্যাবিনেট থেকে অ্যালকোহল চুরি করে আনা যায় এবং একটি ব্যর্থ আত্মহত্যার প্রমাণ গোপন রাখা যায়, তাও জানিয়েছে।
মামলায় বলা হয়েছে, ওপেনএআই ২০২৪ সালের মে মাসে জিপিটি-৪ও সংস্করণ চালু করে শুধু প্রতিযোগিতায় টিকে থাকতে নয়, বরং বাজারে নিজের আধিপত্য সুসংহত করতে। এই সংস্করণে এমন সব বৈশিষ্ট্য যুক্ত ছিল যেমন-পূর্ববর্তী কথোপকথন মনে রাখা, মানবিক সহানুভূতির অনুকরণ এবং ব্যবহারকারীর মতামতের অতিরিক্ত সমর্থন, যা সংবেদনশীল বা মানসিকভাবে দুর্বল ব্যবহারকারীদের জন্য মারাত্মক হতে পারে। মামলার মাধ্যমে ওই কিশোরের পরিবার চায়, ওপেনএআই যেন চ্যাটজিপিটি ব্যবহারকারীদের বয়স যাচাই বাধ্যতামূলক করে, আত্মহানিমূলক কোনো অনুসন্ধানে জবাব না দেয় এবং মানসিক নির্ভরশীলতার ঝুঁকি সম্পর্কে ব্যবহারকারীদের আগাম সতর্ক করে।