ছেলের আত্মহত্যার ক্ষেত্রে চ্যাটজিপ্টের ভূমিকা নিয়ে অভিভাবকরা ওপেনএআইয়ের বিরুদ্ধে মামলা করেছেন

১ 16 বছর বয়সী অ্যাডাম রেন আত্মহত্যার কারণে মারা যাওয়ার আগে, তিনি তাঁর জীবন শেষ করার পরিকল্পনা নিয়ে চ্যাটজিপ্টের পরামর্শ নিয়ে কয়েক মাস ব্যয় করেছিলেন। এখন, তার বাবা -মা রিপোর্ট,

অনেক গ্রাহক-মুখী এআই চ্যাটবটগুলি সুরক্ষা বৈশিষ্ট্যগুলি সক্রিয় করতে প্রোগ্রাম করা হয় যদি কোনও ব্যবহারকারী নিজের বা অন্যকে ক্ষতি করার অভিপ্রায় প্রকাশ করে। কিন্তু গবেষণা দেখিয়েছেন যে এই সুরক্ষাগুলি বোকামি থেকে।

রাইনার ক্ষেত্রে, চ্যাটজিপিটি -4O এর একটি প্রদত্ত সংস্করণ ব্যবহার করার সময়, এআই প্রায়শই তাকে পেশাদার সহায়তা চাইতে বা একটি সহায়তা লাইনের সাথে যোগাযোগ করতে উত্সাহিত করে। তবে, তবে

ওপেনই তার ব্লগে এই ত্রুটিগুলি সম্বোধন করেছে। “বিশ্ব এই নতুন প্রযুক্তির সাথে খাপ খাইয়ে নিয়েছে, আমরা যাদের সবচেয়ে বেশি প্রয়োজন তাদের সহায়তা করার জন্য আমরা গভীর প্রতিক্রিয়া বোধ করি,” পোস্টটি পড়া“আমরা আমাদের মডেলগুলি সংবেদনশীল মিথস্ক্রিয়ায় কীভাবে প্রতিক্রিয়া জানায় তা আমরা অবিচ্ছিন্নভাবে উন্নতি করি।”

তবুও, বৃহত্তর মডেলগুলির জন্য বিদ্যমান সুরক্ষা প্রশিক্ষণের সীমাবদ্ধতা জুড়ে সংস্থা। “আমাদের সুরক্ষাগুলি সাধারণ, সংক্ষিপ্ত এক্সচেঞ্জগুলিতে আরও নির্ভরযোগ্য কাজ করে,” পোস্টটি অব্যাহত রয়েছে। “আমরা সময়ের সাথে সাথে শিখেছি যে এই সুরক্ষাগুলি কখনও কখনও দীর্ঘ মিথস্ক্রিয়ায় কম নির্ভরযোগ্য হতে পারে: ব্যাক -ফোর্গ হিসাবে

এগুলি ওপেনাইয়ের পক্ষে অনন্য নয়। চরিত্র.এই, আরেক এআই চ্যাটবট নির্মাতা, একটি মামলা মোকদ্দমার মুখোমুখি কিশোরের আত্মহত্যায় এর ভূমিকা নিয়ে। এলএলএম-চালিত চ্যাটবটগুলিও এর ক্ষেত্রে যুক্ত হয়েছে এআই-সম্পর্কিত বিভ্রান্তিযা বিদ্যমান সুরক্ষাগুলি সনাক্ত করতে লড়াই করেছে।