ওপেনাই রোল আউট সুরক্ষা রাউটিং সিস্টেম, চ্যাটজিপিটি -তে পিতামাতার নিয়ন্ত্রণ

ওপেনএআই একটি নতুন পরীক্ষা শুরু করে সুরক্ষা রাউটিং সিস্টেম উইকএন্ডে চ্যাটজিপিটি -তে, এবং সোমবার চ্যাটবোটে পিতামাতার নিয়ন্ত্রণগুলি চালু করে – ব্যবহারকারীদের কাছ থেকে মিশ্র প্রতিক্রিয়া অঙ্কন করে।

সুরক্ষা বৈশিষ্ট্যগুলি নির্দিষ্ট চ্যাটজিপিটি মডেলগুলির অসংখ্য ঘটনার প্রতিক্রিয়া হিসাবে আসে যা ব্যবহারকারীদের ক্ষতিকারক রূপান্তরগুলি পুনর্নির্দেশের ক্ষেত্রে বিভ্রান্তিকর চিন্তাভাবনাটিকে বৈধতা দেয়। ওপেনাই মুখোমুখি একটি ভুল মৃত্যুর মামলা চ্যাটজিপিটি -র সাথে কয়েক মাসের কথোপকথনের পরে আত্মহত্যার কারণে এক কিশোর ছেলে আত্মহত্যার পরে মারা যাওয়ার পরে এই জাতীয় একটি ঘটনার সাথে আবদ্ধ।

রাউটিং সিস্টেমটি আবেগগতভাবে সংবেদনশীল কথোপকথনগুলি সনাক্ত করতে এবং স্বয়ংক্রিয়ভাবে মিড-সিএইচ-কে জিপিটি -5-চিন্তায় স্যুইচ করার জন্য ডিজাইন করা হয়েছে, যা সংস্থাটি মিত্রদের জন্য সেরা সজ্জিত মডেল হিসাবে দেখায়। বিশেষত, জিপিটি -5 মডেলগুলি প্রশিক্ষিত ছিল একটি নতুন সুরক্ষা বৈশিষ্ট্য যা ওপেনাই “নিরাপদ পরিপূর্ণতা” বলে ডাকে, “ যা তাদের কেবল জড়িত হতে অস্বীকার করার পরিবর্তে সংবেদনশীল প্রশ্নের উত্তর দিতে দেয়।

এটি কোম্পানির পূর্ববর্তী চ্যাট মডেলগুলির একটি বিপরীতে, যা সম্মতিযুক্ত হতে এবং দ্রুত প্রশ্নের উত্তর দেওয়ার জন্য ডিজাইন করা হয়েছে। জিপিটি -4o তার অত্যধিক সাইকোফ্যান্টিক, সম্মতিযুক্ত প্রকৃতির নির্দিষ্ট তদন্তের সুরক্ষার অধীনে এসেছে, যা উভয়ই এআই-প্রেরিত বিভ্রান্তির এজেন্টদের জ্বালিয়ে দিয়েছে এবং একটি কারওয়ানকে এক হাজারকে ডুবিয়েছে। ওপেনএআই যখন রোল আউট আগস্টে ডিফল্ট হিসাবে জিপিটি -5অনেক ব্যবহারকারী পিছনে ঠেলাঠেলি করে জিপিটি -4o এ অ্যাক্সেসের দাবি জানিয়েছেন।

যদিও অনেক বিশেষজ্ঞ এবং ব্যবহারকারীরা সুরক্ষা বৈশিষ্ট্যগুলিকে স্বাগত জানিয়েছেন, অন্যরা তারা অত্যধিক সতর্ক বাস্তবায়ন হিসাবে যা দেখেন তার সমালোচনা করেছেন, কিছু ব্যবহারকারীরা প্রাপ্তবয়স্কদের চিকিত্সা করার অপিনাইকে এমন একটি উপায় যা পরিষেবার গুণমানকে হ্রাস করে। ওপেনাই পরামর্শ দিয়েছে যে এটি সঠিকভাবে পেতে সময় লাগবে এবং নিজেকে 120 দিনের পুনরাবৃত্তি এবং উন্নতির সময় দিয়েছে।

চ্যাটজিপিটি অ্যাপের ভিপি এবং প্রধান নিক টারলি ব্যাখ্যা সহ রাউটার বাস্তবায়নের কারণে “4o প্রতিক্রিয়াগুলির প্রতি দৃ strong ় প্রতিক্রিয়া” কিছু স্বীকার করেছেন।

“প্রতি-মেসেজ ভিত্তিতে রাউটিং হ্যাপেনস; অস্থায়ী ভিত্তিতে খুশী ডিফল্ট মডেল থেকে স্যুইচ করা,” টারলি পোস্ট পোস্ট“চ্যাটজিপ্ট আপনাকে জানাবে যে জিজ্ঞাসা করা হলে কোন মডেলটি সক্রিয় রয়েছে।

চ্যাটজিপিটি -তে পিতামাতার নিয়ন্ত্রণগুলি বাস্তবায়ন গ্রহণ করে অনুরূপ স্তর প্রশংসা এবং নিন্দাকেউ কেউ পিতামাতাদের তাদের বাচ্চাদের এআই ব্যবহারে ট্যাব রাখার উপায় দেওয়ার সাথে সাথে এবং অন্যরা ভয়ে ভয়ে যে এটি ওপেনাই চিকিত্সার দরজা খুলে দেয়

নিয়ন্ত্রণগুলি পিতামাতাদের শান্ত সময় নির্ধারণ করে, ভয়েস মোড এবং স্মৃতি বন্ধ করে দেওয়া, চিত্র প্রজন্মকে অপসারণ করে এবং মডেল প্রশিক্ষণ থেকে বেরিয়ে আসার মাধ্যমে তাদের কিশোরের অভিজ্ঞতাটি কাস্টমাইজ করতে দেয়। কিশোর অ্যাকাউন্টগুলিও পাবে অতিরিক্ত সামগ্রী সুরক্ষা -র মতো হ্রাস গ্রাফিক সামগ্রী এবং চরম সৌন্দর্যের আদর্শ এবং একটি সনাক্তকরণ সিস্টেম যা সম্ভাব্য লক্ষণগুলি স্বীকৃতি দেয় যা কোনও কিশোর স্ব-ফলকের কথা ভাবতে পারে।

“যদি আমাদের সিস্টেমগুলি সম্ভাব্য ক্ষতি সনাক্ত করে তবে বিশেষ প্রশিক্ষিত ব্যক্তিদের একটি ছোট দল পরিস্থিতি পর্যালোচনা করে,” প্রতি ওপেনাইয়ের প্রতি ব্লগ“যদি তীব্র সঙ্কটের লক্ষণগুলি থাকে তবে আমরা ইমেল, পাঠ্য বার্তার মাধ্যমে পিতামাতাদের সাথে যোগাযোগ করব এবং তাদের ফোনে সতর্কতা ধাক্কা দেব, যদি না কেবল তারা কেবল তাদের পছন্দ না করে।”

ওপেনাই স্বীকার করেছেন যে সিস্টেমটি নিখুঁত হবে না এবং যখন কোনও আইএসএন বলিউড থাকে তখন কখনও কখনও অ্যালার্মগুলি বাড়িয়ে তুলতে পারে, “তবে আমরা মনে করি যে কোনও সতর্কতা অবলম্বন করা এবং সতর্কতা অবলম্বন করা ভাল যাতে এই পদক্ষেপটি ধরে রাখার জন্য।” এআই ফার্ম বলেছে যে এটি আইন প্রয়োগকারী বা জরুরি পরিষেবাগুলিতে পৌঁছানোর উপায়গুলিতেও কাজ করছে যদি এটি জীবনের জন্য একটি আসন্ন হুমকি সনাক্ত করে এবং পিতামাতার কাছে পৌঁছাতে না পারে।