ক্যারেক্টার AI বাচ্চাদের জন্য তার চ্যাটবট অভিজ্ঞতা শেষ করছে

কিশোর-কিশোরীরা তাদের আগের যেকোনো প্রজন্মের চেয়ে দ্রুত পরিবর্তনশীল বিশ্বে কোথায় মানানসই হয় তা খুঁজে বের করার চেষ্টা করছে। তারা আবেগ, অতি-উদ্দীপিত, এবং ক্রমাগতভাবে অনলাইনে বিস্ফোরিত হয়। এবং এখন, এআই কোম্পানিগুলি তাদের এমন চ্যাটবট দিয়েছে যাতে কথা বলা বন্ধ না হয়। ফলাফল বিপর্যয়কর হয়েছে।

একটি কোম্পানি যে এই পরিণতি বুঝতে পারে তা হল Character.AI, একটি AI রোল-প্লেয়িং স্টার্টআপ যা অন্ততপক্ষে মামলা এবং জনরোষের মুখোমুখি হচ্ছে দুই কিশোর আত্মহত্যা করে মারা গেছে এর প্ল্যাটফর্মে এআই চ্যাটবটগুলির সাথে দীর্ঘ কথোপকথন অনুসরণ করে। এখন, Character.AI কিশোর এবং বাচ্চাদের সুরক্ষার জন্য তার প্ল্যাটফর্মে পরিবর্তন করছে, এমন পরিবর্তন যা স্টার্টআপের নীচের লাইনকে প্রভাবিত করতে পারে।

“প্রথম যেটি আমরা ক্যারেক্টার.এআই হিসাবে সিদ্ধান্ত নিয়েছি তা হল যে আমরা আমাদের প্ল্যাটফর্মে 18 বছরের কম বয়সী ব্যবহারকারীদের AI এর সাথে যেকোনও খোলামেলা চ্যাটে জড়িত থাকার ক্ষমতা সরিয়ে দেব,” Character.AI-এর সিইও করণদীপ আনন্দ টেকক্রাঞ্চকে বলেছেন।

ওপেন-এন্ডেড কথোপকথন বলতে বোঝায় অনিয়ন্ত্রিত পিছু পিছু যা ঘটে যখন ব্যবহারকারীরা একটি চ্যাটবটকে একটি প্রম্পট দেয় এবং এটি ফলো-আপ প্রশ্নের উত্তর দেয় বিশেষজ্ঞরা বলছেন ব্যবহারকারীদের নিযুক্ত রাখার জন্য ডিজাইন করা হয়েছে। আনন্দ এই ধরনের মিথস্ক্রিয়া যুক্তি দেন – যেখানে AI একটি সৃজনশীল হাতিয়ারের পরিবর্তে একটি কথোপকথন অংশীদার বা বন্ধু হিসাবে কাজ করে – শুধুমাত্র বাচ্চাদের জন্য ঝুঁকিপূর্ণ নয়, কিন্তু কোম্পানির দৃষ্টিভঙ্গির সাথে বিভ্রান্তিকর।

স্টার্টআপটি “এআই সহচর” থেকে “ভূমিকা-প্লেয়িং প্ল্যাটফর্ম”-এ পিভট করার চেষ্টা করছে। AI বন্ধুর সাথে চ্যাট করার পরিবর্তে, কিশোররা সহযোগিতামূলকভাবে গল্প তৈরি করতে বা ভিজ্যুয়াল তৈরি করতে প্রম্পট ব্যবহার করবে। অন্য কথায়, লক্ষ্য হল কথোপকথন থেকে সৃষ্টিতে ব্যস্ততা স্থানান্তর করা।

Character.AI 25 নভেম্বরের মধ্যে টিন চ্যাটবট অ্যাক্সেস বন্ধ করে দেবে, দৈনিক দুই ঘণ্টার সীমা দিয়ে শুরু করে যা শূন্যে না পৌঁছানো পর্যন্ত ক্রমান্বয়ে সঙ্কুচিত হয়। এই নিষেধাজ্ঞাটি 18 বছরের কম বয়সী ব্যবহারকারীদের সাথে বজায় থাকে তা নিশ্চিত করার জন্য, প্ল্যাটফর্মটি একটি ইন-হাউস বয়স যাচাইকরণ সরঞ্জাম স্থাপন করবে যা ব্যবহারকারীর আচরণ বিশ্লেষণ করে, সেইসাথে পারসোনার মতো তৃতীয় পক্ষের সরঞ্জামগুলিকে বিশ্লেষণ করে৷ যদি এই সরঞ্জামগুলি ব্যর্থ হয়, Character.AI বয়স যাচাই করতে মুখের স্বীকৃতি এবং আইডি চেক ব্যবহার করবে, আনন্দ বলেছেন।

পদক্ষেপ অন্যান্য অনুসরণ করে কিশোর সুরক্ষা যে Character.AI একটি পিতামাতার অন্তর্দৃষ্টি টুল, ফিল্টার করা অক্ষর, সীমিত রোমান্টিক কথোপকথন, এবং সময় কাটানো বিজ্ঞপ্তি সহ প্রবর্তন করেছে। আনন্দ টেকক্রাঞ্চকে বলেছেন যে এই পরিবর্তনগুলি কোম্পানিকে তাদের অনূর্ধ্ব-18 ব্যবহারকারীদের অনেকাংশ হারিয়েছে, এবং তিনি আশা করেন এই নতুন পরিবর্তনগুলি সমানভাবে অজনপ্রিয় হবে।

“এটা অনুমান করা নিরাপদ যে আমাদের অনেক কিশোর ব্যবহারকারী সম্ভবত হতাশ হবেন… তাই আমরা আশা করি আরও কিছু মন্থন হবে,” আনন্দ বলেছেন। “এটি অনুমান করা কঠিন – তাদের সবাই কি সম্পূর্ণভাবে মন্থন করবে বা তাদের মধ্যে কেউ কি এই নতুন অভিজ্ঞতাগুলিতে চলে যাবে যা আমরা গত প্রায় সাত মাস ধরে তৈরি করছি?”

একটি চ্যাট-কেন্দ্রিক অ্যাপ থেকে প্ল্যাটফর্মটিকে একটিতে রূপান্তরিত করার জন্য Character.AI-এর প্রচেষ্টার অংশ হিসেবে “সম্পূর্ণ বিষয়বস্তু-চালিত সামাজিক প্ল্যাটফর্ম,” স্টার্টআপ সম্প্রতি বেশ কিছু নতুন বিনোদন-কেন্দ্রিক বৈশিষ্ট্য চালু করেছে।

জুন মাসে, Character.AI AvatarFX চালু করেছে, একটি ভিডিও জেনারেশন মডেল যা ছবিকে অ্যানিমেটেড ভিডিওতে রূপান্তরিত করে; দৃশ্য, একটি ইন্টারেক্টিভ, প্রাক-জনসংখ্যার গল্প যেখানে ব্যবহারকারীরা তাদের প্রিয় চরিত্রগুলির সাথে বর্ণনায় পা রাখতে পারে; এবং স্ট্রিম, একটি বৈশিষ্ট্য যা যেকোনো দুটি অক্ষরের মধ্যে গতিশীল মিথস্ক্রিয়াকে অনুমতি দেয়। আগস্ট মাসে, Character.AI কমিউনিটি ফিড চালু করেছে, একটি সামাজিক ফিড যেখানে ব্যবহারকারীরা তাদের চরিত্র, দৃশ্য, ভিডিও এবং প্ল্যাটফর্মে তৈরি করা অন্যান্য সামগ্রী শেয়ার করতে পারে।

18 বছরের কম বয়সী ব্যবহারকারীদের উদ্দেশ্যে একটি বিবৃতিতে, Character.AI পরিবর্তনের জন্য ক্ষমা চেয়েছে।

“আমরা জানি যে আপনারা বেশিরভাগই ব্যবহার করেন চরিত্র.এআই আমাদের বিষয়বস্তু নিয়মের সীমার মধ্যে থাকা উপায়ে আপনার সৃজনশীলতাকে সুপারচার্জ করার জন্য,” বিবৃতিতে বলা হয়েছে। “আমরা ওপেন-এন্ডেড ক্যারেক্টার চ্যাট সরানোর এই পদক্ষেপটি হালকাভাবে নিই না — তবে আমরা মনে করি যে কিশোর-কিশোরীরা কীভাবে করে এবং এই নতুন প্রযুক্তির সাথে ইন্টারঅ্যাক্ট করা উচিত সে সম্পর্কে যে প্রশ্নগুলি উত্থাপিত হয়েছে তা বিবেচনা করে এটি করা সঠিক কাজ।”

“আমরা 18 বছরের কম বয়সীদের জন্য অ্যাপটি বন্ধ করছি না,” আনন্দ বলেছেন৷ “আমরা শুধুমাত্র 18 বছরের কম বয়সীদের জন্য ওপেন-এন্ডেড চ্যাটগুলি বন্ধ করে দিচ্ছি কারণ আমরা আশা করি যে 18 বছরের কম বয়সী ব্যবহারকারীরা এই অন্যান্য অভিজ্ঞতাগুলিতে স্থানান্তরিত হবে এবং সেই অভিজ্ঞতাগুলি সময়ের সাথে সাথে আরও ভাল হবে৷ তাই AI গেমিং, AI শর্ট ভিডিও, AI গল্প বলা সাধারণভাবে দ্বিগুণ হচ্ছে৷ যদি তারা 18 বছরের কম বয়সী তাদের ফিরিয়ে আনতে এটিই বড় বাজি।”

আনন্দ স্বীকার করেছেন যে কিছু কিশোর-কিশোরী ওপেনএআই-এর মতো অন্যান্য AI প্ল্যাটফর্মে ঝাঁপিয়ে পড়তে পারে, যা তাদের চ্যাটবটের সাথে খোলামেলা কথোপকথন করতে দেয়। ওপেনএআইও সম্প্রতি একটি ঘটনার পর সমালোচনার মুখে পড়েছে কিশোর নিজের জীবন কেড়ে নিয়েছে ChatGPT এর সাথে দীর্ঘ কথোপকথন অনুসরণ করে।

“আমি সত্যিই আশা করি যে আমাদের নেতৃত্ব দেওয়া এই শিল্পে একটি মান নির্ধারণ করবে যে 18 বছরের কম বয়সীদের জন্য, খোলামেলা চ্যাটগুলি সম্ভবত অফার করার পথ বা পণ্য নয়,” আনন্দ বলেছিলেন। “আমাদের জন্য, আমি মনে করি ট্রেডঅফগুলি করাই সঠিক। আমার একটি ছয় বছর বয়সী আছে এবং আমি নিশ্চিত করতে চাই যে সে একটি দায়িত্বশীল উপায়ে AI এর সাথে খুব নিরাপদ পরিবেশে বেড়ে উঠছে।”

Character.AI নিয়ন্ত্রকদের হাত জোর করার আগেই এই সিদ্ধান্তগুলি নিচ্ছে৷ মঙ্গলবার, সেন্স. জোশ হাওলি (আর-এমও) এবং রিচার্ড ব্লুমেনথাল (ডি-সিটি) বলেছেন তারা করবেন আইন প্রবর্তন এআই চ্যাটবট সঙ্গীদের অপ্রাপ্তবয়স্কদের জন্য উপলব্ধ থেকে নিষিদ্ধ করার জন্য, অভিভাবকদের অভিযোগের পর যারা বলেছিলেন যে পণ্যগুলি তাদের বাচ্চাদের যৌন কথোপকথন, আত্ম-ক্ষতি এবং আত্মহত্যার দিকে ঠেলে দেয়। এই মাসের শুরুতে, ক্যালিফোর্নিয়া প্রথম রাজ্য হয়ে ওঠে এআই সহচর চ্যাটবটগুলি নিয়ন্ত্রণ করুন তাদের চ্যাটবট আইনের নিরাপত্তার মান পূরণ করতে ব্যর্থ হলে কোম্পানিগুলোকে জবাবদিহির আওতায় এনে।

প্ল্যাটফর্মে এই পরিবর্তনগুলি ছাড়াও, Character.AI বলেছে যে এটি AI সেফটি ল্যাব প্রতিষ্ঠা করবে এবং অর্থায়ন করবে, একটি স্বাধীন অলাভজনক যা ভবিষ্যতের AI বিনোদন বৈশিষ্ট্যগুলির জন্য নিরাপত্তা বিন্যাস উদ্ভাবনের জন্য নিবেদিত।

“কোডিং এবং বিকাশ এবং অন্যান্য ব্যবহারের ক্ষেত্রে শিল্পে প্রচুর কাজ হচ্ছে,” আনন্দ বলেছিলেন। “আমরা মনে করি না যে এজেন্টিক এআই পাওয়ারিং এন্টারটেইনমেন্টে এখনও পর্যাপ্ত কাজ হচ্ছে, এবং নিরাপত্তা তার জন্য খুবই গুরুত্বপূর্ণ হবে।”