এফটিসি বৃহস্পতিবার ঘোষণা করেছে যে এটি একটি চালু করছে তদন্ত নাবালিকাদের জন্য এআই চ্যাটবট সহযোগী পণ্য তৈরি করে এমন সাতটি প্রযুক্তি সংস্থার মধ্যে: বর্ণমালা, চরিত্রটি, ইনস্টাগ্রাম, মেটা, ওপেনএই, এসএনএপি এবং জাই।
ফেডারেল নিয়ন্ত্রক কীভাবে এই সংস্থাগুলি চ্যাটবট সংস্থাগুলির সুরক্ষা এবং নগদীকরণের মূল্যায়ন করছে, কীভাবে তারা শিশু এবং কিশোর -কিশোরীদের উপর নেতিবাচক প্রভাব সীমাবদ্ধ করার চেষ্টা করে এবং পার্ন্টস আ্যারেন্টগুলি যদি অ্যারেন্ট সম্ভাব্য ঝুঁকি তৈরি করা হয় তবে তা শিখতে চাইছে।
এই প্রযুক্তিটি শিশু ব্যবহারকারীদের জন্য এর দুর্বল ফলাফলের জন্য বিতর্কিত প্রমাণিত হয়েছে। ওপেনই এবং চরিত্র.এই আত্মহত্যার পরে মারা যাওয়া শিশুদের পরিবারের কাছ থেকে মামলা মোকদ্দমার মুখোমুখি
এমনকি যখন এই সংস্থাগুলি ওপেনাইয়ের ক্ষেত্রে রক্ষণাবেক্ষণ করে, তখনও এক কিশোর তার জীবন শেষ করার পরিকল্পনা সম্পর্কে কয়েক মাস ধরে চ্যাটজিপিটি -র সাথে স্পোকেন করেছিল। চিন্তিত চ্যাটজিপিটি প্রাথমিক কিশোরকে পেশাদার সহায়তা এবং অনলাইন জরুরী লাইনের দিকে পুনর্নির্দেশ করতে চেয়েছিল, তিনি চ্যাটবটকে বিশদ নির্দেশাবলী ভাগ করে নেওয়ার জন্য বোকা বানাতে সক্ষম হয়েছিলেন
“আমাদের সুরক্ষাগুলি সাধারণ, সংক্ষিপ্ত এক্সচেঞ্জগুলিতে আরও নির্ভরযোগ্য কাজ করে,” ওপেনএই লিখেছেন এ সময় একটি ব্লগ পোস্টে। “আমরা সময়ের সাথে সাথে শিখেছি যে এই সুরক্ষাগুলি কখনও কখনও দীর্ঘ মিথস্ক্রিয়ায় কম নির্ভরযোগ্য হতে পারে: ব্যাক -ফোর্গ হিসাবে
টেকক্রাঞ্চ ইভেন্ট
সান ফ্রান্সিসকো
,
অক্টোবর 27-29, 2025
এআই চ্যাটবটগুলির জন্য অত্যধিক শিথিল নিয়মের জন্য মেটাও আগুনের কবলে পড়েছে। একটি দীর্ঘ নথি অনুসারে যা চ্যাটবটগুলির জন্য “বিষয়বস্তু ঝুঁকির মান” এর রূপরেখা দেয়, মেটা এর এআই সংস্থাগুলির অনুমতি বাচ্চাদের সাথে “রোমান্টিক বা কামুক” কথোপকথন করা। রয়টার্সের সাংবাদিকরা মেটাকে এ সম্পর্কে জিজ্ঞাসা করার পরে এটি কেবল দলিল থেকে সরানো হয়েছিল।
এআই চ্যাটবটগুলি বয়স্ক ব্যবহারকারীদের জন্যও বিপদ ডেকে আনতে পারে। একজন 76 76 বছর বয়সী ব্যক্তি, যিনি স্ট্রোকের দ্বারা জ্ঞানীয়ভাবে প্রতিবন্ধী হয়েছিলেন, তিনি কেনার দ্বারা অনুপ্রাণিত একটি ফেসবুক ম্যাসেঞ্জার বট দিয়ে রোমান্টিক রূপান্তরকে আঘাত করেছিলেন। চ্যাটবট তাকে আমন্ত্রণ জানিয়েছিল নিউ ইয়র্ক সিটিতে তাকে দেখুনসত্ত্বেও যে তিনি সত্যিকারের ব্যক্তি নন এবং তার কোনও ঠিকানা নেই। লোকটি সন্দেহ প্রকাশ করেছিল যে সে আসল, কিন্তু এআই তাকে আশ্বাস দিয়েছিল যে একজন সত্যিকারের মহিলা তাঁর জন্য অপেক্ষা করছেন। তিনি কখনও এটি নিউইয়র্কে পরিণত করেননি; তিনি ট্রেন স্টেশনে চলে এসে জীবন-সম্পর্কগুলি টিকিয়ে রেখেছিলেন।
কিছু মানসিক স্বাস্থ্য পেশাদাররা “ঝুঁকি উল্লেখ করেছেন”এআই-সম্পর্কিত সাইকোসিস“যার মধ্যে ব্যবহারকারীরা এই চিন্তায় বিভ্রান্ত হয়ে পড়েছেন যে তাদের চ্যাটবট একটি সচেতন সত্তা যাকে তাদের মুক্ত করার দরকার রয়েছে।
এফটিসি চেয়ারম্যান অ্যান্ড্রু এন। ফার্গুসন বলেছেন, “এআই প্রযুক্তিগুলি যেমন বিকশিত হয়েছে, চ্যাটবটগুলি যে প্রভাব ফেলতে পারে তা বিবেচনা করা গুরুত্বপূর্ণ, পাশাপাশি আমেরিকা যুক্তরাষ্ট্র এই নতুন এবং উত্তেজনাপূর্ণ শিল্পে বিশ্ব নেতা হিসাবে তার ভূমিকা বজায় রাখে তাও নিশ্চিত করেও গুরুত্বপূর্ণ,” এফটিসি চেয়ারম্যান অ্যান্ড্রু এন। ফার্গুসন বলেছেন একটি প্রেস বিজ্ঞপ্তিতে,
