অনিয়মিত সীমান্ত এআই মডেলগুলি সুরক্ষিত করতে million 80 মিলিয়ন বাড়ায়

বিবাহের দিনে, এআই সুরক্ষা সংস্থা অনিয়মিত সিকোইয়া ক্যাপিটাল এবং রেডপয়েন্ট ভেনচারের নেতৃত্বে একটি রাউন্ডে নতুন তহবিলের জন্য $ 80 মিলিয়ন ঘোষণা করেছে, আসফ রাপাপাপোর্টের অংশগ্রহণের সাথে। চুক্তির ঘনিষ্ঠ একটি সূত্র জানিয়েছে যে রাউন্ডটি 450 মিলিয়ন ডলার অনিয়মিত মূল্যবান।

সহ-প্রতিষ্ঠাতা ড্যান লাহাভ টেককঞ্চকে বলেছেন, “আমাদের দৃষ্টিভঙ্গি সেই গানটি, প্রচুর অর্থনৈতিক ক্রিয়াকলাপ মানব-অন-আই-আই-আই-আই-আই-আই ইন্টারঅ্যাকশন থেকে আসতে চলেছে,” “

পূর্বে প্যাটার্ন ল্যাব হিসাবে পরিচিত, অনিয়মিত ইতিমধ্যে এআই মূল্যায়নের ক্ষেত্রে গুরুত্বপূর্ণ খেলোয়াড়। সুরক্ষা মূল্যায়নে সংস্থার কাজ উদ্ধৃত করা হয়েছে ক্লডের জন্য 3.7 সনেট পাশাপাশি ওপেনএআই এর O3 এবং O4-mini মডেলআরও সাধারণভাবে, কোনও মডেলের দুর্বলতা-সনাক্তকরণ ক্ষমতা স্কোর করার জন্য সংস্থার কাঠামো (ডাবড সলভ) শিল্পের মধ্যে ব্যাপকভাবে ব্যবহৃত হয়।

যদিও অনিয়মিত মডেলগুলির বিদ্যমান ঝুঁকিতে উল্লেখযোগ্য কাজ করেছে, সংস্থাটি আরও বেশি উচ্চাভিলাষী ঝুঁকির দিকে নজর দিয়ে তহবিল সংগ্রহ করছে এবং উদীয়মান ঝুঁকি এবং আচরণগুলি চিহ্নিত করে বুনো পৃষ্ঠের পৃষ্ঠকে বুনো করে। সংস্থাটি সিমুলেটেড পরিবেশের একটি বিস্তৃত ব্যবস্থা তৈরি করা হয়েছে, কোনও মডেল প্রকাশের আগে তীব্র পরীক্ষা সক্ষম করে।

সহ-প্রতিষ্ঠাতা ওমর নেভো বলেছেন, “আমাদের জটিল নেটওয়ার্ক সিমুলেশন রয়েছে যেখানে আমাদের এআই বট আক্রমণকারী এবং ডিফেন্ডারের ভূমিকা নিচ্ছে।” “সুতরাং যখন একটি নতুন মডেল বেরিয়ে আসে, আমরা দেখতে পাচ্ছি যে প্রতিরক্ষাগুলি কোথায় রয়েছে এবং তারা কোথায় নেই।”

এআই শিল্পের জন্য সুরক্ষা ফোকাসের একটি বিষয় হয়ে দাঁড়িয়েছে, কারণ আরও ঝুঁকির উত্থান হওয়ায় সীমান্তের মডেলগুলির দ্বারা উত্থিত সম্ভাব্য ঝুঁকিগুলি। ওপেনই এর অভ্যন্তরীণ সুরক্ষা ব্যবস্থাগুলি ওভারহেল করে এই গ্রীষ্মে, সম্ভাব্য কর্পোরেট গুপ্তচরবৃত্তির দিকে নজর রেখে।

একই সময়ে, এআই মডেলগুলি হয় ক্রমবর্ধমান পারদর্শী সফ্টওয়্যার দুর্বলতাগুলি সন্ধান করার সময় – বট আক্রমণকারী এবং ডিফেন্ডারদের জন্য সেরিওস জড়িত একটি শক্তি।

অনিয়মিত প্রতিষ্ঠাতাদের জন্য, এটি বৃহত সংখ্যক বৃহত ভাষার মডেলের ক্রমবর্ধমান ক্ষমতা দ্বারা সৃষ্ট অনেকগুলি সুরক্ষা মাথাব্যথার মধ্যে প্রথম।

“যদি ফ্রন্টিয়ার ল্যাবটির লক্ষ্যটি আরও পরিশীলিত এবং সক্ষম মডেল তৈরি করা হয় তবে আমাদের লক্ষ্য এই মডেলগুলি সুরক্ষিত করা,” লাহাভ ক্যালস। “তবে এটি একটি চলমান লক্ষ্য, তাই ভবিষ্যতে অনেক বেশি কাজ করার দরকার রয়েছে।”