OpenAI یک سوئیچ kill برای مدل های تحقیقاتی خود می سازد

در سال 2019، OpenAI تصمیم گرفت مدل جدیدی را به صورت عمومی منتشر نکند، زیرا تحقیقات آن "نگرانی های مربوط به برنامه های مخرب این فناوری" را کشف کرد. و در روز سه‌شنبه، این شرکت اعلام کرد که یک سوئیچ کشتن برای مدل‌های مستقر در آزمایشگاه‌های تحقیقاتی خود، ماه‌ها پس از اینکه برخی از آنها رفتار آزاردهنده‌ای از خود نشان دادند، ساخته است.

OpenAI در پست سه‌شنبه‌ای توضیح می‌دهد: «با قدرتمندتر شدن مدل‌های ما و بزرگ‌تر شدن ریسک‌های ایمنی و امنیتی مرتبط، این مهم‌تر و مهم‌تر می‌شود که بتوانیم مشکلات بالقوه را شناسایی کنیم و در صورت نیاز به سرعت مدل‌ها را در مسیر خود متوقف کنیم.»

این شرکت سوئیچ kill را "Control Room" نامید و آن را به عنوان "سیستم مرکزی برای ردیابی حجم کار مدل در زیرساخت های تحقیقاتی ما و توقف سریع آنها در صورت بروز نگرانی های ایمنی یا امنیتی" توصیف کرد.

این تسهیلات ظاهرا می‌تواند مدل‌ها را از تولید هر خروجی 35 ثانیه پس از تصمیم برای کشیدن دوشاخه جلوگیری کند - و می‌تواند سریع‌تر پیش برود.

این شرکت قول می‌دهد: "تأخیر 35 ثانیه‌ای از یک لایه ذخیره‌سازی برای مجوز استنتاج، برای پشتیبانی از حجم مورد نیاز ترافیک ناشی می‌شود. ما در تلاش هستیم تا این عدد را به صفر برسانیم تا بتوانیم فورا به کار پایان دهیم."

یک اشتباه تازه کار در طراحی زیرساخت های حیاتی، ساخت ابزارهای تولید و انعطاف پذیری بر روی منابع مشترک است که می توانند با یک حادثه آفلاین شوند. به نظر می‌رسد OpenAI از این خطر آگاه است، زیرا می‌گوید این ابزار «برای ادامه کار حتی زمانی که سایر سیستم‌ها از کار می‌افتند، ساخته شده است و در صورت از کار افتادن اتاق کنترل، خروجی مدل را متوقف می‌کند».

OpenAI توضیح نداده است که چرا ساخت سوئیچ kill اینقدر طول کشیده است یا چرا تصمیم گرفته است که اکنون زمانی است که به آن نیاز دارد.

ثبت نمونه‌های اخیر از عواملی را تصور می‌کند که به روش‌های نگران‌کننده بیش از حد کوتاه‌شان - مانند حمله به Hugging Face، ایجاد مشکل در بنیاد ویکی‌مدیا، یا کمی عمیق‌تر شدن در هنگام تحقیق در مورد داده‌های مراقبت‌های بهداشتی استرالیا - ممکن است بر زمان‌بندی این پیشرفت تأثیر داشته باشد.

در اطلاعیه شرکت آمده است: «اتاق کنترل در حال حاضر در زیرساخت‌های تحقیقاتی ما مستقر شده است، جایی که نیاز بیشتر است. "پشته سرویس دهی مدل خارجی ما در حال حاضر به دلیل ماهیت بسیار متمرکزتر است، با یک قابلیت عملیاتی توسعه یافته برای از بین بردن سریع استقرار مدل در صورت نیاز."

OpenAI می‌گوید که قصد دارد در ماه‌های آینده، در کنار سرمایه‌گذاری‌های ما در نظارت بر رفتار ناهماهنگ و نقض‌های امنیتی، سیستم را تقویت و گسترش دهد.

این یک نوع بیانیه معمول Big Tech است که "متأسفیم و قول می دهیم در آینده بهتر عمل کنیم" که به دنبال آخرین SNAFU است. با این حال، در سال 2019، OpenAI قبل از اینکه همه چیز به آن وضعیت برسد، پین را کشید. ®