ارزیاب های خارجی در بررسی آزمایشی، نقص هایی را در سیستم نظارت بر هوش مصنوعی OpenAI پیدا می کنند

تمرینی که از 21 ژوئیه تا 11 اوت انجام شد، به محققان خارجی "سطح عمیقی از دسترسی" به زیرساخت داخلی OpenAI داد.

نیویورک - ارزیابی‌کنندگان ایمنی هوش مصنوعی، METR و Redwood Research، در یک بررسی آزمایشی در اوایل سال جاری، چندین آسیب‌پذیری جدید را در سیستم داخلی OpenAI یافتند، از جمله یک عامل سوء استفاده‌کننده که می‌توانست از آن برای جلوگیری از نظارت صدها عمل خود استفاده کند.

سازمان‌های غیرانتفاعی ایمنی در 22 اکتبر گفتند که این تمرین که از 21 جولای تا 11 اوت انجام شد، به محققان خارجی «سطح دسترسی عمیق» به زیرساخت‌های داخلی OpenAI برای به اصطلاح ارزیابی‌های تعبیه‌شده داد.

METR و Redwood گفتند که هر کدام یک محقق را فرستادند، ترتیبی را آزمایش کردند که به کد داخلی OpenAI، اسناد و برخی از کارکنان فنی دسترسی داشت. هر دو در محل همراه بودند و از دستگاه‌های صادرشده با OpenAI استفاده می‌کردند که «هرگز محل را ترک نکردند».

OpenAI به سازمان‌های ایمنی گفت که از آن زمان تمام آسیب‌پذیری‌هایی را که بر پادمان‌های تولید آن تأثیر می‌گذارند اصلاح کرده است، اگرچه METR و Redwood گفتند که اصلاحات را تأیید نکرده‌اند.

آزمایشگاه‌های هوش مصنوعی، کارشناسان و دولت ترامپ از ارزیابی مستقل توسط بازبینان خارجی به عنوان راهی برای پیشبرد ایمن فناوری بدون کاهش سرعت توسعه آن استفاده کرده‌اند.

رویترز در اوایل ماه جاری گزارش داد، با این حال، شرکت‌های هوش مصنوعی نگران هستند که کارکنان ارزیاب که در داخل دیوارهای شرکت‌ها کار می‌کنند، اطلاعات اختصاصی را به رقبا منتقل کنند.

در حالی که OpenAI یک گزارش داخلی 61 صفحه‌ای کامل دریافت کرد، METR و Redwood گفتند که موافقت کرده‌اند تنها یک خلاصه کلی را به صورت عمومی منتشر کنند و به OpenAI این حق را دادند که اطلاعات حساس را ویرایش کند.

برخلاف برخی ارزیابی‌های قبلی، آنها نمی‌توانستند به طور مستقل آن ویرایش‌ها را افشا کنند، اما گفتند که انتظار شفافیت بیشتری در ارزیابی‌های آینده دارند.

محققان همچنین راه بالقوه ای را برای عوامل Codex OpenAI شناسایی کردند تا محدودیت های امنیتی را دور بزنند و با مجوزهای کامل کاربران خود عمل کنند.

ارزیابان سیستم نظارتی را همانطور که در 21 ژوئیه و قبل از آن وجود داشت ارزیابی کردند و خاطرنشان کردند که OpenAI در حال گسترش سیستم در طول تمرین است.

OpenAI گفت: "یافته‌ها به تقویت پادمان‌ها در هنگام گسترش سیستم کمک کردند و به شکل‌دهی همکاری‌های تحقیقاتی آینده با METR و سایر ارزیاب‌های شخص ثالث کمک خواهند کرد." رویترز