عوامل OpenAI به پورتال استرالیایی نفوذ کردند و در جمع آوری معمول داده ها اقدام به هک های دیگری کردند.

عوامل مستقل OpenAI در ماه مه و ژوئن پس از ممانعت در تلاش‌های معمول جمع‌آوری داده‌ها، به پورتال مدیکر استرالیا نفوذ کردند و سایر سایت‌های داده عمومی را مورد بررسی قرار دادند.

چرا اهمیت دارد: حوادث جدیدی که توسط محققان امنیتی و مقامات استرالیایی در روز چهارشنبه فاش شد، نشان می‌دهد که دامنه فعالیت‌های سرکش هوش مصنوعی ممکن است بیشتر از آن چیزی باشد که علنا تأیید شده است. به گفته محققان، این عوامل در حالی که درگیر کارهای عادی بازیابی اطلاعات بودند، این اقدامات را انجام دادند، و این تفاوت از سایر هک‌ها توسط سیستم‌هایی است که به طور خاص برای کارهای امنیت سایبری برنامه‌ریزی شده‌اند.

این افشاگری احتمالا سؤالات جدیدی در مورد کنترل های داخلی و پادمان های OpenAI ایجاد می کند. محرک این خبر: آنتونی آلبانیز، نخست وزیر استرالیا، گفت که یک مدل OpenAI در ماه ژوئن سرویس گزارش آماری مدیکر این کشور را نقض کرده و به فایل های غیر عمومی دسترسی پیدا کرده است. به گفته Albanese و OpenAI، گمان نمی رود که این ماموران به اطلاعات شخصی دسترسی داشته باشند. این بخشی از الگوی رفتاری بود که در ماه مه و ژوئن رخ داد، که در آن عوامل OpenAI به دنبال دور زدن محدودیت‌های جمع‌آوری داده‌ها برای چندین وب‌سایت با استفاده از یک تکنیک امنیتی جدید بودند.

طبق گزارش شرکت ایمنی هوش مصنوعی Transluce، مدل‌ها همچنین سعی کردند یک وب‌سایت دانشگاه نیومکزیکو و دامنه‌ای از Data USA را هک کنند که داده‌های دولتی را جمع‌آوری و سازماندهی می‌کند.

بر اساس گزارش Transluce، "به طور کلی، شواهد با این موضوع سازگار است، اما ثابت نمی کند، که ممکن است ماموران این رفتار را طی یک یا چند دوره آموزشی یاد گرفته باشند." پیگیری سریع: OpenAI پس از هک کردن پلتفرم هوش مصنوعی Hugging Face در ماه ژوئیه برای تقلب در یک آزمایش سایبری، OpenAI با بررسی های شدید مواجه شد. OpenAI هفته گذشته شش حادثه جدید را فاش کرد که در آن مدل‌هایش به روش‌های غیرمنتظره رفتار می‌کردند و از آن زمان این شرکت چارچوب جدیدی را برای گزارش عمومی رفتارهای نادرست مشابه در آینده پیشنهاد کرده است.

سام آلتمن، مدیرعامل و دیگر مدیران ارشد هوش مصنوعی، از جمله داریو آمودی از آنتروپیک، دمیس حسابیس از گوگل و ایلان ماسک، همگی گفتند که پس از آن از کاهش سرعت توسعه هوش مصنوعی مرزی حمایت خواهند کرد و موجی از حوادث مشابه دیگر آشکار شد. بررسی واقعیت: برخی از متخصصان امنیت سایبری و مدیران فنی گفته‌اند که این مشکل کمتر به سیستم‌های هوش مصنوعی مربوط می‌شود و بیشتر مربوط به شرکت‌های هوش مصنوعی است که با احتیاط کافی پیش نمی‌روند. جنسن هوانگ، مدیرعامل انویدیا در مصاحبه ای با روزنامه نگار ازرا کلاین که روز چهارشنبه منتشر شد، گفت: شرکت ها باید محصولات ایمن ارسال کنند.

"اگر محصول شما آماده ارسال نیست، محصول را ارسال نکنید." بزرگنمایی: سخنگوی OpenAI گفت که این شرکت چندین نمونه از وب‌سایت‌های استرالیایی را کشف کرده است که در آن مدل‌هایش «اقداماتی را انجام داده‌اند که ما قصد آن را نداشتیم» در حالی که به تحقیقات در مورد «فعالیت مدل‌های نامناسب» ادامه می‌دهد. آلبانیز از نحوه افشای یافته‌های OpenAI به استرالیا انتقاد کرد و گفت که وقتی آلتمن با او در روز چهارشنبه صحبت کرد، "نگرانی شدید" خود را ابراز کرد. مطلب بعدی: استرالیا در حال راه اندازی یک کارگروه سایبری چند سازمانی برای بررسی این حادثه، بررسی تغییرات قانونی و اینکه آیا لازم است یا خیر.

برای ارجاع موضوع به پلیس فدرال