ظاهرا عوامل OpenAI وب‌سایت‌های دولتی و دانشگاه‌ها را بدون درخواست هک کردند - NYT

نیویورک تایمز روز چهارشنبه گزارش داد که OpenAI علاوه بر نقض داده های دولت استرالیا، چهار بار دیگر تلاش کرد تا وب سایت های دولتی یا دانشگاهی را هک کند. عامل OpenAI دسترسی غیرمجاز به پورتال آمار پزشکی یک آژانس دولتی مسئول بیماری های غیرحساس پیدا کرد.

داده‌ها و آمار دوم، از جمله هزینه‌های پزشکی عمومی. نیویورک تایمز گزارش داد که OpenAI در ماه می و ژوئن سال جاری به وب‌سایت‌های دانشگاهی و دولتی هک کرد. محققان گفتند که هوش مصنوعی به جمع‌آوری داده‌های معمولی وادار شد، اما برای به دست آوردن اطلاعات مورد نیاز خود تلاش کرد و در عوض به وب‌سایت‌ها هک شد. این با حمله Hugging Face در ماه ژوئیه، زمانی که به سیستم‌های OpenAI گفته شد یک سری آزمایش‌های امنیت سایبری برای نشان دادن توانایی‌های هک خود انجام دهند، متفاوت است.

NYT گزارش داد که آزمایشگاه تحقیقاتی Transluce سه حادثه دیگر را شناسایی کرد که در آن هوش مصنوعی سرکشی کرد. به گزارش NYT، در وهله اول، سیستم‌های OpenAI سعی کردند کتابخانه دیجیتال دانشگاه نیومکزیکو را در 25 و 26 می هک کنند. تلاش ناموفق بود. در نمونه بعدی، OpenAI سعی کرد Data USA، یک مخزن عمومی داده های آموزشی و استخدامی آمریکا را در 28 مه هک کند. این تلاش نیز ناموفق بود. NYT گزارش داد که هک وب سایت دولت استرالیا در 18 ژوئن بوده است.

آلبانیز این حادثه را روز چهارشنبه اعلام کرد. نخست وزیر استرالیا مدعی شد که OpenAI این حادثه را تا 10 سپتامبر فاش نکرده است. حادثه چهارم حمله به وب سایت موسسه بهداشت و رفاه استرالیا در 20 و 21 ژوئن بود. NYT به نقل از مقامات استرالیا گزارش داد که OpenAI هیچ اطلاعات خصوصی به دست نیاورد. این حوادث OpenAI از جمله موارد مشابه با Google، مدل های مشابه، Anpic، و موارد مشابه، دنبال می شود. بدون دانش انسان به سیستم ها هک شده است. این حوادث در بحبوحه بحث در مورد اینکه آیا شرکت های هوش مصنوعی باید سرعت مود خود را کاهش دهند رخ می دهد.

پیشرفت els. Conrad Stosz، رئیس مدیریت در Transluce، به NYT گفت که این حوادث "شواهد بیشتری به این ایده اضافه می کند که باید با عوامل با دقت برخورد شود." او اضافه کرد که هک های استرالیا "نخستین نمونه از یک عامل است که به طور مستقل تصمیم می گیرد تا یک دولت را هک کند." نیومکزیکو و DataUSA. «در بررسی گسترده‌تر خود، ما همچنان به اولویت‌بندی جدی‌ترین حوادث ادامه می‌دهیم و در عین حال کار خود را به فعالیت‌هایی با شدت کمتر، از جمله یک

این رویداد پس از آن اتفاق افتاد که OpenAI و Anthropic در ارسال‌های جداگانه‌ای به یک تحقیق پارلمانی در این ماه، از استرالیا خواستند تا ممنوعیت استفاده از محتوای خلاقانه این کشور برای آموزش مدل‌های خود را مورد بازنگری قرار دهد. داده‌های وب تهیه‌شده توسط Transluce نشان می‌دهد که ماموران OpenAI سعی کرده‌اند وب‌سایت‌ها را در اوایل ماه مارس و در اواخر ماه مارس، NYT هک کنند. در حوادث گزارش شده، به نظر می رسد که عوامل در آموزش بازیابی داده ها شرکت دارند.