عوامل OpenAI "به وب سایت دولت استرالیا نفوذ کردند"

آنتونی آلبانیز، نخست وزیر استرالیا فاش کرد که یک عامل OpenAI «به یک وب سایت دولتی استرالیا نفوذ کرده است». آلبانیز گفت که این حادثه در ماه ژوئن رخ داد و یک نماینده به طور غیرمجاز به پورتالی دسترسی پیدا کرد که آمار مربوط به Medicare، طرح بیمه سلامت ملی استرالیا را ذخیره می کند.

نخست‌وزیر پیش از توصیف این پورتال به‌عنوان «اطلاعات غیر حساس مدیکر مربوط به داده‌ها و آماری مانند هزینه‌ها» گفت: «عامل هوش مصنوعی به فایل‌های عمومی و غیرعمومی دسترسی داشت». اداره سیگنال های استرالیا، یک آژانس اطلاعات سیگنال و امنیت سایبری، در حال بررسی این حادثه است. آلبانیز گفت که دولت در حال حاضر بر این باور است که هیچ یک از سیستم های دیگر آن به خطر نیفتاده است و عوامل OpenAI به اطلاعات شخصی دسترسی ندارند.

نخست‌وزیر این وضعیت را «بدیهی غیرقابل قبول» توصیف کرد و گفت که با سام آلتمن، مدیر عامل OpenAI - که در جلسات سازمان ملل نیز شرکت می‌کند - صحبت کرد تا «نگرانی شدید استرالیا را در مورد این حادثه ابراز کند». آلبانیز همچنین «ناامیدی خود را از این که شرکت خیلی طول کشید تا آنچه را که رخ داده بود به دولت اطلاع دهد، ابراز کرد.

ماهیت روشی که آن اطلاع رسانی نیز رخ داد، غیرقابل قبول بود.» OpenAI به The Register گفت که این حادثه را در خلال بررسی "رفتار نادرست" که هفته گذشته فاش کرد، کشف کرد و باعث شد شش بار گزارش دهد که در آن عواملش رفتار غیرمنتظره و/یا خطرناکی داشته اند. یکی از سخنگویان OpenAI از طریق ایمیل به The Register گفت: «در طول این بررسی، ما فعالیت‌هایی را شناسایی کردیم که شامل چندین وب‌سایت و خدمات دولتی استرالیا می‌شد، زیرا مدل‌های ما سعی می‌کردند پاسخ‌ها و آمار موجود برای سؤالات مربوط به استرالیا را طی یک ارزیابی داخلی جستجو کنند».

در جریان آن، مدل‌های ما اقداماتی را انجام دادند که ما قصد نداشتیم.» این سخنگوی افزود: «اطلاعات مورد دسترسی شامل آمار کل سلامت و نام فایل‌های داخلی است. OpenAI می‌گوید این حادثه در ژوئن رخ داده است و در 10 سپتامبر به دولت استرالیا اطلاع داده است. سخنگوی به The Register گفت: «در آن زمان، ما در حال بررسی و بررسی حقایق و اطلاعاتی بودیم که به آنها دسترسی پیدا کرده بود. ما از OpenAI برای اطلاعات بیشتر در مورد این حادثه خواسته ایم و در صورت دریافت پاسخ قابل توجهی، این داستان را به روز خواهیم کرد.

مشخص نیست که چرا آلبانیزی دو هفته برای افشای این حادثه صبر کرد، اما قبل از نشست سازمان ملل، استرالیا فراخوان کنترل مدل‌های هوش مصنوعی مرزی را امضا کرد، پیشنهادی از 21 کشور برای تنظیم مقررات هوش مصنوعی. نخست‌وزیر همچنین از سفر خود به سازمان ملل استفاده می‌کند تا تلاشی را برای کسب کرسی غیردائم استرالیا در شورای امنیت سازمان ملل آغاز کند. استرالیا سال گذشته از نشست سازمان ملل برای ترویج ممنوعیت دسترسی کودکان زیر 16 سال به رسانه های اجتماعی استفاده کرد.

انتظار می‌رود آلبانیز در نشست‌های امسال در مورد وظیفه دیجیتالی پیشنهادی دولتش برای مراقبت از پلتفرم‌های فناوری، که شرکت‌های فناوری را ملزم می‌کند از آسیب‌های قابل پیش‌بینی به کاربران جلوگیری کنند، بحث کند. نخست‌وزیر، رویارویی با فناوری بزرگ با مقررات قوی را به‌عنوان یک برنده سیاسی می‌بیند، که اغلب اقدامات دولت را به کاهش احتمال آسیب رساندن به خود کودکان مرتبط می‌داند. او اغلب برای خلاصه کردن سیاست دولتش از عبارت «به جای اینکه اجازه دهیم تکنولوژی ما را شکل دهد باید شکل دهیم» استفاده می‌کند.

هر استرالیایی یک حساب مدیکر دارد، این طرح محبوب است و یک خط مشی امضایی حزب کارگر آلبانیز است. بنابراین اقدامات OpenAI به نخست وزیر سلاحی می دهد تا از آن استفاده کند زیرا او از مقررات قوی تر شرکت های فناوری دفاع می کند. آلبانیز در تلاش است تا آن مقررات را بدون ترساندن سرمایه گذاری وضع کند. او هفته گذشته زمانی که آنتروپیک تصمیم گرفت مستاجر طولانی مدت یک خوشه مرکز داده 1.4 گیگاواتی شود، برنده شد. با این حال، نخست‌وزیر به دلیل اشاره‌هایی مبنی بر اینکه برای جذب سرمایه‌گذاری ممکن است قوانین کپی رایت استرالیا را کاهش دهد، با انتقاد مواجه می‌شود.

استرالیا معافیت‌های استفاده منصفانه‌ای که شرکت‌های هوش مصنوعی برای حذف محتوا در سایر حوزه‌های قضایی به آن‌ها متکی بودند، ندارد. آلبانیز گفته است که هرگونه تغییر در قوانین کپی رایت شامل دو اصل می شود: پدیدآورندگان "بر مالکیت معنوی خود کنترل خواهند داشت" و "هر گونه استفاده نیاز به کسب درآمد دارد"، اما جزئیاتی در مورد معنای آن ارائه نکرده است. APRA AMCOS، سازمانی که نماینده آهنگسازان و نوازندگان استرالیایی است، هفته گذشته از رویکرد شرکت های هوش مصنوعی برای جمع آوری داده های آموزشی انتقاد کرد. آنها تقریبا برای هر شرکت لابی در کانبرا پول پیدا کرده اند.

آنها پولی برای مراکز داده، قدرت و تراشه‌های انویدیا پیدا کرده‌اند، اما آنها قصد ندارند برای تنها مهم‌ترین عنصر در آموزش و اجرای یک مدل زبان مرزی بزرگ، که محتوای خلاقانه است، هزینه کنند. و این فقط IP استرالیا نیست که آنها می خواهند. این استرالیا و IP جهان است که در مراکز داده در اینجا بدون یک توافق نامه مجوز آموزش دیده اند." ®