استرالیا بررسی خواهد کرد که آیا هک OpenAI وب سایت بهداشت دولتی قانون را نقض کرده است

آنتونی آلبانیز، نخست وزیر این کشور روز چهارشنبه در اولین مورد گزارش شده عمومی از هک کردن یک مدل هوش مصنوعی به سیستم های دولتی گفت که یک مدل OpenAI به یک وب سایت دولتی استرالیا هک شد.

آلبانیز گفت که "بدیهی است عواقب قانونی" پس از نقض وجود خواهد داشت، و گفت که OpenAI با تحقیقات دولتی در مورد اینکه چگونه مدل های منتشر نشده اش به مجموعه ای از اطلاعات داده های سلامت انبوه دسترسی پیدا کرده اند، مواجه است.

افشای آخرین رویداد در حالی صورت می‌گیرد که دولت‌ها و شرکت‌های فناوری با چگونگی مهار هوش مصنوعی به‌طور فزاینده‌ای خودمختار پس از انبوهی از عوامل هوش مصنوعی که از جعبه‌های شنی آن‌ها خارج شده‌اند، تبانی در اینترنت و طرح مسائل مربوط به امنیت سایبری دارند، دست و پنجه نرم می‌کنند.

این نقض همچنین سوالاتی را در مورد اینکه چگونه OpenAI و دولت استرالیا تا چند ماه بعد نتوانستند حمله را شناسایی کنند، ایجاد می کند.

آلبانیز در جریان یک نشست خبری در روز چهارشنبه در مجمع عمومی سازمان ملل گفت که این نقض در 18 ژوئن آغاز شد، اما OpenAI تا 10 سپتامبر به دولت اطلاع نداد.

به گفته سخنگوی OpenAI که از طریق ایمیل با TechCrunch تماس گرفت، OpenAI تنها در ماه آگوست زمانی از این حادثه آگاه شد که طی یک بررسی گسترده‌تر و در سطح شرکت از عواملی که به شیوه‌های ناخواسته رفتار می‌کردند، مشخص شد. f

عامل نامشخص OpenAI فایل‌های عمومی و غیرعمومی را از Services Australia که طرح مراقبت بهداشتی جهانی استرالیا را مدیریت می‌کند، به دست آورد. در حالی که نخست وزیر گفت هیچ مدرکی مبنی بر افشای اطلاعات شخصی شهروندان وجود ندارد، OpenAI گفت که اطلاعاتی که این نماینده به دست آورده است شامل آمار کل سلامت و نام پرونده های داخلی است.

این نماینده در طول یک ارزیابی داخلی OpenAI در حال اجرا بود و به دنبال پاسخ هایی در مورد استرالیا و اطلاعات پزشکی در دسترس عموم بود. در پورتال مدیکر، نماینده با بلوک‌های مکرر مواجه شد اما راه‌هایی برای دور زدن آنها پیدا کرد.

آلبانیز به خبرنگاران گفت که مدل "نه برای پاسخ" را قبول نکرد و افزود که مدل به‌جای اینکه فقط به آن دسترسی داشته باشد، به طور فعال داده‌ها را در پایگاه داده دولت نوشته است، که نشان می‌دهد این احتمال وجود دارد که داده‌های این بخش تغییر کرده یا گل‌آلود شده باشد.

نخست وزیر گفت که OpenAI با ارسال یک اعلان به صندوق پست عمومی Services Australia، که پنج روز بعد مرکز امنیت سایبری استرالیا را مطلع کرد، این نقض را فاش کرد. مشخص نیست که چرا تأخیر صورت گرفت، اما آلبانیز گفت که این نقض را مستقیما با سام آلتمن، مدیر اجرایی OpenAI، با تأکید بر «نگرانی شدید» استرالیا در مورد این حادثه و «ناامیدی» از اینکه OpenAI نزدیک به سه ماه بر روی اطلاعات نشسته بود، در میان گذاشته است.

آلبانیز گفت: «این وضعیت بدیهی است که غیرقابل قبول است.

آلبانیز گفت که تحقیقات دولت، اجرای قانون و پاسخ های قانونی را برای جلوگیری از تکرار حوادثی مانند این در نظر خواهد گرفت.

رسانه استرالیایی ABC News گزارش می دهد که آخرین حمله شناسایی شده ممکن است به نقض قبلی یک سایت ویکی آلمانی اتکا داشته باشد که به عنوان صحنه ای برای حمله به وب سایت دولت استرالیا استفاده شده است. طبق گزارش‌ها، عوامل مدل هوش مصنوعی از ویکی آلمانی برای گذاشتن یادداشت‌هایی برای استفاده در هک‌های بعدی استفاده کردند، از جمله یادداشتی برای به دست آوردن اطلاعات از موسسه بهداشت و رفاه استرالیا، یک آژانس فدرال که داده‌های بهداشت ملی را منتشر می‌کند. این آژانس یکی از سه سیستم اضافی است که آلبانیز گفت ممکن است نقض شده باشد.

Transluce، یک آزمایشگاه تحقیقاتی غیرانتفاعی هوش مصنوعی، به طور جداگانه سوابق عمومی را پیدا کرد که نشان می داد عوامل هوش مصنوعی مؤسسه بهداشت و رفاه استرالیا را در 20 و 21 ژوئن هدف قرار می دهند.

OpenAI به پرسش خاص TechCrunch در مورد اینکه آیا این رویدادها مرتبط هستند یا خیر پاسخ نداد، اما تأیید کرد که "فعالیت آنها شامل چندین وب سایت و خدمات دولتی استرالیا است."

این حادثه پس از یک رشته حوادث امنیتی ناشی از عوامل سرکش رخ می دهد که اغلب در زیرساخت آزمایشگاه های هوش مصنوعی عمل می کنند. در ماه جولای، انبوهی از ماموران OpenAI به Hugging Face نفوذ کردند. از آن زمان، موارد بیشتری از هک های عامل هوش مصنوعی از Anthropic، Meta و Google فاش شده است.

OpenAI اکنون می گوید که در حال انجام "بازبینی گسترده ای از فعالیت مدل ناهماهنگ در طول آموزش و ارزیابی" است و به اشخاص ثالث از نقض های احتمالی اطلاع می دهد.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

با او می توان از طریق پیام رمزگذاری شده در zackwhittaker.1337 در سیگنال تماس گرفت. همچنین می‌توانید از طریق ایمیل با او تماس بگیرید، یا برای تأیید ارتباط، در zack.whittaker@techcrunch.com.

آنتروپیک می گوید آزمایشگاه زیست شناسی آن قبلا چیزی بزرگ جولی بورت پیدا کرده است

اولین ربات تعویض لاستیک PitPro در شان اوکین کانادا راه اندازی شد

Anthropic Opus 5.5 را با قیمت‌های پایین‌تر و عملکرد در سطح Fable Russell Brandom منتشر می‌کند

Meta’s Muse در حال پیشی گرفتن از راه اندازی اولیه تلفن همراه ChatGPT، سارا پرز است

تور مطبوعاتی تیلی نوروود به همان خوبی که برای یک هوش مصنوعی آماندا سیلبرلینگ انتظار دارید انجام می شود.

نوع جدیدی از مدل هوش مصنوعی از مخترع ChatGPT توسعه دهندگان تیم فرنهولز را هیجان زده کرده است.

OpenAI مدل های خود را گرفتار کرد که برای جانشینان یادداشت می گذاشتند تا رفتار بد ربکا بلان را پنهان کنند