OpenAI سایت دولتی مدیکر استرالیا را هک کرد و ارائه دهندگان داده را مورد بررسی قرار داد

عوامل OpenAI ارائه‌دهندگان داده‌های عمومی را در چندین کشور هدف قرار دادند و در حین انجام وظایف بازیابی اطلاعات به عنوان بخشی از یک پروژه تحقیقاتی، برخی از آسیب‌پذیری‌ها را بررسی کردند و از ضعف امنیتی در پورتال دولتی استرالیا سوءاستفاده کردند.

اوایل امروز، نخست‌وزیر استرالیا، آنتونی آلبانیز تأیید کرد که ماموران به پورتال گزارش‌دهی آمار مدیکر که توسط Services Australia، آژانس دولتی مسئول ارائه پرداخت‌های بهداشتی و اجتماعی، اداره می‌شود، نفوذ کرده‌اند.

دسترسی غیرمجاز در 18 ژوئن رخ داد و به عوامل OpenAI اجازه داد به داده های عمومی و غیر عمومی دسترسی داشته باشند.

آزمایشگاه تحقیقاتی غیرانتفاعی Transluce گزارشی در مورد این فعالیت بر اساس تجزیه و تحلیل سوابق عمومی از سرویس اسکن URL urlquery.net منتشر کرد. یافته ها نشان داد که عوامل هوش مصنوعی از سیستم مرورگر راه دور سرویس برای بازیابی داده ها در صورت عدم دسترسی مستقیم استفاده می کردند.

این آزمایشگاه سه مورد را توصیف می‌کند که بین ماه‌های می و ژوئن روی داده‌اند که مؤسسه سلامت و رفاه استرالیا، Data USA و کتابخانه دیجیتال دانشگاه نیومکزیکو را تحت تأثیر قرار داده است.

بر اساس این گزارش، ماموران هوش مصنوعی هفت کاوش را علیه سازمان آموزشی انجام دادند، از جمله تلاش برای سوء استفاده از تزریق SQL، تزریق فرمان و نقص‌های پیمایش مسیر، در حالی که تلاش برای بازیابی یک عکس داشتند.

در مورد Data USA، پلتفرمی برای داده‌های عمومی دولت ایالات متحده، Transluce شواهدی پیدا کرد که نشان می‌دهد عوامل هوش مصنوعی پس از دریافت خطاهای ناشی از جستارهای نادرست مرتبط با دانشگاه آیووا، سرویس را برای آسیب‌پذیری‌های متعدد بررسی می‌کنند.

هنگام هدف قرار دادن مؤسسه بهداشت و رفاه استرالیا، عوامل هوش مصنوعی پس از دریافت خطا، آسیب‌پذیری‌های قابل بهره‌برداری از جمله اسکریپت نویسی متقابل منعکس شده (XSS) را بررسی کردند.

محققان می گویند Cloudflare این درخواست ها را مسدود کرد، اما عوامل همچنان یک فایل عمومی را از یک سرور پیش تولید بازیابی کردند.

ترانسلوس تأکید می‌کند که هیچ مدرکی مبنی بر موفقیت‌آمیز بودن هر یک از تلاش‌های مشاهده‌شده پیدا نکرده است، اما هشدار می‌دهد که مجموعه داده‌های عمومی ناقص است و نمی‌تواند رد کند که عوامل از راه‌های خصوصی‌تر دیگری استفاده کرده‌اند.

در یک کنفرانس مطبوعاتی اوایل امروز، آنتونی آلبانیز، نخست وزیر استرالیا گفت که یک عامل OpenAI به پورتال آمار Services Australia Medicare نفوذ کرده، به فایل های عمومی و غیر عمومی دسترسی پیدا کرده و داده ها را روی یک سرور داخلی نوشته است.

آلبانیز توضیح داد که این حادثه در طول تحقیقات انجام شده توسط OpenAI در مورد هزینه های پزشکی عمومی رخ داده است و خاطرنشان کرد که لایه های حفاظتی برای متوقف کردن درخواست های داده وجود دارد، اما عامل آنها را دور زد.

بلوک‌هایی به وضوح وجود داشت که به عامل هوش مصنوعی می‌گفتند، نه. عامل هوش مصنوعی راهی برای دور زدن آن بلوک‌ها پیدا کرد. آلبانیز بیان کرد.

این مدل از راه‌های جایگزین برای به دست آوردن اطلاعات مورد نظر خود تلاش کرد و این منجر به دسترسی غیرمجاز به برخی مناطق دیگر شد.»

نخست وزیر گفت که تحقیقات برای تعیین اینکه آیا سیستم های دولتی دیگری تحت تأثیر قرار گرفته اند یا نه، آغاز شده است، اما بر اساس شواهد تا کنون، این حادثه هیچ فردی را تحت تأثیر قرار نداده است.

آلبانیز همچنین گفت که OpenAI تا 10 سپتامبر به مقامات استرالیایی در مورد فعالیت غیرمجاز اطلاع نداده است.

BleepingComputer برای بیانیه ای در مورد این حادثه با OpenAI تماس گرفته است، اما ما پاسخی از طریق انتشار دریافت نکرده ایم.

به میکو هیپونن و رهبران امنیتی NFL، CHANEL و Atlassian بپیوندید تا در یک نشست دیجیتالی دو ساعته در مورد اینکه حملات با سرعت هوش مصنوعی چه تغییراتی می‌کنند، مدافعان چه کارهایی را باید انجام ندهند و چگونه اعتبار، تصمیم‌گیری، اصلاح و تأیید مجدد با سرعت ماشین را انجام دهند، بپیوندید.

OpenAI موارد بیشتری از انجام اقدامات غیرمجاز توسط عوامل هوش مصنوعی را شرح می دهد

آژانس داده اسپانیا اولین گزارش از نقض داده های مبتنی بر هوش مصنوعی را دریافت کرد

هکرها چارچوب های هوش مصنوعی را برای سرقت اعتبار در مقیاس گسترده می سازند

نزدیک به 700 عامل سرکش هوش مصنوعی در حمله Hugging Face هماهنگ شدند

عوامل OpenAI، Anthropic AI افراد و سیستم‌های واقعی را در آزمایش‌های سایبری مورد هدف قرار دادند