آلبانیز فاش می کند که OpenAI مدیکر را نقض می کند

پس از اینکه یک عامل OpenAI داده های Medicare را در اولین مورد عمومی نفوذ یک ربات به یک وب سایت دولتی، هک کرد و برنامه های آنتونی آلبانیز، نخست وزیر آنتونی آلبانیز، نخست وزیر را برای تبدیل شدن به یک مرکز بزرگ برای آزمایشگاه های ایالات متحده، لرزاند، کارگر به دنبال قوانینی است تا شرکت های فناوری را مجبور به شفافیت در مورد هوش مصنوعی سرکش کند.

نخست وزیر توجه جهانی را به این حادثه در سازمان ملل در نیویورک درست بعد از ساعت 6 صبح به وقت شرقی جلب کرد و فاش کرد که پس از اینکه شرکت سام آلتمن هفته ها طول کشید تا آن را از طریق صندوق پستی عمومی دولتی گزارش کند، دولت می تواند این تخلف را به پلیس فدرال ارجاع دهد.

دولت اعتراف کرد که نفوذ ربات به یک پایگاه داده از بین رفته نرخ صورت‌حساب انبوه و استفاده از دارو «جزئی» بوده و اطلاعات شخصی را به خطر نمی‌اندازد. اما آلبانیز از این لحظه استفاده کرد تا از نگرانی فزاینده بین المللی در مورد تغییر سریع تکنولوژی که از کنترل انسان خارج می شود، استفاده کند.

آلبانیز گفت: «این وضعیت بدیهی است غیرقابل قبول است»، زیرا وزرا برای بسیاری از حوادث مشابه آماده می شوند و یک کارگروه برای ارزیابی دفاع سایبری استرالیا و بررسی مجازات ها راه اندازی می کنند.

آلبانیز گفت: «هیچ اطلاعات پزشکی افراد در اینجا قابل دسترسی نبود، اما «ما برای محافظت از شیوه زندگی خود به نرده‌های محافظ نیاز داریم».

این خبر در یک کنفرانس مطبوعاتی عجولانه در شامگاه چهارشنبه در نیویورک، تنها چند ساعت پس از ارائه رهبران هوش مصنوعی در شورای امنیت سازمان ملل منتشر شد تا از رهبران بخواهند اختلافات را کنار بگذارند و قوانین جهانی برای مقابله با سیستم‌هایی ایجاد کنند که به خود آموزش می‌دهند و کنترل خود را از دست می‌دهند.

این افشاگری پس از یک هفته انجام شد که در آن فشار استرالیا برای چارچوب ایمنی مورد حمایت سازمان ملل توسط دونالد ترامپ، رئیس جمهور ایالات متحده رد شد. ترامپ با نشان دادن محوریت هوش مصنوعی در امور جهانی، روز پنجشنبه با شی جین پینگ چینی ملاقات کرد تا به نگرانی‌ها درباره نبرد فناوری که سازمان ملل در مقایسه با مسابقه تسلیحات هسته‌ای دارد، رسیدگی کند.

نخست وزیر از عبارات شدیدی برای محکوم کردن OpenAI استفاده کرد و با سام آلتمن، مدیر اجرایی میلیاردر آن تماس گرفت تا نارضایتی خود را ابراز کند. ساعاتی پس از اینکه آلبانیز موضع قاطعانه ای اتخاذ کرد، معاون او ریچارد مارلز گفت که OpenAI تاکید کرده است که این شرکت با دولت همکاری می کند. ائتلاف به آلبانیز پیشنهاد کرد که این اعلامیه را به تعویق بیاندازد تا به فشارهای امنیتی دیجیتال خود در سازمان ملل اضافه کند.

آلستر مک گیبون، رئیس امنیت سایبری استرالیا تحت مدیریت مالکوم ترنبول، گفت این حادثه زنگ خطری بود که ثابت کرد دفاع سایبری استرالیا برای هدف مناسب نیست و نیاز به اصلاح دارد.

او با اشاره به اینکه موسسه ایمنی هوش مصنوعی استرالیا برای مقابله با چالشی که آلبانیز آن را بحرانی توصیف کرده بود، بودجه کافی برای مقابله با چالشی که آلبانیز توصیف کرده بود، گفت: "ما باید این را به عنوان یک زنگ بیدار کننده خوش شانس ببینیم. خوشبختانه هیچ سوء نیتی وجود نداشت و به سیستمی برخورد کرد که حیاتی نبود."

مک گیبون گفت OpenAI با چندین کشور غربی دیگر در مورد هک های مشابه تماس گرفته بود، اما تنها استرالیا تا کنون عمومی شده است.

او گفت: «من نمی گویم دولت استرالیا در افشای آن اشتباه کرده است، اما این یک رویکرد همکاری ایجاد نمی کند،» و افزود که بزرگترین خطر این است که یک گروه جنایتکار یا دولت متخاصم مانند چین از یک عامل برای ایجاد خسارت استفاده کند.

او گفت اگر کشورهای کوچکتری مانند استرالیا نتوانند آزمایشگاه‌های برتر را برای آموزش مدل‌های مرزی در استرالیا فریب دهند و به این کشور دسترسی به مهندسان شرکت و ایجاد قوانینی برای نحوه استفاده از مدل‌ها ایجاد کنند، «بر ابرها فریاد می‌زنند».

دولت اعلام کرد که پورتال را تعطیل کرده و اطلاعات بهداشتی را به وب سایت دیگری منتقل کرده است. اندرو چارلتون، وزیر اقتصاد دیجیتال اعتراف کرد که استرالیا باید از اطلاعات خود بهتر محافظت کند زیرا "به وضوح سیستم های ما قوی نبودند".

استرالیا در حال مذاکره با OpenAI و Anthropic است تا به تنها کشوری خارج از ایالات متحده تبدیل شود که به مدل ها آموزش می دهد. این هک ممکن است یک دست انداز در جاده باشد زیرا استرالیا تلاش می کند رای دهندگان را در مورد مزایای اقتصادی و امنیتی سرمایه گذاری هوش مصنوعی متقاعد کند و در عین حال هشدار ایمنی را به صدا درآورد و سرکوب الگوریتم ها و استفاده نوجوانان از رسانه های اجتماعی را پیشنهاد کرد.

کارگر در حال آماده سازی مجموعه ای از قوانین مربوط به مراکز داده و ایمنی هوش مصنوعی برای اوایل سال آینده بود. منابع دولتی گفتند که این هک وزیران را مجبور می کند که تاکید بیشتری بر ایمنی، شفافیت و گزارش دهی داشته باشند.

آلبانیز در توضیح جدول زمانی نقض سیستم مراقبت های بهداشتی عمومی استرالیا گفت: "عامل هوش مصنوعی راهی برای دور زدن آن بلوک ها پیدا کرد، پاسخ نه را قبول نکرد."

OpenAI گفت که این نقض در 18 ژوئن بود، زمانی که اطلاعات سلامتی را از سرویس گزارش آماری مدیکر، یک وب سایت قدیمی که عمدتا توسط دانشگاهیان استفاده می شد، به دست آورد. ربات OpenAI در حال انجام یک پروژه تحقیقاتی بود.

معاون نخست وزیر ریچارد مارلز امنیت پورتال را با حصار مقایسه کرد. او گفت که داده‌های شخصی استرالیایی‌ها که توسط دولت نگهداری می‌شود «داخل گاوصندوق» قرار دارد و حساس‌ترین اطلاعات امنیت ملی «پشت یک قلعه» قرار دارد.

حادثه ژوئن تنها مدتی در ماه آگوست توسط OpenAI کشف شد، پس از آن که سازنده ChatGPT بررسی اقدامات عوامل خود را پس از نقض در استارت آپ Hugging Face در اواخر جولای آغاز کرد.

این بررسی همچنین نشان داد که ماموران OpenAI یک کتابخانه دیجیتالی در دانشگاه نیومکزیکو را در 25 می هک کردند، Data USA را که میزبان اطلاعات استخدامی است، هدف قرار دادند و مؤسسه بهداشت و رفاه استرالیا، Vic Health و یک سایت داده‌های جرم و جنایت NSW را بررسی کردند، اما هک نکردند.

در 10 سپتامبر، OpenAI به جای تماس یا ایمیل با یک مقام ارشد، به پورتال ایمیل عمومی Services Australia ایمیل زد. سرویس استرالیا، یک آژانس دولتی، این ایمیل را در 11 سپتامبر دید و چهار روز طول کشید تا اداره سیگنال های استرالیا، یک سازمان اطلاعاتی را مطلع کند.

کیتی گالاگر، وزیر دارایی، که بر خدمات استرالیا نظارت دارد، دو روز بعد از این موضوع مطلع شد. او سپس در 19 و 20 سپتامبر قبل از صحبت با OpenAI در 22 سپتامبر با مارلز گفتگو کرد.

گالاگر گفت صندوق ورودی استفاده شده توسط OpenAI یک بار در روز بررسی می شود. او گفت: "گاهی اوقات بسیاری از آنها فریبکاری هستند."

OpenAI گفت که مدل‌های آن طی یک ارزیابی داخلی به «چند وب‌سایت و خدمات دولتی استرالیا» دسترسی پیدا کرده‌اند. مدل‌ها در تلاش بودند تا پاسخ‌ها و آمار سوالات مربوط به استرالیا را جستجو کنند.

یکی از سخنگویان OpenAI گفت: «در جریان آن، مدل‌های ما اقداماتی را انجام دادند که ما قصد نداشتیم.

آنگوس تیلور، رهبر اپوزیسیون گفت که حزب کارگر با کف پای صاف دستگیر شده است و باید با آزمایشگاه های مرزی در خاک استرالیا ارتباط برقرار کند.

او گفت: «آنها باید به بهترین مدل های ممکن برای تقویت دفاع سایبری ما دسترسی پیدا می کردند.

دیوید شوبریج، سناتور سبزها، گفت که ایالات متحده "به طور فزاینده ای یک کشور سرکش است که فکر می کند ارتش، صنعت هوش مصنوعی، تجارتش، می تواند علیه بقیه جهان مسلح شود."

شوبریج گفت: "به نظر می رسد که این دولت هنوز برای آوردن OpenAI به اینجا و سایر شرکت های آمریکایی در مقیاس مناسب به نظر می رسد. OpenAI بی احترامی عمیق به دولت استرالیا نشان داده است."

اولین کسی باشید که از زمان وقوع اخبار مهم مطلع می شوید. برای هشدارهای فوری در ایمیل ثبت نام کنید یا اعلان‌ها را در برنامه روشن کنید.

شما به حداکثر تعداد موارد ذخیره شده خود رسیده اید.

برای افزودن موارد بیشتر، موارد را از لیست ذخیره شده خود حذف کنید.