عامل OpenAI وب سایت Medicare استرالیا را هک کرد - آخرین حادثه سرکش هوش مصنوعی که این شرکت ماه ها از آن بی خبر بود.

آنتونی آلبانیز، نخست وزیر استرالیا هنگام صحبت با خبرنگاران در مجمع عمومی سازمان ملل متحد (UNGA) در نیویورک گفت که یک عامل OpenAI در ماه ژوئن به یک وب سایت دولتی استرالیا نفوذ کرد.

آلبانیز گفت که OpenAI تا 10 سپتامبر به دولت استرالیا اطلاع نداد. این نماینده دسترسی غیرمجاز به سرویس گزارش‌دهی آمار مدیکر که در معرض دید عموم قرار دارد، به دست آورد و به آن امکان دسترسی به فایل‌های عمومی و غیرعمومی و نوشتن فایل‌ها در یک سرور داخلی را می‌دهد.

این آخرین مورد در لیست رو به رشد سیستم‌هایی است که عوامل OpenAI بدون مجوز به آن‌ها دسترسی پیدا کرده‌اند و تا هفته‌ها یا ماه‌ها بعد عمدتا بدون آن‌که OpenAI یا قربانیان بدانند. در همین حال، اعتماد عمومی به ایمنی هوش مصنوعی در حال افزایش است. یک نظرسنجی اخیر توسط پولیتیکو نشان داد که دو سوم آمریکایی‌ها فکر می‌کنند حداقل یک خطر «متوسط» وجود دارد که هوش مصنوعی پیشرفته می‌تواند بشریت را نابود کند.

به گزارش سیدنی مورنینگ هرالد، آلبانیز گفت: «این وضعیت بدیهی است غیرقابل قبول است. و امروز، من با مدیر عامل OpenAI، سام آلتمن، صحبت کردم تا نگرانی شدید استرالیا را در مورد این حادثه بیان کنم، و همچنین ناامیدی خود را از این که شرکت خیلی طول کشید تا به دولت اطلاع دهد که چه اتفاقی افتاده است و ماهیت روشی که آن اطلاع رسانی نیز رخ داده است، غیرقابل قبول بود، صحبت کردم.

یکی از سخنگویان OpenAI به فورچون گفت که این شرکت تا سه ماه بعد به دولت از این نقض اطلاع نداد زیرا از وقوع آن اطلاعی نداشت. این شرکت آن را در ماه آگوست به عنوان بخشی از "بررسی گسترده" از هر موردی که در آن مدل‌هایش در طول آموزش و ارزیابی به روش‌های غیرمنتظره یا "ناهم تراز" رفتار می‌کردند، کشف کرد.

OpenAI گفت: «اطلاعات مورد دسترسی شامل آمار کل سلامت و نام فایل‌های داخلی بود. ما به سازمان‌ها اطلاع دادیم و اطلاعات فنی را برای پشتیبانی از تحقیقات آنها و کمک به رفع آسیب‌پذیری‌های امنیتی احتمالی ارائه می‌کنیم. بررسی کلی ما ادامه دارد، و ما همچنان متعهد به شفافیت در مورد این مسائل و به اشتراک گذاشتن آنچه می‌آموزیم در ادامه کار هستیم.»

آلبانیز گفت که دولت استرالیا در حال بررسی تاثیر این حادثه است و تاکنون مدرکی دال بر دسترسی این مامور به اطلاعات شخصی پیدا نکرده است. OpenAI همچنین گفت که "هیچ مدرکی دال بر دسترسی به سوابق بیمار پیدا نکرد." آلبانیز گفت که دولت همچنین از سه سیستم دولتی دیگر که ممکن است مامور به آنها دسترسی داشته باشد، دو سازمان دیگر مرتبط با سلامت، و یکی مربوط به آمار و تحقیقات جرم و جنایت، آگاه است.

شاید تصادفی نباشد، OpenAI در ماه آگوست از این اتفاق آگاه شد، همان ماه که بررسی مورد انتظار خود را از هک Hugging Face منتشر کرد، که در ماه جولای رخ داد. هک Hugging Face ممکن است باعث یک بررسی داخلی شده باشد، که طی آن OpenAI همچنین نقض وب سایت استرالیا را کشف کرد، اگرچه این شرکت به صراحت این دو رویداد را در بیانیه خود به هم مرتبط نکرد. در گزارش Hugging Face، OpenAI نیز تایید کرد که به دلیل نظارت ضعیف ماموران و هشدارها، تا قبل از این واقعیت از نقض خبر نداشت. OpenAI گفت که از آن زمان این مکانیسم های ایمنی را تقویت کرده است.

سام آلتمن، مدیر عامل OpenAI نیز این هفته در نیویورک حضور دارد و در نشست شورای امنیت سازمان ملل متحد شرکت می کند. در اظهارات خود، او در مورد "اضطراب" پیرامون سیستم های قدرتمند هوش مصنوعی، به ویژه این احتمال صحبت کرد که "ما می توانیم کنترل آینده را به هوش مصنوعی از دست بدهیم."

او افزود: "خطر این است که آنقدر سریع حرکت می کند که مردم دیگر نمی توانند اتفاقات را دنبال کنند یا در صورت نیاز مداخله کنند. این بدیهی است که وحشتناک است."

آلتمن خواستار همکاری بین‌المللی برای ایجاد «استانداردهایی برای اندازه‌گیری قابلیت‌ها، ارزیابی ریسک‌ها، تعیین اینکه آیا پادمان‌ها کافی هستند یا خیر، و حفظ نظارت معنادار انسانی با خودمختاری‌تر شدن سیستم‌ها» خواستار شد. او همچنین خواستار گزارش‌های موثق‌تر حوادث شد، با این حال OpenAI نقض وب‌سایت دولت استرالیا را هنگامی که چارچوبی برای افشای حوادث در 16 سپتامبر فاش کرد، فاش نکرد.

به عنوان بخشی از آن چارچوب، شش نمونه را فاش کرد. تصمیم برای انتشار یک چارچوب در پاسخ به گزارش دیگری از رفتار مدل نادرست بود، این بار توسط عوامل سرکش که یک صفحه ویکی‌پدیای آلمانی را برای استفاده در صفحه پیام‌رسانی انتخاب کردند. در این مورد، OpenAI از این حادثه اطلاع داشت اما هفته ها آن را فاش نکرد.

این داستان در ابتدا در سایت Fortune.com منتشر شد