OpenAI اعتراف کرد که پاسخ به هک های دولت استرالیا "به اندازه کافی خوب نیست"

جیسون کوون، مدیر ارشد استراتژی OpenAI، با جلسه استماع پارلمانی درباره هوش مصنوعی در سیدنی روبرو شد

OpenAI پس از اینکه یکی از عوامل سرکش در ماه ژوئن به وب‌سایت‌های دولت استرالیا نفوذ کرد و گفت که اقدامات احتیاطی بیشتری به محیط‌های آموزشی خود اضافه کرده است، اعتراف کرده است که اقداماتش به اندازه کافی خوب نبوده است.

جیسون کوون، مدیر ارشد استراتژی شرکت، روز سه‌شنبه در سیدنی با یک جلسه استماع پارلمانی درباره هوش مصنوعی روبرو شد و گفت که این نقض "نباید اتفاق می‌افتاد" و "باید پاسخ ما را بهتر انجام می‌داد". هفته ها طول کشید تا استرالیا از طریق ایمیلی به صندوق ورودی عمومی مطلع شد.

کوون گفت: "ما متاسفیم و می دانیم که برای بازسازی اعتماد با مردم استرالیا باید کاری انجام دهیم."

آنتروپیک نیز ظاهر شد و گفت که در طول تحقیقات اخیر هیچ موردی از نقض قوانین استرالیا پیدا نکرده است.

یک عامل OpenAI در ماه ژوئن "سرکش" کرد و به یک پورتال آمار خصوصی حاوی داده های "غیر حساس" از طرح مراقبت های بهداشتی جهانی Medicare استرالیا "نفوذ" کرد که به گفته کارشناسان امنیت سایبری اولین هک در نوع خود بود.

Kwon در پاسخ به این سوال که چرا OpenAI بلافاصله پس از اطلاع از نقض‌ها مستقیما با وزرای دولت تماس نگرفته است، Kwon اذعان کرد که این یک اشتباه بوده است.

کوون در پاسخ به سوال کمیته مبنی بر اینکه چرا شماره تلفن همراه وزرای دولت را نگرفته است، گفت: «با نگاهی به گذشته، باید آنچه را که شما پیشنهاد می‌کنید، انجام می‌دادیم.

دلیل اینکه چرا این اتفاق افتاد این است که فکر می‌کنم مردم به این موضوع به عنوان یک وضعیت فنی فکر می‌کردند و می‌خواستند با طرف‌های فنی تماس بگیرند، اما به اندازه کافی خوب نیست.»

Kwon گفت که شرکت نحوه رسیدگی به چنین حوادثی را تغییر داده است.

حتی اگر وضعیت را به طور کامل درک نکنیم، فقط به اطلاع رسانی می‌کنیم و به صورت مشترک با طرف آسیب‌دیده شروع به کار برای حل این وضعیت می‌کنیم.»

کوون به کمیته 12 نفره ای که متشکل از نمایندگان و سناتورهای کارگر، لیبرال و مستقل است که به هوش مصنوعی و تأثیر آن بر استرالیا نگاه می کنند، گفت که OpenAI پس از این حوادث "احتیاط های بیشتری" را به محیط های آموزشی خود اضافه کرده است.

این شرکت همچنین در حال ایجاد یک کارگروه محلی در استرالیا برای بررسی "چگونگی مدیریت بهتر خطرات مرتبط با هوش مصنوعی با قابلیت فزاینده" بود.

Kwon به کمیته گفت که مدل‌های آموزشی اکنون در طول آزمایش‌ها به‌صورت بلادرنگ رصد می‌شوند و در صورتی که با اینترنت به گونه‌ای که قرار نیست تعامل داشته باشند، زنگ هشدار ایجاد می‌شود.

این بدان معناست که توانسته بود دولت نیو ساوت ولز را در مورد هک دیگری در هفته گذشته در عرض 48 ساعت آگاه کند.

دیو اور، رئیس پادمان‌های آنتروپیک، گفت که در پی هک کردن پلتفرم فناوری Hugging Face توسط ماموران OpenAI در ماه ژوئیه، "صدها میلیون رونوشت" بررسی شده را برای شناسایی هرگونه نقض احتمالی مشابه OpenAI بررسی کرده است.

او به کمیته گفت: «ما چنین چیزی پیدا نکردیم و جستجو کردیم.

چرا استرالیا بزرگترین صحنه سیاسی جهان را برای افشای هک OpenAI انتخاب کرد؟

آنچه باید در مورد هک دولت OpenAI استرالیا بدانید

چرا یک سیستم OpenAI سیستم سلامت استرالیا را هک کرد - و آیا می توان آن را در آینده متوقف کرد؟