استرالیا قوانین نظارت بر هوش مصنوعی را پس از نقض دولت OpenAI تشدید می کند

دولت گفت که استرالیا برای شرکت‌های اطلاعاتی اجباری می‌کند که در صورت خراب شدن مدل‌های هوش مصنوعی، فورا گزارش دهند و مدل‌های خود را برای ارزیابی باز کنند.

نخست‌وزیر آنتونی آلبانیز روز سه‌شنبه گفت که دولت تمام توصیه‌های بررسی سریع در مورد نقض را پذیرفته است، که «شامل گزارش اجباری شرکت هوش مصنوعی در صورت بروز رفتارهای نادرست یا حوادث سایبری، و در نظر گرفتن اصلاح تخلفات جدی در موارد تخلف جنایی است».

او گفت: "استرالیا اولین حرکت دهنده در این فضا است و ما می خواهیم مطمئن شویم که به کار خود ادامه می دهیم تا بتوانیم از مزایای بالقوه هوش مصنوعی بهره مند شویم."

این تصمیم پس از آن اتخاذ شد که مدل‌های مجهز به OpenAI به سیستم داده‌های بهداشتی دولت استرالیا در ماه ژوئن هک شدند و از سیستم‌های دفاع دیجیتال آن عبور کردند و بدون مجوز به فایل‌ها دسترسی پیدا کردند.

شرکت‌های برتر هوش مصنوعی اخیرا در مورد خطر از دست دادن کنترل سیستم‌های خود توسط انسان‌ها هشدار داده‌اند و خواستار کاهش سرعت توسعه هوش مصنوعی به سرعتی شده‌اند که اجازه می‌دهد به طور ایمن تنظیم شود.

اوایل سال جاری، ایوان هوبینگر، دانشمند تحقیقات ایمنی Anthropic، تا آنجا پیش رفت که گفت که او معتقد است بیش از 10 درصد احتمال دارد که هوش مصنوعی بتواند «همه انسان‌ها» را ظرف یک دهه بکشد.

رگولاتور جدید هوش مصنوعی استرالیا بر کنترل‌های امنیتی در سراسر توسعه و استقرار سیستم‌های هوش مصنوعی نظارت می‌کند، خطرات جدی را شناسایی و مدیریت می‌کند و ارزیابی‌های مستقل مدل‌های هوش مصنوعی را انجام می‌دهد.

استانداردهای هوش مصنوعی همچنین اطلاع رسانی سریع به دولت را در مورد حوادثی مانند "رفتار نامناسب" در تضاد با اهداف توسعه دهندگان الزامی می کند.

اسناد دولت استرالیا هوش مصنوعی مرزی را به عنوان پیچیده ترین مدل ها در لبه توانمندی های تکنولوژیکی فعلی تعریف می کند.

آلبانیز به سام آلتمن، مدیر اجرایی OpenAI گفت که شرکت آمریکایی برای اطلاع رسانی به دولت از این حادثه خیلی طول کشیده است. OpenAI برای نقض و پاسخ کند آن عذرخواهی کرد.

یک تحقیق دولتی در مورد نقض ژوئن چندین توصیه را ارائه کرد، از جمله اینکه دولت باید قانون را تغییر دهد.

رگولاتور پیشنهادی هوش مصنوعی پس از انتصاب یک کمیسر ایمنی الکترونیک در سال 2015 توسط استرالیا انجام خواهد شد. این دفتر خود را به عنوان اولین آژانس دولتی در جهان معرفی می کند که به حفظ امنیت آنلاین مردم اختصاص دارد.

از دسامبر سال گذشته، کمیسر برای اولین بار در جهان ممنوعیتی را برای کودکان استرالیایی زیر 16 سال اعمال کرده است که حساب کاربری خود را در پلتفرم های رسانه های اجتماعی محبوب داشته باشند.