استرالیا در پی هک OpenAI، مجازات های کیفری را برای هوش مصنوعی سرکش در نظر می گیرد

آنتونی آلبانیز، نخست وزیر می گوید که این قانون باید با "دنیایی که به سرعت در حال تغییر است" برسد.

استرالیا قصد دارد یک تنظیم‌کننده ایمنی جدید هوش مصنوعی ایجاد کند و ماه‌ها پس از هک OpenAI، مجازات‌های کیفری را برای شرکت‌های فناوری که رعایت نمی‌کنند، در نظر گرفته است.

در ماه سپتامبر، آنتونی آلبانیز، نخست وزیر استرالیا فاش کرد که یک عامل سرکش OpenAI به یک وب سایت بهداشتی دولتی و سایر سیستم ها "نفوذ" کرده است و از این شرکت انتقاد کرد که ماه ها به آنها در مورد هک اطلاع داده است.

روز سه‌شنبه، او ۱۸ توصیه‌ای را که پس از «بررسی سریع» در مورد نقض‌ها از جمله استانداردهای ایمنی و امنیتی جدید برای شرکت‌های هوش مصنوعی مانند گزارش اجباری هک‌ها ارائه شده بود، منتشر کرد.

او گفت که هوش مصنوعی فرصت هایی را به ارمغان می آورد، اما استرالیا باید برای "خطرات جدید" ناشی از این "فناوری به سرعت در حال پیشرفت" آماده شود.

آلبانیز گفت: «قانون باید از دنیایی که به سرعت در حال تغییر است پیشی بگیرد و در برخی موارد مطمئن شود که به آن می رسد.

یکی از توصیه‌ها تغییراتی در قوانین کیفری برای داشتن یک جرم مستقل «عدم پیشگیری» را پیشنهاد می‌کند.

این امر مواردی را که در آن شرکتی «یک مدل هوش مصنوعی که در رفتار مضر انجام می‌دهد» را توسعه می‌دهد و «اقدامات معقولی برای جلوگیری از این آسیب‌ها انجام نمی‌دهد» را جرم انگاری می‌کند.

این بررسی همچنین "گزارش ایمنی AI اجباری و محدود به زمان" هک ها را توصیه کرد.

این نکته به چیزی می‌پردازد که آلبانیز قبلا آن را «ناامیدی» خود در تأخیر چند ماهه OpenAI برای اطلاع‌رسانی به دولت خود در مورد نقض می‌خواند.

در ماه ژوئن، یک پورتال آماری حاوی داده های "غیر حساس" از طرح مراقبت های بهداشتی جهانی Medicare استرالیا توسط یک عامل سرکش OpenAI هک شد.

OpenAI گفت که تنها در ماه آگوست هنگام بررسی "فعالیت مدل نادرست" از این نقض مطلع شد و در 10 سپتامبر یک صندوق پستی عمومی یک آژانس دولتی استرالیا را ایمیل کرد.

چند روز دیگر طول کشید تا این ایمیل به مرکز امنیت سایبری استرالیا ارسال شد و سپس پیامی برای وزیر دولت قبل از اعلام نخست وزیر ارسال شد.

آلبانیز گفت که با سام آلتمن، رئیس OpenAI صحبت کرده و "نگرانی شدید استرالیا را در مورد این حادثه" و با اذعان آلتمن به وجود "مشکلاتی در پروتکل‌ها" در OpenAI مطرح کرده است.

چند روز پس از افشای هک ها، OpenAI به دلیل نگرانی های ایمنی، عرضه یک مدل جدید هوش مصنوعی را به تاخیر انداخت.

چرا یک سیستم OpenAI سیستم سلامت استرالیا را هک کرد - و آیا می توان آن را در آینده متوقف کرد؟

OpenAI به دلیل نگرانی های ایمنی، عرضه مدل جدید را حذف می کند