مهار هوش مصنوعی سرکش؛ اتحادیه اروپا نگران هشدارها نیست

مقام ارشد فناوری اتحادیه‌ی اروپا اعلام کرد قوانین سخت‌گیرانه‌ی این اتحادیه توانایی مهار خطرات مدل‌های خودسر هوش مصنوعی را دارند.

مقام‌های ارشد اتحادیه‌ی اروپا اعلام کرده‌اند که مقررات تدوین‌شده در قاره‌ی سبز آمادگی کامل برای مهار خطرات ناشی از مدل‌های سرکش هوش مصنوعی و خروج احتمالی عامل‌های هوشمند از کنترل انسان را دارند.

پس از رویدادهای اخیر در شرکت‌های اوپن‌ای‌آی و آنتروپیک، نگرانی‌های جهانی پیرامون احتمال خودمختاری سامانه‌های پیشرفته افزایش یافته است.

کمیسیون اروپا ابزارهای قانونی لازم را برای نظارت بر فناوری‌های نوظهور در اختیار دارد. حنا ویرکانن ، مسئول ارشد فناوری اتحادیه اروپا، در گفت‌وگو با رویترز گفت: «ما می‌بینیم که ایمنی و امنیت مدل‌های بسیار توانمند به موضوعی بسیار داغ در سطح بین‌المللی تبدیل شده است و ما در اروپا برای مواجهه با چنین وضعیتی کاملا مجهز هستیم.»

قانون هوش مصنوعی اتحادیه‌ی اروپا که دو سال پیش تصویب شد، بر پایه‌ی سطوح ریسک فعالیت می‌کند و از سخت‌گیرانه‌ترین چارچوب‌های نظارتی جهان به‌شمار می‌رود. ویرکونن ضمن رد ادعای منتقدانی که قوانین اروپا را قدیمی می‌دانند، گفت: «ما قانون هوش مصنوعی خود را در اختیار داریم و این قانون تمام چرخه‌ی حیات چنین مدل‌هایی را پوشش می‌دهد.»

رگولاتورهای اروپایی با در نظر گرفتن توصیه‌های ۶۰ کارشناس برجسته، راهنمایی‌های لازم برای ارزیابی مدل‌ها را به شرکت‌ها ارائه می‌دهند.

کمیسیون اروپا در اواخر اوت از بیش از ۳۰ شرکت فعال در حوزه توسعه الگوریتم‌ها درخواست اطلاعات کرد تا جزئیات تدابیر ایمنی و امنیتی خود را شفاف سازند. ویرکونن هم‌اکنون مشغول بررسی پاسخ‌های ارسالی این شرکت‌ها است. داریو آمودی ، مدیرعامل آنتروپیک، پیش‌تر در یادداشتی هشدار داده بود که سرعت خیره‌کننده‌ی پیشرفت فناوری به‌دلیل قابلیت خودبهبودی بازگشتی ممکن است از توانایی درک و مهار انسان فراتر برود.