کرم‌های هوش مصنوعی، حادثه «مهم» می‌ترسند که تماس‌های ایمنی در اجلاس صنعت را تحریک کنند

هنا ویرکونن، معاون اجرایی حاکمیت فناوری در کمیسیون اروپا، در اجلاس بین المللی هوش مصنوعی در دوبلین، ایرلند، در 14 اکتبر.

دوبلین - از شبح کرم‌های هوش مصنوعی آلوده به یخچال گرفته تا هشدارهای مربوط به حوادث امنیتی "مهم" در افق، فراخوان‌ها برای اولویت دادن به ایمنی در توسعه هوش مصنوعی در نشست صنعتی در 14 اکتبر غالب شد.

نگرانی‌ها در مورد نرده‌های محافظ هوش مصنوعی پس از اینکه مدل‌های توسعه‌یافته توسط OpenAI و Anthropic در جریان آزمایش‌ها درگیر حوادث امنیتی شدند و فشار برای تنظیم این فناوری را افزایش دادند، افزایش یافت.

دمیس حسابیس، رئیس Google DeepMind هشدار داد که قابلیت‌های هوش مصنوعی به سرعت در حال رشد هستند و به کنفرانس دوبلین گفت که چنین مواردی «شلات‌های هشدار اولیه» هستند که توسط سیستم‌هایی شلیک می‌شوند که «هنوز آنقدر قدرتمند نیستند».

او گفت: «بنابراین حوادث آنقدر بزرگ نیستند.

حسابیس هشدار داد: «اما اگر ما به‌عنوان یک صنعت و به‌عنوان شرکت‌ها و دولت‌ها به‌عنوان شرکت‌ها و دولت‌ها کار بیشتری برای تأمین امنیت این سیستم‌ها انجام ندهیم، می‌توانند سال آینده و چند سال آینده را بررسی کنند».

او افزود که مدل‌های جدید هوش مصنوعی باید ابتدا در «جعبه‌های شنی» آفلاین آزمایش شوند، پس از اینکه مدل‌های دیگر شرکت‌ها از محیط‌های بسته‌ای که برای ارزیابی قابلیت‌هایشان استفاده می‌شود، فرار کردند.

برد اسمیت، رئیس مایکروسافت، خواستار تنظیم مقررات شد و گفت که صنعت و دولت‌ها باید «با فوریت» برای ایجاد «استانداردهای ایمنی واقعی و مؤثر» برای مهار خطرات مرتبط با هوش مصنوعی عمل کنند.

او در کنفرانس گفت: "قوانین ایمنی بیشتری برای یک کارتن شیر نسبت به هوش مصنوعی وجود دارد. قوانین ایمنی برای فر شما بیشتر از هوش مصنوعی وجود دارد."

"ما باید بدانیم که قدرت هوش مصنوعی سریعتر از ایمنی آن حرکت کرده است. ایمنی باید فراتر رود. و ما به قوانین و قوانین جدید ایمنی هوش مصنوعی نیاز خواهیم داشت."

او گفت که عوامل هوش مصنوعی باید به «ترمزهای ایمنی» مجهز شوند که کاربران بتوانند در صورت بروز حادثه آن را فعال کنند و ارائه دهندگان هوش مصنوعی باید با تعهدات اجباری گزارش حادثه مواجه شوند.

اسمیت با برجسته کردن نگرانی‌ها در مورد این فناوری، به گزارش اخیر Anthropic اشاره کرد که نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه از رفتار شبیه کرم‌های کامپیوتری و کپی کردن خود از یک دستگاه متصل به اینترنت به دستگاه دیگر فاصله داشته باشند.

از آنجایی که شرکت‌های فناوری در تلاش هستند تا هوش مصنوعی قوی‌تری را مستقیما در تلفن‌ها، لپ‌تاپ‌ها، خودروها و دستگاه‌های خانگی بسازند تا اینکه آن را در مراکز داده دور راه‌اندازی کنند، آنتروپیک گفت این AI در نهایت ممکن است به طور مستقل از دستگاهی به دستگاه دیگر منتقل شود.

"یعنی جدی؟ من کرم های هوش مصنوعی را در یخچالم نمی خواهم." اسمیت در کنفرانس دوبلین گفت. من فقط نمی‌خواهم هیچ کرمی در یخچالم باشد و فکر می‌کنم اکثر مردم نیز چنین احساسی دارند.»

به گفته آنتروپیک، از بین بردن یک کرم هوش مصنوعی که خود تکثیر می شود، سخت است، زیرا کلید مرکزی برای خاموش کردن وجود نخواهد داشت.

هنا ویرکونن، رئیس فناوری اتحادیه اروپا، در کنفرانس گفت که شرکت‌های هوش مصنوعی باید زمان بیشتری را برای آزمایش سیستم‌های خود سرمایه‌گذاری کنند تا کنترل خود را حفظ کنند.

ویرکونن در بدو ورود به خبرنگاران گفت: "رقابت در سطح جهانی آنقدر سخت است که به نظر می رسد همه شرکت ها زمان و منابع کافی برای آزمایش مدل های خود سرمایه گذاری نمی کنند."

او گفت: «آنها باید بتوانند این سیستم ها را کنترل کنند.

کمیسیون اروپا در ماه آگوست بر اساس قانون هوش مصنوعی، فراگیرترین قوانین جهان برای مهار استفاده های بالقوه خطرناک از این فناوری، اختیارات نظارتی جدیدی به دست آورد.

اما سارا فریار، مدیر مالی OpenAI هشدار داد که باید یک "تعادل" برقرار شود تا قوانین ایمنی مانع از نوآوری نشود.

او گفت: «ما می‌خواهیم باز باشیم، می‌خواهیم مطمئن شویم که افراد مناسب می‌توانند مدل‌ها را بررسی کنند، اما دوباره باید مطمئن شویم که این کار ما را تا حدی کند نمی‌کند که در نهایت از افرادی که در سمت مخرب استقرار هستند، عقب نمانیم.» خبرگزاری فرانسه