یکی از بنیانگذاران Anthropic به بی بی سی می گوید که «سوئیچ کشتن» هوش مصنوعی ممکن است لازم باشد اجباری باشد

یکی از بنیانگذاران Anthropic به بی بی سی می گوید که هوش مصنوعی روز به روز قدرتمندتر می شود

یکی از بنیانگذاران یکی از بزرگترین شرکت های هوش مصنوعی جهان به بی بی سی گفته است که یک "سوئیچ کشتن" هوش مصنوعی که می تواند توسط شخص ثالث بررسی شود ممکن است برای شرکت ها اجباری باشد.

جک کلارک، یکی از هفت بنیانگذار آنتروپیک، گفت که روشی برای خاموش کردن کامل نرم افزار هوش مصنوعی در صورت خطرناک شدن، چیزی است که جامعه ممکن است بخواهد در نهایت قوانینی را تصویب کند.

کلارک گفت: «بیشتر آزمایشگاه‌ها راه‌های مختلفی از جمله آنتروپیک برای کشیدن پلاگین دارند، اما گفت که قانون‌گذاران ممکن است نیاز به اجرای آن داشته باشند.

توسعه سریع هوش مصنوعی و ترس از خطراتی که برای بشریت ایجاد می کند، با یک سری هشدار از سوی مدیران و کارکنان شرکت های هوش مصنوعی در کانون توجه قرار گرفته است.

برخی علنا گفته‌اند که این امکان وجود دارد که اگر این فناوری کنترل نشود، همه انسان‌ها را بکشد.

داریو آمودی، مدیر اجرایی آنتروپیک، در آخر هفته خواستار کاهش سرعت توسعه هوش مصنوعی و نظارت دقیق‌تر شد، همانطور که این شرکت قبلا انجام داده است، اگرچه برخی انگیزه‌های پشت این موضوع را زیر سوال برده‌اند.

آمودی افزود که هر اقدامی برای مهار توسعه هوش مصنوعی باید «بدون فدا کردن مزیت تجاری» انجام شود.

محقق سابق Anthropic به بی بی سی گفت که کارکنان هوش مصنوعی برای آینده بشریت واقعا ترسیده اند.

کلارک به بی‌بی‌سی گفت که جزئیات مربوط به الزامات و راستی‌آزمایی «سوئیچ کشتن» باید بخشی از «مکالمه سیاست بزرگ‌تر» باشد که در مورد هوش مصنوعی انجام می‌شود.

"آیا باید به شرکت‌ها دستور دهید که حتما سوئیچ kill داشته باشند؟ آیا این سوئیچ kill توسط شخص ثالث قابل تأیید است؟" او پرسید.

من فکر می کنم این چیزی است که جامعه می خواهد بداند و ممکن است بخواهد در نهایت قوانینی را تصویب کند.

Anthropic، که در سال 2021 توسط گروهی از کارمندان سابق OpenAI رقیب خود تشکیل شد، در حال حاضر در مرکز بحث در مورد ایمنی هوش مصنوعی است.

هفته گذشته، پستی از یک محقق هوش مصنوعی که از Anthropic به دلیل نگرانی هایی که هوش مصنوعی می تواند بشریت را از بین ببرد، دست از کار کشید.

در پاسخ، ایوان هوبینگر، دانشمند Anthropic گفت که او شخصا فکر می‌کند احتمال انقراض انسان از هوش مصنوعی "بیش از 10٪ در دهه آینده" است.

جفری هینتون، دانشمند کامپیوتر و برنده جایزه نوبل، معروف به "پدرخوانده هوش مصنوعی"، روز جمعه به بی بی سی گفت که احتمال 10 درصدی که هوش مصنوعی همه انسان ها را بکشد، "غیر منطقی" نیست.

او و دیگران با نگرانی‌های مشابه پیشنهاد کرده‌اند که هوش مصنوعی می‌تواند این کار را با در دست گرفتن کنترل سیستم‌های مهم متصل به اینترنت و فعال کردن آن‌ها برای انسان‌ها انجام دهد.

با این حال، برخی در صنعت هوش مصنوعی پیشنهاد کرده‌اند که ترس‌های مربوط به نابودی بشریت مبالغه‌آمیز هستند یا ممکن است برای ایجاد هیاهو طراحی شده باشند.

کلمنت دلانگ، رهبر پلتفرم توسعه‌دهنده Hugging Face که توسط ربات‌های OpenAI هک شد، هفته گذشته گفت: "متاسفم، اما پرسیدن از Jacob [Coxon] در مورد خطر انقراض هوش مصنوعی مانند این است که از مرد AC خود در مورد تغییرات آب و هوا بپرسید."

"نگفتیم که لزوما به خودی خود جالب یا اشتباه است، اما بیایید همه چیز را در چشم انداز نگه داریم."

جورج آریسون، رهبر Grindr، گفت که ترس از ابزارهای هوش مصنوعی توسط شرکت ها برای حمایت از طرح های تجاری خود استفاده می شود.

آنتروپیک که ارزش آن 965 میلیارد دلار (713 میلیارد پوند) بود، در حال آماده شدن برای عرضه اولیه عمومی در بازار سهام است که به مردم امکان می دهد سهام شرکت خود را خریداری کنند.

OpenAI که اخیرا 852 میلیارد دلار (630 میلیارد پوند) ارزش گذاری شده بود، انتظار می رفت که همین کار را انجام دهد، اما Altman از OpenAI در روز جمعه گفت که این اتفاق در سال جاری به دلیل بحث فعلی در مورد ایمنی هوش مصنوعی نخواهد افتاد.

آریسون گفت: "تنها راه برای توجیه این ارزش‌گذاری‌ها این است که در واقع ادعا کنیم: "من هر صنعتی را تصاحب می‌کنم و هر شغلی را به دست می‌گیرم، و هوش مصنوعی من تمام این کارها را انجام می‌دهد."

کلارک در پاسخ به این سوال که چه درصدی را بر روی همه انسان هایی که توسط هوش مصنوعی کشته می شوند اضافه می کند، گفت: "فکر نمی کنم این آمار آنقدر مفید باشد"، اما افزود که اجازه دادن به هوش مصنوعی به عنوان یک "صنعت کاملا غیرقانونی" یک ایده بد است.

کلارک گفت: "ما با خطرات بسیار زیاد تاس می اندازیم." و نکته این است که ما باید مسیر این صنعت را تغییر دهیم.»

دولت بریتانیا ایده «سوئیچ کشتن» برای هوش مصنوعی خطرناک را رد کرد

قانونگذاران ایالات متحده قانونی را به نام قانون Kill Switch ارائه کرده اند که شرکت ها را ملزم می کند راهی برای خاموش کردن ابزارهای مشکل ساز هوش مصنوعی داشته باشند.

همچنین به برخی سازمان‌های دولتی این اختیار را می‌دهد که درخواست کنند یک ابزار خاموش یا محدود شود.

با این حال، دونالد ترامپ، رئیس‌جمهور ایالات متحده، درخواست‌ها برای کند کردن توسعه هوش مصنوعی را رد کرده و در رسانه‌های اجتماعی گفت: «تسلط هوش مصنوعی بر جهان، نابودی بشریت، و همه چیزهای بد دیگر، یک HOAX است».

ترامپ بعدا ترس ها را با نگرانی های مربوط به "کلاهبرداری گرمایش جهانی در سال های نه چندان دور، که در آن همه از گرمای شدید جان خود را از دست می دادند" مقایسه کرد.

او در پست قبلی خود نوشت: "یک توطئه بیمار علیه هوش مصنوعی و مراکز داده در حال انجام است و تنها کسی که از آن خوشحال است چین است. هرکس هوش مصنوعی را برد، برنده است!"

در بریتانیا، دولت اخیرا ایده ایجاد سوئیچ کشتن را رد کرده است، به طوری که یک سخنگوی می گوید این "از توسعه یا سوء استفاده آنها در جاهای دیگر جلوگیری نمی کند".

آنتروپیک چت بات محبوب کلود را ایجاد کرد و امسال تعدادی مدل هوش مصنوعی با قابلیت فزاینده را منتشر کرد، فناوری زیربنای چت ربات های هوش مصنوعی.

در کنار OpenAI، آنتروپیک از آن زمان تاکنون تعدادی از حوادث را گزارش کرده است که در آن عوامل هوش مصنوعی، که ربات‌هایی هستند که تا حدودی مستقل عمل می‌کنند، به روش‌هایی غیرمنتظره عمل کرده‌اند.