پادشاه چارلز درباره خطر وجودی ناشی از افتادن هوش مصنوعی در دستان اشتباه هشدار می دهد

پادشاه چارلز به مدیران هوش مصنوعی در مورد "خطرات وجودی" ناشی از افتادن این فناوری به دست افراد نادرست هشدار داده است.

او این اظهارات را در اجلاسی که در خانه دامفریز در اسکاتلند تشکیل داده بود، بیان کرد تا در مورد چگونگی استفاده از این فناوری به نفع جامعه بحث کند.

کسانی که در این نشست گرد هم آمدند، کانیشا نارایان، وزیر هوش مصنوعی بریتانیا، مشاور پاپ و شرکت‌کنندگانی از غول‌های هوش مصنوعی مانند Nvidia، OpenAI و Anthropic بودند.

این امر در بحبوحه یک سری هشدارهای اخیر از سوی افراد داخل صنعت در مورد قابلیت‌های در حال توسعه سریع مدل‌های هوش مصنوعی پیشرفته یا "مرز" و مقررات مورد نیاز برای کنترل آنها صورت می‌گیرد.

پادشاه به مدیران گفت: «کسانی که این فناوری‌ها را ایجاد کرده‌اند اکنون به طور فزاینده‌ای هشدار می‌دهند که هوش مصنوعی در معرض خطر توسعه ظرفیت‌های تیره‌تر است - شاید حتی برای از بین بردن زندگی».

او گفت که به نظر می رسد "فوریت" در "در نظر گرفتن کافی خطرات وجودی ناشی از افتادن چنین فناوری هایی به دست افراد نادرست و استفاده در راه های بالقوه فاجعه بار" وجود دارد.

او به این گروه گفت: «وظیفه پیش روی شما صرفا پیشرفت فناوری نیست، بلکه اطمینان از این است که به طور محکم در خدمت بشریت، جامعه و جهان طبیعی است.

این اجلاس برای بررسی این موضوع برگزار شده است که آیا می توان یک "مجموعه اصول مشترک" برای "کمک به هدایت کاربردهای آینده" هوش مصنوعی ایجاد کرد.

از ماه آگوست، موجی از بحث در مورد قدرت بالقوه هوش مصنوعی و نحوه کنترل و تنظیم آن بر پست‌های وبلاگ و رسانه‌های اجتماعی غالب شده است، که توسط چندین اظهارات چشمگیر از سوی صاحبان صنعت مورد تاکید قرار گرفته است.

این بحث همچنین با انتقادهایی از سوی افراد بدبین مواجه شده است که می گویند تمرکز بر آینده فرضی هوش مصنوعی خطر منحرف شدن توجه از نگرانی های فوری تر در مورد این فناوری، مانند تأثیرات زیست محیطی آن را دارد.

در ماه ژوئیه، OpenAI چیزی را "بی سابقه" اعلام کرد که در آن هوش مصنوعی پیشرفته خود از محدودیت های آزمایشی فرار کرد و به پلتفرم فناوری Hugging Face هک شد.

پس از چندین حادثه دیگر، در ماه سپتامبر، یک پست استعفای محقق Anthropic، Jacob Coxon، زمانی که او نگرانی هایی را مطرح کرد که هوش مصنوعی می تواند بشریت را از بین ببرد، در فضای مجازی منتشر شد.

او بعدا به بی‌بی‌سی گفت افرادی که روی این فناوری کار می‌کنند واقعا از سرعت پیشرفت‌های آن و معنایی که می‌تواند برای بشریت داشته باشد، ترسیده‌اند.

در پاسخ، ایوان هوبینگر، دانشمند Anthropic نوشت که او شخصا فکر می‌کند احتمال انقراض انسان از هوش مصنوعی بیش از 10 درصد است.

رؤسای ارشد شرکت‌های هوش مصنوعی همگی پس از این ادعاها، افکار خود را بررسی کردند و سم آلتمن از OpenAI گفت که مردم حق دارند نگران باشند، اما افزود که باید به شرکت‌های هوش مصنوعی اعتماد کنند تا فناوری را ایمن نگه دارند.

جک کلارک از Anthropic گفت که ممکن است برای محافظت از بشریت به یک به اصطلاح "سوئیچ کشتن" نیاز باشد، در حالی که مصطفی سلیمان از مایکروسافت از Anthropic انتقاد کرد و ادعا کرد که آنها در حال آموزش هوش مصنوعی خود هستند تا باور کنند که انسان است، که می تواند کنترل آن را "غیر ممکن" کند.

در همین حال، منتقدان استدلال می‌کنند که نمی‌توان به شرکت‌های هوش مصنوعی برای تنظیم مقررات خود اعتماد کرد.

برخی مانند سناتور جناح چپ برنی سندرز و استیو بنن، مشاور سابق دونالد ترامپ، رئیس جمهور آمریکا، خواستار نظارت قوی تر دولت هستند.

دیگران، از جمله خود دونالد ترامپ، نگرانی‌ها در مورد ایمنی هوش مصنوعی را رد کرده‌اند و رئیس‌جمهور نگرانی‌ها در مورد آن را یک "فریب" خوانده است.

مایکروسافت هشدار داد که هوش مصنوعی کنترل نشده می تواند منجر به رقابت «گونه های سیلیکونی» با انسان شود

رئیس OpenAI می‌گوید دنیا حق ترسیدن است، اما باید به شرکت‌های هوش مصنوعی اعتماد کند

چرا برخی از کارشناسان به طور فزاینده ای از این می ترسند که هوش مصنوعی کنترل شود؟