چارلز پادشاه بریتانیا به رهبران هوش مصنوعی در مورد "خطرات وجودی" هشدار داد

پادشاه بریتانیا، چارلز، به رهبران صنعت هوش مصنوعی (AI) در مورد "خطرات وجودی" ناشی از این فناوری در صورت افتادن به دست اشتباه هشدار داده است.

اظهارات پادشاه در روز پنجشنبه به یک بحث جهانی در مورد اینکه آیا و چگونه باید صنعت را تنظیم کرد، اضافه می کند.

چارلز میزبان غول‌های هوش مصنوعی، از جمله بنیانگذاران Nvidia و Google DeepMind، همراه با رهبران OpenAI و Anthropic در اجلاسی در املاک Dumfries House خود در اسکاتلند بود تا به نگرانی‌های ایمنی قبل از اینکه "خیلی دیر" برای مهار آن برسد، رسیدگی شود.

چارلز در افتتاحیه کنفرانس به مهمانان گفت: «به نظر می رسد در نظر گرفتن خطرات وجودی ناشی از افتادن چنین فناوری هایی به دست افراد نادرست و استفاده در راه های بالقوه فاجعه آمیز، ضروری است.

او به رهبران صنعت گفت: "کسانی که در دنیای ما برای انسانیت ما و مؤلفه اخلاقی حیاتی آن ارزش قائل هستند، مشتاقانه به دنبال اطمینان خاطر از شما هستند که کنترل سرنوشت خود را از دست نخواهیم داد."

پادشاه همچنین گفت: «کسانی که این فناوری‌ها را ایجاد کرده‌اند اکنون به طور فزاینده‌ای هشدار می‌دهند که هوش مصنوعی در معرض خطر توسعه ظرفیت‌های تاریک‌تر، شاید حتی برای از بین بردن زندگی، یا استفاده در «راه‌های بالقوه فاجعه‌بار» است.

در هفته‌های اخیر، ارقام جهانی در مورد اینکه آیا صنعت باید خود را تنظیم کند یا به دولت‌ها اجازه دهد دستورالعمل‌هایی در مورد چگونگی توسعه سریع فناوری در حال توسعه ارائه کنند، بررسی شده‌اند.

در ماه مه، پاپ لئو چهاردهم گفت: "جهان به هوش مصنوعی که انسانیت را کم می کند نیاز ندارد" و باید "خلع سلاح شود".

در همین حال، دونالد ترامپ، رئیس‌جمهور ایالات متحده نگرانی‌ها در مورد این فناوری را یک «فریب» رد کرده است.

هفته گذشته، دو محقق Anthropic هشدار دادند که این فناوری به سرعت در حال پیشرفت می تواند منجر به انقراض انسان در آینده ای نه چندان دور شود.

داریو آمودی، مدیر اجرایی Anthropic نیز از شرکت‌ها خواسته است که سرعت توسعه هوش مصنوعی را کاهش دهند.

با این حال، این موضوع باعث ایجاد یک بحث بین‌المللی در مورد اینکه آیا برخی از مدیران در تلاش بودند تا از واکنش‌های احتمالی دولت جلو بزنند و قوانینی را برای حفظ رهبری شرکت‌های خاص وضع کنند، به راه انداخته است.

پادشاه بریتانیا گفت: "توسعه هوش مصنوعی - ماهیت و سرعت آن - به همان اندازه جذاب و عمیقا نگران کننده است."

او از رهبران صنعت خواست تا آن را "با ایمنی در قلب خود" مهار کنند و "اطمینان حاصل کنند که محکم در خدمت بشریت، جامعه و جهان طبیعی باقی می ماند".

انتظار نمی رود که نشست سران در اسکاتلند به توافقات الزام آور منجر شود.