رهبری هوش مصنوعی دولت بریتانیا پیامی در مورد خطرات مرزی دارد - زمان "سخت کردن و ایجاد دفاع" فرا رسیده است.

وزیر هوش مصنوعی دولت بریتانیا پس از اینکه یکی از کارمندان سابق آنتروپیک گفت ممکن است در دهه آینده یک رویداد در سطح انقراض انسانی اتفاق بیفتد، هشدار داده است که کشورها باید «دفاع خود را در برابر خطر هوش مصنوعی» تقویت کنند.

کانیشکا نارایان در پاسخ به سوالی از فورچون در مورد ادعای کارگر سابق آنتروپیک، جیکوب کوکسون، گفت که او هشدارها را جدی گرفته است. کاکسون در پستی در X، که 175 میلیون بار دیده شده است، هشدار داد که «افرادی که هوش مصنوعی می‌سازند، عمیقا معتقدند که این هوش مصنوعی می‌تواند تا پایان دهه همه ما را بکشد».

ایوان هوبینگر، دانشمند انسان شناسی، با کاکسون موافق است و می گوید که این خطر بیش از 10 درصد است. در آخر هفته، بیل گیتس، بنیانگذار مایکروسافت، به NBC Meet the Press گفت که در دستان اشتباه، هوش مصنوعی «مطمئنا به اندازه کافی قدرتمند است که رویدادهایی را هدایت کند که، می دانید، باعث مرگ میلیاردها نفر می شود».

نارایان در کنفرانس سالانه حزب کارگر، حزب حاکم در بریتانیا، گفت: "اولین چیزی که باید گفت این است که وقتی افراد در آزمایشگاه به شما می گویند که در مورد این موضوع بسیار نگران هستند، باید آن را جدی بگیرید."

ما می‌خواهیم جهان را رهبری کنیم که بتوانیم [کشورها] را در سال آینده از گروه ۲۰ به عنوان بخشی از ریاست جمهوری ما تشکیل دهیم. البته، ما می‌خواهیم محرک‌های اساسی معماری اصولی باشیم که امیدواریم از آن بیرون بیایند.»

اندی برنهام، نخست‌وزیر بریتانیا هفته گذشته در مجمع عمومی سازمان ملل گفت که آزمایشگاه‌های مرزی هوش مصنوعی «ریسک چند برابری» هستند و بریتانیا می‌تواند نقش واسطه‌ای صادق را بین منافع ملی رقیب ایفا کند. دموکرات ها و جمهوری خواهان خواستار تصویب قانون جدید با هدف تنظیم آزمایشگاه ها شده اند.

دونالد ترامپ، رئیس‌جمهور ایالات متحده، که گفته بود صحبت در مورد خطرات هوش مصنوعی یک فریب است، هشدار داده است که کنترل سرعت تحقیقات آزمایشگاه‌های مرزی ایالات متحده به چین مزیت قابل توجهی خواهد داد.

"خطرات فقط افزایش یافته است، بنابراین آزمایش خوب است اما به وضوح کافی نیست." کانیشخا نارایان، بریتانیا وزیر هوش مصنوعی

ترامپ گفت: "من نگرانی دارم که اگر هوش مصنوعی را بدست نیاوریم، در موقعیت بسیار بدی قرار خواهیم گرفت. ما در حال حاضر چین را در یک دوره بسیار خوب رهبری می کنیم." گزارش شده است که کاخ سفید به اعضای گروه 20 هشدار داده است که نسبت به مقررات جدید جهانی رویکردی "دست از سر خود بردارند".

نارایان، که در کابینه نخست‌وزیر، قدرتمندترین نهاد سیاسی بریتانیا حضور دارد، گفت که تعدادی از خطرات مرتبط با هوش مصنوعی وجود دارد.

او گفت: «احساس صریح من این است که امروز به لحاظ افزایش سکولار خطرات امنیت سایبری که هر یک از ما در سازمان‌ها و زندگی‌های خود داریم، بسیار بیشتر روی خطرات متمرکز شده‌ام. «[من] نگران تکثیر این ابزارها هستم به گونه‌ای که خطرات بیوشیمیایی را نیز افزایش می‌دهد، و بله، من نگران مواردی هستم که مدل‌ها فراتر از آنچه انسان‌ها از آن‌ها خواسته‌اند انجام دهند.

«نوعی از حلقه‌های منطقی که باید از آنها عبور کنید تا به یک سؤال وجودی بپردازید، بسیار مهم و جدی هستند، و بنابراین این نشانه‌ای از نحوه فکر من در مورد مجموعه ریسک‌ها در اینجا است.

"شما باید بهترین آزمایش را در جهان انجام دهید تا بتوانید خطرات را درک کنید و آنها را کاهش دهید. ما این کار را انجام می دهیم. ما سه سال است که این کار را انجام می دهیم. ما در مقایسه با هر کشور دیگری موقعیت بسیار منحصر به فردی داریم تا بتوانیم این کار را انجام دهیم."

نارایان همچنین گفت که هوش مصنوعی نکات مثبت زیادی دارد، از جمله در ایجاد شغل، جستجوی شغل و بهره‌وری. او گفت که بریتانیا نقش IP نوآوری و فناوری را در پیشبرد رشد اقتصادی نادیده گرفته است.

او در نشستی که توسط بنیاد رزولوشن، یک اندیشکده سازماندهی شده بود، گفت: «ما، به عنوان سازمان، به عنوان افراد، به عنوان دولت، به عنوان بخش خصوصی، در واقع دارای نمایندگی هستیم که آیا این فناوری منجر به افزایش نیروی انسانی می شود یا فناوری است که کار انسانی را خودکار می کند.

راه‌هایی برای پذیرش فناوری وجود دارد که به معنای مشاغل بیشتر و بهره‌وری بیشتر است.»

این داستان در ابتدا در سایت Fortune.com منتشر شد