وزیر می گوید که هوش مصنوعی بدون حفاظ خطرات بزرگی برای امنیت ملی ایجاد می کند

یک وزیر ارشد هشدار داد که هوش مصنوعی (AI) بدون حمایت های مناسب خطرات بزرگی برای امنیت ملی و جامعه بریتانیا ایجاد می کند.

لوئیز هیگ، وزیر امور خارجه اول - معاون بالفعل اندی برنهام، نخست وزیر، روز سه شنبه در کنگره TUC گفت که دولت باید به هشدارهای کسانی که "در خط مقدم" توسعه فناوری هستند توجه کند.

او افزود که دولت "آماده همکاری با شرکای بین المللی" است تا امنیت عمومی و امنیت ملی را در اولویت قرار دهد.

ترس در مورد خطرات بالقوه هوش مصنوعی در روزهای اخیر پس از هشدار مدیران و کارکنان فعلی و سابق در این زمینه افزایش یافته است که این فناوری می تواند بشریت را به خطر بیندازد.

روز دوشنبه، سخنگوی برنهام، نخست وزیر بریتانیا، از بحث آزاد میان کسانی که در حال توسعه فناوری خطرات و مزایای هستند استقبال کرد.

هیگ بعد از ظهر سه‌شنبه در کنگره TUC صحبت کرد و به «پتانسیل عظیم» هوش مصنوعی برای خدمات عمومی، مشاغل و علم اذعان کرد.

در حالی که او گفت که بریتانیا باید از این امر حداکثر استفاده را ببرد، افزود: «به وضوح خطرات بزرگی برای امنیت ملی و جامعه ما وجود دارد، اگر نرده‌های محافظ مناسب در جای خود قرار نگیرند...

"ما وظیفه جدی داریم که خطرات را کاهش دهیم و اطمینان حاصل کنیم که این به نفع - نه به ضرر - جامعه ما است."

جاناتان رینولدز، وزیر بازرگانی، در مصاحبه‌ای با برنامه امروز رادیو بی‌بی‌سی 4 در اوایل روز سه‌شنبه گفت که مردم نباید در مورد خطرات هوش مصنوعی راضی باشند - اما همچنین نباید "هذا" باشند.

این در حالی است که پس از گزارشی که نشان می‌دهد این فناوری مسئول نقض حقوق بشر متعدد است، نمایندگان پارلمان بریتانیا به دنبال قوانین جدیدی در مورد هوش مصنوعی هستند.

الکس سوبل، نماینده حزب کارگر و رئیس کمیته گفت: «هیچ جای دنیا، از جمله بریتانیا، رویکرد قانونی و نظارتی فعلی برای هوش مصنوعی ندارد که برای هدف مناسب باشد.

چرا نگرانی هایی وجود دارد که هوش مصنوعی می تواند بشریت را تهدید کند و چقدر واقعی هستند؟

یکی از محققان Anthropic، ایوان هابینگر، پس از اینکه گفت که معتقد است هوش مصنوعی "تمام انسان ها" را در یک دهه آینده بیش از 10 درصد احتمال دارد، تیتر خبرها شد.

ادعای هابینگر پس از آن مطرح شد که محققی که آنتروپیک را ترک کرد به دلیل به صدا درآوردن زنگ خطر در مورد "سرنوشت بشریت در دو سال آینده" از هوش مصنوعی در فضای مجازی منتشر شد.

جاکوب کوکسون، کارمند سابق آنتروپیک، به بی بی سی گفت: «اگر ما با سرعت فعلی پیشرفت کاهش ندهیم، احتمال زیادی وجود دارد که همه ما در آینده نزدیک بمیریم.

داریو آمودی، مدیر عامل آنتروپیک، از آن زمان خواستار کاهش سرعت توسعه مدل‌های هوش مصنوعی، مانند کلود یا چت‌جی‌پی‌تی شده و از نزدیک نظارت می‌شود.

آمودی گفت که خطرات مرتبط با آن "جدی" است و باید به شرکت ها و دولت ها فرصت داده شود تا به آنها رسیدگی کنند. سم آلتمن از OpenAI و ایلان ماسک از او حمایت کردند.

با این حال، برخی در صنعت هوش مصنوعی پیشنهاد کرده‌اند که ترس‌های مربوط به نابودی بشریت مبالغه‌آمیز هستند یا حتی ممکن است برای ایجاد هیاهو طراحی شده باشند.

یکی از بنیانگذاران Anthropic به بی بی سی می گوید که هوش مصنوعی روز به روز قدرتمندتر می شود

یک "سوئیچ کشتن" هوش مصنوعی نیز توسط یکی از بنیانگذاران Anthropic به عنوان راهی برای خاموش کردن نرم افزار هوش مصنوعی که بسیار خطرناک می شود، ارائه شده است.

جک کلارک، یکی از هفت بنیان‌گذار شرکت هوش مصنوعی، به بی‌بی‌سی گفت: «بیشتر آزمایشگاه‌ها راه‌های مختلفی از جمله آنتروپیک برای جدا کردن دوشاخه دارند، اما گفت که نمایندگان پارلمان ممکن است نیاز به اجرای آن داشته باشند.

رینولدز در پاسخ به سوالی درباره ایده "سوئیچ کشتن" به بی بی سی گفت: "فکر نمی کنم این روش مفیدی برای فکر کردن به نحوه مدیریت خطرات باشد - من واقعا مطمئن نیستم که در عمل چه معنایی دارد."

او هشدار داد که مقررات بیش از حد ممکن است خطر از دست دادن دسترسی بریتانیا به مدل‌های توسعه‌یافته در خارج از کشور را به خطر بیاندازد، که به گفته او این کشور را «ایمن‌تر» می‌کند.

پیشنهاد ایجاد مکانیسم قانونی برای بریتانیا برای خاموش کردن مدل هوش مصنوعی در مواقع اضطراری توسط لردها و نمایندگان مجلس به پارلمان ارائه شد. اما دفتر کابینه گفت که بریتانیا «نمی‌تواند به سادگی هوش مصنوعی را خاموش کند».

یکی از سخنگویان به بی‌بی‌سی نیوز گفت: «مسدود کردن دسترسی به مدل‌ها در بریتانیا مانع از توسعه یا استفاده نادرست آن‌ها در جاهای دیگر نمی‌شود».

در همین حال، دونالد ترامپ، رئیس جمهور ایالات متحده، ایده تسلط بر جهان توسط هوش مصنوعی را رد کرد و در شبکه های اجتماعی گفت که هوش مصنوعی "ویرانگر بشریت و همه چیزهای بد دیگر، یک فریب است".

ترامپ در یک پست جدیدتر حقیقت، گفت که فریب هوش مصنوعی "توسط دوموکرات های چپ رادیکال انجام شده است" و آن را به آنچه که او به عنوان "کلاهبرداری گرمایش جهانی" توسط چپ توصیف می کند، تشبیه کرد.

رئیس جمهور که اغلب محتوای هوش مصنوعی را در پلتفرم Truth Social به اشتراک می گذارد، مزایای هوش مصنوعی را ستوده است و تمایل خود را برای برنده شدن ایالات متحده در "مسابقه هوش مصنوعی" علنی اعلام کرده است.

محقق سابق Anthropic به بی بی سی گفت که کارکنان هوش مصنوعی برای آینده بشریت واقعا ترسیده اند.

نمایندگان مجلس و لردها خواستار قانون جدیدی برای مقابله با تهدیدات هوش مصنوعی برای حقوق بشر هستند

دولت بریتانیا ایده «سوئیچ کشتن» برای هوش مصنوعی خطرناک را رد کرد