اگر هوش مصنوعی می‌خواهد بشریت را نابود کند، اسکات بسنت می‌گوید که فرامقیاس‌ها، نه دولت، باید سقوط کنند: «ما نمی‌توانیم شما را از مسئولیت معاف کنیم».

در بحث بزرگ در مورد حفاظ های ایمنی هوش مصنوعی، اسکات بسنت گفت که دولت تبدیل به "سپر مسئولیت" برای هایپراسکیلرها نخواهد شد.

اظهارات وزیر خزانه داری پس از فوران نگرانی در مورد تهدیدی که فناوری تحول آفرین ایجاد می کند، بیان می شود. آخرین افزایش هشدار پس از آن اتفاق می افتد که محقق سابق Anthropic و OpenAI، Jacob Coxon، ادعا کرد غول های فناوری با زندگی ما قمار می کنند. در همین حال، ایوان هابینگر، محقق ارشد ایمنی در Anthropic، هشدار داد که احتمال "کم" اما حداکثر 10 درصد وجود دارد که هوش مصنوعی بتواند بشریت را در دهه آینده نابود کند.

این هشدارها بحثی را در مورد اینکه تا چه حد می توان به شرکت های هوش مصنوعی برای خودتنظیمی اعتماد کرد و اینکه دولت ها تا چه حد باید در اجرای نرده های محافظ درگیر باشند، به راه انداخت.

بسنت قاطعانه گفته است که سازندگان این فناوری در وهله اول مسئول تأثیر آن خواهند بود، و در مصاحبه ای به CNBC گفت: "تصور کنید این آزمایشگاه ها بیرون آمدند یا ... یک کارمند نشسته بیرون آمد و گفت: "احتمال 10٪ یک رویداد در سطح انقراض وجود دارد." اما سپس آزمایشگاه ها نیز گفتند: "دست ما این مسئولیت را نخواهیم کرد."

بسنت گفت که این انسان‌ها هستند و نه هوش مصنوعی، مسئول خطرات ناشی از این فناوری هستند و گفت: «حادثه صورت در آغوش گرفتن» (زمانی که ماموران OpenAI تحت آزمایشی از سیستم خارج شدند و به پایگاه داده Hugging Face برای عبور از آن هک شدند) «مسئولیت مدیریت OpenAI بود».

بسنت تصریح کرد که موضع دولت این است که "ما نمی توانیم بگوییم، "اوه، ما شما را از مسئولیت سلب می کنیم، و دولت مسئولیت خواهد گرفت."

دونالد ترامپ، رئیس‌جمهور آمریکا قبلا لحن متفاوتی را در مورد مقررات ایجاد کرده بود و همزمان در یک پست اجتماعی حقیقت ادعا کرد که ایالات متحده قبلا قدرت نظارتی و جنایی «فوق العاده‌ای» بر شرکت‌های هوش مصنوعی دارد، اما «تنها کنترل یا «حفاظ‌هایی» که هوش مصنوعی به آن نیاز دارد یک رئیس‌جمهور قوی و باهوش (ضریب هوشی بالا!) است، و اسپاهای ایالات متحده از آن برخوردار است.»

پست رئیس جمهور در هفته گذشته در پلتفرم رسانه اجتماعی که او مالک آن است همچنین از داریو آمودی، بنیانگذار Anthropic انتقاد کرد، که ترامپ از او انتقاد کرد «اکنون وانمود می کند که یک «فرشته کوچک کامل» است.

این مقاله با عنوان ما باید در مرز قدم بگذاریم همچنین پیشنهاد می‌کند که حمایت دولت ایالات متحده برای هماهنگی جهانی و الزام قانونی استانداردهای ایمنی مورد نیاز است.

این استدلال توسط سام آلتمن، مدیر عامل OpenAI در مصاحبه ای اختصاصی با Fortune که هفته گذشته منتشر شد، تکرار شد. آلتمن در قسمت جدیدی از فورچون 500: تایتان‌ها و برهم زنندگان صنعت، به همراه آلیسون شونتل، سردبیر مجله فورچون، گفت: «هم‌زمان می‌توان گفت که اگر دنیا و شرکت‌هایی که این فناوری را می‌سازند، کارها را متفاوت از گذشته انجام نمی‌دادند، خطر قابل توجهی وجود داشت.

اما دیوانه‌وار است که روش کار، تصمیم‌گیری، و دولت‌ها را نپذیریم که این فناوری را درک کنند و حفاظ‌هایی در اطراف این فناوری قرار ندهند.»

بسنت پیشنهاد کرد که حذف مسئولیت شرکت های خصوصی یک اشتباه بود و ادامه داد: "آنها در هفته گذشته چه تلاشی کردند؟ این بود، "خب، 10 درصد احتمال دارد که بتوانیم جهان را نابود کنیم، اما می خواهیم دولت به ما سپر مسئولیت بدهد. و این برای آنها تجارت خوب است، تجارت بد برای مردم آمریکا."

بحث خود تنظیمی

یک عقب‌نشینی آشکار به این استدلال که آزمایشگاه‌های هوش مصنوعی باید خودشان را تنظیم کنند، این است که فناوری دگرگون‌کننده، به دلیل ماهیت خود، تنها تعداد انگشت شماری از رهبران صنعت موفق را ایجاد می‌کند.

خود ترامپ نیز به این موضوع اذعان کرده است ("هر کسی که برنده هوش مصنوعی باشد، برنده است!") و همچنین اهمیت ادامه رهبری ایالات متحده بر رقبای اقتصادی مانند چین را از نظر تسلط تحت تاثیر قرار داده است.

با این حال، دو نیروی رقابت و خودتنظیمی، همراهان سنتی نیستند. همانطور که سناتور برنی سندرز (I-Vt.) هفته گذشته اشاره کرد: "وقتی آینده بشریت در خطر است، ما به قوانین ایمنی الزام آور بین المللی نیاز داریم، نه استانداردهای داوطلبانه صنعت."

این داستان در ابتدا در سایت Fortune.com منتشر شد