دستور اجرایی Newsom شامل پیشنهاد سوئیچ کشنده هوش مصنوعی است

روز جمعه، فرماندار کالیفرنیا و مردی که هنوز به طور رسمی برای ریاست جمهوری گاوین نیوسام نامزد نشده است، یک فرمان اجرایی مرتبط با هوش مصنوعی را امضا کردند و ایده جالب «سوئیچ کشتن» برای مدل‌های هوش مصنوعی را بررسی می‌کند.

متن EO فراخوان ارزیابی های مربوط به:

«نیاز به ایجاد «سوئیچ کشتن» برای مدل‌های مرزی، با تأیید کارآمدی سوئیچ به طور مداوم توسط یک سازمان تأیید مستقل.»

در یک بیانیه مطبوعاتی، نیوسام گفت: "شکست فاحش دولت فدرال در ایجاد هر نوع نظارت یا پاسخگویی معنادار هوش مصنوعی باید هر آمریکایی را نگران کند، به ویژه زمانی که خود مدیران عامل هوش مصنوعی التماس مقررات را دارند."

پرزیدنت ترامپ ظاهرا هیچ فشاری برای پاسخ به ترس‌های آخرالزمان هوش مصنوعی ناشی از اظهارات ترسناک اخیر مهندس سابق آنتروپیک یاکوب کاکسون احساس نمی‌کند. اوایل این هفته ترامپ نوشت که «تسلط بر جهان توسط هوش مصنوعی، نابود کردن بشریت، و همه چیزهای بد دیگر، یک HOAX است» و هوش مصنوعی «بزرگترین موتور توسعه اقتصادی در تاریخ خواهد بود – بزرگتر از نفت، طلا، الماس یا حتی اینترنت».

با این دستور، نیوسام که قبلا به دلیل تلاش هایش برای غرق شدن در مورد ترامپ شناخته شده است، بار دیگر خود را به عنوان دشمن مستقیم ترامپ معرفی می کند.

انصافا، لحن نیوزوم سال‌ها در این مورد ثابت بوده است. از حدود سال 2023، او در مورد کالیفرنیا به عنوان یک رهبر در ایمنی هوش مصنوعی صحبت کرده است و خاطرنشان کرد که بیشتر صنعت در آنجا مستقر است.

کالیفرنیا مرکز جهانی هوش مصنوعی است - این ایالت فناوری پیشرفته‌تری را نسبت به هر دولت زیرملی تهیه می‌کند.

ما در حال ارائه یک سری اصول و پادمان‌ها برای توسعه هوش مصنوعی ایمن، شفاف و قابل اعتماد هستیم. https://t.co/f3FsAZexLR

— فرماندار گاوین نیوزوم (@CAgovernor) 22 نوامبر 2023

اما آیا فرماندار یک ایالت می‌تواند با امضای یک فرمان اجرایی، سوئیچ کشتن هوش مصنوعی را اجباری کند؟ احتمالا نه، و این چیزی نیست که این دستور سعی در انجام آن دارد. این بیشتر شبیه دستوری است که از گروهی از متخصصان خواسته می‌شود تا ایده‌ای در رابطه با سوئیچ kill ارائه کنند و این کار را سریع انجام دهند.

آژانس عملیات دولتی کالیفرنیا و دفتر خدمات اضطراری فرمانداری باید تشکیل جلسه داده و توصیه‌هایی را طبق دستور ارائه کنند، و یکی از این توصیه‌ها اکنون در مورد امکان سوئیچ کشتن برای مدل‌های هوش مصنوعی مرزی است. اجرای واقعی چنین سوئیچ کشتن احتمالا بر عهده فرماندار بعدی خواهد بود که احتمالا نامزد دموکرات ها خاویر بسرا خواهد بود، زیرا دوره ریاست نیوسام در 4 ژانویه سال آینده به پایان می رسد.

Becerra در روز جمعه در Threads نوشت: «ما به نرده‌های محافظ واقعی برای شرکت‌هایی نیاز داریم که به سمت سوپرهوشی پیش از اینکه ثابت شود کسی می‌تواند آن را کنترل کند.

یک لایحه سوئیچ کشتار فدرال ارائه شد، اما هفته گذشته زمانی که سناتور کنتاکی، رند پل، تصویب آن را با رضایت اتفاق آرا مسدود کرد، عملا کشته شد. این لایحه تحت رهبری جمهوری خواهان بیشتر مسئولیت را بر دوش شرکت های هوش مصنوعی مرزی گذاشت تا «سوئیچ کشتن» را اضافه کنند، که به طور بالقوه آن را بیشتر به یک نیاز خودکار «شکن مدار» تبدیل می کند تا افزودن یک «سوئیچ کشتار» خارجی. یک لایحه دو حزبی، که از نظر تئوری هنوز در حال بحث است، بیشتر یک «سوئیچ کشتن» واقعی است که به وزارت امنیت داخلی اختیارات قابل توجهی می دهد تا مدل های AI سرکش را تعطیل کند.

اصل دستور اجرایی نیوسام بیشتر به جای دیگری هدایت می شود. همانطور که Politico اشاره می کند، یک سال از زمان بندی اجرای دو قانون ایالتی - که هر دو در بین شرکت های هوش مصنوعی مرزی محبوب هستند - با هدف ایجاد نهادهای نظارتی کاهش می یابد.