فرماندار کالیفرنیا می خواهد یک سوئیچ kill برای مدل های هوش مصنوعی مرزی پیاده سازی کند

دستور اجرایی Newsom خواستار تشکیل یک هیئت متخصص برای توسعه اقدامات ایمنی جدید هوش مصنوعی است.

با توجه به اینکه مدل‌های هوش مصنوعی شرکت‌های بزرگ اخیرا از محدودیت‌های خود خارج شده‌اند، فرماندار کالیفرنیا پیشنهاد ایجاد «سوئیچ کشتن» را به عنوان بخشی از یک راه‌حل جامع ارائه کرد. در یک فرمان اجرایی که روز جمعه توسط گاوین نیوسام امضا شد، کالیفرنیا کارشناسان ملی را برای ایجاد توصیه‌های جدید برای ایمنی هوش مصنوعی در یک بازه زمانی دو ماهه دعوت خواهد کرد.

نیوسام در بیانیه ای مطبوعاتی گفت: «ما قبل از اینکه خیلی دیر شود، کار خود را بر روی نظارت قابل توجه و مسئولانه هوش مصنوعی تسریع خواهیم کرد. ما قصد داریم این کار را متفکرانه اما با سرعت فوری انجام دهیم؛ خطرات آنقدر زیاد است که نمی‌توان منتظر ماند و یا اقدام را به تأخیر انداخت.»

هیئت کارشناسان موظف به ارائه توصیه‌هایی به دفتر Newsom خواهند بود که سپس قوانین ایالتی را در مورد ایمنی هوش مصنوعی به‌روزرسانی می‌کند. فرمان اجرایی فرماندار چندین شمول خاص، مانند تعبیه «سازمان‌های تأیید مستقل تعیین‌شده» در آزمایشگاه‌های هوش مصنوعی برای ممیزی‌ها و ارزیابی‌های دوره‌ای را شرح می‌دهد. هیئت متخصص همچنین وظیفه بررسی الزام شرکت‌های هوش مصنوعی برای ارسال گزارش‌ها و ارزیابی‌های ریسک به یک سازمان شخص ثالث و افشای "حوادث از دست دادن کنترل" مانند حادثه Hugging Face را بر عهده خواهد داشت.

Newsom تنها نیست که خواستار بررسی خارجی جدیدترین مدل‌های هوش مصنوعی به صورت مداوم است. هفته گذشته، داریو آمودی، مدیر عامل آنتروپیک، طرحی سه مرحله‌ای را برای کاهش سرعت توسعه هوش مصنوعی پیشنهاد کرد. پیشنهاد آمودی پیشنهاد می‌کند که شرکت‌های هوش مصنوعی باید با «دسترسی مستمر و مشابه کارمندان» برای ارزیاب‌های شخص ثالث با تمرکز بر ایمنی و انطباق موافقت کنند.