جمهوری‌خواهان می‌خواهند سنا «سوئیچ کشتن» هوش مصنوعی را تصویب کند – این چگونه می‌تواند کار کند؟

سناتور جان کندی، جمهوری‌خواه لوئیزیانا، در حال برنامه‌ریزی برای ارائه لایحه‌ای است که توسعه‌دهندگان هوش مصنوعی (AI) را ملزم می‌کند تا یک «سوئیچ کشتن» برای خاموش کردن هوش مصنوعی خطرناک داشته باشند، زیرا نگرانی‌ها در مورد خطرات ناشی از فناوری به‌سرعت در حال توسعه افزایش می‌یابد.

پیشنهاد کندی در حالی مطرح می‌شود که کنگره با درخواست‌های فزاینده‌ای برای تنظیم این فناوری مواجه است و این لایحه می‌تواند یکی از فوری‌ترین فرصت‌های سنا را برای اجرای آنچه که او یک اقدام کلیدی ایمنی می‌نامد، ارائه دهد.

نگرانی ها در مورد هوش مصنوعی پس از آن افزایش یافت که Jacob Coxon، محقق سابق هوش مصنوعی Anthropic و OpenAI، زنگ خطر را در هفته گذشته به صدا درآورد و هشدار داد که این صنعت مسئولانه عمل نمی کند. او گفت به زودی «سیستم‌های مافوق بشری وجود خواهند داشت که می‌توانند هر چیزی را هک کنند، یک شبه هر زمینه‌ای را متحول کنند، و قدرت و منابع واقعی را به دست آورند» و بسیاری در صنعت معتقدند که هوش مصنوعی می‌تواند در عرض چند سال به بشریت پایان دهد.

اظهارات او راه‌ها را باز کرد و سایر محققان هوش مصنوعی هشدار دادند که این فناوری می‌تواند به رویدادهای فاجعه‌بار منجر شود و از قانون‌گذاران خواستند تا برای اجرای نرده‌های محافظ سریع عمل کنند. با این حال، دیگران استدلال کرده اند که سرعت گرفتن هوش مصنوعی می تواند به چین در مسابقه تسلیحاتی هوش مصنوعی برتری دهد.

به گزارش پولیتیکو، کندی گفت که قصد دارد سوئیچ کشتن هوش مصنوعی را روز چهارشنبه به سنا معرفی کند.

او گفت: «این تنها راهی است که می‌توانید کاری را انجام دهید.» ما تا دو هفته و نیم آینده کاری انجام نخواهیم داد.»

به گزارش پولیتیکو، او گفت که قرار است این لایحه را با اتفاق آرا ارائه کند. مشخص نیست که آیا سنا با پیشبرد این لایحه به اتفاق آرا موافقت خواهد کرد یا خیر. اگر از طریق سنا پیشرفت کند، همچنان باید از مجلس عبور کند و امضای رئیس جمهور دونالد ترامپ را دریافت کند، که تاکنون در برابر درخواست ها برای مقررات بیشتر هوش مصنوعی مقاومت کرده است.

تد لیو، نماینده دموکرات کالیفرنیا، و ناتانیل موران، یک جمهوری‌خواه تگزاس، لایحه‌ای را در ماه ژوئیه ارائه کردند که توسعه‌دهندگان هوش مصنوعی را ملزم می‌کند «قابلیت فنی برای دریچه گاز، تعلیق یا خاموش کردن آنها را حفظ کنند».

بر اساس بیانیه مطبوعاتی دفتر لیو، لایحه آنها همچنین مجوز یک چارچوب واکنش درجه بندی شده را می دهد تا ابزارهای دولت "با شدت حادثه مطابقت داشته باشد و نیاز به گزارش رویداد" داشته باشد.

لیو در CNN گفت که سایر فناوری‌ها دارای سوئیچ‌های کشنده هستند و هوش مصنوعی نباید مستثنی شود.

او گفت: "این باید اولین اصل ایمنی هوش مصنوعی باشد که انسان ها باید بتوانند سیستم های هوش مصنوعی و عوامل هوش مصنوعی را خاموش کنند، و ما به شرکت های هوش مصنوعی اجازه می دهیم نحوه انجام این کار را بفهمند. آنها باهوش ترین افراد را دارند که در این آزمایشگاه های مرزی کار می کنند."

مشخص نبود که لایحه کندی چقدر شبیه لایحه مجلس است.

Newsweek از طریق ایمیل با دفتر کندی و کاخ سفید تماس گرفت تا نظر بدهد.

سوئیچ AI kill مکانیزمی است که برای خاموش یا غیرفعال کردن یک سیستم هوش مصنوعی در صورت رفتار غیرمنتظره یا ناامن طراحی شده است. این می تواند به چند مکانیسم مختلف از جمله خاموش شدن اضطراری تحت کنترل انسان و همچنین کنترل های دسترسی یا مجوز اشاره داشته باشد که می تواند دسترسی هوش مصنوعی به اینترنت را لغو کند.

Erman Ayday، استاد کامپیوتر و علوم داده در دانشگاه Case Western Reserve، روز سه‌شنبه به نیوزویک گفت: یک سوئیچ کشتن هوش مصنوعی «می‌تواند به سادگی جدا کردن چیزی باشد».

او گفت، همچنین می‌تواند یک مکانیزم نرم‌افزاری باشد که به مدلی متصل می‌شود که «فورا عملکرد سیستم‌ها و دسترسی به سرورها را تعلیق می‌کند».

آیدی گفت که ایده یک سوئیچ کشتن هوش مصنوعی نگرانی های دیگری ایجاد می کند، اما می تواند اولین قدم مثبت باشد.

او گفت: "مشکل این است که پیش بینی می شود که یک انسان سوئیچ را کنترل کند، و انسان مایل است تصمیم بگیرد که چه زمانی سوئیچ باید راه اندازی شود. عدم تطابق سرعت زیادی وجود دارد."

او گفت که مدل‌های هوش مصنوعی می‌توانند در عرض چند دقیقه یا چند ساعت، قبل از اینکه انسان بفهمد چه اتفاقی می‌افتد و بتواند سوئیچ را فشار دهد، صدمات قابل توجهی ایجاد کند.

چالش دوم این است که ترک این تصمیم‌ها می‌تواند تضاد منافع ایجاد کند، او خاطرنشان کرد که هر شرکتی که نیاز به استفاده از سوئیچ داشته باشد، می‌تواند میلیون‌ها دلار در طول زمان خرابی ضرر کند و به شهرت آسیب برساند.

وی گفت: "اگر این نوع تصمیم را به یک انسان بسپارید، ذینفعان زیادی وجود خواهند داشت که می خواهند از مدیران شرکت گرفته تا عوامل عملیاتی در این تصمیم دخیل باشند. بنابراین تا زمانی که سوئیچ فعال شود، تاخیرهای اضافی زیادی نیز ایجاد خواهد شد."

او گفت همچنین باید استانداردها و معیارهایی وجود داشته باشد که دقیقا «توانایی خطرناک یا از دست دادن کنترل» را تعریف کند.

او گفت: «اگر بتوانید تشخیص دهید که این سوئیچ چه زمانی باید راه‌اندازی شود و ما می‌توانیم آن فرآیند را با این استانداردها و معیارها خودکار کنیم، فکر می‌کنم راه‌حل بسیار خوب و امیدوارکننده‌ای در اینجا داریم، اما فکر نمی‌کنم تا امروز وجود داشته باشد.»

او گفت که سوئیچ kill "آخرین راه حل" خواهد بود و اقدامات دیگری نیز وجود دارد که می توان برای جلوگیری از نیاز به حتی استفاده از آن مانند ممیزی های قبل از استقرار، شفافیت بیشتر و گزارش دهی در سراسر صنعت و نوعی مرجع اضطراری فدرال انجام داد.

او هشدار داد که هوش مصنوعی یک «فناوری سریع» است، اما ایالات متحده «فناوری و مدیریت کندی» دارد، اما تلاش کندی می‌تواند شروعی «امیدبخش» باشد.

برخی از رهبران فناوری از یک سوئیچ kill حمایت کرده اند.

داریو آمودی، مدیر عامل آنتروپیک، روز یکشنبه به سی بی اس گفت که یک سوئیچ kill «می تواند ایده خوبی باشد».

او گفت: "اما من فکر نمی‌کنم که ممنوع کردن آن، ممنوع کردن کامل آن، رویکرد درستی باشد. یکی، این ایده که ما هرگز از مزایای باورنکردنی برخوردار نخواهیم شد، هرگز به درمان‌های پزشکی نخواهیم رسید، این برای من مناسب نیست. دوم، این فناوری در کشورهای دیگر، از جمله کشورهای مستبد ساخته خواهد شد."

جک کلارک، یکی از بنیانگذاران Anthropic، به بی‌بی‌سی نیوز گفت که باید در مورد سوئیچ مرگ بالقوه برای سیستم‌های هوش مصنوعی قدرتمند گفت‌وگو شود.

او گفت: "من فکر می کنم این چیزی است که جامعه می خواهد بداند و ممکن است بخواهد در نهایت قوانینی را تصویب کند."

رویترز در اوایل سپتامبر گزارش داد که OpenAI در حال کار بر روی «قابلیت‌های خاموش کردن خودکار» برای هوش مصنوعی، شرکتی که ChatGPT را دارد، پس از حادثه Hugging Face، که در آن مدل‌های هوش مصنوعی در حال آزمایش در یک محیط sandbox به اینترنت دسترسی غیرمجاز پیدا کردند و به زیرساخت‌های متعلق به شرکت Hugging Face رسیدند تا یک کار هماهنگ را انجام دهند.

این حادثه بر نگرانی های ایمنی هوش مصنوعی تاکید کرد. طبق گزارش‌ها، مدل‌ها از یک آسیب‌پذیری برای فرار از محیط تست جعبه‌شنی ماسه‌بازی خود بهره‌برداری کردند و در طول ارزیابی با یکدیگر هماهنگ شدند و به‌عنوان یک «ازدحام» عمل کردند.

محقق سابق OpenAI دانیل کوکوتاجلو و یکی از نویسندگان پروژه تحقیقاتی AI2027 که هشدار داد هوش مصنوعی می تواند به بشریت در دهه 2030 پایان دهد، هفته گذشته به بی بی سی گفت که پس از اینکه پارلمان بریتانیا قانون سوئیچ کشتن را رد کرد، سوئیچ کشتن بدون توافق بین المللی کمک چندانی به محافظت از کشور نخواهد کرد.

او گفت: «خاموش کردن دسترسی به یک مدل هوش مصنوعی در مواقع اضطراری کمک چندانی به محافظت از شما نخواهد کرد. "هنوز قرار است شما توسط اطلاعات فوق العاده ای که در ایالات متحده ایجاد شده اند، هدایت شوید."

اندرو یانگ، کاندیدای سابق ریاست جمهوری و تاجر، هفته گذشته در اظهاراتی به CNN درباره آنچه به عنوان نیاز به تغییر قتل می‌دید بحث کرد.

او گفت: «این مطمئنا یک گام بزرگ در مسیر درست خواهد بود. اگر از مدل ها به طور مخرب استفاده شود، یک گام دیگر در مسیر درست، مسئولیت مدنی واضح تر برای این شرکت های هوش مصنوعی خواهد بود.

علیرغم تقاضاهای فزاینده برای مقررات بیشتر هوش مصنوعی، ترامپ خطرات ناشی از هوش مصنوعی را کم اهمیت جلوه داده است. ترامپ روز دوشنبه در مجموعه ای از پست ها در Truth Social نگرانی های ایمنی را یک "فریب" توصیف کرد و گفت که تنها نرده محافظ مورد نیاز یک "رئیس جمهور قوی و باهوش (IQ بالا!) است."

"تقلب هوش مصنوعی که توسط دوموکرات های چپ رادیکال انجام شد، یادآور کلاهبرداری گرمایش جهانی آنها در سال های نه چندان دور است، جایی که همه قرار بود از گرمای شدید بمیرند. چه اتفاقی افتاد؟" ترامپ در یکی از این پست ها نوشت.

چندین قانون دیگر با هدف مقابله با مقررات هوش مصنوعی در کنگره ارائه شده است، اما مشخص نیست که آیا هیچ یک از این لوایح شتاب کافی برای تصویب پیش از انتخابات میان دوره ای دارند یا خیر.

نماینده لوری تراهان، نماینده دموکرات ماساچوست، و نماینده جی اوبرنولت، نماینده جمهوری خواه کالیفرنیا، قانون نظارت بر ریسک مرزی، شفافیت ملی، ارزیابی مستقل و گزارش (FRONTIER) را در ماه جولای معرفی کردند.

دفتر تراهان در بیانیه‌ای اعلام کرد که این لایحه یک چارچوب ملی مبتنی بر ریسک ایجاد می‌کند که بر توسعه و استقرار پیشرفته‌ترین مدل‌های هوش مصنوعی حاکم است.

دفتر او نوشت: "قانون FRONTIER الزامات طبقه بندی شده ای را بر اساس اندازه یک توسعه دهنده هوش مصنوعی مرزی، از جمله کارت های مدل، چارچوب های مدیریت ریسک، ممیزی های مستقل، گزارش حوادث، و ارزیابی های مداوم ایجاد می کند. همچنین استاندارد ملی یکسانی برای شفافیت، حسابرسی و گزارش ریسک فاجعه آمیز برای جلوگیری از مجموعه ای از مقررات دولتی ایجاد می کند."

این لایحه از حمایت هر دو حزب دموکرات و جمهوری خواه برخوردار است.

سناتور برنی سندرز، یک مستقل پیشرو از ورمونت، و نماینده گرگ کازار، نماینده دموکرات تگزاس، «قانون ممنوعیت ابر هوش مصنوعی» را معرفی کردند که به گفته آنها «توسعه و استقرار هوش مصنوعی فوق‌هوشمند را برای همیشه ممنوع می‌کند و توسعه هوش مصنوعی پیشرفته را تا زمانی که یک تنظیم‌کننده فدرال قوانین ایمنی را تعیین کند، موقتا متوقف می‌کند».

این لایحه همچنین یک آژانس فدرال جدید در سطح کابینه ایجاد می کند تا از مردم در برابر خطرات هوش مصنوعی محافظت کند و سیاست بین المللی ایالات متحده را برای پیگیری توافقات بین المللی و هماهنگی برای جلوگیری از توسعه هوش مصنوعی در هر نقطه از جهان تعیین کند.

نگرانی در مورد ایمنی هوش مصنوعی پس از آن گسترش یافت که کاکسون در پستی در X نوشت که از نقش خود در Anthropic استعفا داد و هشدار داد که معتقد است هوش مصنوعی می‌تواند «تا پایان دهه همه ما را بکشد».

او می‌نویسد: "افرادی که هوش مصنوعی می‌سازند، عمیقا معتقدند که می‌تواند تا پایان دهه همه ما را بکشد. این یک شیرین کاری بازاریابی نیست. در غیر این صورت، بسیاری از مدیران و محققان ارشد عبارات خود را در مطبوعات بیان می‌کنند تا منطقی به نظر برسند - اما من می‌شنوم که همان افراد به طور خصوصی ترس خود را ابراز می‌کنند. هیچ فعالیت انسانی دیگری این سطح از خطر را ایجاد نمی‌کند."

ده ها محقق دیگر هوش مصنوعی به طور مشابه نگرانی هایی را در مورد پتانسیل هوش مصنوعی برای ایجاد خطرات فاجعه بار برای بشریت، از جمله احتمال انقراض انسان، مطرح کرده اند.

ایوان هابینگر، سرپرست علم همسویی در Anthropic، در X نوشت: "جاکوب در اینجا درست می گوید: "ما واقعا عمیقا معتقدیم که هوش مصنوعی می تواند همه انسان ها را بکشد! من شخصا فکر می کنم که در یک دهه آینده بیش از 10٪ خواهد بود. من معتقدم که Anthropic تمام تلاش خود را می کند، اما ما هنوز برنامه ای برای حل همسویی برای ابر هوش نداریم و به وضوح در مسیر نیستیم."

Amodei از Anthropic در مقاله‌ای در آخر هفته نوشت: «اما در چند ماه گذشته متقاعد شده‌ام که پرداختن کامل به خطرات مستلزم احتیاط بیشتری است - نه فقط سرمایه‌گذاری در پیشگیری از ریسک، بلکه سرعت بخشیدن به سرعت پیشرفت قابلیت‌ها به طوری که پیشگیری از ریسک زمان لازم برای ادامه دادن داشته باشد. ما باید سرعت پیشرفت مدل‌های هوش مصنوعی را کاهش دهیم و همچنان توانایی‌های هوش مصنوعی را بهبود ببخشیم. استفاده عاقلانه از زمانی که به دست می آوریم.»

سایر رهبران هوش مصنوعی مانند ایلان ماسک و سام آلتمن، مدیر عامل OpenAI، با نگرانی‌های مربوط به ریسک هوش مصنوعی موافقت کرده‌اند.

در مورد این داستان با سردبیران نیوزویک تماس بگیرید: سامانتا بیچ و جفری رولند.