رهبران هوش مصنوعی می گویند سوئیچ kill برای متوقف کردن هوش مصنوعی سرکش کافی نیست

رهبران هوش مصنوعی می گویند که یک سوئیچ kill ممکن است برای متوقف کردن یک سیستم فوق هوشمند سرکش کافی نباشد. اتحاد Sven Hoppe/تصویر از طریق Getty Images با افزایش ترس ها، ایده یک سوئیچ kill برای متوقف کردن هوش مصنوعی سرکش در کنگره شتاب بیشتری می گیرد.

اما رهبران هوش مصنوعی می گویند شاید این گلوله جادویی نباشد که برخی از سیاست گذاران به آن امیدوار هستند.

داریو آمودی، مدیر عامل آنتروپیک، گفت که خرابی اضطراری یک "نوش دارو" نیست. هوش مصنوعی از کنترل خارج می شود. در حال راه اندازی یک حمله سایبری ویرانگر است. سوئیچ kill را بچرخانید و هوش مصنوعی آفلاین می شود. مشکل حل شد.

یا هست؟

رهبران و محققان هوش مصنوعی می گویند که کلید کشتن ممکن است گلوله نقره ای نباشد که برخی از سیاست گذاران به آن امیدوار هستند.

جفری هینتون، دانشمند کامپیوتر که به عنوان پدرخوانده هوش مصنوعی شناخته می شود، روز پنجشنبه به سی ان ان گفت: «فکر نمی کنم در درازمدت کارساز باشد.

او افزود: «وقتی فوق‌هوشمند باشد، بسیار بهتر از مردم خواهد بود». بنابراین می‌تواند افراد مسئول سوئیچ را متقاعد کند که سوئیچ را نکشند.»

این در حالی است که محققان و مدیران اجرایی درباره هوش مصنوعی قدرتمند هشدار داده اند که روزی یک تهدید وجودی برای بشریت ایجاد می کند.

این مناظره روز چهارشنبه به کاپیتول هیل رسید، زمانی که سناتور رند پل لایحه ای را از جانب سناتور جان کندی که به سیستم های هوش مصنوعی پیشرفته نیاز به سوئیچ کشتن نیاز داشت، مسدود کرد. پل گفت که کنگره باید قبل از اعمال قوانین گسترده، این فناوری را مطالعه کند.

در عمل، یک سوئیچ kill می تواند مدل میزبان خود شرکت را غیرفعال کند یا دسترسی آن را به ابزارها و منابع محاسباتی قطع کند. اما هینتون تنها نیست که می گوید ممکن است کافی نباشد.

دیگر رهبران هوش مصنوعی می‌گویند که یک سوئیچ kill می‌تواند کمک کند، اما ممکن است دور زده شود، خیلی دیر بیاید یا فقط به عنوان یک لایه از یک سیستم ایمنی گسترده‌تر عمل کند.

نیت سورس، محقق ایمنی هوش مصنوعی و نویسنده همکار «اگر کسی آن را بسازد، همه می‌میرند»، گفت که یک سوئیچ خاموش می‌تواند در حالی که یک سیستم هوش مصنوعی به یک مکان فیزیکی متصل است کار کند - اما نه لزوما زمانی که فرار کند، خودش را تکرار کند یا در زیرساخت‌های حیاتی جاسازی شود.

سوارس روز چهارشنبه در مصاحبه با اسکای نیوز گفت: "ما اکنون یک کلید خاموش داریم." و هشدار داد که نقاط بی بازگشتی وجود دارد که بشریت نباید به آنها نزدیک شود. از نظر او، اولویت در وهله اول جلوگیری از ساخت سیستم های خطرناک است.

سوئیچ کشتن هوش مصنوعی «نوش جان» نیست

برخی از مدیران هوش مصنوعی، سوئیچ kill را یک خط دفاعی ضروری اما محدود می دانند.

جک کلارک، یکی از بنیانگذاران آنتروپیک، روز دوشنبه در مصاحبه ای با بی بی سی گفت که ممکن است در نهایت از شرکت ها خواسته شود که یک سوئیچ kill را که می تواند توسط شخص ثالث مستقل تأیید شود، حفظ کنند. او گفت که آزمایشگاه‌های اصلی هوش مصنوعی در حال حاضر راه‌هایی برای «کشیدن دوشاخه» دارند، اما گروه‌های مستقل از عوامل می‌توانند از نظر تئوری این کنترل‌ها را دور بزنند.

داریو آمودی، مدیر عامل آنتروپیک نیز به همین نکته اشاره کرد. او روز دوشنبه به سی‌بی‌اس گفت، یک سوئیچ kill «می‌تواند ایده خوبی باشد»، اما گفت که «دارای نوشدارویی» نیست. او گفت که یک مدل هوش مصنوعی با توانایی کافی می‌تواند تلاش‌ها برای خاموش کردن آن را دور بزند و یک سوئیچ kill را به یک لایه از یک استراتژی ایمنی گسترده‌تر تبدیل کند که شامل آزمایش، ارزیاب‌های خارجی و محدودیت‌هایی در استقرار است.

محدودیت های سوئیچ کشتن هوش مصنوعی ایده جدیدی نیست. سام آلتمن، مدیر عامل OpenAI، در مصاحبه ای با The Economist در سال 2024، مفهوم یک خرابی همه منظوره را رد کرد. او گفت که هیچ "دکمه قرمز جادویی" وجود ندارد که هوش مصنوعی را متوقف کند.

در عوض، آلتمن گفت، ایمنی هوش مصنوعی به مجموعه‌ای از تصمیم‌ها بستگی دارد: مدل‌هایی که مجاز به انجام چه کاری هستند، چه زمانی به کار می‌روند و خطرات آنها چگونه مهار می‌شود.

آلتمن گفت: «این تصمیم باینری رفتن/توقف نیست. "این تصمیمات کوچک بسیاری در طول راه است."

مقاله اصلی را در Business Insider بخوانید