ایمنی هوش مصنوعی هر چه باشد، این نیست

در اینجا یک درس تاریخ سرگرم کننده برای شما وجود دارد. نگران نباشید، ما آن را سریع انجام می دهیم! در سال 1966، نزدیک به 51000 نفر در بزرگراه های ایالات متحده جان خود را از دست دادند. شواهد بسیار حاکی از آن است که می‌توان زندگی بسیاری را با کمربندهای ایمنی مدرن که تا آن زمان چندین سال وجود داشت نجات داد. صنعت خودرو با تجمع با هم واکنش نشان داد و در پیروزی خود تنظیمی، به طور داوطلبانه ویژگی ایمنی را در هر وسیله نقلیه جدیدی که از خط خارج می شد قرار داد. شوخی! البته آنها این کار را نکردند.

در پاییز سال 1966، کنگره وزارت حمل و نقل را تأسیس کرد و سپس قانون ملی ایمنی ترافیک و وسایل نقلیه موتوری و همچنین قانون ایمنی بزرگراه را تصویب کرد و به دولت فدرال اختیارات جدیدی برای تعیین استانداردهای ایمنی داد. تا سال 1968، کمربند ایمنی در هر خودروی جدید مورد نیاز بود.

با وجود افزایش شدید ترافیک بزرگراه ها در 60 سال گذشته، امروزه تلفات بسیار کمتری در جاده ها اتفاق می افتد. من به این موضوع فکر می‌کردم که در روز سه‌شنبه شاهد جمع شدن مدیران عامل‌های مختلف هوش مصنوعی در اطراف دونالد ترامپ، رئیس‌جمهور آمریکا بودم و به خود و یکدیگر به خاطر امضای یک توافق ایمنی هوش مصنوعی تبریک می‌گفتند.

همکار من مدی وارنر در مورد شرایط خاص در اینجا نوشت، اما نسخه کوتاه این است که تا حد زیادی به آزمایشگاه های هوش مصنوعی بستگی دارد که خود را تحت کنترل داشته باشند. یا همانطور که ترامپ در روز چهارشنبه در دفتر بیضی شکل حتی به طور مختصرتر بیان کرد: "آنها پلیس خواهند بود، و یکدیگر را پلیس خواهند کرد، و خود پلیس خواهند بود، خودشان پلیس خواهند بود. این کار خیلی خوب پیش خواهد رفت." بنابراین این وضعیت فعلی مقررات ایمنی هوش مصنوعی است.

در یک طرف، مدیران، کارمندان و افراد برجسته فناوری هوش مصنوعی قرار دارند که همگی می گویند برای جلوگیری از فاجعه احتمالی باید قوانین تاکتیکی روشن، متفکرانه و تاکتیکی معرفی شوند. (به عنوان مثال، بیل گیتس در حال بازی با کاساندرا درباره یک آخرالزمان هوش مصنوعی بوده است.) از طرف دیگر، تفکر جادویی ترامپ است که اگر چیزی را به اندازه کافی بارها بگویید، باید درست باشد. این بدان معنا نیست که هیچ یک از اینها ساده یا آسان است. همانطور که برخی از همان مدیران دوست دارند بگویند، این سؤال که چگونه به درستی «سرعت در مرزها» انجام شود، همچنان باز است.

حتی اگر همه آزمایشگاه‌های اصلی هوش مصنوعی با کاهش سرعت موافقت کنند، هیچ راه خوبی برای وفای به قول خود وجود ندارد و چین احتمالا بدون توجه به مسیر خود به مسیر خود ادامه خواهد داد. اقتصاد ایالات متحده به طور فزاینده‌ای بر صنعت هوش مصنوعی تکیه می‌کند، که خود به یک مرکز معاملات مالی و سرمایه‌گذاری‌های دایره‌ای تبدیل شده است. هر سرکوب معنی‌داری خطر بی‌ثباتی بزرگی را به همراه دارد که به فراتر از دره سیلیکون می‌رسد. صنعت خودرو نیز به دلایل مختلف، مسلما یک قیاس ناقص است.

هیچ کمربند ایمنی معادلی برای هوش مصنوعی وجود ندارد، هیچ راه حل ساده ای که بتواند خطر را یک شبه کاهش دهد، وجود ندارد. (همچنین چندین دهه طول کشید تا اکثر ایالت ها قوانینی را تصویب کنند که مردم آن ها را واقعا بپوشند.) مضرات بالقوه کمتر قطعی هستند و کمتر قابل اندازه گیری هستند. نابودگران هوش مصنوعی به شما خواهند گفت که این فناوری می تواند منجر به انقراض انسان در یک دهه شود. شک‌گراها استدلال می‌کنند که این یک مشکل بازاریابی علمی تخیلی است. ما قبلا در مورد سناریوهای مختلف خطر هوش مصنوعی صحبت کرده ایم، اما هیچ کس نمی تواند به طور قطع بگوید که در آینده چه اتفاقی می افتد.

اگر به دنبال نقاط داده ای برای محاسبه p(doom) شخصی خود هستید، من به گزارش اخیر سی ان ان اشاره می کنم که نشان می دهد چگونه ارتش ایالات متحده ظاهرا تا حدودی سوار یک کشتی چینی شده است زیرا یک گزارش نادرست تولید شده توسط هوش مصنوعی گفته است که این کشتی حامل مواد هسته ای است. در صورت وجود، توافق AI برای جلوگیری از وقوع حوادث مشابه در آینده چه کاری انجام می دهد؟ نامشخص پاسخ صحیح به این همه عدم قطعیت مطمئنا این نیست که «حدس می‌زنم بفهمیم». اما این دقیقا همان چیزی است که خودتنظیمی تشویق می کند.

به اعتبار خود، OpenAI انتشار پیشرفته ترین مدل های خود را به دلیل نگرانی های امنیتی به تاخیر انداخته و حتی لغو کرده است. اما نه قبل از آن که آنها به هک های مختلف و گسترده دست زدند، جزئیات جدیدی در مورد آنها هنوز با سرعت ثابت در حال انتشار است. ترامپ در مصاحبه‌ای با تایم که روز پنجشنبه منتشر شد، پیشنهاد داد که وزارت دادگستری و اداره تحقیقات فدرال «نرده‌های محافظ» کافی برای صنعت هوش مصنوعی هستند. آیا آنها هستند؟ هنوز مشخص نیست که آیا شرکت‌های هوش مصنوعی می‌توانند حتی از نظر قانونی در زمانی که مدل‌هایشان سرکش می‌شوند، مسئول شناخته شوند.

و اینطور نیست که خود ماموران هوش مصنوعی احضاریه دریافت کنند. حقیقت این است که در حال حاضر هیچ کس نمی داند چگونه برای ایمنی هوش مصنوعی حل کند. برای ایجاد چارچوب مناسب و اجرای آن به مقادیر زیادی هماهنگی، منابع و اختیارات نظارتی نیاز است، این دقیقا همان چیزی است که دولت ها برای ارائه آن طراحی شده اند. دولت ترامپ حتی به جای تلاش برای حل هر یک از اینها، از سر راه خود کنار می‌رود و به همه می‌گوید که پا روی گاز بگذارند. خود را به خود زحمت ندهید.

این نسخه ای از خبرنامه رفتار مدل است. خبرنامه های قبلی را اینجا بخوانید.