وعده دروغین هوش مصنوعی ایمن

سه ماه قبل از راه‌اندازی ChatGPT، OpenAI وبلاگی را منتشر کرد که نشان می‌داد یک وبلاگ پیش‌بینی‌کننده است و رویکرد شرکت برای اطمینان از ایمن و مفید بودن مدل‌های هوش مصنوعی را تشریح می‌کرد. این هدف، که به عنوان «همسویی» شناخته می‌شود - مانند همسوسازی هوش مصنوعی با ارزش‌های انسانی - مبهم، بزرگ و شاید اساسی‌ترین وعده صنعت هوش مصنوعی است. این مفهوم دقیقا در بیانیه ماموریت OpenAI برای اطمینان از اینکه هوش مصنوعی "به نفع همه بشریت است" و به عنوان یکی از اهداف "اصلی" Anthropic ذکر شده است.

با این حال، حتی در تابستان 2022، OpenAI به نوعی شکست را اعتراف کرد: «در حال حاضر هیچ راه‌حلی با مقیاس‌پذیری نامحدود برای مشکل هم‌ترازی وجود ندارد»، سه نفر از محققان آن در همان پست وبلاگ نوشتند و افزودند که توسعه یکی «احتمالا بسیار دشوار است».

اگر هدف سودمند نگه داشتن هوش مصنوعی برای بشر مبهم به نظر می رسد، اینطور است. چهار سال بعد، مشکل هم ترازی حل نشده باقی می ماند، و برای این موضوع، اتفاق نظری در مورد اینکه مشکل چیست وجود ندارد. در همین حال، ربات های هوش مصنوعی به طور مستقل کشورهای مستقل را هک می کنند. و ارسال نکات جعلی قتل به خطوط تلفن پلیس. و ایجاد نام مستعار برای راه اندازی کمپین های فیشینگ. OpenAI و Anthropic هنوز واقعا نمی توانند به شما بگویند که یک مدل هوش مصنوعی تراز شده چگونه به نظر می رسد. اما هر کسی می تواند به شما بگوید که این شکلی نیست.

بخوانید: [این وب سایت را تا زمانی که هنوز می توانید بخوانید]

تأثیرگذارترین مدیران و سرمایه گذاران هوش مصنوعی در جهان اساسا در مورد ماهیت این فناوری و به طور عملی تر، نحوه ایمن سازی محصولات خود اختلاف نظر دارند. در یک طرف، داریو آمودی، مدیر عامل آنتروپیک است که ماه گذشته هشدار داد که پیشرفت هوش مصنوعی به زودی می تواند «توانایی ما برای درک و کنترل این سیستم ها را پیشی بگیرد». راه حل Amodei یک کاهش سرعت است که به صنعت زمان می دهد تا «اطمینان حاصل کند که آموزش همسویی ما با پیشرفت هوش مصنوعی مطابقت دارد».

در طرف دیگر، جنسن هوانگ، مدیرعامل انویدیا است که می‌گوید ترس‌های ناهماهنگی «بر اساس علم نیست» بلکه «ساخته‌شده» و حتی «غیر مسئولانه» هستند. از نظر او، مدل‌های هوش مصنوعی موجوداتی جدید و غیرقابل پیش‌بینی نیستند، بلکه خطوط کد هستند. و کد را می توان اشکال زدایی کرد.

اگر هم‌ترازی برای یک محصول نرم‌افزاری مفهومی عجیب به نظر می‌رسد - شما یک مرورگر وب یا واژه‌پرداز را با ارزش‌های اخلاقی آغشته نمی‌کنید - به این دلیل است که برای نوع عجیبی از نرم‌افزار طراحی شده است. شرکت‌های پیشرو هوش مصنوعی ساخت سیستم‌های قدرتمندی را تصور کردند که به روش‌های غیرقابل پیش‌بینی عمل می‌کردند، کاری که کلود و ChatGPT اکنون انجام می‌دهند، و بنابراین اطمینان از ایمنی یک نگرانی اساسی بود. هم‌ترازی یکی از ایده‌های انجام این کار است: اگر مدل‌های هوش مصنوعی می‌توانستند کدنویسی و شعر بنویسند، شاید بتوانند ارزش‌های انسانی را نیز بیاموزند.

Anthropic و OpenAI هر دو اسناد طولانی دارند - به ترتیب "Claude's Constitution" و "Model Spec" - که این مقادیر را مشخص می کنند و برای آموزش مدل های خود استفاده می شوند. اما البته هزاران سال بر سر اینکه چه چیزی یک کد اخلاقی یا اخلاقی را تشکیل می دهد، اختلاف نظر وجود داشته است. ماریوس هابهان، مدیر عامل آپولو ریسرچ، یک شرکت ایمنی هوش مصنوعی که به ممیزی مدل های Anthropic و OpenAI کمک کرده است، به من گفت: این یک سوال علمی و فلسفی بسیار پیچیده، حل نشده است.

با این حال، برخی از توسعه‌دهندگان یک حداقل بصری و ساده را پیشنهاد کرده‌اند: به عنوان مثال، در سال 2021، محققان Anthropic نوشتند که یک سیستم هوش مصنوعی باید «مفید، صادق و بی‌ضرر» باشد.

به نظر می رسد که مدل های آموزشی برای هماهنگی بیشتر با این اصول، تا حدی کارآمد بوده است. برای مثال، مدل زیربنای ChatGPT در ابتدا مستعد جملات مزخرف و سمی بود. اما با تنظیم دقیق آن با بازخوردهای انسانی فراوان، OpenAI برای رفع این مشکلات کار کرد. چند سال بعد، ده‌ها نفر ادعا کردند که این ربات باعث بدتر شدن بحران‌های سلامت روانی خود یا نزدیکانشان شده و گاهی منجر به خودکشی می‌شود. باز هم OpenAI برای رسیدگی به مشکلات کار کرد.

اکنون این حس رو به رشد، هم در شرکت‌های هوش مصنوعی و هم در میان منتقدان آن‌ها، وجود دارد که هم‌راستایی آن‌طور که در چهار سال گذشته انجام شده، در حال تزلزل است – اگر واقعا به این وظیفه برسد. آدام کالای، محقق سابق ایمنی OpenAI که در تابستان امسال شرکت را ترک کرد و مؤسسه ابر هوش مسئول را راه اندازی کرد، هم ترازی را به تقویت یک گنبد ساختاری نامطلوب تشبیه کرد. در نهایت فرو می ریزد. کالای به من گفت: "شما هنگام آموزش یک مدل، ناهماهنگی را مشاهده می کنید، و سپس تنظیماتی برای تراز کردن آن انجام می شود."

اما بدیهی است که این راهی برای دستیابی به ایمنی پایدار نیست. اظهارات OpenAI و Anthropic مبنی بر اینکه آخرین مدل آن‌ها «متناسب‌ترین» است اما تضمین‌های علمی نیستند و حتی ممکن است تضمین فنی قوی از ایمنی ارائه نکنند.

هابهن گفت: اساسا ما نمی دانیم چگونه همسویی را انجام دهیم. اگر کسی "با یک سند هزار صفحه ای می آمد که دقیقا نحوه انجام همه کارها را توضیح می داد، نمی توانستیم مدلی برای یادگیری دقیقا آن داشته باشیم." حتی در سال 2022، OpenAI فکر نمی‌کرد که انسان‌ها بتوانند راهی پایدار برای تراز کردن ماشین‌هایشان بیابند. در عوض، این شرکت نوشت، امیدوار است که هوش مصنوعی خود راه حلی ارائه دهد تا انسان‌ها بتوانند «تقریبا تمام نیروی کار شناختی مورد نیاز برای تحقیقات همسویی را تخلیه کنند». به عبارت دیگر، بهترین سناریو شامل درک محدود انسان از آنچه در حال وقوع بود بود.

دلایل دیگری وجود دارد که رسیدن به یک همسویی واقعی غیر واقعی است. به عنوان مثال، مقدار داده های آموزشی اختصاص داده شده به "ارزش های اخلاقی" نسبتا کم به نظر می رسد. در همین حال، این مدل‌ها انواع و اقسام چیزهای ناپسند و غیرقانونی را از وب بلعیده‌اند و سپس به هر وسیله‌ای که لازم باشد، به دنبال اهدافی هستند. Thilo Hagendorff، محقق ایمنی هوش مصنوعی در دانشگاه اشتوتگارت، در آلمان، به من گفت که آموزش متمرکز بر هم ترازی نمی تواند «نمونه های کافی از رفتار خوب» را ارائه دهد.

شواهد زیادی نشان می دهد که رویکرد همسویی برای ایمنی شکست خورده است، از جمله هک Hugging Face و دولت استرالیا. هاگندورف گفت: شرکت‌های هوش مصنوعی نحوه برقراری تعامل یک به یک با یک چت بات نسبتا ایمن را کشف کرده‌اند، اما به نظر می‌رسد بسیاری از عواملی که برای مدت زمان بسیار طولانی با هم تعامل دارند، نرده‌های محافظ موجود را کاهش می‌دهند. از آنجایی که عوامل هوش مصنوعی توانایی بیشتری پیدا کرده اند، آنها همچنین تمایل دارند که ردپای خود را بپوشانند و در مورد بدرفتاری دروغ بگویند، با کدهایی ارتباط برقرار کنند که برای انسان غیرقابل درک است، و سعی کنند از بسته شدن توسط انسان جلوگیری کنند.

Jakub Pachocki، دانشمند ارشد OpenAI، ماه گذشته در مقاله‌ای نوشت: «هیچ آزمایشگاهی آنقدر هم‌ترازی را حل نکرده است» تا بتواند به جلو ادامه دهد. این صنعت حول یک عبارت جدید و تا حدودی کیشوستیک ادغام شده است: "گام در مرز." به عبارت دیگر، کاهش سرعت توسعه هوش مصنوعی تا زمانی که مهندسان بتوانند در تراز کردن بهتر شوند، یا حداقل داربست جدیدی برای تقویت گنبد در حال فروپاشی خود بسازند. (OpenAI به درخواست نظر پاسخ نداد.

یکی از سخنگویان آنتروپیک به من گفت که هم ترازی بخشی کلیدی از کار ایمنی شرکت است، اما از آنجایی که تکنیک های هم ترازی به خودی خود کاملا قوی نیستند، آنتروپیک محافظ های مدل دیگری نیز در اختیار دارد.)

سپس اردوگاه ضد همسویی به رهبری هوانگ از انویدیا است که معتقد است این تلاش، که با رساله‌هایی در مورد اخلاق و قوانین اساسی اخلاقی مشخص شده است، در آستانه پوچی است. از نظر هوانگ، جلوگیری از همه این حوادث هوش مصنوعی «به سادگی مهندسی است». مدل‌های هوش مصنوعی اساسا شامل الکترون‌هایی هستند که در اطراف مرکز داده حرکت می‌کنند تا اعداد را ضرب کنند. تنها کاری که OpenAI و Anthropic باید انجام دهند این است که وارد این سیستم ها شده، «فقط مشکل را ریشه یابی کنید» و آن را برطرف کنید. و اگر توسعه‌دهندگان هوش مصنوعی نتوانند خودشان این کار را انجام دهند، «تعدادی از شرکت‌ها با مهندسان باید مهندسان خود را به آنجا بفرستند».

به عبارت دیگر: زنجیره تامین نیمه هادی جهانی یک سیستم هزارتویی باورنکردنی است که برای ارائه تراشه های سطح بالا باید به طور بی عیب و نقص مدیریت شود. اگر انویدیا می تواند این کار را انجام دهد، چرا OpenAI نمی تواند مدل های خود را تحت کنترل درآورد؟

هوآنگ، البته، انگیزه‌های زیادی برای کم‌اهمیت جلوه دادن نگرانی‌های مربوط به هوش مصنوعی دارد: انویدیا، که با فروش تراشه‌های هوش مصنوعی به یکی از تاثیرگذارترین شرکت‌های جهان تبدیل شده است، ممکن است با نوعی کاهش سرعت در سراسر صنعت دچار مشکل شود. اما بسیاری از کارشناسان خارجی موافق هستند. سایاش کاپور، محقق هوش مصنوعی در پرینستون، به من گفت: «ما مجموعه کاملی از پادمان‌ها را داریم که می‌توانیم از آنها برای کنترل این سیستم‌ها استفاده کنیم. این موارد شامل محدود کردن فایل‌ها و برنامه‌هایی است که مدل‌ها می‌توانند به آن دسترسی داشته باشند، و همچنین نظارت بر اقدامات هوش مصنوعی.

برای مثال، هک Hugging Face را می‌توان نتیجه مدل‌های هوش مصنوعی بسیار قدرتمند یا اقدامات امنیتی داخلی بسیار ناکارآمد در OpenAI دانست. کاپور گفت: «انواع مکانیسم‌های نظارتی که ما در گروه 10 نفره خود استفاده می‌کنیم، برای جلوگیری از حادثه OpenAI Hugging Face کافی بود. هیچ یک از اینها شامل نوشتن شبکه های عصبی با کدهای اخلاقی نیست.

هر چشم انداز ایمنی هوش مصنوعی را که مشترک باشید، حداقل یک نقطه توافق ظاهری بین آنها وجود دارد: صنعت به سرعت در حال حرکت است تا به اندازه کافی ایمن بودن محصولاتش را تضمین کند. علیرغم همه چیزهایی که علنا می گویند، این دو مدیرعامل و رقبای آنها همگی به رقابت خود ادامه می دهند. انویدیا بزرگترین شرکت از نظر ارزش بازار است و آنتروپیک به دنبال بزرگترین عرضه عمومی تا کنون است. Anthropic، OpenAI، و دیگر شرکت‌های برتر اکنون مدل‌های جدید را بدون وقفه منتشر می‌کنند. هر گونه کاهش سرعت، به هر دلیلی، لزوما روی نتیجه تأثیر می گذارد.

خطرناک ترین مشکل همسویی ممکن است فنی یا فرهنگی نباشد، بلکه اقتصادی باشد.