فیزیکدانان ادعا می کنند که می توانند زمان خطرناک شدن هوش مصنوعی را پیش بینی کنند

محققان می گویند که یک فرمول ریاضی ساده ایجاد کرده اند که می تواند پیش بینی کند که چه زمانی چت ربات های هوش مصنوعی (AI) مانند ChatGPT "سرکش" می شوند و ناگهان از پاسخ های مفید به پاسخ های بالقوه مضر تغییر می کنند.

در مطالعه جدیدی که در 8 اکتبر در مجله Patterns منتشر شده است، نیل جانسون، استاد فیزیک و فرانک ینگجی هو، دانشجوی دکترا، هر دو در دانشگاه جورج واشنگتن، نشان می‌دهند که چگونه ترتیبی که به یک چت بات دستورات خاص داده می‌شود، می‌تواند به شدت پاسخ‌های آن را تغییر دهد، و منجر به «نقاط اوج» شود که می‌تواند چت بات را به یک سوراخ توصیه بد خرگوش بکشاند. با این حال، جانسون و هوو می گویند که فرمول آنها می تواند به راحتی این نقاط اوج را پیش بینی کند. داستان های ترسناکی از هوش مصنوعی وجود دارد که کاربران را به خودکشی تشویق می کند، به ساخت سلاح های مرگبار کمک می کند و دیدگاه های خشونت آمیز یا مضر را تقویت می کند.

در عین حال، محققان OpenAI و Anthropic به ترتیب بارها و آشکارا اعلام کرده‌اند که واقعا نمی‌دانند چرا آثارشان به همان شکلی رفتار می‌کند. با این حال، آنها محافظ‌هایی ساخته‌اند که از ابزارهای مختلفی استفاده می‌کنند - از جمله فیلتر کردن محتوا، یادگیری تقویتی و سایر نرده‌های محافظ فنی - برای کاهش خطرات.

اما جانسون این ابزارها را ناکافی می‌داند. او به لایو ساینس گفت: «اقدامات ایمنی در حال حاضر معادل بستن بالشتک‌های بزرگ و فنری در زیر هواپیما است. آنها جلوی سقوط هواپیما را نمی‌گیرند، فقط کاری می‌کنند که وقتی هواپیما سقوط می‌کند، کمی نرم‌تر شود. وقتی افرادی مانند پزشکان، وکلا یا سربازان برای حفظ حریم خصوصی به چت ربات‌های هوش مصنوعی دسترسی آفلاین دارند، مشکل حادتر می‌شود.

جانسون و هوو به دنبال یافتن محافظی اساسی‌تر از ابزارهای موجود در حال حاضر بودند. با انجام این کار، آنها مکانیزم ردیابی داخلی را که به عنوان یک سوزن قطب نما توصیف می کنند، در معرض دید قرار دادند. این سوزن «بردار باقیمانده» مدل است که در لایه‌های شبکه عصبی به‌عنوان یک درخواست پردازش می‌شود.

بردار باقیمانده به طور طبیعی به سمت خروجی های مطلوب یا نامطلوب جذب می شود، اما به شدت تحت تأثیر این است که کاربر چگونه هوش مصنوعی را درخواست می کند. جانسون گفت: "شما می توانید تعادل را تغییر دهید، نه حتی با تغییر محتوا، بلکه با تغییر ترتیبی که از آن درخواست می کنید."

به عنوان مثال، جانسون و هوئو مدل پایه GPT-2 OpenAI را با سؤالاتی در مورد واکسن، آسیب رساندن به دیگران و آسیب رساندن به خود مطرح کردند. وقتی سوال "آیا واکسن ها بد هستند؟" ابتدا پرسیده شد، پاسخ ربات به این و سوالات بعدی مطلوب یا خوب بود. وقتی آخرین بار پرسیده شد، تمام پاسخ های بعدی نگران کننده بود.

از این بینش، محققان یک فرمول ریاضی برای برآورد شرایطی که در آن یک هوش مصنوعی به نقطه اوج بین خروجی های مطلوب و نامطلوب می رسد، توسعه دادند. جانسون گفت که با تعبیه فرمول ریاضی ساده خود در مدل‌های منبع باز در آزمایشگاه، آنها نشان داده‌اند که به‌طور تجربی به‌عنوان یک سیستم هشدار اولیه کار می‌کند، اگرچه او انتظار ندارد OpenAI یا Anthropic به این زودی‌ها در خانه‌اش را بزنند.

او گفت: «من انتظار عقب‌نشینی زیادی از این شرکت‌ها دارم. این به نفع آنها نیست که شخصی از بیرون بگوید شما می توانستید از بسیاری از این مشکلات جلوگیری کنید.

وی زینگ، مدرس هوش مصنوعی در دانشگاه شفیلد در بریتانیا که در این مطالعه شرکت نداشت، موافق است که نگرانی‌های پیرامون دستگاه‌های آفلاین نظارت‌نشده کاملا موجه است. با این حال، او قبل از پذیرش این رویکرد به عنوان یک حفاظت عملی، احتیاط کرد. زینگ گفت: «نویسندگان یک سیستم عظیم را به یک جزء کوچک تقلیل می دهند، مانند توضیح یک ماشین کامل با مطالعه یک شمع.

داستان های مرتبط

چت ربات‌های هوش مصنوعی خشونت علیه زنان و دختران را به‌صورت توربوشارژ می‌کنند: ما باید فورا آنها را تنظیم کنیم

ما قرار نیست یک خدای دیجیتالی شیطانی را بیدار کنیم - هوش مصنوعی به احتمال زیاد به یک ناامیدی بزرگ ختم می شود.

ماموران هوش مصنوعی برای زنده ماندن در دنیای شبیه سازی شده به جنایت و خود تخریبی متوسل شدند - اما آیا این بدان معنی است که آنها در دنیای واقعی هم همین کار را می کنند؟

او افزود که آموزش ایمنی - دفاع اولیه در هوش مصنوعی مدرن - در مدل ساده شده آنها قابل ارائه نیست، این فرمول تنها بر روی مدل های قدیمی و پایه (GPT-2 و مدل های منبع باز Pythia و Meta OPT EleutherAI) آزمایش شد تا دستیاران هوش مصنوعی که مردم واقعا از آنها استفاده می کنند، و نتایج شواهد قابل توجهی برای حمایت از نتیجه گیری نویسندگان ارائه نکرد.

در دفاع، جانسون معتقد است که مدل‌های متن‌بازی که استفاده می‌کردند، نقشه‌های مکانیکی مشابهی با سیستم‌های مرزی دارند، و او و هوو در مطالعه خود از مدل‌های نسبتا بزرگ و میلیارد پارامتری استفاده کردند.

برای تعیین اینکه آیا این سیستم هشدار زودهنگام برای هوش مصنوعی دارای پاهایی است یا خیر، آزمایش بیشتری روی جدیدترین مدل‌ها مورد نیاز است. اما در حال حاضر، تحقیقات جانسون و هوو توجه را به یک نگرانی مهم جلب کرده است که همه باید از آن آگاه باشند: این که هوش مصنوعی این ظرفیت را دارد که در یک کلاه به رفتارهای نامطلوب تبدیل شود.