در اینجا نحوه اجرای کاهش سرعت هوش مصنوعی در واقع آمده است

به نظر می رسد بسیاری از محققان هوش مصنوعی به طور جدی معتقدند که فناوری در حال توسعه آنها روزی می تواند بسیار خطرناک باشد. چیزی که کمتر واضح است - حتی در میان نخبگان فنی هوش مصنوعی - دقیقا چگونگی کنترل این الگوریتم‌های جیوه است. در سال‌های اخیر، محققان انواع ایده‌ها را برای جلوگیری از بد شدن هوش مصنوعی مطرح کرده‌اند.

آنها شامل طرح های کمتر بحث برانگیزی مانند مقررات سختگیرانه تر دولتی، روش های جدید برای اندازه گیری پیشرفت، و بررسی عملکرد داخلی مدل ها، و همچنین پیشنهادهای عجیب و غریب تر مانند قرار دادن دستگاه های ردیابی در داخل پردازنده های گرافیکی و حتی تخریب تشریفاتی تعداد زیادی از تراشه های هوش مصنوعی هستند. با توجه به افزایش فشار سیاسی و عمومی برای رویکردی سنجیده تر برای ساخت هوش مصنوعی، با این حال، پاسخ به ایمن نگه داشتن هوش مصنوعی هنوز نامشخص است. ریموند داگلاس، محقق هوش مصنوعی در دانشگاه تورنتو و یکی از نویسندگان گزارش جدیدی با عنوان می‌گوید: «ما باید شروع کنیم به این مسئله به عنوان یک مشکل تحقیقاتی برخورد کنیم.

Pacing the Frontier, A Research Agenda که هشدار می دهد که کند کردن توسعه هوش مصنوعی همچنان یک معمای حل نشده باقی مانده است. ما واقعا نمی‌دانیم که گزینه‌های ما چه هستند یا چه خواهند کرد.» صحبت از نابودی هوش مصنوعی در هفته‌های اخیر پس از اینکه یک محقق Anthropic شرکت را ترک کرد و هشدار داد که ظرف چند سال آینده، هوش مصنوعی ممکن است در مسیر نابودی بشریت باشد، به اوج خود رسیده است.

رئیس آزمایشگاه ایمنی هوش مصنوعی Anthropic به سرعت نگرانی های خود را تکرار کرد. رهبران شرکت‌های بزرگ هوش مصنوعی آمریکایی - Dario Amodei از Anthropic، Sam Altman از OpenAI، Elon Musk از SpaceXAI، و Demis Hassabis از Google DeepMind- همگی اکنون برای ارائه پشتیبانی از نوعی کاهش سرعت یا توقف هوش مصنوعی آماده‌اند. به نظر می‌رسد این موضوع به‌ویژه مهم است زیرا شرکت‌های هوش مصنوعی اکنون از خود هوش مصنوعی برای ساخت مدل‌های قدرتمندتر استفاده می‌کنند.

این باعث ترس از یک حلقه خود-بهبودی بازگشتی (RSI) شتاب‌دهنده شده است که باعث می‌شود هوش مصنوعی در طی چند سال از توانایی انسان‌ها برای درک آنچه در حال انجام است پیشی بگیرد. آزمایشگاه های هوش مصنوعی در حال حاضر رویکردهای جدید خود را تبلیغ می کنند. این هفته آنتروپیک چندین راه جدید را برای ردیابی سرعت پیشرفت و شاید خطرناک بودن هوش مصنوعی اعلام کرد. برای مثال، این تکنیک‌ها نشان می‌دهند که کلود اکنون ۲۶ درصد از تحقیقات هوش مصنوعی Anthropic را انجام می‌دهد، در مقایسه با صفر در ابتدای سال ۲۰۲۶.

آنها همچنین نشان می‌دهند که Anthropic 6 درصد از بودجه محاسباتی خود را صرف یافتن چگونگی ایمن‌تر کردن هوش مصنوعی خود کرده است. اما داگلاس و دیگر کارشناسان می گویند که کنترل توسعه هوش مصنوعی به طور موثر و قابل اعتماد نیاز به بودجه و تخصص از خارج از آزمایشگاه های هوش مصنوعی دارد. برخی از راه حل های پیشنهادی - چه از این گزارش اخیر و چه فراتر از آن - در دسترس تر از بقیه به نظر می رسند. ارزیابان «مستقل» یکی از ایده هایی که اغلب توسط شرکت های هوش مصنوعی مطرح می شود این است که به ارزیابان شخص ثالث دسترسی بیشتری به مدل های خود می دهد.

این ارزیاب‌ها مدل‌ها را برای ارزیابی قابلیت‌هایشان آزمایش می‌کنند و با تلاش برای برانگیختن رفتار نادرست در محیط‌های قابل اعتماد، آنها را «تیم قرمز» می‌کنند. جفری ایروینگ، دانشمند ارشد سابق مؤسسه امنیت هوش مصنوعی بریتانیا، و پیش از آن محققی در Google DeepMind، معتقد است که بازرسی‌های دقیق می‌تواند توسعه هوش مصنوعی مرزی را در حال حاضر متوقف کند. ایروینگ می‌گوید: «در کوتاه‌مدت، بازرسی‌ها و ممیزی‌ها یا حتی توافقات متقابل کار می‌کنند».

من فکر می‌کنم که شرکت‌ها از RSI و جهش نادرست می‌ترسند.» برخی از قیامت‌ها استدلال می‌کنند که چنین بازرسی‌هایی باید مستقل‌تر و از نظر علمی دقیق‌تر از آنچه در حال حاضر هستند باشد. این واقعیت که برخی از عوامل هوش مصنوعی اخیرا در طول آزمایش از مهار فرار کرده اند، مطمئنا به نظر می رسد که ممکن است سختگیری بیشتری لازم باشد. کانر لیهی، رئیس کنترل هوش مصنوعی، یک سازمان غیرانتفاعی که از کنترل‌های هوش مصنوعی دفاع می‌کند، می‌گوید بازرسی‌ها باید شامل FBI یا NSA باشد.

وقتی [شرکت‌های بزرگ هوش مصنوعی] می‌گویند «ارزیابی‌کنندگان مستقل»، منظورشان این است که «من می‌خواهم به دوستانم که در خانه‌های گروه من زندگی می‌کنند پول بدهم تا به درخواست‌های من نگاه کنند». داگلاس می گوید تحقیقات جدید می تواند ارزیابی مدل را نیز بهبود بخشد. او به کارهای اخیر اشاره می کند که نشان می دهد چگونه افراد خارجی می توانند استفاده از مدل ها را بدون افشای هیچ گونه اطلاعات محرمانه بررسی کنند.

تکنیک‌های دیگری که ممکن است مفید باشند عبارتند از روش‌های جدید بررسی درون مدل‌های هوش مصنوعی برای درک بهتر آنچه که انجام می‌دهند. لیهی موافق است که در وهله اول نیاز به تحقیقات بیشتر در مورد ارزیابی مدل و همچنین معنای واقعی "همسو کردن" یک مدل یا واداشتن آن به ارزش های انسانی وجود دارد. او می‌گوید: «یک کمپین بازاریابی بسیار عمدی از سوی این شرکت‌ها برای ارائه ارزیابی‌ها به عنوان علمی صورت گرفته است. اما ما در واقع نمی‌دانیم هوش مصنوعی چگونه کار می‌کند. اینکه چقدر دولت ایالات متحده مایل است برای محدود کردن توسعه هوش مصنوعی وارد عمل شود، مشخص نیست.

پرزیدنت ترامپ تا حد زیادی نیاز به تنظیم صنعت را رد کرده است، اما نشانه هایی وجود دارد که حمایت دو حزبی برای سلطنت در هوش مصنوعی بزرگ در حال افزایش است. محاسبات مورد اعتماد برخی از کارشناسان بر این باورند که اعمال محدودیت برای توسعه هوش مصنوعی باید در نهایت شامل بررسی محاسبات خام مورد نیاز باشد. قدرتمندترین مدل ها با استفاده از هزاران پردازنده گرافیکی پیشرفته Nvidia در مراکز داده وسیع آموزش داده می شوند. دولت از طریق یک فرمان اجرایی هوش مصنوعی در دوره بایدن در سال 2023 که شرکت‌ها را ملزم می‌کرد تا دوره‌های آموزشی بالاتر از یک آستانه محاسباتی مشخص را گزارش دهند، این موضوع را پیگیری کرده است. یک سیاست سفید

مقاله مارس 2024 استدلال می‌کند که ارائه‌دهندگان ابری می‌توانند برای تلاش‌های آینده بسیار مهم باشند، زیرا آنها در برنامه‌های آموزشی عمده هوش مصنوعی دیده می‌شوند. کاغذ سفید نشان می‌دهد که ردیابی سوابق صورت‌حساب، استفاده از GPU، ترافیک شبکه و مصرف انرژی می‌تواند پراکسی‌هایی برای قابلیت‌های هوش مصنوعی فراهم کند. کارشناسان همچنین راه هایی را برای ردیابی و کنترل تلاش ها برای ساخت هوش مصنوعی پیشرفته با اصلاح خود تراشه ها پیشنهاد کرده اند. یک ایده که توسط محققان RAND در سال 2024 ارائه شد، شامل اصلاح یک مؤلفه موجود در پردازنده‌های گرافیکی است که برای اندازه‌گیری عملکرد استفاده می‌شود تا از نظر رمزنگاری ایمن شود.

رکورد اجرای محاسباتی که می تواند به صورت دوره ای بازرسی شود. به عنوان مثال، این می تواند نشان دهد که یک شرکت هوش مصنوعی را بالاتر از یک آستانه خاص آموزش داده است. دیگران پیشنهاد کرده اند که انواع جدیدی از اجزای ضد دستکاری را در تراشه ها بسازند تا اطلاعات دقیقی در مورد استفاده جمع آوری کنند. این مؤلفه‌ها برای اجرای وزن مدل‌های خاص با استفاده از رمزنگاری مورد نیاز هستند. برخی حتی پیشنهاد کرده‌اند که «سوئیچ‌های خاموش تعبیه‌شده» را در تراشه‌ها بسازند تا برای اجرای مدل‌های خاص به مجوز رمزنگاری از راه دور نیاز داشته باشند.

آنها می گویند که این می تواند از آموزش مدل های هوش مصنوعی توسط طرف های غیرمجاز جلوگیری کند یا در صورت افتادن تراشه ها به دست اشتباه، تراشه ها را غیرفعال کند. معاهدات الزام آور اکثر کارشناسان موافق هستند که یافتن راه‌های جدید برای همکاری بین‌المللی برای کنترل توسعه هوش مصنوعی بسیار مهم است، زیرا سایر کشورها - به‌ویژه چین - نیز ظرفیت ایجاد هوش مصنوعی مرزی را دارند. ایروینگ پیشنهاد می‌کند: «در میان‌مدت، ساده‌ترین راه، کاهش رشد سخت‌افزاری متقابل با چین، از طریق یک معاهده است». ایالات متحده همچنین با ممنوعیت صادرات قوی ترین تراشه های انویدیا به دنبال محدود کردن توسعه هوش مصنوعی چینی است.

این موفقیت محدودی داشته است زیرا شرکت ها هنوز هم می توانند مدل هایی را با استفاده از محاسبات ابری از خارج آموزش دهند. زمانی که رئیس جمهور شی در اواخر این ماه از ایالات متحده بازدید می کند، احتمالا ایالات متحده و چین در مورد خطرات هوش مصنوعی گفتگو خواهند کرد. در حالی که کارشناسان چینی همچنین نگران خطرات ناشی از پیشرفت سریع هوش مصنوعی هستند، آنها نسبت به کاهش سرعتی که شرکت‌های چینی را پشت سر همتایان آمریکایی خود نگه دارد، تردید دارند. به نظر می‌رسد برخی از ایده‌های همکاری از صفحات علمی تخیلی به جای پیشنهادات سیاستی بیرون کشیده شده است. توبی اورد، فیلسوف دانشگاه آکسفورد که در زمینه ریسک وجودی متخصص است، قبلا به این فکر کرده بود که اگر ملت

افراد می توانند با محدود کردن توسعه هوش مصنوعی موافقت کنند - و اگر خطر به اندازه کافی جدی به نظر می رسد - ممکن است کشورهای بزرگ پردازنده های گرافیکی را به یک منطقه بی طرف بیاورند و آنها را نابود کنند. چنین حرکت چشمگیری شامل توافق هر دو کشور برای توقف کامل توسعه هوش مصنوعی می شود. احتمالا کل معما به دلیل پیشرفت های فنی اخیر پیچیده تر می شود و عدم اطمینان در مورد خود-بهبودی بازگشتی به این معنی است که ردیابی پیشرفت در آن زمینه اهمیت ویژه ای خواهد داشت. یک معیار جدید به نام شاخص RSI یکی از چندین تلاش جدید برای انجام این کار است.

این بنچمارک که توسط یک استارت آپ Vals AI توسعه یافته است، سعی می کند پیشرفت توسعه هوش مصنوعی مبتنی بر هوش مصنوعی را با اندازه گیری عملکرد مدل های هوش مصنوعی عمومی در برابر تحقیقات منتشر شده توسط دانشمندان هوش مصنوعی ردیابی کند. رایان کریشنان، یکی از بنیانگذاران و مدیرعامل Vals AI، می گوید این معیار نشان می دهد که در یک سال آینده هوش مصنوعی می تواند کارهایی را انجام دهد که محققان هوش مصنوعی نمی توانند آن را دنبال کنند. با این حال، اینکه چگونه می‌توان هوش مصنوعی را زیر نظر داشت، فقط یک چالش فنی نیست.

گزارش داگلاس و دیگران هشدار می‌دهد که عجله برای اجرای کنترل‌های نامناسب می‌تواند منجر به غرق شدن تلاش‌ها در سیاست یا تحت تسخیر مقررات شود. داگلاس می‌گوید: «مطمئن نیستم که فقط گفتن به دولت ایالات متحده برای تعطیل کردن همه چیز ختم به خیر شود یا خیر. "نیم هول رفتن با یک برنامه بد می تواند بدتر از هیچ باشد."