پیاده شدن از تردمیل ارتقاء هوش مصنوعی شما یا انسانیت را نخواهد کشت

چرا اینقدر عجله داریم؟ آیا ما در یک مسابقه هستیم؟ خط پایان کجاست؟ آیا ما پیشتاز هستیم؟ خیلی عقب تر؟ من به طور فزاینده‌ای این سؤال‌ها را درباره هوش مصنوعی از افرادی می‌شنوم که احساس می‌کنند بیش از حد ناخوشایند بیش از حد تحریک شده‌اند – مانند یک کودک سه ساله که اجازه داده شده بیش از حد بیدار بماند و اکنون نمی‌تواند بخوابد. این احساس از نوامبر گذشته بدتر شده است، زمانی که ابزارهای هوش مصنوعی ناگهان "به اندازه کافی خوب" شدند که به طور گسترده مفید باشند. گروه کاملی از مهندسان - از جمله من - خود را سرشار از انرژی جنون آمیز یافتند و با ایده هایی در مورد چگونگی ایجاد ابزارها و فرآیندها با این اسباب بازی جدید شگفت انگیز پر شدند.

استفاده منفجر شد - همانطور که درآمد. شرکت‌های هوش مصنوعی، در نهایت در مسیری به سوی چیزی مبهم از سودآوری، متمایل شدند و سرعت انتشار خود را افزایش دادند. هر مدل جدید شبیه کریسمس بود. ما در این ده ماه اخیر کریسمس های زیادی داشته ایم. تقریبا هر مهندسی که من می شناسم، «بدهی اسباب بازی» هنگفتی را به خود اختصاص داده است، که قادر به متوقف کردن آزمایش ابزارهای بیشتر از آن چیزی است که هر یک از ما می توانستیم در کل یک حرفه به تسلط خود امیدوار باشیم. هر مدل جدید یک ضربه سریع دوپامین را به کاربران ارائه می دهد، اما بالا از بین می رود و رکود فرا می رسد. ما الان اینجا هستیم. مهندسان احساس خستگی می کنند.

رقابت به سوی «هوش فوق العاده» (هر چه که باشد) ما را با چیز دیگری به کلی مواجه کرد: آن را «هوش گیجی» بنامیم – این احساس که ما بیش از آن چیزی که بتوانیم هضم کنیم جذب کرده ایم. هوش مصنوعی بیشتر فقط زیاده روی بی معنی خواهد بود. اگر این نمای داخل حباب هوش مصنوعی است، از بیرون چگونه به نظر می رسد؟ نه چندان عالی وال استریت ژورنال با اطمینان گزارش می دهد که 63 درصد از آمریکایی ها طرفدار توقف یا کندی فوری توسعه هوش مصنوعی هستند. آنها می توانند ببینند که این فناوری خیلی سریع، با عجله بسیار شیدایی و بدون کنترل حرکت می کند. آنها را ناآرام می کند.

این ناراحتی بی شکل به عنوان یک اضطراب گسترده شکل می گیرد که ماشین ها به زودی برای کشتن همه ما به پا خواهند خاست. این موضوع در صنعت منعکس می‌شود، زیرا مردم به‌طور چشمگیری در حال سوختن هستند، و پیام‌های طولانی درباره رویداد انقراض قریب‌الوقوع انسانی ارسال می‌کنند. پست استعفای Jacob Coxon، کارمند سابق Anthropic، در فضای مجازی منتشر شد، زیرا به مردم تمرکزی برای نگرانی‌هایشان می‌داد. آیا مکث کردن و نفس کشیدن ما را می کشد؟ حقیقت خام اینجاست: کسب‌وکارها در حال حاضر تغییرات تکنولوژیکی بیشتری برای هضم دارند تا بتوانند برای سال‌های آینده کار کنند.

ما انبوهی از هوش مصنوعی "به اندازه کافی خوب" - آمریکایی، چینی و اروپایی - داریم تا عملیات تجاری را کاملا متحول کنیم. این اتفاق خواهد افتاد، اما در مقیاس زمانی سال‌ها، نه روزها. آوردن مدل‌های جدید، بهتر و درخشان‌تر هوش مصنوعی به بازار، به پروژه‌ای با بازدهی کاهش‌یافته تبدیل شده است. نه به این دلیل که مدل ها فلات زده اند، بلکه به این دلیل که فرهنگ این کار را کرده است. ما به سادگی نمی توانیم هوش مصنوعی دیگری را پردازش کنیم. پس چگونه متوقف شویم؟ حلقه سودآور بین سازندگان مدل و مشتریان آنها به خودی خود متوقف نمی شود. فقط سریعتر و سخت تر خواهد رفت.

در همان زمان، ما شاهد تکان‌های یک جنبش Luddite 2.0 هستیم که قصد دارد ماشین‌ها را قبل از جایگزینی همه کارگران از بین ببرد. مقاومت در برابر دیتاسنترها چهره دوستانه چیزی است که اگر به سادگی به شارژ کردن ادامه دهیم، می تواند زشت شود. یک چیز می تواند ما را کند کند: هزینه تحت کنترل نگه داشتن این سیستم ها. هرچه مدل‌ها هوشمندتر شوند، مدیریت آنها دشوارتر می‌شود. هر روز گزارش‌های بیشتری از رسیدن «عوامل سرکش» به سیستم‌های خارجی از آزمایشگاه‌ها ارائه می‌شود که به نظر می‌رسد از کار سخت طراحی محیط‌های آزمایشی ایمن اجتناب کرده‌اند.

مدل‌های قوی‌تر می‌توانند به‌طور فزاینده‌ای پرهزینه باشند. در نهایت، هزینه ها بیشتر از منافع است. زمانی که آزمایشگاه‌های مرزی و محصولاتشان به خطراتی غیرقابل بیمه تبدیل می‌شوند، می‌توانیم یک دعوای قضایی با مکث فاصله داشته باشیم. در اینجا امیدواریم قبل از وقوع یک شیطنت واقعی مکث کنیم. در غیر این صورت ممکن است دوشاخه ها کشیده شوند و تمام چراغ های زیبای کریسمس خاموش شوند. بهتر است با اختیار، با چشمانی روشن و متواضع عمل کنید تا اینکه با فورس ماژور روبرو شوید. ®