زمان بررسی آزمایشگاه های هوش مصنوعی فرا رسیده است

طی چند ماه گذشته، دو آزمایشگاه پیشرو هوش مصنوعی مرزی رفتارهای گستاخانه ای از خود نشان داده اند.

این کار با مجموعه‌ای از اطلاعیه‌ها و گزارش‌های با دقت برنامه‌ریزی‌شده از OpenAI شروع شد که سعی می‌کنند نشان دهند که سیستم‌های عامل مبتنی بر LLM آنها چقدر عصبی و قدرتمند (به‌گفته‌ی جنایتکارانه) شده‌اند.

آنها سپس باتوم را به آنتروپیک سپردند، که کارمندان آن شروع به بحث عمومی درباره احتمال دقیق اینکه این فناوری‌ها منجر به انقراض انسان شود، کردند. آنها همه اینها را با آرامشی وهم آور ارائه کردند که حاکی از اجتناب ناپذیری نیهیلیستی در مورد کار آنها بود.

زمین به خوبی نرم شد، کمپین با انتشار نامه ای با عنوان "ما باید در مرز قدم برداریم"، مدیر عامل آنتروپیک، داریو آمودی را منتشر کرد، که در آن او تمام آسیب هایی که تحقیقات شرکت خودش ممکن است ایجاد کند را برمی شمرد، و سپس، به جای عذرخواهی و قول توقف، به این نتیجه می رسد که "فقط در صورتی می توانیم از این فن آوری جلوگیری کنیم که فاجعه را درست کنیم" - شگفتی، غافلگیری - دولت سرعت رقبای بالقوه را کاهش می دهد و به آزمایشگاه ها اجازه می دهد تا در پیشبرد فناوری مربوط پیشگام شوند.

سام آلتمن، مدیر عامل OpenAI، به سرعت از این طرح شجاعانه حمایت کرد.

در داخل، این آزمایشگاه‌ها مدت‌هاست که این سبک از تفکر مسیحایی را پذیرفته‌اند و خود را تنها امید بشریت در برابر قدرت‌های نادیده‌انگیز هوش مصنوعی فوق‌هوشمند معرفی کرده‌اند. تابستان امسال، به نوعی، تلاش آنها برای القای بقیه ما به این ایدئولوژی دیرینه بود.

به جای الهام بخشیدن به توده‌ها برای ایستادن و تشویق عقل‌گرایی قهرمانانه این مهندسان، ما را وادار کرد که بپرسیم: "در آن آزمایشگاه‌ها چه خبر است؟"

به همین منظور، پنجشنبه گذشته من مقاله ای را در نیویورک تایمز منتشر کردم و از کنگره خواستم تا یک ماموریت حقیقت یاب عمومی را آغاز کند تا کشف کند که OpenAI و Anthropic چه پروژه های تحقیقاتی را انجام می دهند، چگونه آنها را انجام می دهند و برای چه اهدافی انجام می دهند.

من سه حوزه کلیدی را برای بررسی با این پرسش پیشنهاد کردم:

من به این نتیجه رسیدم: «باید اجازه ندهیم تعداد کمی از شرکت‌های خصوصی که به شیوه‌های فزاینده‌ای نامنظم عمل می‌کنند و صحبت می‌کنند، ما را دیکته کنند که در مورد هوش مصنوعی چه احساسی داشته باشیم.» ما شنیده‌ایم که آنها چه می‌خواهند بگویند؛ اکنون نوبت کنگره است که از طرف ما وارد عمل شود تا بفهمد واقعا چه خبر است.»