JD Vance می‌گوید شرکت‌های هوش مصنوعی از دولت التماس می‌کنند که آنها را تنظیم کند، اما به نظر می‌رسد هیچ‌کس مایل به کاهش سرعت رقابت هوش مصنوعی نیست.

پس از سال‌ها برخورد با هوش مصنوعی سریع‌تر، بزرگ‌تر و توانمندتر به‌عنوان چیزی که به یک الزام اخلاقی نزدیک می‌شود، افرادی که برخی از قدرتمندترین شرکت‌های هوش مصنوعی جهان را اداره می‌کنند، ناگهان توافق کردند که شاید همه باید از شتاب‌دهنده راحت‌تر باشند.

داریو آمودی، مدیر عامل آنتروپیک، آخرین دور را با مقاله ای با عنوان "ما باید در مرز قدم برداریم" آغاز کرد و هشدار داد که قابلیت های هوش مصنوعی سریعتر از اقدامات حفاظتی لازم برای مهار خطرات خود پیشرفت می کنند. سام آلتمن، مدیر عامل OpenAI و دمیس حسابیس، مدیر عامل گوگل دیپ مایند، به سرعت این ایده را تایید کردند. عجیب است که رهبران شرکت‌هایی که در یکی از گران‌ترین رقابت‌های تکنولوژیک تاریخ محبوس شده‌اند، علنا توافق می‌کنند که خود مسابقه باید کند شود. یک جزئیات ناخوشایند در زیر شیوع ناگهانی احتیاط شرکت مدفون است.

یعنی هیچ کس درگیر نگفته است که کدام مدل مرزی آینده به خاطر آن خواهد رسید.

تا زمانی که کسی تقویمی را به آن ضمیمه کند، «گام‌زدن به مرز» تقریبا می‌تواند به معنای هر چیزی باشد. هیچ‌کدام از شرکت‌هایی که از پیشنهاد آنتروپیک حمایت می‌کنند مدلی را که قصد دارد به‌عنوان بخشی از ابتکار عمل به تأخیر بیندازد، به‌طور عمومی معرفی نکرده‌اند، و همچنین هیچ‌کس تعریف نکرده است که آیا کاهش سرعت به معنای یک هفته آزمایش ایمنی اضافی، شش ماه بین نسل‌های اصلی، یا چیزی چشمگیرتر است. در حال حاضر، ملموس‌ترین تعهدات مربوط به ارزیاب‌های مستقل، نظارت، استانداردهای ایمنی و هماهنگی است تا کاهش اعلام‌شده در سرعت انتشار مدل‌های مرزی.

به اندازه کافی عجیب است که حتی برای کسانی که خارج از فضای فناوری هستند متمایز شوید. معاون رئیس‌جمهور ایالات متحده، جی دی ونس، گفت که او از این واقعیت که شما شرکت‌های فناوری هوش مصنوعی مرزی زیادی دارید که به نوعی به دولت می‌آیند و از دولت التماس می‌کنند که آن‌ها را تنظیم کند، احساس «کمی عجیب» می‌کند و این که «کمی اسب تروا» است. شک و تردید او نمی‌تواند در مورد ضروری بودن مقررات حل شود، اما تناقض موجود در بحث فعلی را برجسته می‌کند.

نوع دوستی یا طرد شدن؟

دلایل خوبی برای اضطراب ناگهانی وجود دارد. آمودی در مورد هوش مصنوعی هشدار داده است که حملات سایبری، بیوتروریسم، اختلالات اقتصادی و در نهایت سیستم‌هایی که انسان‌ها برای کنترل آن تلاش می‌کنند، را ممکن می‌سازد. آخرین پیشنهاد او خواستار ارزیاب‌های ایمنی مستقل با دسترسی عمیق به آزمایشگاه‌های مرزی، هماهنگی بین شرکت‌ها در مورد استانداردهای مشترک و همکاری بین‌المللی در مورد قابلیت‌های خطرناک است.

این نسبتا با معنای ساده انگلیسی کند کردن توسعه متفاوت است. تاریخچه اخیر خود آنتروپیک مبهم است، زیرا ارزیابی‌های سایبری خارجی مدل‌های پیش از انتشار را متوقف کرد و برای مدت کوتاهی ارزیابی‌های داخلی را متوقف کرد. همچنین محیط های یادگیری تقویتی با خطر بالاتر را برای چند هفته متوقف کرد.

در همین حال، مرز به حرکت خود ادامه داده است. Anthropic این ماه Claude Fable 5.1 و Mythos 5.1 را منتشر کرد، در حالی که OpenAI GPT-6 Astra را معرفی کرد. این راه‌اندازی‌ها قبل از آخرین فراخوان عمومی Amodei برای کاهش رشد صنعت بود، اما نقطه شروع عجیب این دوره جدید محدودیت را نشان می‌دهد. شرکت‌هایی که از همه می‌خواهند در مورد کاهش سرعت بحث کنند، به تازگی یک ماه را صرف پیشبرد مرزها کرده‌اند.

اگر شرکت‌ها واقعا معتقد باشند که توسعه به‌طور خطرناکی سریع پیش می‌رود، از قبل برنامه‌های تحقیقاتی خود را کنترل می‌کنند و تقویم‌ها را منتشر می‌کنند، در حالی که مقررات دولتی سؤال جداگانه‌ای را در مورد اینکه آیا قوانین طراحی‌شده با بزرگترین آزمایشگاه‌ها می‌تواند زندگی را برای رقبای کوچک‌تر نیز سخت‌تر کند، مطرح می‌کند.

حواس پرتی آخرالزمانی

این همه صحبت از خطر وجودی مشکل دیگری دارد. هرچه دره سیلیکون بیشتر درباره ابرهوش فرضی که بشریت را نابود می کند صحبت کند، نادیده گرفتن روش های کمتر سینمایی که هوش مصنوعی در حال حاضر به مردم آسیب می رساند آسان تر می شود.

Karolis Kaciulis، مهندس ارشد سیستم در شرکت امنیت سایبری مصرف‌کننده Surfshark، استدلال می‌کند که هشدارها در مورد هوش مصنوعی که بشریت را تهدید می‌کند می‌تواند به عنوان یک «حرکت بازاریابی» باشد که توجه را از آسیب‌های موجود منحرف می‌کند. او گفت: «این تهدید به خودی خود تخیلی است و به سناریوی علمی تخیلی به سبک Skynet نزدیکتر از مشکلاتی است که هوش مصنوعی مولد امروزه ایجاد می کند، از کلاهبرداری خودکار گرفته تا ارعاب.

این شک و تردید مستحق فضایی در کنار هشدارهای مدیران هوش مصنوعی است. هوش مصنوعی مولد در حال حاضر فیشینگ، کلاهبرداری عمیق و کلاهبرداری های خودکار را ارزان تر و مقیاس پذیرتر می کند. سوالاتی در مورد حفظ حریم خصوصی، نحوه مدیریت اطلاعات ارسال شده به چت بات ها و هزینه زیست محیطی زیرساخت مورد نیاز برای اجرای سیستم های هوش مصنوعی بزرگ باقی می ماند.

همچنین بحث مشروعی در مورد میزان پیشرفتی که این صنعت بی‌پایان عرضه‌های مدل‌ها نشان می‌دهد، وجود دارد. اعداد بنچمارک بالا می‌روند، اما تعیین اینکه آیا هر مدل زبان بزرگ جدید نشان‌دهنده یک قابلیت جدید عمیق است، بسیار سخت‌تر از خواندن نمودار روز راه‌اندازی است.

شرکت‌های هوش مصنوعی به طور همزمان در مورد قدرت هوش مصنوعی هشدار می‌دهند، در حالی که همچنان جلو می‌روند و ایمنی را به حاشیه می‌برند، برای افراد عادی عجیب و غریب است. پیشنهاد Amodei جدید است و قضاوت در مورد آن کاملا بر اساس اینکه آیا یک شرکت یک مدل را چهار روز به تاخیر انداخته است غیر منطقی است. اما ایده های او برای داشتن هر عضله ای نیاز به یک سیستم ارزیابی مستقل دارد. مرحله بعدی باید قابل اندازه گیری باشد، یا بی ربط است.