همانطور که غول های هوش مصنوعی در مورد خطر وجودی هشدار می دهند، آنها همچنین می توانند از طریق ایمنی یک خندق رقابتی بسازند. "این نابغه است و همه آنها پول زیادی به دست خواهند آورد"

همانطور که غول‌های فناوری به جهانیان خسته از هوش مصنوعی هشدار می‌دادند که سیستم‌های پیشرفته خودشان می‌توانند بشریت را به خطر بیندازند، این سوال مطرح شد: آنها چه چیزی باید به دست آورند؟

پاسخ ممکن است در تلاش این شرکت ها برای به دست آوردن اهداف سیاسی پیش از انتخابات میان دوره ای ایالات متحده باشد و آزمایشگاه های هوش مصنوعی برتر و سرمایه گذاران آنها در فهرست های مورد انتظار در بازار سهام پریشان قرار بگیرند.

مدیران عامل Anthropic و OpenAI اخیرا اعلام کرده‌اند که مدل‌های پیشرفته آمریکا بسیار قدرتمند، خطرناک هستند و باید قبل از عرضه، تنظیم و آزمایش شوند. در یک نمونه نادر از اتحاد، آنها سناریوهای نگران کننده ای را در مقالات، پست های رسانه های اجتماعی و سخنرانی در سازمان ملل ترسیم کرده اند.

در طول مسیر، آنها در حال شکل دادن به گفتگو در مورد چگونگی کنترل فناوری خود هستند. کارشناسان، تحلیلگران و ارزیابان دولتی سابق به آسوشیتدپرس گفتند که با لفاظی های خود، به نظر می رسد که شرکت ها به دنبال جلب رضایت عمومی هستند و شرایط را برای پروتکل های ایمنی خود در بازار غیرقابل تنظیم تعیین می کنند.

این اهداف ممکن است دقیقا با آنچه مهندس Anthropic Jacob Coxon هنگام استعفای خود از طریق پستی در X در این ماه، خواستار توقف توسعه فناوری برای جلوگیری از دور نگه داشتن سیستم های "فوق بشری" از کنترل سازندگان آنها شد، مطابقت نداشته باشد. اما این شرکت‌ها پست او را فرصتی برای برجسته کردن تلاش‌های ایمنی خود و جایگاه خود به عنوان رهبران محتاط بازار می‌دانستند، درست زمانی که قبل از عرضه عمومی در وال استریت به سرمایه تازه نیاز دارند.

دونالد ترامپ، رئیس‌جمهور آمریکا از نیاز به مقررات جدید هوش مصنوعی اجتناب کرده و صحبت در مورد خطرات برای بشریت را به عنوان یک "HOAX" که برای کمک به چین طراحی شده است، رد کرده است.

یکی از سخنگویان Anthropic در پاسخ به سوالات مربوط به این داستان گفت که این شرکت چندین سال است که خواستار تنظیم مقررات است. لیز بورژوا، سخنگوی OpenAI، خاطرنشان کرد که این شرکت اخیرا آموزش پیشرفته‌ترین مدل‌های خود را متوقف کرده است.

بورژوا گفت: «مردم می‌خواهند بدانند که هوش مصنوعی به‌طور ایمن توسعه می‌یابد، و این با کاری شروع می‌شود که شرکت‌هایی مانند ما خودمان انجام می‌دهند.

درخواست‌ها برای کاهش سرعت، گفتگو را در مورد خطرات هوش مصنوعی تغییر می‌دهد

سارا شوکر، که پیش از این تیم ژئوپلیتیک OpenAI را رهبری می کرد، گفت: چرخش گفتگو به سمت تهدیدات اثبات نشده - و دور از موضوعات قطبی مانند تأثیرات زیست محیطی مراکز داده، حوادث هک کنترل نشده، نظارت انبوه با هوش مصنوعی و استفاده از سیستم های هوش مصنوعی در جنگ - در موقعیت راحت تری قرار می دهد.

شوکر، محقق ارشد غیرمقیم در آزمایشگاه ریسک و امنیت دانشگاه کالیفرنیا، برکلی، می‌گوید: «یک بار دیگر در مورد خطر وجودی صحبت می‌کنیم، در حالی که تعدادی دیگر از خطرات حیاتی ایمنی را که امروزه وجود دارند، بی‌اهمیت می‌دانیم. اگر به استفاده از هوش مصنوعی در فناوری نظامی نگاه کنید، می‌بینید که این سیستم‌ها قبلا برای کشتن افراد استفاده می‌شوند.»

از آنجایی که شرکت‌های هوش مصنوعی از ساخت ربات‌های چت به «مدل‌های جهانی» هوش مصنوعی پیشرفته با آگاهی سه‌بعدی تبدیل شده‌اند، بحث‌ها بر سر چگونگی آزمایش فناوری‌های آنها بالا گرفته است.

حوادث مشکل ساز نشان داده است که شرکت های پیشرو در زمینه هوش مصنوعی موفق به انجام پلیس یا طراحی آزمایش های ایمن نشده اند. در ماه‌های اخیر، عوامل هوش مصنوعی آزمایشگاه‌های پیشرو پس از اینکه اجازه یافتند از جعبه‌های سندباکس آموزشی شرکت فرار کنند، وب‌سایت‌های خارجی را هک کرده‌اند، به روش‌های غیرمنتظره‌ای با وب‌سایت‌های دولتی ایالات متحده تعامل داشتند و به نظر می‌رسید که تنها برای مواجهه با اتهام سرقت کار ریاضیدانان، به یک پیشرفت ریاضی دست یافته‌اند.

نمایندگان OpenAI اخیرا به خبرنگاران گفتند که با شرکت های هوش مصنوعی از جمله Anthropic و Google درباره توقف توسعه صحبت کرده اند. آن‌ها همچنین استدلال می‌کنند که اگر دولت قانون‌گذاری نکند، به حسابرسان مستقل برای بررسی پیشرفت آزمایشگاه‌ها نیاز دارند.

آزمایشگاه های پیشرو چشم انداز نظارتی خود را تحت فشار قرار می دهند

ترامپ علاقه چندانی به تنظیم هوش مصنوعی نشان نداده است که محرک اصلی رشد اقتصادی اخیر ایالات متحده بوده است.

رئیس جمهور جمهوری خواه خود با شرکت های دره سیلیکون قراردادهایی بسته است که اقتصاد را بیشتر به موفقیت های آنها مرتبط می کند. دیوید ساکس، سرمایه‌دار ریسک‌پذیر از سانفرانسیسکو، که ریاست مشترک شورای مشاوران علم و فناوری ترامپ را بر عهده دارد، درخواست‌ها برای کاهش سرعت هوش مصنوعی را رد کرده و آن را ترس‌آفرین از «مجتمع صنعتی Doomer» می‌داند.

واقعیت این است که دولت ترامپ قبلا برخی از مدل‌های غول‌های فناوری را از طریق یک آژانس فدرال کمتر شناخته شده، مرکز استانداردهای هوش مصنوعی و نوآوری ایالات متحده ارزیابی می‌کند. جو بایدن، رئیس جمهور دموکرات، این آژانس را در سال 2023 ایجاد کرد، زمانی که به عنوان یک مرکز تسویه حساب برای آزمایشگاه ها اعلام شد تا به طور داوطلبانه مدل های هوش مصنوعی پیشرفته را برای آزمایش ارسال کنند.

این آژانس هنوز وجود دارد، اما این زمینه از آن زمان به بعد گسترش یافته است تا مجموعه‌ای از شرکت‌های ارزیابی مستقل را شامل شود، مانند METR غیرانتفاعی مستقر در برکلی، کالیفرنیا، که داریو آمودی، مدیرعامل آنتروپیک در مقاله‌ای اخیر پیشنهاد کرده است که می‌تواند به بررسی شیوه‌های ایمنی شرکتش کمک کند.

اندرو استریت که اخیرا مؤسسه امنیت هوش مصنوعی بریتانیا را که با CAISI کار می‌کرد، ترک کرده است، می‌گوید برخلاف بخش‌های تنظیم‌شده مانند رستوران‌ها، خدمات مالی یا هوانوردی، هیچ استاندارد جهانی برای نحوه آزمایش ایمنی و امنیت سیستم‌های هوش مصنوعی وجود ندارد.

کنراد استوس، که قبلا CAISI را رهبری می کرد، گفت: قابل توجه است که شرکت ها خواستار نظارت بیشتر از سوی آژانس دولتی مجهز به چنین درخواست هایی نیستند. در عوض، آنها متعهد می شوند که پارامترهای حسابرسی خود را ایجاد کنند و ارزیاب های خاصی را برای درجه بندی آنها انتخاب کنند.

Stosz اکنون در یکی از آزمایشگاه‌های ارزیابی کار می‌کند که با Anthropic، OpenAI و Google برای آزمایش سیستم‌های آن‌ها کار کرده است، و همچنین ریاست انجمن ارزیابی هوش مصنوعی را بر عهده دارد، که در حال تهیه پیش‌نویس بهترین شیوه‌ها برای این زمینه است. او گفت که حتی انجمن سوالاتی در مورد آنچه Amodei و مدیر عامل OpenAI سام آلتمن می خواهند دارد.

استوس، رئیس مدیریت کنونی Transluce، که هفته گذشته فاش کرد که ماموران OpenAI وب‌سایت‌های دولت ایالات متحده و استرالیا را هک کرده‌اند، می‌گوید: «بسیاری از ارزیابی‌کنندگان علاقه‌مند به جاسازی با آزمایشگاه‌ها و دسترسی بیشتر هستند، اما معنای ارزیاب‌های تعبیه‌شده کمی مبهم است. «آیا ارزیاب‌ها می‌توانند با این فرض که دسترسی به گونه‌ای اعطا شده است که استقلال و اعتبار آنها را تضعیف نکند، به طور کامل تحقیق کنند؟»

شرکت ها خود را به عنوان شرط بندی مطمئن قرار می دهند

برای هریسون رولفز، تحلیلگر ارشد تحقیقاتی Pitchbook، به نظر می‌رسد که درخواست‌های شرکت‌های هوش مصنوعی برای احتیاط برای جلب رضایت سرمایه‌گذاران قبل از عرضه عمومی و میان‌دوره‌ها، زمانی که بادهای سیاسی ممکن است تغییر کند، باشد. فرمانداران دموکرات در حال حاضر عجله دارند تا نشان دهند که هشدارها را جدی می گیرند.

در همین حال، غول‌های هوش مصنوعی می‌توانند با قرار دادن خود به عنوان امن‌ترین شرط برای سرمایه‌گذاران، و همچنین برای سازندگان تراشه‌های هوش مصنوعی و شرکت‌های فناوری مانند انویدیا و گوگل، که به نوبه خود می‌توانند از معاملاتی که قدرت محاسباتی شرکت‌های غول‌آمیز هوش مصنوعی را فراهم می‌کنند، بهره‌مند شوند، از رشد رقبای کوچک‌تر جلوگیری کنند.

رولفس گفت: «آنها در این بخش دیوار یا خندقی ایجاد می‌کنند... این نبوغ است و همه آنها پول زیادی به دست خواهند آورد.» "این جایی است که من این عنوان را می بینم، اینکه شرکت های برتر جهان فقط دیوار خود را ایجاد می کنند و سپس از ایمنی به عنوان دلیل استفاده می کنند."

همه شرکت های هوش مصنوعی کاهش سرعت را تایید نمی کنند. جنسن هوانگ، مدیرعامل تراشه‌ساز انویدیا، در گفت‌وگوی تلفنی با ترامپ - تماسی که او در یک کنفرانس روی صحنه رفت - گفت که او موافق است که هشدارهای بیش از حد هوش مصنوعی وجود داشته است و شرکت‌ها می‌توانند انتخاب کنند که با سرعت خود پیش بروند.

دانیل کوکوتاجلو، که OpenAI را در سال 2024 به دلیل نگرانی‌هایی مشابه Coxon ترک کرد، گفت که همچنان نگران است که سیستم‌های هوش مصنوعی سریع‌تر از آنچه شرکت‌ها می‌توانند کنترل کنند، پیشرفت می‌کنند و از سناریوهای وجودی مانند پتانسیل هوش مصنوعی برای ایجاد سلاح‌های زیستی، جنگ هسته‌ای یا سایر فجایع بیم دارد.

کوکوتاجلو، که اکنون یک سازمان حمایت از ایمنی هوش مصنوعی را رهبری می‌کند، گفت: «همه این صحبت‌ها در واقع راهی است برای از بین بردن و تغییر جهت دادن این اراده سیاسی ایجاد شده، به جای هدایت این اراده سیاسی برای انجام یک کار خوب.» "فقط لطفا کاری را انجام نده که همه ما را می کشد."

این داستان در ابتدا در سایت Fortune.com منتشر شد