Anthropic و OpenAI هشدار ایمنی هوش مصنوعی را به صدا در می آورند - و به دنبال شکل دادن به نحوه کنترل آن هستند

گارنس برک، آسوشیتدپرس گارنس برک، آسوشیتدپرس

سان فرانسیسکو (AP) - همانطور که غول‌های فناوری به جهانیان خسته از هوش مصنوعی هشدار دادند که سیستم‌های پیشرفته خودشان می‌توانند بشریت را به خطر بیندازند، این سؤال مطرح شد: آنها چه چیزی باید به دست آورند؟

پاسخ ممکن است در تلاش این شرکت ها برای به دست آوردن اهداف سیاسی در آستانه انتخابات میان دوره ای ایالات متحده باشد و آزمایشگاه های هوش مصنوعی و سرمایه گذاران آنها در فهرست های مورد انتظار در بازار سهام پریشان قرار بگیرند.

مدیران عامل Anthropic و OpenAI اخیرا اعلام کرده‌اند که مدل‌های پیشرفته آمریکا بسیار قدرتمند هستند، خطرناک هستند و قبل از عرضه باید تنظیم و آزمایش شوند. در یک نمونه نادر از اتحاد، آنها سناریوهای نگران کننده ای را در مقالات، پست های رسانه های اجتماعی و سخنرانی در سازمان ملل ترسیم کرده اند.

در طول مسیر، آنها در حال شکل دادن به گفتگو در مورد چگونگی کنترل فناوری خود هستند. کارشناسان، تحلیلگران و ارزیابان دولتی سابق به آسوشیتدپرس گفتند که با لفاظی های خود، به نظر می رسد که شرکت ها به دنبال جلب رضایت عمومی هستند و شرایط را برای پروتکل های ایمنی خود در بازار غیرقابل تنظیم تعیین می کنند.

این اهداف ممکن است دقیقا با آنچه مهندس Anthropic Jacob Coxon هنگام استعفای خود از طریق پستی در X در این ماه، خواستار توقف توسعه فناوری برای جلوگیری از دور نگه داشتن سیستم های "فوق بشری" از کنترل سازندگان خود بود، مطابقت نداشته باشد. اما این شرکت‌ها پست او را فرصتی برای برجسته کردن تلاش‌های ایمنی خود و جایگاه خود به عنوان رهبران محتاط بازار می‌دانستند، درست زمانی که قبل از عرضه عمومی در وال استریت به سرمایه تازه نیاز دارند.

دونالد ترامپ، رئیس جمهور آمریکا، از نیاز به مقررات جدید هوش مصنوعی اجتناب کرده و صحبت در مورد خطرات برای بشریت را به عنوان یک "HOAX" که برای کمک به چین طراحی شده است، رد کرده است.

یکی از سخنگویان Anthropic در پاسخ به سوالات مربوط به این داستان گفت که این شرکت چندین سال است که خواستار تنظیم مقررات شده است. لیز بورژوا، سخنگوی OpenAI، خاطرنشان کرد که این شرکت اخیرا آموزش پیشرفته‌ترین مدل‌های خود را متوقف کرده است.

بورژوا می‌گوید: «مردم می‌خواهند بدانند هوش مصنوعی به‌طور ایمن توسعه می‌یابد، و این با کاری شروع می‌شود که شرکت‌هایی مانند ما خودمان انجام می‌دهند.

سارا شوکر، که پیش از این تیم ژئوپلیتیک OpenAI را رهبری می کرد، گفت: چرخش گفتگو به سمت تهدیدات اثبات نشده - و دور از موضوعات قطبی مانند اثرات زیست محیطی مراکز داده، حوادث هک کنترل نشده، نظارت انبوه با هوش مصنوعی و استفاده از سیستم های هوش مصنوعی در جنگ - در موقعیت راحت تری قرار می دهد.

شوکر، محقق ارشد غیرمقیم در آزمایشگاه ریسک و امنیت دانشگاه کالیفرنیا، برکلی، می‌گوید: "یک بار دیگر در مورد خطر وجودی صحبت می‌کنیم، در حالی که تعدادی دیگر از خطرات حیاتی ایمنی را که امروزه وجود دارند، از اولویت خارج می‌کنیم. اگر به استفاده از هوش مصنوعی در فناوری نظامی نگاه کنید، می‌بینید که این سیستم‌ها قبلا برای کشتن افراد استفاده می‌شوند."

از آنجایی که شرکت‌های هوش مصنوعی از ساخت ربات‌های چت به «مدل‌های جهانی» هوش مصنوعی پیشرفته با آگاهی سه‌بعدی رسیده‌اند، بحث‌ها بر سر چگونگی آزمایش فناوری‌های آن‌ها بالا گرفته است.

حوادث مشکل ساز نشان داده است که شرکت های پیشرو در زمینه هوش مصنوعی موفق به انجام پلیس یا طراحی آزمایش های ایمن نشده اند. در ماه‌های اخیر، عوامل هوش مصنوعی آزمایشگاه‌های پیشرو پس از اینکه اجازه یافتند از جعبه‌های شنی آموزشی شرکت فرار کنند، وب‌سایت‌های خارجی را هک کردند، به روش‌های غیرمنتظره‌ای با وب‌سایت‌های دولتی ایالات متحده تعامل کردند و به نظر می‌رسید که تنها برای مواجهه با اتهام سرقت کار ریاضیدانان به یک پیشرفت ریاضی دست یافته‌اند.

نمایندگان OpenAI اخیرا به خبرنگاران گفتند که با شرکت های هوش مصنوعی از جمله Anthropic و Google درباره توقف توسعه صحبت کرده اند. آن‌ها همچنین استدلال می‌کنند که اگر دولت تنظیم نکند، به حسابرسان مستقل برای بررسی پیشرفت آزمایشگاه‌ها نیاز دارند.

ترامپ علاقه چندانی به تنظیم هوش مصنوعی نشان نداده است که محرک اصلی رشد اقتصادی اخیر ایالات متحده بوده است.

رئیس جمهور جمهوری خواه خود با شرکت های دره سیلیکون قراردادهایی بسته است که اقتصاد را بیشتر به موفقیت های آنها مرتبط می کند. دیوید ساکس، سرمایه‌دار مخاطره‌آمیز سانفرانسیسکو، که ریاست مشترک شورای مشاوران علم و فناوری ترامپ را بر عهده دارد، درخواست‌ها برای کاهش سرعت هوش مصنوعی را رد کرده و آن را ترس‌آفرین از «مجتمع صنعتی Doomer» می‌داند.

واقعیت این است که دولت ترامپ در حال حاضر برخی از مدل های غول های فناوری را از طریق یک آژانس فدرال کمتر شناخته شده، مرکز استانداردهای هوش مصنوعی و نوآوری ایالات متحده ارزیابی می کند. جو بایدن، رئیس جمهور دموکرات، این آژانس را در سال 2023 ایجاد کرد، زمانی که به عنوان یک مرکز تسویه حساب برای آزمایشگاه ها اعلام شد تا به طور داوطلبانه مدل های هوش مصنوعی پیشرفته را برای آزمایش ارسال کنند.

این آژانس هنوز وجود دارد، اما این زمینه از آن زمان به بعد گسترش یافته است تا مجموعه‌ای از شرکت‌های ارزیابی مستقل را شامل شود، مانند METR غیرانتفاعی مستقر در برکلی، کالیفرنیا، که مدیر عامل آنتروپیک، داریو آمودی در مقاله‌ای اخیر پیشنهاد کرده است که می‌تواند به بررسی شیوه‌های ایمنی شرکتش کمک کند.

اندرو استریت که اخیرا مؤسسه امنیت هوش مصنوعی بریتانیا را که با CAISI کار می‌کرد، ترک کرده است، می‌گوید برخلاف بخش‌های تنظیم‌شده مانند رستوران‌ها، خدمات مالی یا هوانوردی، هیچ استاندارد جهانی برای نحوه آزمایش ایمنی و امنیت سیستم‌های هوش مصنوعی وجود ندارد.

کنراد استوس، که قبلا CAISI را رهبری می کرد، گفت: قابل توجه است که شرکت ها خواستار نظارت بیشتر از سوی آژانس دولتی مجهز به چنین درخواست هایی نیستند. در عوض، آنها متعهد می شوند که پارامترهای حسابرسی خود را ایجاد کنند و ارزیاب های خاصی را برای درجه بندی آنها انتخاب کنند.

Stosz اکنون در یکی از آزمایشگاه‌های ارزیابی کار می‌کند که با Anthropic، OpenAI و Google برای آزمایش سیستم‌های آن‌ها کار کرده است، و همچنین ریاست انجمن ارزیابی هوش مصنوعی را بر عهده دارد، که در حال تهیه پیش‌نویس بهترین شیوه‌ها برای این زمینه است. او گفت که حتی انجمن سوالاتی در مورد آنچه Amodei و مدیر عامل OpenAI سام آلتمن می خواهند دارد.

Stosz، رئیس مدیریت کنونی Transluce که هفته گذشته فاش کرد که ماموران OpenAI وب‌سایت‌های دولت ایالات متحده و استرالیا را هک کرده‌اند، می‌گوید: «بسیاری از ارزیابی‌کنندگان علاقه‌مند به جاسازی با آزمایشگاه‌ها و دسترسی بیشتر هستند، اما معنای ارزیاب‌های تعبیه‌شده کمی مبهم است. «آیا ارزیاب‌ها می‌توانند با فرض اینکه دسترسی به گونه‌ای اعطا شده است که استقلال و اعتبار آنها را تضعیف نکند، به طور کامل تحقیق کنند؟»

برای هریسون رولفز، تحلیلگر ارشد تحقیقاتی PitchBook، به نظر می‌رسد که درخواست‌های شرکت‌های هوش مصنوعی برای احتیاط برای جلب نظر سرمایه‌گذاران قبل از عرضه عمومی و میان‌دوره‌ها، زمانی که بادهای سیاسی ممکن است تغییر کند، باشد. فرمانداران دموکرات در حال حاضر عجله دارند تا نشان دهند که هشدارها را جدی می گیرند.

در همین حال، غول‌های هوش مصنوعی می‌توانند با قرار دادن خود به عنوان امن‌ترین شرط برای سرمایه‌گذاران، و همچنین برای سازندگان تراشه‌های هوش مصنوعی و شرکت‌های فناوری مانند انویدیا و گوگل، که به نوبه خود می‌توانند از معاملاتی که قدرت محاسباتی شرکت‌های غول‌آمیز هوش مصنوعی را فراهم می‌کنند، بهره‌مند شوند، از رشد رقبای کوچک‌تر جلوگیری کنند.

رولفس گفت: "آنها در حال ایجاد یک دیوار یا یک خندق در این بخش هستند. ... این نابغه است و همه آنها پول زیادی به دست خواهند آورد." "این جایی است که من این عنوان را می بینم، اینکه شرکت های برتر جهان فقط دیوار خود را ایجاد می کنند و سپس از ایمنی به عنوان دلیل استفاده می کنند."

همه شرکت های هوش مصنوعی کاهش سرعت را تایید نمی کنند. جنسن هوانگ، مدیرعامل تراشه‌ساز انویدیا، در گفت‌وگوی تلفنی با ترامپ - تماسی که او در یک کنفرانس روی صحنه رفت - گفت که او موافق است که هشدارهای بیش از حد هوش مصنوعی وجود داشته است و شرکت‌ها می‌توانند انتخاب کنند که با سرعت خود پیش بروند.

دانیل کوکوتاجلو، که OpenAI را در سال 2024 به دلیل نگرانی‌هایی مشابه Coxon ترک کرد، گفت که همچنان نگران است که سیستم‌های هوش مصنوعی سریع‌تر از آنچه شرکت‌ها می‌توانند کنترل کنند، پیشرفت می‌کنند و از سناریوهای وجودی مانند پتانسیل هوش مصنوعی برای ایجاد سلاح‌های زیستی، جنگ هسته‌ای یا سایر فجایع بیم دارد.

کوکوتاجلو، که اکنون یک سازمان حمایت از ایمنی هوش مصنوعی را رهبری می‌کند و می‌گوید که قبل از استعفا با کاکسون مشورت کرده است، گفت: «همه این صحبت‌ها در واقع راهی برای از بین بردن و تغییر جهت دادن این اراده سیاسی است که ایجاد شده است، به جای هدایت این اراده سیاسی برای انجام یک کار خوب». "فقط لطفا کاری را انجام نده که همه ما را می کشد."

جاش بواک، نویسنده AP در واشنگتن در این گزارش مشارکت داشت.

از روزنامه نگاری قابل اعتماد و گفتگوی مدنی حمایت کنید.