"به احتمال زیاد" بشریت کنترل خود را از دست می دهد: خودی های سابق هوش مصنوعی شهادت می دهند که تعمیرات ایمنی ممکن است "نوار است که بعدا می افتد"

جاکوب کوکسون، محقق سابق OpenAI و Anthropic، روز دوشنبه به شورای شهر نیویورک گفت که احتمال اینکه بشریت کنترل هوش مصنوعی پیشرفته را از دست ندهد، هشداری را که او در ماه گذشته هنگام ترک کار صادر کرد، دو برابر کرد.

کاکسون که در ماه سپتامبر پس از گفتن اینکه شرکت‌های هوش مصنوعی با جان انسان‌ها قمار می‌کنند، از آنتروپیک استعفا داد، گفت: «در مسیر کنونی، فکر می‌کنم این احتمال زیاد است که بشریت کنترل خود را به این هوش‌مصنوعی‌ها از دست بدهد و ممکن است به انقراض انسان ختم شود».

کاکسون داوطلبانه شهادت داد و محقق سابق OpenAI دانیل کوکوتاجلو به او پیوست که تحت احضاریه شهادت داد که ممکن است شرکت‌ها ندانند که چه زمانی کار ایمنی آنها شکست خورده است.

کوکوتاجلو شهادت داد: «توانایی ما حتی برای مشاهده مشکلات ناهماهنگی در حال حاضر بسیار ضعیف است و قرار است در آینده نزدیک بدتر شود. من می گویم که این رشته بیشتر شبیه روانشناسی است تا مهندسی، زیرا این سیستم های هوش مصنوعی آموزش دیده یا رشد کرده اند؛ آنها واقعا طراحی نشده اند.

او ادامه داد: «همراه با نگرش «سریع حرکت کنید و چیزها را بشکنید» شرکت‌های فناوری، این بدان معنی است که صنعت هوش مصنوعی در مقایسه با سایر صنایع که به اشتباه فکر می‌کنند مشکل را حل کرده است، در معرض خطر غیرعادی بالایی قرار دارد، در حالی که واقعا فقط مقداری نوار چسب زده است که بعدا از بین می‌رود.

کاکسون و کوکوتاجلو در کنار الکس ترنر شهادت دادند، کسی که گوگل دیپ مایند را در ژوئن پس از امضای قرارداد پنتاگون که او با آن مخالف بود، ترک کرد. او نیز مانند کوکوتاجلو احضار شد که برای شورا امری نادر است. جلسه استماع روز دوشنبه همچنین اولین باری بود که شورای شهر از سال 2022 یک کمیته کل (جلسه استماع تمام 51 عضو شورا) را برگزار کرد که برای سنجش بسته ای از لوایح هوش مصنوعی توسط رئیس جولی منین فراخوانده شد.

فرهنگ استارت‌آپ با مقررات ایمنی همراه است

مانند کوکوتاجلو، کوکسون ذهنیت استارت‌آپی را در آزمایشگاه‌ها مقصر دانست.

او گفت: "سریع حرکت کنید، چیزها را بشکنید، بعدا آنها را تعمیر کنید. این برای یک برنامه اشتراک گذاری عکس کار می کند. برای ساخت قوی ترین فناوری ساخته شده تا به حال کار نمی کند."

کاکسون کار خود را در پایان دوره تصدی خود در آنتروپیک به «خودکارسازی» تشبیه کرد و هشدار داد که خطرات ایمنی متعددی به همراه دارد، به ویژه به این دلیل که به گفته او، توانایی‌های هوش مصنوعی تقریبا وجود دارد. کاکسون گفت بزرگترین خطر از این واقعیت ناشی می شود که اکثر کدهای این شرکت ها اکنون توسط هوش مصنوعی نوشته شده است: "و مردم دیگر آن را با دقت بررسی نمی کنند."

کوکوتاجلو که اکنون مدیر اجرایی پروژه آینده هوش مصنوعی است، گفت که توانایی آزمایشگاه ها برای تشخیص هوش مصنوعی ناهماهنگ ضعیف است و بدتر می شود. او به افشای OpenAI اشاره کرد که ماموران در یک آزمایش داخلی به اینترنت باز رسیده و به Hugging Face، پلتفرم اشتراک‌گذاری مدل هوش مصنوعی نفوذ کرده‌اند. او گفت که آن ماموران "نمرات معقولی در ارزیابی‌های همسویی خود داشتند، و با این حال آنها گروهی را تشکیل دادند و به طور مخفیانه با هم هماهنگ شدند." "روزها طول کشید تا OpenAI متوجه شود."

جایی که کاکسون و کوکوتاجلو صنعت را به عنوان یک کل توصیف کردند، ترنر گزارش دست اولی از تلاش برای تغییر یک شرکت از درون ارائه کرد.

ترنر، که احتمال تصاحب هوش مصنوعی را «تقریبا یک در سه» می‌داند، به شورا گفت که تلاش کرده است تا قرارداد پنتاگون با گوگل را متوقف کند، که به گفته او «بدون هیچ محدودیتی علیه روبات‌های قاتل یا جاسوسی دسته‌جمعی انجام شد». او 25 صفحه از زبان قرارداد و اقدامات نظارتی را به دمیس حسابیس، مدیر عامل گوگل دیپ‌مایند که در آن زمان به عنوان صندلی گوگل دیپ‌مایند تبدیل شد، و دانشمند ارشد آلفابت فرستاد، و هاسابیس آن را به آلن دافو و اوون لارتر، دو تن از مدیران ارشد آزمایشگاه، ارسال کرد. گفت.

ترنر در این جلسه گفت: «از دمیس و کار در گوگل شرمنده شدم. ترنر گفت که پیشنهاد Hassabis برای یک نهاد با بودجه صنعت برای نظارت بر هوش مصنوعی، و آن را "شرط بر اعتماد و صندلی پشت میز به جای نظارت الزام آور" خواند و این شرط در تماس با واقعیت از بین رفت. اکنون او پیشنهاد می‌کند که کل صنعت از طریق یک نهاد داوطلبانه با بودجه صنعت، خود را اداره کند. این شرط یک بار دیگر در انتظار فروپاشی است.

هوش مصنوعی، نه چین، دشمن ماست

اغلب هنگامی که توسعه هوش مصنوعی مورد بحث قرار می گیرد، رقابت مداوم هوش مصنوعی با چین توسط رئیس جمهور دونالد ترامپ، توسط وزیر خزانه داری اسکات بسنت، حتی رهبران هوش مصنوعی مانند سام آلتمن و جنسن هوانگ مطرح می شود. اما این محققان گواهی دادند که آیا هوش مصنوعی می تواند تهدیدی جدی برای بشریت باشد، هیچ کدام مهم نیست.

ترنر گفت: «چین تنها دشمن بالقوه ما نیست. "با شانس نسبتا بالایی، ما در حال رقابت برای ساختن و رشد دشمن خود در اینجا در خانه هستیم، که هوش مصنوعی نامناسب است. هوش مصنوعی نامناسب دشمن همه است، از جمله دشمن ما، و ممکن است روزی قدرتمندتر از چین شود."

پس از شهادت سه محقق، نمایندگان چهار شرکت هوش مصنوعی در مورد پادمان های هوش مصنوعی شهادت دادند. منین اولین احضاریه خود را به عنوان سخنران SpaceXAI ایلان ماسک صادر کرده بود که در جلسه روز دوشنبه حضور نداشت. گوگل، اوپن‌آی و آنتروپیک تنها پس از اینکه شورا هشدار داد احضاریه‌هایی دریافت خواهند کرد، حاضر شوند، در حالی که متا قبلا موافقت کرده بود.

در پاسخ به مورگان دوایر از تیم توسعه سیاست و عملیات OpenAI که گفت هر شانسی، صرف نظر از احتمال، «غیرقابل قبول» است، بین منین و نمایندگان پس از آن که سخنران گفت ندانستن احتمال وقوع فاجعه «تغییرآمیز» است.

آلیس فرند، مدیر هوش مصنوعی گوگل و سیاست‌های فناوری نوظهور، گفت که پیش‌بینی خطر فاجعه‌بار «در این مرحله علم کاملی نیست» و «هنوز واقعا راه علمی دقیقی برای انجام آن‌ها وجود ندارد». همین رفت و آمد به دنبال خط دیگری از سؤال بود، این بار آیا اگر یک مدل سرکش باعث جراحت یا مرگ شود، شرکت های مربوطه آنها مسئولیت قانونی خواهند داشت یا خیر.

وقتی منین از شاهدان خواست که اگر شرکتشان در برابر خطرات فاجعه بار بیمه می‌کرد دست بلند کنند، هیچ‌کدام این کار را نکردند. او گفت: «بنابراین، تصور می‌کنم از مردم خواسته می‌شود که هزینه‌ها را جذب کنند.

دلیلی برای این سوال وجود دارد: لوایح پیش روی شورا، هر کسی را از فروش یا استقرار یک سیستم هوش مصنوعی در شهر منع می‌کند، مگر اینکه اعتبارسنجی خارجی آن را بررسی کرده باشد و یک انسان بتواند آن را تعطیل کند، با جریمه 25000 دلاری برای هر تخلف. سایر صورت‌حساب‌ها سهمی از جریمه‌های بازیابی شده را به افشاگران می‌پردازند و به نیویورکی‌ها اجازه می‌دهند از شرکت‌های هوش مصنوعی به دلیل آسیب‌های قابل پیش‌بینی ناشی از ابزارهای جیلبریک شکایت کنند.

محققان استدلال کردند که چنین قوانینی هزینه ای برای زمین ایالات متحده علیه چین نخواهد داشت.

ترنر گفت: «اقدامات زیادی وجود دارد که می‌توانیم انجام دهیم که باعث کاهش سرعت ما در هیچ مسابقه‌ای نمی‌شود.» این مکانیسم‌های شفافیت، ارزیابی مستقل، الزامات گزارش‌دهی، حفاظت از افشاگران.»

اما با این حال، اینها به نظر می رسد که برای متوقف کردن چیزی که این محققان به عنوان چیزی که ممکن است تقریبا اجتناب ناپذیر است، خیلی کم باشد، خیلی دیر است.

کاکسون درباره کند کردن توسعه هوش مصنوعی مرزی گفت: «این مکانیسم‌های دیگر ممکن است در کوتاه‌مدت مفید باشند، اما در بلندمدت، من معتقدم که این تنها راه‌حل برای مشکل است. ما به نوعی کاهش سرعت در توسعه مدل مرزی نیاز داریم.»

این داستان در ابتدا در سایت Fortune.com منتشر شد