"صنعت ما خطرات را می بیند و نگران است": رهبران فناوری اروپا به درخواست ها برای کاهش سرعت هوش مصنوعی می پیوندند

رهبران فناوری اروپا به دنبال هشدارهایی مبنی بر اینکه این فناوری یک تهدید وجودی برای بشریت است، از درخواست‌ها برای کاهش سرعت پیشرفت هوش مصنوعی حمایت کرده‌اند.

پیپ وایت، رئیس بریتانیا و ایرلند، شمال اروپا، و اسرائیل در Anthropic، که در انجمن مدیر عامل Fortune در لندن صحبت می‌کرد، گفت: «کاهش سرعت این فناوری مهم است، اما باید در بین دولت‌ها [تنظیم‌شده] انجام شود و ما به اجرای آن در سراسر کشورها نیاز داریم تا کار کند».

اظهارات او پس از آن بیان شد که داریو آمودی، مدیر عامل آنتروپیک، درخواست خود را در رسانه های اجتماعی از شرکت های هوش مصنوعی برای سرعت بخشیدن به توسعه مرزی به اشتراک گذاشت. در این پست، او خواستار هماهنگی جهانی برای رسیدگی به خطرات هوش مصنوعی شد و گفت که آنتروپیک "یکجانبه" متعهد می‌شود که به ارزیابان خارجی دسترسی به مدل‌ها، آموزش‌ها و فرآیندهای خود را برای اطمینان از ایمنی آنها بدهد.

سام آلتمن، مدیر عامل OpenAI، ایلان ماسک، مدیر عامل اسپیس ایکس، و دمیس حسابیس، بنیانگذار و رئیس Google DeepMind، همگی حمایت خود را از پیشنهاد Amodei برای کاهش سرعت توسعه هوش مصنوعی اعلام کرده اند. آلتمن و آمودی روز چهارشنبه (23 سپتامبر) شورای امنیت سازمان ملل را در مورد تهدیدات هوش مصنوعی غیرقابل کنترل و نیاز به همسویی جهانی برای اطمینان از ایمنی این فناوری توضیح دادند.

وایت افزود: "بیشتر افراد در صنعت ما خطرات را می بینند و نگران هستند، و این مستلزم یک تلاش هماهنگ جهانی برای بهترین نتایج ممکن است."

ترس ها در مورد هوش مصنوعی اخیرا پس از اینکه یک کارمند سابق Anthropic و OpenAI، Jacob Coxon، نگرانی های خود را مبنی بر اینکه "هیچ یک از شرکت ها مسئولانه عمل نمی کنند" را به اشتراک گذاشت و اضافه کرد که او و دیگرانی که هوش مصنوعی را توسعه می دهند، "صادقانه معتقدند که این کار می تواند تا پایان دهه همه ما را بکشد."

این هفته، یک عامل OpenAI در ماه ژوئن به یک وب سایت دولتی استرالیا نفوذ کرده و به داده های Medicare دسترسی پیدا کرده است. این حادثه به مدت سه ماه مورد توجه قرار نگرفت و تنها پس از "بررسی گسترده" مدل های OpenAI شناسایی شد. این شرکت گفت که اکنون با دولت استرالیا برای کمک به رفع هرگونه آسیب پذیری امنیتی احتمالی همکاری می کند.

به نظر می رسد که این اولین نقض شناخته شده یک سیستم دولتی توسط یک عامل سرکش هوش مصنوعی است و به نگرانی ها در مورد تهدیدات این فناوری افزوده است.

مایکروسافت به تشدید نگرانی‌ها در مورد هوش مصنوعی با انتشار آیین‌نامه رفتاری برای اطلاع از آموزش مدل‌های خود و اطمینان از اینکه هوش مصنوعی «فرع و همیشه در خدمت مردم» باقی می‌ماند، پاسخ داد.

سامر ابولطایف، رئیس مایکروسافت اروپا، خاورمیانه و آفریقا، در انجمن مدیر عامل گفت: «هوش مصنوعی باید داربستی برای جاه طلبی انسان باشد. "نیاز به تنظیم قطعا پیش نیازی برای ادامه نوآوری مسئولانه است."

او توضیح داد که آیین‌نامه رفتاری جدید شرکت به‌عنوان «نرده‌های محافظ» عمل می‌کند تا اطمینان حاصل شود که این فناوری «اخلاق» را اتخاذ می‌کند.

اما ابولطایف افزود که هماهنگی جهانی برای جلوگیری از الزام شرکت‌ها در مناطق مختلف به رعایت استانداردهای نظارتی متفاوت ضروری است. او گفت: «قانون‌گذاران در کشورهای مختلف کارهایی را که باید انجام دهند انجام می‌دهند، اما این خطر پراکندگی را دارد و گاهی اوقات به جای فرصت، ترس به وجود می‌آید.

"نیاز به تنظیم قطعا پیش نیازی برای ادامه نوآوری مسئولانه است."

برخی از سیاستمداران اروپایی همچنان نسبت به درخواست ها برای کاهش سرعت هوش مصنوعی تردید دارند. رولاند لسکور، وزیر دارایی فرانسه، به رویترز گفت که او به وضوح می‌تواند «نفع شخصی» را در درخواست از دیگران برای کاهش سرعت ببیند تا شرکت‌های پیشرو بتوانند مزیت خود را حفظ کنند. در همین حال، وزارت امور دیجیتال آلمان گفت که توقف توسعه هوش مصنوعی گزینه مناسبی برای اروپا نیست.

شرکت فرانسوی هوش مصنوعی Mistral همچنین شرکت‌های هوش مصنوعی ایالات متحده را متهم کرده است که از ترس فعلی برای «تثبیت موقعیت خود در بازار» و اعمال مقرراتی که رقبای کوچک‌تر را در معرض ضرر قرار می‌دهند، استفاده می‌کنند.

دانیل هولم، مدیر ارشد هوش مصنوعی در غول تبلیغاتی WPP، گفت که توافق هر شرکت و کشوری در مورد توقف کار، واقع بینانه نیست. او افزود: "فکر نمی‌کنم کاهش سرعت هوش مصنوعی وجود داشته باشد. فکر نمی‌کنم کسی با کاهش سرعت کار موافقت کند."

با وجود درخواست‌های اخیرشان برای کاهش سرعت هوش مصنوعی، Anthropic و OpenAI هر دو نسخه‌های مقرون‌به‌صرفه‌تری از مدل‌های مرزی خود را در این هفته منتشر کردند.

هولم اضافه کرد که تنظیم‌کننده‌ها باید روی آسیب‌هایی که هوش مصنوعی در هنگام استقرار بی‌دقتی یا در تنظیمات اشتباه ایجاد می‌کند، تمرکز کنند. "آیا یک فارغ التحصیل مست را برای شغل مورد نظر استخدام می کنید؟ اگر نه، احتمالا نباید از هوش مصنوعی برای آن استفاده کنید."

او همچنین پیشنهاد کرد که هوش مصنوعی قبل از انتشار باید توسط سازمان‌های مستقل آزمایش شود و به دولت‌ها توصیه کرد که از روش‌های مورد استفاده برای تنظیم سایر صنایع مانند استفاده از آزمایش‌های بالینی در صنعت داروسازی پیروی کنند. هولم نتیجه گرفت: "ما مجبور نیستیم چرخ را دوباره اختراع کنیم."

برای آخرین پوشش و به‌روزرسانی‌های انجمن مدیر عامل Fortune، و همچنین اطلاعاتی درباره شرکت‌های موجود در فهرست ما، از این صفحه دیدن کنید.

این داستان در ابتدا در سایت Fortune.com منتشر شد