با افزایش نگرانی‌های ایمنی، رهبران هوش مصنوعی در مورد سرعت توسعه اختلاف نظر دارند

رهبران Anthropic، Nvidia و OpenAI رویکردهای رقابتی برای هوش مصنوعی در کنفرانس Salesforce's Dreamforce در سانفرانسیسکو در روز سه‌شنبه ارائه کردند و شکاف صنعت را در مورد اینکه آیا توسعه باید کند شود، تنظیم شود یا در درجه اول توسط خود شرکت‌های فناوری مدیریت شود، آشکار شد.

داریو آمودی، مدیر عامل آنتروپیک، درخواست خود را برای کاهش سرعت توسعه هوش مصنوعی مرزی تجدید کرد، در حالی که جنسن هوانگ، مدیر عامل انویدیا، مخالف کاهش سرعت و مقررات جدید بود. سام آلتمن، مدیر عامل OpenAI اذعان کرد که ترس مردم از این فناوری موجه است، اما معتقد است که توسعه دهندگان می توانند اقدامات ایمنی را جلوتر از قابلیت های رو به رشد نگه دارند.

آمودی گفت که توسعه فناوری و اقتصادی هوش مصنوعی سریعتر از آنچه که آنتروپیک پیش بینی می کرد پیش رفته است.

او در جریان گفتگوی Dreamforce خود به مدیر عامل Salesforce، Marc Benioff گفت: «این سرعت پیشرفت است، نه فقط در فناوری، بلکه جنبه اقتصادی آن.

به گفته آمودی، آنتروپیک پیش‌بینی کرده بود که مدل‌های هوش مصنوعی چقدر می‌توانند توانمند شوند، اما به طور کامل درک نکرده بود که این قابلیت‌ها با چه سرعتی باعث رشد شرکت‌های هوش مصنوعی می‌شوند و در اقتصاد گسترده‌تر جاسازی می‌شوند.

او از یک قیاس خودرویی استفاده کرد تا استدلال کند که یک نقص ایمنی در یک توسعه دهنده باید کل صنعت را وادار کند تا رویه های آن را بازبینی کند.

او گفت که اگر یک خودروساز رقیب دچار نقص ترمز شود، سازندگان مسئول به جای استفاده از حادثه برای حمله به رقیب، خودروهای خود را بررسی می کنند.

آمودی در طی گفتگوی پخش شده توسط Salesforce گفت: «بسیار وسوسه انگیز است که به رقیب خود حمله کنید و بگویید این افراد ناامن هستند. وی افزود، در عوض، شرکت ها باید بپذیرند که هیچ یک از آنها احتمالا سابقه ایمنی کاملی ندارند.

آمودی پیشنهاد کرده است که ارزیاب‌های شخص ثالث مستقل را در شرکت‌های هوش مصنوعی تعبیه کند، استانداردهای ایمنی را بین کشورهای دموکراتیک هماهنگ کند و در نهایت همکاری جهانی گسترده‌تری ایجاد کند.

او گفت که آنتروپیک به ارزیابی‌های مستقل متعهد شده است و در مراحل دیگر بحث‌ها را با صنعت آغاز خواهد کرد.

آمودی در مقاله‌ای اخیر با عنوان «ما باید در مرز قدم بگذاریم» استدلال کرد که قابلیت‌های هوش مصنوعی سریع‌تر از تدابیر حفاظتی مورد نیاز برای کنترل آنها پیشرفت می‌کنند.

این پیشنهاد مورد حمایت آلتمن، مدیر عامل xAI، ایلان ماسک، و یکی از بنیانگذاران گوگل دیپ مایند، دمیس حسابیس قرار گرفت. این به دنبال هشدارهایی از سوی محقق سابق آنتروپیک، جاکوب کوکسون، استعفا داد و مدعی شد که هوش مصنوعی می‌تواند خطر انقراض برای بشریت در این دهه باشد.

هوانگ پس از حضور در دریم فورس در اواخر روز سه شنبه درخواست ها برای کاهش سرعت کلی را رد کرد.

او در حین گفتگو با بنیوف گفت: «تا می توانید سریع بدوید.

رئیس Nvidia ایمنی هوش مصنوعی را یک مشکل مهندسی توصیف کرد که شرکت‌ها باید از طریق محیط‌های تست ایمن و ارزیابی‌های دقیق محصول به آن رسیدگی کنند.

او گفت که توسعه‌دهندگان باید در صورت از دست دادن اعتماد به ایمنی محصول، آن را متوقف کنند، اما دولت‌ها نباید صنعت گسترده‌تر را محدود کنند.

هوانگ با این استدلال که نوآوری سریع و محصولات ایمن یک "انتخاب نادرست" نیست، گفت: "ما به هیچ قانون جدیدی نیاز نداریم. ما به مقررات جدیدی نیاز نداریم."

او همچنین ترس از حذف تعداد زیادی از مشاغل توسط هوش مصنوعی را رد کرد و این پیشنهاد را "کاملا مزخرف" خواند.

هوانگ استدلال کرد که شرکت‌ها با پذیرش هوش مصنوعی، مولدتر و جاه‌طلب‌تر خواهند شد و تقاضا برای کارگرانی که قادر به استفاده از این فناوری هستند افزایش می‌یابد. او آینده‌ای را متصور بود که در آن هر کسب‌وکاری به یک شرکت هوش مصنوعی تبدیل می‌شد و هشدار داد که کسانی که در پذیرش این فناوری ناکام هستند، در خطر رها شدن هستند.

Nvidia علاقه تجاری قابل توجهی به پذیرش سریع هوش مصنوعی دارد. پردازنده‌ها و سیستم‌های محاسباتی آن برای آموزش و بهره‌برداری از بسیاری از مدل‌های پیشرو صنعت استفاده می‌شوند، در حالی که تقاضا برای زیرساخت‌های هوش مصنوعی سود و ارزش شرکت را به شدت بالاتر برده است.

آلتمن که اواخر روز سه‌شنبه صحبت می‌کرد، گفت که سرعت توسعه هوش مصنوعی نگرانی مشروع عمومی را ایجاد کرده است.

او گفت: «فکر می‌کنم دنیا حق دارد که از این بترسد،» و افزود که اکنون به تخیل کمتری نیاز است تا ببینیم چگونه سیستم‌های قدرتمندتر می‌توانند اشتباه کنند.

او حادثه‌ای را که در آن عوامل OpenAI سیستم‌های شرکت دیگری را در حین آزمایش به خطر انداختند، به‌عنوان یک زنگ هشدار برای صنعت توصیف کرد و خواستار سطح جدیدی از سخت‌گیری در نظارت و امنیت سایبری شد.

آلتمن هشدار داد که مدل‌های در دسترس که قادر به ایجاد آسیب جدی هستند ممکن است دور از دسترس نباشند و از شرکت‌ها خواست از مزیت فعلی خود برای آماده شدن برای حملات سایبری مجهز به هوش مصنوعی استفاده کنند.

اگرچه او قبلا از پیشنهاد کاهش سرعت آمودی حمایت کرده بود، اما آلتمن گفت که از نحوه طرح بخشی از استدلال ناامید شده است.

او از شرکت هایی انتقاد کرد که پیشنهاد کردند تنها در صورتی مسئولانه رفتار کنند که رقبا همین کار را انجام دهند و گفت که چنین پیام هایی باعث افزایش ترس عمومی می شود.

آلتمن گفت: «جهان باید اعتماد کند که ما کار درست را انجام خواهیم داد، زیرا این کار درست است.

او اظهار داشت که اگر OpenAI دیگر نتواند همسویی و اقدامات ایمنی را بالاتر از قابلیت‌های مدل‌هایش نگه دارد، توسعه را کند یا متوقف می‌کند.

با این حال، منتقدان می‌گویند که نمی‌توان به شرکت‌هایی که برای سرمایه‌گذاری، مشتریان و رهبری فناوری رقابت می‌کنند، اعتماد کرد تا خودشان را تنظیم کنند. سناتور آمریکایی برنی سندرز، استیو بنن مشاور سابق دونالد ترامپ رئیس جمهور آمریکا و جک کلارک بنیانگذار آنتروپیک از جمله کسانی هستند که خواستار نظارت قوی تر هستند.

این بحث در حالی مطرح می‌شود که OpenAI و Anthropic برای عرضه‌های عمومی اولیه احتمالی آماده می‌شوند و ریسک‌های مالی پیرامون هر تصمیمی برای تسریع یا محدود کردن توسعه هوش مصنوعی مرزی را افزایش می‌دهند.