مارک زاکربرگ می گوید هوش مصنوعی نیازی به کاهش سرعت در صنعت ندارد زیرا نیروهای بازار و رقابت شرکت ها را وادار می کند تا مدل های خود را ایمن کنند.

بزرگ‌ترین رهبران فناوری جهان در حال ترسیم بر سر این موضوع هستند که آیا توسعه هوش مصنوعی باید پیشرفت خود را برای محافظت در برابر یک فاجعه احتمالی کند کند یا خیر. مارک زاکربرگ به تازگی سمت خود را انتخاب کرد و از اردوگاه شاهین‌های ایمنی هوش مصنوعی (و مدیر عامل آنتروپیک، داریو آمودی) که از آزمایشگاه‌های هوش مصنوعی خواسته‌اند سرعت توسعه خود را برای کاهش خطر خارج شدن یک هوش مصنوعی پیشرفته و فوق‌هوشمند از کنترل انسان، دور کنند.

در پستی در رسانه های اجتماعی در روز سه شنبه، مدیر عامل متا اشاره کرد که کاهش سرعت توسعه هوش مصنوعی ضروری نیست زیرا شرکت های مرزی هوش مصنوعی مشوق های دیگری از جمله نیروهای بازار دارند که آنها را تحت کنترل نگه می دارد. و در نهایت، این به این بستگی دارد که همیشه حق با مشتری است.

زاکربرگ می‌نویسد: «مردم نمی‌خواهند از عواملی استفاده کنند که با آن‌ها هماهنگ نیستند و آنچه را که می‌خواهند انجام نمی‌دهند، بنابراین آزمایشگاه‌ها انگیزه طبیعی قوی‌تری برای هماهنگ‌تر کردن مدل‌هایشان دارند».

مدیرعامل اضافه کرد که شرکت او انتشار Muse، عامل هوش مصنوعی را که در اوایل ماه جاری راه اندازی کرد، به دلیل نگرانی های ایمنی و امنیتی به تاخیر انداخت. او گفت که این تصمیم نشان داد که چگونه برخی از شرکت‌ها از قبل در مورد ایمنی هوش مصنوعی نظارت می‌کنند.

او در این پست گفت: "ما از دیگران دعوت نکردیم که این کار را قبل از ما انجام دهند. ما فقط این کار را به عنوان بخشی از کار روزمره خود انجام دادیم زیرا به وضوح برای مردم و برای ما کار درستی بود."

زاکربرگ با اظهارات روز سه شنبه خود وارد بحثی شد که عمیقا بین رهبران و مدیران فناوری شکاف ایجاد کرده است، اما با توجه به حوادث امنیتی اخیر اهمیت جدیدی پیدا کرده است. تابستان امسال، یک جفت هک اجرا شده توسط مدل‌های OpenAI که از محیط‌های آموزشی فرار کرده بودند، زنگ خطر را در مورد پروتکل‌های ایمنی برای عوامل هوش مصنوعی به صدا درآوردند. سپس هفته گذشته، به دنبال هشدار محقق سابق Anthropic، Jacob Coxon مبنی بر اینکه شرکت‌های هوش مصنوعی با زندگی ما قمار می‌کنند، حرکتی برای تنظیم مقررات ایجاد شد.

علیرغم پیشرفت‌های اخیر، زاکربرگ اکنون خود را با احساسات مشترک جنسن هوانگ، مدیرعامل انویدیا، نزدیک‌تر کرده است، کسی که یکی از بلندترین صداهایی است که تماس‌های Amodei و دیگران را برای کند کردن توسعه هوش مصنوعی رد می‌کند.

درگیری ایمنی هوش مصنوعی

زمانی که آمودی و هوانگ هر دو در رویداد دریم‌فورس Salesforce در روز سه‌شنبه صحبت کردند، این دو اختلاف نظر آشکار شد.

آمودی در این کنفرانس درخواست خود را برای کاهش سرعت توسعه هوش مصنوعی با مقایسه وضعیت ایمنی که شرکت‌های هوش مصنوعی با آن‌هایی که صنعت خودرو با آن مواجه هستند، تکرار کرد.

او استدلال کرد که وقتی یک شرکت با یک حادثه ایمنی روبرو می شود، سایر شرکت ها باید عملیات خود را بررسی کنند تا اینکه دیگران را مقصر بدانند.

او گفت: «بسیار وسوسه انگیز است که به رقیب خود حمله کنید و بگویید این افراد ناامن هستند. "اما من فکر می‌کنم که راه مسئولانه‌تر برای پاسخ دادن به آن این است که بگوییم، بیایید به رکورد خودمان نگاه کنیم. ممکن است این حادثه بزرگ و پرمخاطب را نداشته باشیم، اما مطمئن هستم که کامل نیستیم."

در حالی که آمودی قبلا گفته بود طرفدار توقف همه جانبه آموزش یا پیشرفت مدل نیست، او خاطرنشان کرد که حتی با توقف تئوری هوش مصنوعی، شرکت‌ها همچنان از «شاید تنها 5 یا 10 درصد از ارزش احتمالی فناوری استفاده می‌کنند».

هوانگ بعدا روی صحنه رفت و خلاف آن را ساخت. او گفت که ایمنی باید اولویت اصلی باقی بماند، اما استدلال کرد که شرکت ها می توانند این مشکلات را خودشان حل کنند. او استدلال کرد که قوانین جدید یا نوعی رکود در کل صنعت فقط ضروری نیستند.

او گفت، اگر شرکتی متوجه شود محصولی ایمن نیست، باید مکث کند و اقدامات لازم را برای اطمینان از ایمن بودن آن انجام دهد، اما در غیر این صورت، شرکت‌ها باید «تا جایی که می‌توانند سریع کار کنند».

مدیر عامل انویدیا اضافه کرد که او معتقد نیست شرکت ها نیازی به انتخاب بین حرکت سریع یا ایجاد محصولات ایمن ندارند. او گفت: «نوآوری، سرعت، و محصولات ایمن – این یک انتخاب اشتباه است. "شما قطعا می توانید هر دو را همزمان داشته باشید."

به نظر می رسد زاکربرگ موافق است. او گفت متا اکثریت قابل توجهی از قدرت محاسباتی خود را در خدمت به مردم به جای رقابت برای توسعه سیستم‌های هوش مصنوعی که قادر به بهبود بازگشتی خود هستند، اختصاص داده است.

"من معتقدم کلید ساختن آینده ای مثبت برای همه، حفظ توازن صحیح قدرت است. انجام این کار در توان ماست."

این داستان در ابتدا در سایت Fortune.com منتشر شد