مارک زاکربرگ می‌گوید که آزمایشگاه‌های هوش مصنوعی می‌توانند در مواقعی که ایمنی ایجاب می‌کند، سرعت خود را کاهش دهند

مدیر عامل متا گفت که آزمایشگاه های هوش مصنوعی برای کاهش سرعت برای ایمنی نیازی به یک پیمان در سطح صنعت ندارند. بلومبرگ/گتی ایماژ مارک زاکربرگ گفت که آزمایشگاه‌های هوش مصنوعی برای کاهش سرعت برای ایمنی نیازی به یک پیمان در سطح صنعت ندارند.

زاکربرگ گفت فشار بازار اعتماد و همسویی را به مزیت های رقابتی تبدیل می کند.

زاکربرگ گفت متا مدل Muse خود را برای ماه‌ها به تعویق انداخت بدون اینکه از آزمایشگاه‌های رقیب بخواهد همین کار را انجام دهند. مارک زاکربرگ گفت که شرکت‌های هوش مصنوعی برای کاهش سرعت توسعه در زمانی که نگرانی‌های ایمنی ظاهر می‌شوند، نیازی به یک توافق کل صنعت ندارند.

در پستی در روز سه‌شنبه در X، مدیر عامل متا استدلال کرد که فشار بازار باعث همسویی می‌شود، به این معنی که اطمینان حاصل شود که سیستم‌های هوش مصنوعی از اهداف کاربران خود پیروی می‌کنند که یک مزیت رقابتی است.

زاکربرگ گفت: "هر آزمایشگاهی مسئولیت و انگیزه ای برای حرکت با سرعت لازم برای آموزش ایمن مدل های خود دارد."

زاکربرگ افزود: "نظر من این است که اعتماد و همسویی به سرعت به مهمترین قابلیت هایی تبدیل می شوند که عوامل و مدل ها را متمایز می کند." "هر آزمایشگاهی که بر روی هم ترازی تمرکز نکند، عقب خواهد ماند."

زاکربرگ به تصمیم متا برای به تاخیر انداختن چند ماهه مدل Muse خود برای تقویت ایمنی و امنیت آن اشاره کرد.

زاکربرگ گفت: «ما قبل از ما از دیگران دعوت نکردیم که این کار را انجام دهند. "ما فقط این کار را انجام دادیم."

اظهارات زاکربرگ در بحبوحه بحث تشدید شده در مورد اینکه آیا توسعه هوش مصنوعی مرزی باید از طریق پادمان های هماهنگ و قابل تأیید کند شود یا خیر، سرچشمه می گیرد. Anthropic خواستار مقررات و مکانیسم‌های دولتی شده است که به آزمایشگاه‌های پیشرو اجازه می‌دهد در صورت ظهور علائم هشدار توقف کنند، اما سایر رهبران فناوری، از جمله جنسن هوانگ، مدیرعامل انویدیا، گفته‌اند که طرفدار ارزیابی‌های مستقل و مسئولیت فردی برای شرکت‌های هوش مصنوعی هستند.

الکساندر وانگ، مدیر ارشد هوش مصنوعی متا، بعدا روز سه‌شنبه با پست خود زاکربرگ تکرار کرد و گفت که آزمایشگاه‌ها به حاکمیت قوی، ارزیاب‌های خارجی و نظارت مستقل بر راه‌اندازی مدل نیاز دارند.

وانگ گفت: "مسابقه بر روی خود-بهبودی بازگشتی یکی از پرخطرترین مسیرها برای از دست دادن بالقوه کنترل مدل های قدرتمند است."

وانگ افزود: "متا اکثریت قابل توجهی از محاسبات ما را برای خدمت به مردم به جای مسابقه با RSI متعهد می کند، و آزمایشگاه های دیگر نیز می توانند همین کار را انجام دهند." هوش مصنوعی یک فناوری بسیار قدرتمند است و مسئولیت بسیار زیادی در توسعه ایمن آن در کنار کنترل‌ها و تعادل‌های صحیح وجود دارد.

مقاله اصلی را در Business Insider بخوانید