مارک بنیوف از Salesforce به صنعت هوش مصنوعی: خودتان را تنظیم کنید یا شکایت کنید

سان فرانسیسکو، کالیفرنیا - مارک بنیوف بعدازظهر سه‌شنبه در خیابان ماموریت به سمت برج سیلزفورس قدم برداشت، جایی که قرار بود یک شام خصوصی را به عنوان بخشی از گردبادی از رویدادها در طول کنفرانس سالانه Dreamforce شرکت میزبانی کند. برخی از عابران پیاده ایستادند تا از مدیرعامل 6 فوتی 5 عکس بگیرند و تعجب کردند که او به خیابان آمده است. یک نفر اوایل روز به دلیل سخنرانی اصلی خود به او تبریک گفت. چندین محافظ بنیوف را در حین راه رفتن او احاطه کردند.

در طول راه، بنیوف، که هنوز کت و شلوار نواری و کراوات شرابی را از سخنرانی اصلی به تن داشت، نگرانی های خود را مبنی بر اینکه هوش مصنوعی می تواند بشریت را از بین ببرد، ابراز کرد، موضوعی که در هفته گذشته پس از کناره گیری محقق Anthropic به دلیل چنین نگرانی هایی، در محافل دره سیلیکون مطرح شد. اما بنیوف، در مصاحبه‌ای با فورچون، همچنین گفت که شرکت‌ها باید در قبال ریسک‌هایی که ایجاد می‌کنند پاسخگو باشند و مسائل فعلی هوش مصنوعی را با اشتباهات اولیه در رسانه‌های اجتماعی مقایسه کرد.

بنیوف گفت: «ما می‌دانیم که باید شرکت‌ها را در قبال محصولات و فناوری‌شان مسئول بدانیم قبل از اینکه مردم صدمه ببینند. (بنیوف هنجارهای هاوایی را عمیقا وارد فرهنگ شرکت سانفرانسیسکو کرده است.)

کنفرانس Dreamforce امسال بار دیگر برای مدت کوتاهی به مرکز ثقل صنعت فناوری تبدیل شد و مدیران عامل شرکت‌های فناوری بزرگ درباره خطرات ایمنی هوش مصنوعی اظهار نظر کردند.

اوایل سه‌شنبه، بنیوف در مرکز هنرهای یربا بوئنا روی صحنه بود و با سم آلتمن، مدیر اجرایی OpenAI مصاحبه کرد. رئیس OpenAI هک ماه جولای Hugging Face توسط انبوهی از عوامل سرکش OpenAI را به عنوان یک زنگ خطر وحشتناک توصیف کرد و گفت که شرکت‌ها باید سرعت توسعه را پیش ببرند تا ایمنی بالاتر از قابلیت‌ها باشد. در طول سخنرانی صبحگاهی بنیوف در مرکز Moscone، داریو آمودی، مدیر اجرایی Anthropic، که از مدل‌های هوش مصنوعی مرزی نیز حمایت می‌کرد، به او پیوست.

در همین حال، جنسن هوانگ، مدیر اجرایی انویدیا، در طول سخنرانی بنیوف رویکرد متفاوتی را در پیش گرفت و گفت که سرعت و ایمنی می‌توانند به طور همزمان وجود داشته باشند. به طور جداگانه، مارک زاکربرگ، مدیر اجرایی متا نیز نگرانی‌ها را کنار گذاشت و روز سه‌شنبه نوشت که آزمایشگاه‌های هوش مصنوعی انگیزه‌ای طبیعی برای ایجاد هوش مصنوعی ایمن دارند.

بدون ارائه راه حل مشخص، بنیوف به فورچون گفت که مسئولیت تا حد زیادی در دست شرکت های سازنده هوش مصنوعی است (که Salesforce در برخی از آنها سرمایه گذاری می کند). او گفت که در عمل، این بدان معناست که شرکت‌ها به جای ارائه بهانه‌ها پس از وقوع یک اشتباه، به آینده برای جلوگیری از آسیب نگاه می‌کنند و شرکت‌ها باید ارزش‌های خود را به گونه‌ای رتبه‌بندی کنند که تصمیم بگیرند در هنگام تضاد اولویت‌ها چه چیزی اولویت دارد.

در حالی که او از بیان اینکه آیا دولت ها باید شرکت های هوش مصنوعی را تنظیم کنند، خودداری کرد، او گفت قوانینی که مسئولیت محصولات را کنترل می کنند می توانند به عنوان یک مکانیسم قانونی برای پاسخگویی استفاده شوند، همانطور که تولیدکنندگان خودرو در صورت نقص عملکرد خودرو مسئول هستند.

مدیر عامل صراحتا و گاهی بحث‌برانگیز فهرست جدیدی شبیه به 500 فورچون را پیشنهاد کرد که شرکت‌ها را بر اساس استانداردهای اخلاقی آنها رتبه‌بندی می‌کرد، و او اپل را به عنوان یکی از شرکت‌هایی که برایش به‌عنوان یک استاندارد امنیتی مورد توجه قرار می‌دهد، اشاره کرد. بنیوف گفت که اخیرا با رئیس جمهور ترامپ درباره ایمنی هوش مصنوعی صحبت نکرده است. رئیس جمهور در آخر هفته گذشته سناریوهای روز رستاخیز هوش مصنوعی را اغراق آمیز خواند و "نیروهای منفی" را مقصر دانست.

بنیوف گفت: «فقط شرکت‌های [فناوری] می‌دانند که در آزمایشگاه آنها چه می‌گذرد. در یک سطح عمیق، این شرکت ها باید خود را مسئول ایمنی خود بدانند.

بنیوف گفت، در Salesforce، این به معنای قرار دادن مدل‌های هوش مصنوعی در یک «لایه اعتماد» است که برای جلوگیری از رفتار نادرست مدل‌ها طراحی شده است، زیرا آنها در یک ساختار بسیار محدود عمل می‌کنند که همچنین عوامل را به دقت نظارت می‌کند. او گفت که نه Salesforce و نه مشتریانش اپیزودهایی شبیه به بغل کردن صورت را تجربه نکرده اند. تفاوت Salesforce این است که مدل های مرزی فوق العاده قدرتمند و بالقوه خطرناک را ایجاد نمی کند.

بنیوف رابطه عجیبی با آزمایشگاه های هوش مصنوعی و خود سانفرانسیسکو دارد. از یک سو، ایجاد سیستم‌های مستقل Anthropic و OpenAI موجودیت محصولات اصلی Salesforce را تهدید می‌کند.

با این حال Salesforce نیز از هر دو آزمایشگاه سود می برد و از مدل های آنها برای تامین انرژی بخش های مختلف محصول شاخص هوش مصنوعی خود، Agentforce استفاده می کند. روز سه‌شنبه، Salesforce سیستم جدیدی را معرفی کرد که به مشتریان اجازه می‌دهد بدون ورود به سیستم‌هایش به ابزارهای آن دسترسی داشته باشند و همچنین از مدل استدلالی جدیدی برای Agentforce که با Nvidia در حال ساخت است، رونمایی کرد.

روز سه‌شنبه، در حالی که دور جدیدی از معترضان در نزدیکی مرکز Moscone تجمع کردند تا به مسائلی مانند کار Salesforce با اداره مهاجرت و گمرک ایالات متحده اعتراض کنند، بنیوف - که در هاوایی زندگی می‌کند - لحن سبک‌تری به خود گرفت.

او گفت که Salesforce هنوز صدها افسر خارج از وظیفه را در طول کنفرانس استخدام می‌کند، اما وقتی به خیابان‌های شهر قدم گذاشت، خاطرنشان کرد: "اینجا سانفرانسیسکو است. اگر معترضان نباشند، پس ما در مشکل هستیم، درست است؟"

سهام Salesforce اخیرا افزایش یافته است زیرا این شرکت برخی از ترس های "SaaSpocalypse" در مورد تهدیدات هوش مصنوعی برای تجارت خود را فرو نشانده است. Salesforce اخیرا پس از انتشار درآمد و سود بالا، راهنمای فروش تمام سال خود را افزایش داده است که بخشی از آن به دلیل افزایش تقاضا برای پیشنهادات هوش مصنوعی است. همچنین با آنتروپیک همکاری کرد که ابزارهای تجاری Salesforce را با کلود ادغام می کند.

بنیوف در پاسخ به ترس SaaSpocalypse، در حالی که برج 61 طبقه Salesforce Tower نمایان شد، گفت: "ما در پیش بینی های خود دقیق هستیم." او با نادیده گرفتن نگرانی ها در مورد مشاغل کشتار هوش مصنوعی گفت: «اکنون کارمندان بیشتری نسبت به قبل داریم. (Salesforce بیش از 83000 نفر را استخدام می کند.)

او وارد آسانسوری در برج سیلزفورس شد تا به بالای «طبقه اوهانا» برود، جایی که مهمانان شام منتظر او بودند.

این داستان در ابتدا در سایت Fortune.com منتشر شد