مارک بنیوف از Salesforce به صنعت هوش مصنوعی: خودتان را تنظیم کنید یا شکایت کنید

سان فرانسیسکو، کالیفرنیا – مارک بنیوف بعد از ظهر سه‌شنبه در خیابان ماموریت به سمت برج سیلزفورس قدم برداشت، جایی که قرار بود یک شام خصوصی را به عنوان بخشی از گردبادی از رویدادها در طول کنفرانس سالانه دریم‌فورس شرکت میزبانی کند. برخی از عابران پیاده ایستادند تا از مدیرعامل 6 فوتی 5 عکس بگیرند، تعجب کردند که او به خیابان آمده است. یک نفر اوایل روز به دلیل سخنرانی اصلی خود به او تبریک گفت. چندین محافظ بنیوف را در حین راه رفتن او احاطه کردند.

در طول راه، بنیوف، که هنوز کت و شلوار نواری و کراوات شرابی را از سخنرانی اصلی به تن داشت، نگرانی های خود را مبنی بر اینکه هوش مصنوعی می تواند بشریت را از بین ببرد، ابراز کرد، موضوعی که در هفته گذشته پس از کناره گیری محقق Anthropic به دلیل چنین نگرانی هایی، در محافل دره سیلیکون مطرح شد. اما بنیوف، در مصاحبه‌ای با فورچون، همچنین گفت که شرکت‌ها باید در قبال ریسک‌هایی که ایجاد می‌کنند پاسخگو باشند و مسائل فعلی هوش مصنوعی را با اشتباهات اولیه در رسانه‌های اجتماعی مقایسه کرد.

بنیوف گفت: «ما می‌دانیم که باید شرکت‌ها را مسئول محصولات و فناوری‌شان بدانیم قبل از اینکه مردم صدمه ببینند»، در حالی که مفهوم مسئولیت شخصی هاوایی - kuleana - را برای اخلاق شرکت ضروری می‌داند (بنیوف هنجارهای هاوایی را عمیقا در فرهنگ شرکت سانفرانسیسکو وارد کرده است.)

کنفرانس Dreamforce امسال دوباره برای مدت کوتاهی به مرکز ثقل صنعت فناوری تبدیل شده است و مدیران عامل شرکت‌های بزرگ فناوری در مورد خطرات ایمنی هوش مصنوعی اظهار نظر می‌کنند.

اوایل سه‌شنبه، بنیوف در مرکز هنرهای یربا بوئنا روی صحنه بود و با سم آلتمن، مدیر اجرایی OpenAI مصاحبه کرد. رئیس OpenAI هک ماه جولای Hugging Face توسط انبوهی از عوامل سرکش OpenAI را به عنوان یک زنگ خطر وحشتناک توصیف کرد و گفت که شرکت‌ها باید سرعت توسعه را پیش ببرند تا ایمنی بالاتر از قابلیت‌ها باشد. در طول سخنرانی صبحگاهی بنیوف در مرکز Moscone، داریو آمودی، مدیر اجرایی Anthropic، که از مدل‌های هوش مصنوعی مرزی نیز حمایت می‌کرد، به او پیوست.

در همین حال، جنسن هوانگ، مدیر اجرایی انویدیا، در طول سخنرانی بنیوف رویکرد متفاوتی در پیش گرفت و گفت که سرعت و ایمنی می‌توانند همزمان وجود داشته باشند. به طور جداگانه، مارک زاکربرگ، مدیر اجرایی متا نیز نگرانی‌ها را کنار گذاشت و روز سه‌شنبه نوشت که آزمایشگاه‌های هوش مصنوعی انگیزه‌ای طبیعی برای ایجاد هوش مصنوعی ایمن دارند.

بدون ارائه راه حل مشخص، بنیوف به فورچون گفت که مسئولیت تا حد زیادی در دست شرکت های سازنده هوش مصنوعی است (که Salesforce در برخی از آنها سرمایه گذاری می کند). او گفت که در عمل، این بدان معناست که شرکت‌ها به جای ارائه بهانه‌ها پس از وقوع یک اشتباه، به آینده برای جلوگیری از آسیب نگاه می‌کنند و شرکت‌ها باید ارزش‌های خود را به گونه‌ای رتبه‌بندی کنند که تصمیم بگیرند در هنگام تضاد اولویت‌ها چه چیزی اولویت دارد.

در حالی که او از بیان اینکه آیا دولت ها باید شرکت های هوش مصنوعی را تنظیم کنند، خودداری کرد، او گفت قوانینی که مسئولیت محصولات را کنترل می کنند می توانند به عنوان یک مکانیسم قانونی برای پاسخگویی استفاده شوند، همانطور که تولیدکنندگان خودرو در صورت نقص عملکرد خودرو مسئول هستند.

سام آلتمن، مدیر اجرایی OpenAI، سمت چپ، و مارک بنیوف، مدیر اجرایی Salesforce در طول کنفرانس Dreamforce در سانفرانسیسکو، کالیفرنیا، در 15 سپتامبر 2026. دیوید پل موریس/ بلومبرگ از طریق گتی ایماژ

مدیر عامل صراحتا و گاهی بحث‌برانگیز فهرست جدیدی شبیه به 500 فورچون را پیشنهاد کرد که شرکت‌ها را بر اساس استانداردهای اخلاقی آنها رتبه‌بندی می‌کرد، و او اپل را به عنوان یکی از شرکت‌هایی که برایش به‌عنوان یک استاندارد امنیتی مورد توجه قرار می‌دهد، اشاره کرد. بنیوف گفت که اخیرا با رئیس جمهور ترامپ درباره ایمنی هوش مصنوعی صحبت نکرده است. رئیس جمهور در آخر هفته گذشته سناریوهای روز رستاخیز هوش مصنوعی را اغراق آمیز خواند و "نیروهای منفی" را مقصر دانست.

بنیوف گفت: «فقط شرکت‌های [فناوری] می‌دانند که در آزمایشگاه آنها چه می‌گذرد. در سطحی عمیق، این شرکت‌ها باید خود را مسئول ایمنی خود بدانند.»

بنیوف گفت، در Salesforce، این به معنای قرار دادن مدل‌های هوش مصنوعی در یک «لایه اعتماد» است که برای جلوگیری از رفتار نادرست مدل‌ها طراحی شده است، زیرا آنها در یک ساختار بسیار محدود عمل می‌کنند که همچنین عوامل را به دقت نظارت می‌کند. او گفت که نه Salesforce و نه مشتریانش اپیزودهایی شبیه به بغل کردن صورت را تجربه نکرده اند. تفاوت Salesforce این است که مدل های مرزی فوق العاده قدرتمند و بالقوه خطرناک را ایجاد نمی کند.

بنیوف رابطه عجیبی با آزمایشگاه های هوش مصنوعی و خود سانفرانسیسکو دارد. از یک طرف، ایجاد سیستم‌های مستقل Anthropic و OpenAI موجودیت محصولات اصلی Salesforce را تهدید می‌کند.

با این حال Salesforce نیز از هر دو آزمایشگاه سود می برد و از مدل های آنها برای تامین انرژی بخش های مختلف محصول شاخص هوش مصنوعی خود، Agentforce استفاده می کند. روز سه‌شنبه، Salesforce سیستم جدیدی را معرفی کرد که به مشتریان اجازه می‌دهد بدون ورود به سیستم‌هایش به ابزارهای آن دسترسی داشته باشند و همچنین از مدل استدلالی جدیدی برای Agentforce که با Nvidia در حال ساخت است، رونمایی کرد.

و در حالی که بنیوف از خانواده ای با ریشه های عمیق در سانفرانسیسکو می آید، او اخیرا خود را در حالت تدافعی در زادگاهش یافته است. سال گذشته، بنیوف پس از آنکه از پرزیدنت ترامپ خواست گارد ملی را در سانفرانسیسکو در جریان Dreamforce مستقر کند، عذرخواهی کرد و دلیل آن کمبود افسران در اداره پلیس محلی بود.

ران کانوی، سرمایه‌گذار فرشته، یکی از شناخته‌شده‌ترین سرمایه‌گذاران فناوری شهر و دوست دیرینه بنیوف، پس از این اظهارنظرها از هیئت مدیره بنیاد سیلفورس استعفا داد، که برخی از ساکنان سانفرانسیسکو را ناامید کرد، زیرا بنیوف به عنوان یک مدیر مترقی و حامی دموکرات‌ها شهرت پیدا کرده بود (مدیر عامل مستقلی که اخیرا ترامپ را در آغوش می‌کشد).

شرکت کنندگان در 15 سپتامبر 2026 به کنفرانس Salesforce's Dreamforce در سانفرانسیسکو، کالیفرنیا می رسند. بنجامین فانجوی/گتی ایماژ

روز سه‌شنبه، زمانی که دور جدیدی از معترضان در نزدیکی مرکز Moscone برای اعتراض به مسائلی مانند کار Salesforce با اداره مهاجرت و گمرک ایالات متحده تجمع کردند، بنیوف - که در هاوایی زندگی می‌کند - لحن سبک‌تری به خود گرفت.

او گفت که Salesforce هنوز صدها افسر خارج از وظیفه را در طول کنفرانس استخدام می کند، اما وقتی او به خیابان های شهر قدم گذاشت، خاطرنشان کرد: "اینجا سانفرانسیسکو است. اگر معترضان نباشند، پس ما در مشکل هستیم، درست است؟"

سهام Salesforce اخیرا افزایش یافته است زیرا این شرکت برخی از ترس‌های SaaSpocalypse را در مورد تهدیدات هوش مصنوعی برای تجارت خود فرونشانده است. Salesforce اخیرا پس از انتشار درآمد و سود بالا، راهنمای فروش تمام سال خود را افزایش داده است که بخشی از آن به دلیل افزایش تقاضا برای پیشنهادات هوش مصنوعی است. همچنین با آنتروپیک همکاری کرد که ابزارهای تجاری Salesforce را با کلود ادغام می کند.

با این حال، علیرغم برخی بردهای اخیر، شرکت بنیوف با تغییر مدل کسب و کار سازمانی مواجه است و مشتریان هنجار سنتی خرید «به ازای هر صندلی» را که هسته اصلی موفقیت Salesforce بوده است، دوباره بررسی می‌کنند. درآمدهای اخیر آن نیز از سرمایه گذاری آن در Anthropic سود برده است. این شرکت اعلام کرد که در سه ماهه دوم مالی خود 2.6 میلیارد دلار از سرمایه گذاری ها به دست آورده است.

بنیوف در پاسخ به ترس SaaSpocalypse گفت: «ما در پیش‌بینی‌های خود دقیق هستیم، زیرا برج 61 طبقه Salesforce Tower ظاهر شد. او با نادیده انگاشتن نگرانی از مشاغل کشتار هوش مصنوعی (Salesforce بیش از 83000 نفر را استخدام می کند) گفت: «اکنون کارکنان بیشتری نسبت به قبل داریم.»

او وارد آسانسوری در برج سیلزفورس شد تا به بالای «طبقه اوهانا» برود، جایی که مهمانان شام منتظر او بودند.

این داستان در ابتدا در سایت Fortune.com منتشر شد