بحث کاهش سرعت هوش مصنوعی حزب Salesforce را از کار انداخت

بنیوف در حین ایراد خطبه‌ی دریم فورس خود در بین تماشاگران پرسه می‌زد و به دنبال آن دوربینی با چرخ‌هایی که از راه دور استفاده می‌شد، چهره‌اش را به صفحه‌های آویزان از سقف اتاق غار می‌تابید. در عرض چند دقیقه، او نموداری از درآمد سالانه Salesforce را سفارش داد که این شرکت پیش‌بینی می‌کند در سال 2027 به بیش از 46 میلیارد دلار برسد، تا حدی به لطف تقاضا برای محصولات مجهز به هوش مصنوعی آن. حضار کف زدند.

اما در کل این رویداد یک سوال تاریک بود: آیا واقعا هوش مصنوعی ارزش به خطر انداختن تمام زندگی را دارد؟ بین نمایش‌های نرم‌افزاری پر زرق و برق عواملی که داشبورد می‌سازند، شرکت‌کنندگان در کنفرانس شاهد بحث رهبران دره سیلیکون بودند که آیا صنعت هوش مصنوعی باید به پیشرفت خود ادامه دهد یا اینکه آیا دولت باید پیشرفت هوش مصنوعی را کند کند تا از خطرات فاجعه‌بار ناشی از این فناوری جلوگیری کند. هفته گذشته، جاکوب کوکسون، محقق هوش مصنوعی، از آنتروپیک استعفا داد و علنا هشدار داد که شرکت‌هایی که به سمت سیستم‌های هوش مصنوعی خود-بهبود مسابقه می‌دهند «با زندگی ما قمار می‌کنند». تا آخر هفته، سایر Anthr

کارمندان opic نگرانی‌های او را تکرار می‌کردند و داریو آمودی، مدیر عامل شرکت، از رهبران جهان می‌خواست تا به «سرعت بخشیدن به مرز» توسعه هوش مصنوعی کمک کنند. سپس سایر مدیران عامل هوش مصنوعی، از جمله بزرگترین رقیب Amodei، Sam Altman از OpenAI، شروع به تأیید این ایده کردند. اما همه با این ایده موافق نیستند. دیوید ساکس، مشاور هوش مصنوعی کاخ سفید، پیشنهادات آمودی و ترس از نابودی هوش مصنوعی را به عنوان "فقط یک پیشنهاد دیگر برای دستگیری نظارتی" رد کرد. پرزیدنت ترامپ این هفته پا را فراتر گذاشت و ترس در مورد خطر هوش مصنوعی وجودی را یک «فریب» خواند. علیرغم محیط سیاسی چالش برانگیز، کنگره در تلاش است تا از این لحظه استفاده کند

nt و قوانینی را برای تنظیم صنعت هوش مصنوعی پیش ببرند. روی صحنه، بنیوف 6 فوتی 5 بر فراز مدیر عامل آنتروپیک ایستاد و به شدت دست آمودی را درست قبل از درخواست آخرین ارزیابی او از پیشرفت هوش مصنوعی فشرد. در حالی که بدون شک این نمایش بنیوف است، آنتروپیک به شریکی مهم تبدیل شده است که به Salesforce کمک می کند تا وارد عصر هوش مصنوعی شود. آمودی با اشاره نه چندان ظریف به حادثه Hagging Face در OpenAI گفت: «فرض کنید شما یک شرکت خودروسازی را اداره می‌کنید و یک شرکت خودروسازی دیگر، نه مال شما، آنها نوعی حادثه ایمنی دارند.

آمودی توضیح داد: "بدیهی است که حمله به رقیب خود بسیار وسوسه انگیز است." اما مدیر عامل آنتروپیک مراقب بود که به این نکته توجه کند که قدم زدن در مرز به معنای «تجمیع فناوری در جای خود» نیست و البته، او یک لحظه وقت گذاشت تا ادغام کلود با Salesforce را وصل کند. لحظاتی پس از خروج آمودی، جنسن هوانگ، مدیرعامل انویدیا ظاهر شد و شروع به کم اهمیت جلوه دادن نگرانی هایی کرد که آنتروپیک مطرح کرده بود.

هوانگ استدلال کرد که ایمنی هوش مصنوعی به طور موثر به یک "مشکل مهندسی" تبدیل می شود و شرکت های سازنده هوش مصنوعی می توانند به سادگی خودشان را کنترل کنند. هوانگ به شرکت کنندگان دریم فورس گفت: "ما به هیچ قانون جدیدی نیاز نداریم، ما به هیچ مقررات جدیدی نیاز نداریم." "شما تا جایی که می توانید سریع می دوید، اما اگر احساس می کنید که در هر لحظه از زمان، شرکت از کنترل خارج شده یا محصولات ایمن نیستند، مکث می کنید." بحث برای Dreamforce کمی سنگین به نظر می‌رسد، اما باز هم، شاید این مکان مناسبی برای آن باشد.

در حالی که مدیران فناوری ابزارهای مختلف هوش مصنوعی سازمانی خود را آماده می‌کردند، من از اتاق بیرون آمدم و از کنار طلسم‌های مخملی و تزئینات مبهم هاوایی رد شدم تا با سایاش کاپور، استاد علوم کامپیوتری در برکلی تماس بگیرم. کاپور و پروفسور پرینستون آرویند نارایانان از نویسندگان همکار کتاب روغن مار هوش مصنوعی هستند و زیرپشته ای را با هم به نام AI به عنوان فناوری عادی می نویسند. این دو به دلیل کاهش تبلیغات بازاریابی هوش مصنوعی در حالی که پتانسیل این فناوری را نادیده نمی گیرند، شناخته شده اند.

این هفته، آن‌ها یکی از طولانی‌ترین مقالات خود را منتشر کردند که سعی می‌کند «حوادث از دست دادن کنترل» را با اشاره به رویدادهایی مانند اینکه OpenAI به طور تصادفی به عواملش اجازه هک کردن Hugging Face را می‌دهد، بیان کند. کاپور می‌گوید: «بخشی از کاری که ما در این مقاله سعی کردیم انجام دهیم، عبور از این دوگانگی نادرست برای ایجاد پل بین ایمنی هوش مصنوعی و امنیت سایبری است. "اگر فکر می کنید هوش مصنوعی به زودی فوق هوشمند خواهد شد و از هرگونه کنترلی که می توانیم در مقابل آنها قرار دهیم طفره می رود، البته، همسویی مهم تر به نظر می رسد.

از سوی دیگر، اگر فکر می‌کنید شرکت‌های هوش مصنوعی سهل انگاری کرده‌اند و از انجام اقدامات استاندارد باتلاقی امنیت سایبری اجتناب کرده‌اند، طبیعی است که فکر کنید کنترل چیزی است که ما باید در آن مداخله کنیم. فکر می‌کنم هر دوی این دیدگاه‌ها برخی از عناصر حقیقت را در خود دارند.» در پی حماسه Hugging Face، کاپور می‌گوید از دانستن اینکه OpenAI چقدر اقدامات احتیاطی امنیتی انجام داده است شگفت زده شده است. او استدلال می کند که شرکت های هوش مصنوعی باید «عدم بلوغ سازمانی» خود را در نظر بگیرند و بپذیرند که حوادث از دست دادن کنترل تنها با یک پیشرفت در امنیت یا همسویی حل نمی شود.

او می‌افزاید که این حادثه او را متقاعد کرد که سیاست‌گذاران باید آزمایشگاه‌های هوش مصنوعی را در قبال آسیب‌هایی که فناوری آنها ایجاد می‌کند، مسئول بدانند. کاپور می‌گوید: «عواقب OpenAI برای هک Hugging Face اساسا نزدیک به صفر بود. این شرکت تا حد زیادی می‌توانست همانطور که هست ادامه دهد. "اگر این سطح از تصادف را در هر صنعت دیگری تصور کنید، باید شاهد تحقیقات داخلی چند ماهه بودید، افراد اخراج می شدند یا به زندان می رفتند، OpenAI باید میلیون ها دلار جریمه می پرداخت." کاپور به طور کامل پیشنهاد آمودی برای سرعت بخشیدن به مرز را تایید نمی کند، اما او با بخش هایی از آن موافق است.

او فکر می‌کند که آزمایشگاه‌های هوش مصنوعی برای خروج از نگرش «سریع حرکت کنید و چیزها را خراب کنید» به مدیریت بهتری نیاز دارند و باید به ارزیاب‌های مستقل اجازه دهند که ایمنی و شیوه‌های امنیتی هوش مصنوعی آنها را ارزیابی کنند. او و نارایانان می نویسند که مطمئنا به کار همسویی بیشتری نیاز است، اما بحران واقعی امروز بیشتر به امنیت سایبری مربوط می شود. برخی دیگر فکر می‌کنند که حادثه Hugging Face نشان داد که آزمایشگاه‌های هوش مصنوعی یک بحران هم‌ترازی واقعی در دستان خود دارند، که حل آن مشکل سخت‌تری است.

در هفته‌های اخیر، محققان مستقل نمونه‌های بیشتری را کشف کرده‌اند که در آن دسته‌ای از عوامل OpenAI به سرویس‌های شخص ثالث هک می‌شوند. سیدنی فون آرکس، مدیر عامل غیرانتفاعی Nightingale ایمنی هوش مصنوعی، به کشف دو مورد از آنها کمک کرد که ویکی آلمانی زبان و سرویس نرم افزار RubyGems را هدف قرار داده بودند. فون آرکس به WIRED می‌گوید: «این حوادث به وضوح نشان می‌دهد که بسیاری از هوش مصنوعی‌های فعلی به‌طور فاحشی ناهمسو هستند. «بله، شرکت‌ها باید بتوانند مدل‌های خود را کنترل کنند تا نتوانند حملات سایبری را انجام دهند، حتی اگر آنها نادرست باشند.

اما ما همچنین نباید هوش مصنوعی قدرتمندی بسازیم که در وهله اول به طور مستقل سعی در شکستن و انجام حملات سایبری داشته باشد. بعد از مصاحبه‌ها، من به طبقه پایین دویدم تا در صف چت کنار آتش بنیوف با آلتمن باشم. مدیر عامل OpenAI به حضار گفت که «دنیا حق دارد از شرکت‌های هوش مصنوعی بترسد». اما در پایان گفتگو، آلتمن گفت که امیدوار است OpenAI بتواند محصولات بهتری را در دهه دوم خود به عنوان یک شرکت بسازد. این مثل این است که ما رفتیم تا از خدایان آتش بگیریم.

آلتمن با اشاره به فناوری هوش مصنوعی گفت: «این یک اتفاق دیوانه‌وار است که به تازگی در جهان اتفاق افتاده است. او امیدوار است که OpenAI بتواند «پیدا کند که چگونه این ارزش را به مردم به روشی که برای آنها مفیدتر است، بیابد، راهی برای توانمندسازی هر فرد روی زمین - هر شرکت روی زمین - با این سیل توانایی‌ها بیابد.» مورد Huang برای خود پلیسی بستگی به این دارد که شرکت‌های هوش مصنوعی نه تنها بدانند زمان توقف چیست، بلکه باید خویشتنداری لازم برای انجام این کار را نیز داشته باشند. هنوز مشخص نیست که انجام دهند یا خیر.

تنها چند روز پس از هشدار به دنیا مبنی بر اینکه آزمایشگاه‌های هوش مصنوعی باید فورا سرعت خود را کاهش دهند، همان مدیران عامل در بزرگترین کنفرانس نرم‌افزار سازمانی حاضر شدند و آخرین محصولات خود را ارائه کردند. در حالی که آنها نگرانی‌های مربوط به نابودی هوش مصنوعی را مطرح کردند، عمدتا برای اطمینان از جریان یافتن پول در آنجا بودند.

این نسخه ای از خبرنامه رفتار مدل ماکسول زف است. خبرنامه های قبلی را اینجا بخوانید.