در حالی که مدیران عامل هوش مصنوعی بر سر مقررات با هم درگیر هستند، جنگ فرهنگی جدیدی در راه است

به Eye on AI خوش آمدید. بئاتریس نولان اینجاست. در شماره امروز:

خطوط نبرد در مقررات هوش مصنوعی در حال شکل گیری است.

OpenAI حوادث هک بیشتری را فاش می کند.

پادشاه میزبان یک نشست ایمنی هوش مصنوعی است.

عموم مردم در مورد ایمنی هوش مصنوعی نگران هستند.

قبل از اینکه به اخبار هوش مصنوعی امروز برسیم—لطفا در اجلاس افتتاحیه Fortune AIQ در بورس نیویورک در تاریخ 1 اکتبر به ما بپیوندید: بعدازظهر را با مدیران ارشد شرکت‌های موجود در فهرست Fortune AIQ 75 بگذرانید و بررسی کنید که چگونه می‌توانید آزمایش‌های هوش مصنوعی خود را مقیاس‌بندی کنید و سرمایه‌گذاری‌ها را به ارزش تجاری قابل اندازه‌گیری تبدیل کنید. جرمی در کنار مجریان مشترک، سردبیر Fortune، آلیسون شونتل و مدیر تحریریه رسانه زنده، اندرو نوسکا، بحث ها را رهبری خواهد کرد. برای حضور در اینجا اقدام کنید.

باشه، ادامه خطوط نبرد در مبارزه بر سر مقررات هوش مصنوعی ترسیم می شود. در چند روز گذشته، آنچه که به طور سنتی یک بحث نسبتا خاص در مورد ایمنی هوش مصنوعی بود، به چیزی بسیار پیچیده‌تر تبدیل شده است: یک جنگ فرهنگی.

تا حد زیادی به این شکل در حال حرکت است.

در یک طرف، Dario Amodei از Anthropic و Sam Altman از OpenAI، در یک لحظه نادر از تا حدودی وحدت قرار دارند. Amodei از شرکت های مرزی هوش مصنوعی خواسته است تا در صورت لزوم سرعت خود را کاهش دهند، درها را به روی ارزیاب های مستقل باز کنند و در مورد استانداردهای ایمنی مشترک هماهنگ شوند. آلتمن به طور گسترده ای این پیشنهادات را تایید کرده و گفته است که OpenAI نیز متعهد به داشتن ارزیاب های مستقل در داخل شرکت خواهد بود.

از سوی دیگر، مارک زاکربرگ از متا و جنسن هوانگ از انویدیا هستند که این فرض را که نیاز به مقررات جدید هوش مصنوعی است را رد کرده اند. هوانگ این هفته گفت که ایمنی و سرعت در تضاد نیستند و این صنعت نیازی به قوانین یا مقررات جدید ندارد. زاکربرگ مورد مشابهی را مطرح کرد و استدلال کرد که شرکت‌های هوش مصنوعی در حال حاضر دلایل تجاری قدرتمندی برای ایجاد سیستم‌های همسو، اجتناب از آسیب‌هایی که می‌تواند باعث مسئولیت قانونی شود، همکاری با ارزیاب‌های خارجی و به تاخیر انداختن انتشار در زمانی که آماده نیستند، دارند.

زاکربرگ در یک پست طولانی در X گفت که بازار می تواند شرکت های هوش مصنوعی را منضبط کند. او گفت که مردم از عواملی استفاده نخواهند کرد که به گونه ای رفتار کنند که آنها نمی خواهند، بنابراین اعتماد و همسویی به یک مزیت رقابتی تبدیل خواهد شد. علاوه بر این، آزمایشگاه‌هایی که ایمنی را جدی نمی‌گیرند عقب خواهند ماند، در حالی که آنهایی که سیستم‌هایشان آسیب می‌رسانند با مسئولیت جدی مواجه خواهند شد.

او گفت که متا به همین دلیل ارسال نماینده Muse خود را برای تمرکز بر امنیت و ایمنی چندین ماه به تاخیر انداخت.

چه کسی می تواند قوانین را بنویسد؟

اینها تنها صداهایی نیستند که علیه پیشنهادات ارائه شده توسط Amodei و کسانی که خواستار مقررات بیشتر هوش مصنوعی هستند، نیستند.

Cohere، یک آزمایشگاه هوش مصنوعی کانادایی، پاسخی را در این هفته منتشر کرد که در آن استدلال می‌کرد که یک رژیم ایمنی که حول گروه کوچکی از شرکت‌های مسلط دره سیلیکون ساخته شده است، می‌تواند به «کارتلی با هر نام دیگری» تبدیل شود، به‌ویژه اگر معافیت‌های ضدانحصاری برای هماهنگی پیرامون قوانینی که توسعه‌دهندگان دیگر باید از آنها پیروی کنند، دریافت کنند.

آیدان گومز، بنیانگذار و مدیر عامل Cohere، در عوض خواستار یک چارچوب ریسک مبتنی بر شواهد، شفافیت اجباری، آزمایش مستقل متناسب با قابلیت‌های واقعی یک سیستم، و مکانیسم‌های تضمینی عاری از تضاد منافع شد.

Joelle Pineau، مدیر ارشد هوش مصنوعی Cohere، به من گفت: "من فکر می کنم ما کاملا به مقررات نیاز داریم." "این بخشی از قرارداد اجتماعی خواهد بود." او گفت که با ورود هوش مصنوعی به محیط‌های کاری و زندگی روزمره مردم، مردم باید ویژگی‌های آن را درک کنند و مطمئن باشند که با خیال راحت از آن استفاده می‌شود. "باید سطحی از اعتماد وجود داشته باشد، و سیستم نظارتی در مورد حفظ امنیت مردم و القای اعتماد است. بنابراین، کاملا به آن ایمان داشته باشید."

اما مانند گومز، پینو هشدار داد که شرکت‌هایی که سیستم‌های مرزی می‌سازند نباید تنها نویسندگان قوانین حاکم بر آنها باشند.

او گفت: "چیزی که ما نگران آن هستیم این است که مجموعه کوچکی از آزمایشگاه‌ها وجود دارد که هم فناوری را می‌سازند و هم قوانین را تعیین می‌کنند." او گفت که آزمایشگاه‌هایی مانند Anthropic و OpenAI باید به اطلاع‌رسانی سیاست‌ها کمک کنند، اما باید افراد بیشتری در اطراف میز حضور داشته باشند.

Pineau گفت: "تعیین قوانین و انجام آن به گونه ای که صداهای دیگر را حتی از بکارگیری فناوری محروم کند، چه رسد به تعیین قوانین، این مشکل است." "اگر نیاز دارید قوانین خود را در یک اتاق بسته با مجموعه کوچکی از بازیکنان بسیار قدرتمند تنظیم کنید، این کار را به نفع شهروندان انجام نمی دهید."

جنگ فرهنگی

بر اساس گزارش‌های جدید، زاکربرگ و دیگران مدتی است که دیدگاه خود را در مورد مقررات هوش مصنوعی مستقیما به رئیس جمهور دونالد ترامپ منتقل کرده‌اند.

وال استریت ژورنال این هفته گزارش داد که زاکربرگ، هوانگ و ایلان ماسک ماه گذشته به طور جداگانه با ترامپ تماس گرفتند تا با تلاش برای ایجاد یک نهاد نظارتی بر هوش مصنوعی با بودجه صنعت، که بخشی از آن از سازمان تنظیم مقررات صنعت مالی الگوبرداری شده بود، مخالفت کنند.

این پیشنهاد که توسط دمیس حسابیس، یکی از بنیانگذاران Google DeepMind ارائه شده است، می تواند یک نهاد استاندارد ایجاد کند که توسط صنعت تامین مالی می شود. با این حال، ژورنال گزارش داد که زاکربرگ، ماسک و هوانگ نگران هستند که قدرت بیشتری را در دست OpenAI، Anthropic و Google DeepMind متمرکز کند - سه شرکتی که احتمالا قوانین آن را شکل می دهند. در نهایت ترامپ با این ایده پیش نرفت.

ترامپ به نوبه خود موضع خود را به صراحت اعلام کرده است. او درخواست‌ها برای کاهش سرعت هوش مصنوعی را رد کرده است، مقررات را تهدیدی برای رقابت آمریکا با چین می‌داند و گفته است که اصلی‌ترین حفاظی که این کشور به آن نیاز دارد «رئیس‌جمهور IQ بالا» است.

دولت و متحدانش به جای درگیر شدن با این سوال که سیستم های هوش مصنوعی چگونه باید آزمایش و اداره شوند، این موضوع را به طور فزاینده ای به یک جنگ فرهنگی تبدیل کرده اند. نوع دوستی مؤثر یا EA - یک جنبش فلسفی و بشردوستانه که هدف آن استفاده از شواهد و استدلال کمی برای شناسایی مؤثرترین راه‌ها برای بهبود زندگی مردم است - در مرکز آن قرار گرفته است.

این جنبش ارتباط نزدیکی با ایمنی هوش مصنوعی پیدا کرد زیرا برخی از سرمایه‌گذاران، محققان و سازمان‌های برجسته مرتبط با EA بر این احتمال تمرکز کرده‌اند که سیستم‌های هوش مصنوعی با توانایی بالا می‌توانند خطرات شدید یا حتی وجودی ایجاد کنند. این جنبش پیش از این، به ویژه پس از ارتباط آن با سام بنکمن-فرید، بنیانگذار FTX رسوا شده بود. اکنون، دوباره در کانون توجه قرار گرفته است.

به عنوان مثال، نیویورک پست این هفته یک داستان روی جلد را با این عنوان منتشر کرد: «با گلوبالیست‌های فوق‌العاده بیدار داریو آمودی، مدیرعامل Anthropic ملاقات کنید که فکر می‌کند ما را از یک آخرالزمان هوش مصنوعی نجات خواهند داد.» این مقاله بر پیشنهاد Amodei تمرکز داشت که ارزیابی‌کنندگان خارجی از موسسه غیرانتفاعی مدل ارزیابی و تحقیقات تهدید، یا METR، باید بتوانند سیستم‌های پیشرفته هوش مصنوعی و فرآیندهای توسعه را بازرسی کنند.

روز دوشنبه، دفتر معاون وزیر جنگ در امور تحقیقات و مهندسی وزارت جنگ نیز در این پست نوشت: "آمریکایی، نه نوع دوستی موثر. ایالات متحده همچنان بر هوش مصنوعی مسلط خواهد بود!"

در حالی که احتمالا چیز خوبی است که ایمنی و مقررات هوش مصنوعی بیش از هر زمان دیگری مورد توجه قرار گرفته است، قطبی شدن فزاینده در اطراف آنها احتمالا یک بحث معقول - چه رسد به قوانین جدید معنادار - دستیابی به آن را دشوارتر می کند.

با آن، در اینجا اخبار بیشتری در زمینه هوش مصنوعی وجود دارد.

بئاتریس نولان beatrice.nolan@fortune.com @beafreyanolan

قبل از اینکه به اخبار برسیم، فقط یک یادآوری برای بررسی اپیزود این هفته ودکست جدیدمان، هفته‌نامه هوش مصنوعی فورچون (Fortune AI Weekly) است. این هفته، جرمی و من با کریس بست، یکی از بنیانگذاران و مدیرعامل Substack در مورد تصمیم او برای افزودن ویژگی تشخیص نوشتن هوش مصنوعی به پلتفرم صحبت می کنیم. ما همچنین در مورد جریان اصلی نابودی هوش مصنوعی و بحث بر سر پیشرفت ریاضی ناویر-استوکس OpenAI صحبت می کنیم. شما می توانید vod را در اینجا در YouTube بررسی کنید.

این داستان در ابتدا در سایت Fortune.com منتشر شد