فشار برای مقررات هوش مصنوعی افزایش می یابد زیرا صحبت از خطرات «وجودی» هوش مصنوعی به جریان اصلی تبدیل می شود. اما ترامپ در برابر درخواست ها برای کاهش سرعت مقاومت می کند

سلام و به Eye on AI خوش آمدید. در این نسخه:

خطر X هوش مصنوعی به جریان اصلی نفوذ می کند

داریو آمودی، مدیر عامل آنتروپیک، خواستار یک تلاش هماهنگ ایمنی در صنعت است

جزئیات Anthropic تلاش می کند از مدل های هوش مصنوعی خود سوء استفاده کند

جاسوس ارشد چین هشدار داد که هوش مصنوعی ممکن است برای حزب کمونیست خطر ایجاد کند

گروه نگهبان سگ می گوید OpenAI قانون جدید ایمنی هوش مصنوعی کالیفرنیا را نقض می کند.

نظرسنجی E&Y می گوید نیمی از شرکت ها از سیاست های حاکمیت هوش مصنوعی خود پیروی نمی کنند.

در چند روز گذشته، من شنیده‌ام که بسیاری از مردم آن اره قدیمی را تکرار می‌کنند - که اغلب به اشتباه به ولادیمیر لنین نسبت داده می‌شود - درباره «هفته‌هایی که دهه‌ها اتفاق می‌افتد». مطمئنا به نظر می رسید یکی از آن هفته های هوش مصنوعی باشد. نگرانی در مورد ریسک وجودی برای دهه‌ها یکی از چالش‌های گفتمان هوش مصنوعی بوده است. اما، علیرغم اینکه گهگاه شخصی مانند ایلان ماسک، سام آلتمن یا جفری هینتون ترس خود را در مورد خطر جدی برای این گونه بیان می‌کند، هیچگاه در آگاهی عموم مردم به شکلی که مثلا تغییرات آب و هوایی یا خطر جنگ هسته‌ای بوده است، تثبیت نشده است.

. اگر سیاستمداران اصولا در مورد مقررات هوش مصنوعی بحث می کردند، بحث ها حول محور ساخت و ساز مراکز داده و صورت حساب های آب و برق، مشاغل، تحصیلات، سلامت روان، تبعیض الگوریتمی و آزادی های مدنی بود، نه خطر کشتن مردم از هوش مصنوعی سرکش، شاید حتی همه مردم. تا الان یعنی.

صدای طبل هشدارهای وحشتناک کارمندانی که از Anthropic، OpenAI، و Google DeepMind استعفا می دهند یا در برخی موارد هنوز برای آنها کار می کنند، همه می گویند که شرکت های پیشرو هوش مصنوعی در حال توسعه بی پروا این فناوری هستند و خطر انقراض انسان را تهدید می کند، برای یک هفته تمام چرخه اخبار جهانی را تحت سلطه خود درآورده است (که واقعا چیزی در این روزها و عصرهای گذشته به هوش مصنوعی واکنش نشان داده است.) پس از سال‌ها که در آن مقررات داخلی هوش مصنوعی و تلاش‌ها برای نوعی رژیم حاکمیت بین‌المللی هوش مصنوعی عمدتا متوقف شده بود، ناگهان هوا با امکان برق می‌شود.

همکار من در Fortune، نیک لیختنبرگ، داستان خوبی در مورد اینکه چرا استعفای محقق سابق ایمنی Anthropic و OpenAI، Jacob Coxon، چنین تأثیری داشت، در حالی که هشدارهای قبلی، اغلب از سوی افراد بسیار با سابقه، چنین تأثیری نداشت. پاسخ کوتاه این است که به نظر می‌رسد پوشش رویداد Hugging Face و سایر قسمت‌های «هوش مصنوعی سرکش» و همچنین تجربیات خود افراد در استفاده از عوامل هوش مصنوعی، پنجره Overton را برای بحث درباره خطرات «از دست دادن کنترل» باز کرده است. زمان بندی، با آنتروپیک در آستانه عرضه اولیه عمومی و همچنین نزدیک شدن OpenAI به یک، نیز بدون شک نقشی ایفا کرد.

حال سوال این است که بعد چه اتفاقی می افتد؟ آلیسون شونتل، سردبیر مجله فورچون، روز جمعه با آلتمن گفت‌وگو کرد تا این سؤال‌ها را برای وودکست «فورچون 500: تایتان‌ها و مخل‌کنندگان صنعت» (ما به اختصار آن را «تیتان» می‌نامیم.) از او بپرسد. ایلان ماسک، مدیرعامل آمودی و اسپیس ایکس - دو مردی که با آنها اختلافات شدید و در مورد ماسک اختلافات دعویی داشته است - و همچنین Google DeepMind، Meta، و شاید دیگران.

وی اشاره کرد که چنین بحث هایی از قبل در حال انجام است و ممکن است به زودی یک کاهش هماهنگ شده اعلام شود. او همچنین گفت که در صورت لزوم، مشکلی برای گفتن سرمایه‌گذاران ندارد که OpenAI اقداماتی را برای اولویت‌بندی ایمنی انجام داده است که برای آنها هزینه مالی داشته است - و به سرمایه‌گذاران OpenAI در مورد این احتمال هشدار داده شده است. او همچنین به طور قطع گفت OpenAI در سال جاری عمومی نخواهد شد، تا حدی به دلیل نگرانی‌های فعلی در مورد ایمنی آخرین مدل‌های AI، اما همچنین، او اشاره کرد که OpenAI در محل کسب و کار درست است.

می‌توانید قسمت کامل وودکست را اینجا ببینید. ارزش وقت گذاشتن برای تماشا کردن را دارد.

کندی هماهنگ؟

پس از مصاحبه آلیسون، آمودی یک پست وبلاگی منتشر کرد و همچنین خواستار کاهش یا توقف هماهنگ در میان آزمایشگاه‌های مرزی در کشورهای دموکراتیک شد. او گفت که در برخی موارد، هرچند، هماهنگی با سایر آزمایشگاه‌های هوش مصنوعی مستلزم معافیت ضد انحصار از سوی دولت است. او همچنین گفت که آنتروپیک ارزیاب های مستقلی را منصوب خواهد کرد تا به طور دائم در محل دفاتر خود حضور داشته باشند تا کار ایمنی آن را بررسی کنند. (او از شرکت ارزیابی هوش مصنوعی غیرانتفاعی METR به عنوان شریک مورد علاقه خود برای این کار یاد کرد.) او همچنین گفت که ایالات متحده

و سایر دموکراسی‌ها باید تلاش کنند تا در صورت امکان، نوعی توافقنامه بین‌المللی حکمرانی هوش مصنوعی با چین و دولت‌های مستبد ایجاد کنند. آلتمن به سرعت بیرون آمد و بسیاری از گفته‌های آمودی را تأیید کرد - به ویژه گفت که OpenAI ارزیاب‌های خارجی را نیز در کنار تیم‌های تحقیقاتی خود جاسازی می‌کند - اگرچه او مراقب بود که توجه داشته باشد که «گام‌به‌گام به معنای توقف نیست».

در پی هشدارهای کاکسون و فراخوان آمودی برای اقدام، تعدادی از قانونگذاران ایالات متحده قوانینی را ارائه کردند یا تلاش هایی را برای پیشبرد لوایح موجود تجدید کردند. برخی، مانند لایحه‌ای که توسط سناتور مستقل ورمونت، برنی سندرز، ارائه شده است، خواستار ممنوعیت کامل توسعه «ابر هوش مصنوعی» شده و شرکت‌های هوش مصنوعی ایالات متحده را موظف می‌کنند تا تحقیقات فعلی را تا بهبود تکنیک‌های ایمنی متوقف کنند. دیگران، مانند لایحه دو حزبی سناتور جمهوری خواه تد کروز، رهبر اکثریت سنا، جان تون، و سناتور دموکرات.

امی کلوبوچار، وظیفه ای را بر شرکت های هوش مصنوعی برای جلوگیری از آسیب های فاجعه بار تحمیل می کند. همچنین درخواست هایی برای جلسات نظارت کنگره در مورد خطرات فاجعه بار هوش مصنوعی وجود داشت. باراک اوباما، رئیس جمهور سابق، از دموکرات ها خواست تا حکمرانی هوش مصنوعی را در مرکز دستور کار قانونگذاری و مبارزات انتخاباتی خود قرار دهند. در همین حال، گروهی متشکل از 70 نفر از نمایندگان پارلمان بریتانیا نامه ای سرگشاده را امضا کردند که در آن از دولت بریتانیا خواست تا ایجاد ابر هوش مصنوعی و کار بر روی یک معاهده بین المللی هوش مصنوعی را ممنوع کند.

ترامپ عقب رانده است

اما برخی از سیاستمدارانی که بیشترین اهمیت را داشتند، مخالفت شدیدی داشت. پرزیدنت ترامپ در پلتفرم Truth Social خود نوشت که تنها نرده محافظی که هوش مصنوعی به آن نیاز دارد "یک رئیس جمهور قوی و باهوش (IQ بالا!) است، و ایالات متحده این را در کل دارد!" او از آمودی به نام انتقاد کرد و از او به خاطر «تظاهر به یک «فرشته کوچک بی‌نقص» انتقاد کرد و گفت که دولت او قبلا آنتروپیک را از انجام «کارهای بد یا بالقوه بد» متوقف کرده است.

قبلا دارای قدرت نظارتی و قوانین کیفری بود که در مورد شرکت های هوش مصنوعی اعمال می شد و اینکه "یک توطئه مریض علیه هوش مصنوعی و مراکز داده در حال انجام است و تنها کشوری که از آن خوشحال است چین است." او در یک تماس تلفنی با جنسن هوانگ، مدیرعامل انویدیا، اظهارات مشابهی را بیان کرد که هوانگ، با اجازه ترامپ، در نشست «همه در پادکست» برای مخاطبان زنده پخش کرد. این موضوع توسط رئیس جمهوری خواه مجلس نمایندگان آمریکا پیگیری شد.

مایک جانسون، گفت که ترس از هوش مصنوعی توسط رسانه ها ساخته شده است و "ما در این مورد نسخه های احمقانه و تند و سریع واکنش نشان نمی دهیم." رسانه‌های دولتی چین نیز از پیشنهادهای آمودی انتقاد کردند و گفتند که این پیشنهادها «خود خدمتی» و «تاکتیک‌های جنگ سرد» هستند که برای جلوگیری از پیشرفت فناوری و اقتصادی چین طراحی شده‌اند.

با همه اینها، به نظر می رسد چشم انداز نوعی فرمان اجرایی که ایمنی هوش مصنوعی را بهبود می بخشد، ضعیف است. همین امر در مورد هر قانون واقعی، مانند لایحه دو حزبی سناتور جمهوری خواه تد کروز، رهبر اکثریت سنا، جان تون، و سناتور دموکرات امی کلوبوچار، که وظیفه ای را بر شرکت های هوش مصنوعی تحمیل می کند تا از آسیب های فاجعه بار جلوگیری کنند - حداقل تا بعد از انتخابات میان دوره ای نوامبر - صدق می کند. با این حال سه نکته در بحث مطرح شد که ارزش پرداختن به آنها را دارد.

آیا نگرانی های ضد انحصار قانونی هستند؟

یکی بحث در مورد اینکه آیا شرکت‌های هوش مصنوعی برای گفتگو با یکدیگر در مورد کند کردن توسعه نیاز به معافیت‌های ضدانحصاری دارند یا خیر. برخی، مانند هوش مصنوعی دولت سابق ترامپ و دیوید ساکس، تزار ارز دیجیتال، گفته‌اند که شرکت‌های هوش مصنوعی برای هماهنگ کردن کاهش سرعت به چنین معافیتی نیاز ندارند. و من موافقم که ما نباید معافیت گسترده ای را به این غول های فناوری اعطا کنیم. اما من فکر می‌کنم که نگرانی‌های موجهی از سوی شرکت‌های هوش مصنوعی وجود دارد که هرگونه بحث در مورد توقف – یا تصمیم هماهنگ برای عدم انجام برخی نوآوری‌های محصول – می‌تواند مشکلات ضدتراست ایجاد کند.

در حال حاضر، هر نسل جدید از مدل‌های هوش مصنوعی، هزینه‌های مدل‌های قدیمی‌تر را کاهش می‌دهد. بنابراین محدود کردن عرضه مدل‌های جدیدتر به طور بالقوه قیمت‌ها را برای مدت طولانی‌تری برای مصرف‌کنندگان بالاتر نگه می‌دارد، که به نظر می‌رسد شرکت‌های هوش مصنوعی را در برابر ادعاهای ضدانحصار باز می‌کند. (مت لوین در بلومبرگ ستون خوبی در این مورد داشت.) همچنین، برخی از نوآوری‌های خاص که متخصصان ایمنی هوش مصنوعی را نگران می‌کند، مانند استفاده بیشتر از ترانسفورماتورهای حلقه‌دار، از مزایای استفاده از نشانه‌های کمتر نسبت به وادار کردن یک مدل به بیرون ریختن ردپای استدلال کامل خود در «زنجیره فکر» برخوردار است. این نیز اثر o دارد

f کاهش بالقوه هزینه ها برای مصرف کنندگان. بنابراین منع این روش به دلایل ایمنی نیز منجر به قیمت های بالاتر برای مشتریان می شود. باز هم، از منظر ضد تراست مشکل ساز به نظر می رسد. کریس لیهان، مدیر ارشد امور جهانی OpenAI، با ارزش است و گفته است که OpenAI فکر نمی‌کند برای بحث در مورد استانداردهای ایمنی مشترک با سایر شرکت‌های هوش مصنوعی به معافیت‌های ضدتراست نیاز داشته باشد. او همچنین گفت که قبلا با Anthropic و Google DeepMind در مورد استانداردهای ایمنی بحث هایی صورت گرفته است.

اما موضوع ممکن است این باشد که این استانداردها داوطلبانه هستند، بدون هیچ مکانیزمی برای اجبار به انطباق در صورت تقلب یک شرکت در تعهداتش. اجرای استانداردها احتمالا مستلزم اقدام دولت است.

آیا قانون مسئولیت محصول کافی است؟

در نمونه‌ای از همراهان عجیب و غریبی که این موضوع ایجاد کرده است، ساکس و لینا خان، رئیس سابق دولت بایدن، FTC هر دو گفته‌اند که می‌توان از قوانین موجود مسئولیت محصولات برای جلوگیری از انتشار محصولات ناایمن توسط شرکت‌های هوش مصنوعی استفاده کرد. ساکس به ویژه گفته است که این قوانین دلیلی است که هیچ آژانس دولتی جدیدی برای نظارت بر شرکت های هوش مصنوعی مورد نیاز نیست. اما در اینجا دو مشکل وجود دارد. یکی این است که قوانین مسئولیت محصول معمولا فقط در مورد محصولاتی اعمال می شود که به مشتریان فروخته می شوند.

برخی از بزرگ‌ترین نگرانی‌ها در مورد خطرات هوش مصنوعی اخیرا - مانند حادثه Hugging Face - شامل مدل‌های داخلی منتشر نشده‌ای است که در حال توسعه بودند یا فقط در خود شرکت‌های هوش مصنوعی مستقر شده بودند. قانون مسئولیت محصول این مدل های داخلی را پوشش نمی دهد.

علاوه بر این، در حالی که ترس از دعوای مسئولیت ممکن است از رفتار ناامن شرکت‌های هوش مصنوعی جلوگیری کند، ممکن است اینطور نباشد - و اگر اینطور نباشد، شکایت از شرکت‌ها پس از این واقعیت ایده‌آل نیست. این به ویژه اگر خطرات واقعا وجودی باشد، مانند مهندسی یک سلاح زیستی، صادق است. اگر بمیریم شکایت به ما کمکی نمی کند. اما حتی اگر خطرات صرفا بد باشند - مانند هک کردن یک مؤسسه مالی یا بیمارستان، دستکاری در بازار سهام یا از بین بردن یک شبکه برق - شکایت از یک شرکت پس از این واقعیت واقعا نتیجه ای را که جامعه می خواهد ارائه نمی دهد.

بهتر است از اول از وقوع این اتفاقات جلوگیری کنید. به همین دلیل است که ما آژانس‌هایی داریم که بر موسسات مالی مهم نظارت می‌کنند، سفرهای هوایی را تنظیم می‌کنند، اطمینان می‌دهند که شبکه‌ها از استانداردهای خاصی پیروی می‌کنند و غیره.

در مورد «تصرف نظارتی» چطور؟

در نهایت، ساکس و دیگران، از جمله برخی از چپ‌های آزادی‌خواه‌تر و همچنین برخی از مدیران عامل شرکت‌های هوش مصنوعی که کمی پشت مرز هستند، به پیشنهاد توقف هماهنگ و توافق در مورد استانداردهای ایمنی به‌عنوان تلاشی برای "تصرف مقررات" حمله کرده‌اند. ادعا این است که این شرکت‌ها قوانین را به گونه‌ای خواهند نوشت که موقعیت رهبری آنها در رقابت‌های هوش مصنوعی قفل شود. اما به نظر می رسد راه هایی نیز برای جلوگیری از این اتفاق وجود دارد.

شتاب‌گرایان مانند ساکس به‌گونه‌ای عمل می‌کنند که گویی همه مقررات منجر به تسخیر نظارتی می‌شود. اما، همانطور که در خبرنامه قبلی اشاره کردم، استوارت راسل، محقق هوش مصنوعی دانشگاه کالیفرنیا برکلی، دوست دارد به طعنه بگوید که الزامات اجباری بیشتری برای ساندویچ‌فروشی‌ها در سانفرانسیسکو نسبت به OpenAI یا Anthropic وجود دارد. و نمی بینید که رستوران داران زیادی از دستگیری نظارتی شکایت دارند. به سادگی اینطور نیست که قوانین ایمنی اجباری همیشه منجر به ضبط نظارتی شود.

من همچنین استدلال می‌کنم که درجه خاصی از اصطکاک مقرراتی که برای بازیکنان فعلی ممتاز اتفاق می‌افتد، در مواردی که شکست خطرات قابل‌توجهی برای زندگی انسان یا سلامت فیزیکی و مالی ایجاد می‌کند، بهایی ارزش پرداخت برای یک صنعت ایمن است. در واقع، صنایعی که بیشترین خطرات بالقوه حوادث تلفات انبوه را دارند، تمایل دارند بازیگران کمتری در آنها داشته باشند، و بله، بار انطباق با مقررات یکی از دلایل آن است. اما من فکر می‌کنم این معامله‌ای است که عموم مردم واقعا فکر می‌کنند ارزش این واقعیت را دارد که ممکن است به این معنی باشد که برای چیزهای خاصی کمی بیشتر پرداخت می‌کنند.

تنها تعداد انگشت شماری از شرکت ها در سراسر جهان وجود دارند که به عنوان مثال نیروگاه های هسته ای را طراحی و می سازند. تنها تعداد انگشت شماری هستند که هواپیماهای تجاری نیز می سازند. اما اینها همچنین از نظر سوابق عملیاتی واقعی، برخی از ایمن ترین صنایع موجود هستند. اگر قوانین ایمنی دولتی و رژیم های بازرسی کمتری وجود داشت، آیا بازیگران بیشتری در این صنایع وجود خواهند داشت؟ تقریبا به طور قطع. اما آیا مردم در مورد دستگیری مقرراتی فریاد می زنند و درخواست می کنند استانداردهای ایمنی در نیروگاه های هسته ای و هواپیماها کاهش یابد؟

با آن، در اینجا اخبار بیشتری در زمینه هوش مصنوعی وجود دارد.

جرمی کان jeremy.kahn@fortune.com @jeremyakahn

قبل از اینکه به اخبار برسیم، فقط یک یادآوری برای بررسی قسمت این هفته از Vodcast جدید Fortune AI Weekly. این هفته، Bea Nolan و من با کریس بست، یکی از بنیانگذاران و مدیر عامل Substack در مورد تصمیم او برای افزودن ویژگی تشخیص نوشتن هوش مصنوعی به پلتفرم صحبت می کنیم. ما همچنین در مورد جریان اصلی نابودی هوش مصنوعی و بحث بر سر پیشرفت ریاضی ناویر-استوکس OpenAI صحبت می کنیم. شما می توانید vod را در اینجا در YouTube بررسی کنید.

همچنین، در اجلاس Fortune AIQ در بورس نیویورک در تاریخ 1 اکتبر به من بپیوندید! ما به رهبران C-suite Bank of America، Booking Holdings، Citi، Ecolab، Elevance Health، United Healthcare، S&P Global و موارد دیگر ملحق می‌شویم تا در مورد نحوه استفاده آنها از هوش مصنوعی برای ارائه رشد، نوآوری و تحولی که آنها را در صدر صنایع مربوطه قرار می‌دهد، بشنویم. نوید می دهد که بعد از ظهری با بینش ها و الهامات چشم باز باشد. برای حضور در اینجا می توانید ثبت نام کنید.

این داستان در ابتدا در سایت Fortune.com منتشر شد