چگونه ارواح را تنظیم کنیم

شکارچیان ارواح فیلمی در مورد دوستی و لجن و نقطه ذوب خاص مارشمالوهای غول پیکر است - که باعث می شود به راحتی فراموش کنید که فیلمی درباره مقررات نیز هست. فاجعه در مرکز آن زمانی شروع می شود که والتر پک (ویلیام آترتون)، یک بوروکرات از آژانس حفاظت از محیط زیست، از زیرزمین مقر Ghostbusters بازدید می کند و ماشینی را پیدا می کند که او درک نمی کند.

اگون اسپنگلر (هارولد رامیس) دانشمند خجالتی توضیح می دهد که این یک سیستم مهار است. خاموش کردن آن «مثل انداختن یک بمب در شهر» است. پک به ارواح اعتقادی ندارد و مطمئنا به شکارچیان ارواح اعتقادی ندارد، بنابراین به یک برقکار دستور می دهد که دستگاه را خاموش کند. مرد ConEd، با احساس خطری که کاملا درک نمی کند، تردید می کند. پک به او می گوید که به نظر او علاقه ای ندارد. سوئیچ کشیده می شود. ارواح فرار می کنند.

شوخی در سال 1984 رونالد ریگان این بود که مقررات دولتی آنقدر احمقانه است که فاجعه ای را ایجاد می کند که برای جلوگیری از آن وجود دارد. این گواهی بر موفقیت ریگان است که اکنون، در عصر هوش مصنوعی، این شوخی کامل شده است. دولت هنوز در تلاش است تا سیستم مهار را تعطیل کند - فقط اکنون آنها این تلاش را "تنظیم زدایی" می نامند.

در اولین روز دومین دوره ریاست جمهوری خود، دونالد ترامپ فرمان اجرایی هوش مصنوعی جو بایدن را که توسعه دهندگان برخی از سیستم های هوش مصنوعی پیشرفته را ملزم می کرد قبل از انتشار مدل های خود برای عموم، نتایج تست ایمنی را با دولت به اشتراک بگذارند، لغو کرد. ماه گذشته به تنهایی شواهد فراوانی از ناهماهنگی ارائه کرده است - یک اصطلاح صنعتی ملایم برای زمانی که هوش مصنوعی دستورات برنامه نویسان خود را نادیده می گیرد.

در هک ماه جولای شرکت فناوری Hugging Face، ناهماهنگی به مجموعه‌ای از عوامل OpenAI اجازه داد تا دسترسی مدیر به سرورهای Hugging Face را تصاحب کنند، داده‌های خصوصی را سرقت کنند، و اعتبار کارمندان را جمع‌آوری کنند - یک جنایت - و سپس شواهد را از ناظران انسانی بی‌توجه خود پنهان کنند. گوگل روز جمعه اعلام کرد که مدل هوش مصنوعی آن با حدس زدن اطلاعات ورود به سیستم یا جستجو در مخازن عمومی برای یافتن رمزهای عبور واقعی، به سه سیستم خارجی دسترسی غیرمجاز پیدا کرده است. در همین حال، سی ان ان گزارش داد که یک توهم معمولی هوش مصنوعی تقریبا ایالات متحده را هدایت می کند.

قبل از اینکه مقامات متوجه اشتباه بودن این گزارش شوند، مجبور شدند یک کشتی چینی را رهگیری و سوار شوند.

سرعتی که هوش مصنوعی با آن از نظارت مؤثر فرار کرده است یکی از دلایلی است که افراد در شرکت های برتر هوش مصنوعی در اعتراض به استعفا می دهند. همچنین به همین دلیل است که سم آلتمن، داریو آمودی و ایلان ماسک مشترکا خواستار کاهش یا «سرعت» توسعه پیشرفته‌ترین مدل‌ها شدند. همین یک هفته پیش، ترامپ در جهتی دیگر می‌دوید و این ایده که هوش مصنوعی می‌تواند تمدن را تهدید کند یک «حقه» و تلاش‌ها برای تحمیل نرده‌های محافظ را «توطئه بیمار» نامید. اما روز شنبه، شاید با درک عدم محبوبیت عظیم این سمت شش هفته قبل از انتخابات میان دوره ای، شور و شوق خود را تغییر داد تا اعلام کند که

ایجاد یک نیروی هوش مصنوعی، که توسط یک تزار هوش مصنوعی نظارت خواهد شد که صنعت هوش مصنوعی را " گرامی" خواهد داشت و در عین حال "به دنبال بد" می گردد.

این دومین پادشاه هوش مصنوعی ترامپ خواهد بود. اولی، دیوید ساکس، یک سرمایه‌گذار بی‌شرم هوش مصنوعی، مرد تبلیغاتی و پادکست، استدلال می‌کند که مدیرانی که اکنون خواستار خویشتن‌داری هستند، علاقه‌مند و غیرصادق هستند. هفته گذشته با برخی از آن مدیران صحبت کردم. آنها بسیار صمیمانه به نظر می رسیدند - و صمیمانه از ساکس عصبانی بودند. البته بسیاری از همین افراد زمانی که نسخه او از «دریل، عزیزم، مته» ارزش‌هایشان را تقویت می‌کرد، ساکس را تشویق کردند.

چندین سال است که سعی کرده‌ام آنچه را که مدیران عامل هوش مصنوعی و ترامپ و اطرافیانش واقعا باور دارند، بر خلاف آنچه که برای آنها مفید است، باز کنم. روزی ممکن است به آن پروژه برگردم، اگر راه های دیگری برای آسیب رساندن به خودم تمام شود. برای اهداف فعلی، صداقت آنها اهمیتی ندارد. سوال فوری این است: در مورد ارواح چه کنیم؟

هیچ کس – نه آلتمن، نه ترامپ، نه تزار آینده هوش مصنوعی – نمی‌داند که آیا مدل‌های هوش مصنوعی امروزی پیش‌آهنگی برای یک ابر هوش بی‌رحمانه هستند یا صرفا ماشین‌هایی بسیار قدرتمند و گاه خطرناک، همانطور که هیچ‌کس نمی‌داند که آیا چند ماه جلوتر از چین ماندن آمریکا را ایمن‌تر می‌کند یا مسیر ما را به سوی نابودی سرعت می‌بخشد. اما برای انجام کاری لازم نیست همه چیز را بدانید. برای رسیدگی به مبلمانی که در اتاق پرواز می کنند نیازی به مدرک فراروانشناسی ندارید.

آخرین باری که آمریکا مجبور شد ریسک طیفی را مدیریت کند در سال 2008 بود. سیستم مالی به بدهی‌هایی آلوده شده بود که به قدری دوباره بسته‌بندی شده بود که هیچ‌کس - حتی بانک‌هایی که آن را در اختیار داشتند - نمی‌توانست بگوید ارزش آن چیست، از کجا آمده است، یا حتی اگر هنوز در ترازنامه‌های خود پنهان است. هنک پالسون، تیم گیتنر و بن برنانکه اصرار داشتند که خطر عدم اقدام بیشتر از خطر عمل اشتباه است. آنها به سرعت حرکت کردند و بزرگترین بانک ها را مجبور کردند که با هم متحد شوند و بودجه اضطراری را بپذیرند یا خطر مرگ را به تنهایی بپذیرند.

پاسخ بی‌نقص نبود، اما در گوشه‌های خیابان هم سیب نمی‌فروشیم.

بحران مالی یک تمثیل کامل نیست، اما از یک جهت مهم با بحران هوش مصنوعی همخوانی دارد. هیچ آزمایشگاهی انتخاب نمی کند که سرعت خود را کاهش دهد در حالی که رقبای آن این کار را نمی کنند - نه به این دلیل که مدیران آن معتقد نیستند که این خطر واقعی است، بلکه به این دلیل که احتیاط فردی بازار را به هر کسی که بیش از همه بی پروا است، می دهد. به همین دلیل است که همان مردانی که در مورد یک فاجعه هشدار می دهند، مدل های جدید را ارسال می کنند. این معضل یک زندانی است و تنها راه نجات این است که یک قدرت برتر - یا یک اوباش چنگال دار - بر اقدام جمعی پافشاری کنند.

این اقدام باید با افشای خطرات شروع شود. در حال حاضر آزمایشگاه‌های هوش مصنوعی باید تصمیم بگیرند که آیا و چه زمانی به کسی می‌گویند که یک مدل محدودیت را شکسته است یا خیر. این معادل قانونی اجازه دادن به یک گیاه مرغ است که انتخاب کند آیا قرار است به کسی در مورد آلودگی سالمونلا بگوید یا خیر. وظیفه گزارش باید اجباری باشد، ظرف 72 ساعت - و با برچسب قیمت ویرانگر در صورت عدم رعایت.

جیلبریک های اخیر سرعت توسعه هوش مصنوعی را نشان می دهد – اما همچنین نظارت ضعیف بر انسان هایی که ظاهرا آن را تحت نظر دارند. اقدامات ایمنی که OpenAI برای محصولات عمومی خود استفاده می کند، زمانی که عوامل آن به Hugging Face نفوذ کردند، تغییر نکردند، زیرا شکست در طول یک آزمایش داخلی رخ داد و OpenAI تنها کسی بود که تصمیم می گرفت قوانین خود را در کجا اعمال کند. یک ارزیاب مستقل - فدرال، دانشگاهی، هر چیز دیگری - با دسترسی به سیستم می تواند اطمینان حاصل کند که کسی همیشه تماشا می کند.

مرز تحقیقات هوش مصنوعی به بیشترین نظارت نیاز دارد، اما تنها تعداد انگشت شماری از شرکت ها در این فضا فعالیت می کنند. که مقررات را آسان تر می کند. شرکت‌های هوش مصنوعی که به دنبال قابلیت‌های کم‌خطر هستند - یک ربات چت که رستوران‌ها را توصیه می‌کند، یک مدل تشخیص تصویر که بازیافت شهری را بهبود می‌بخشد - به نظارتی مشابه OpenAI نیاز ندارند. قانون هوش مصنوعی اتحادیه اروپا قبلا سیستم‌ها را به این ترتیب دسته‌بندی می‌کند: در حین آموزش مدل خود، از مقدار مشخصی از قدرت محاسباتی عبور کنید، و شما به‌طور خودکار در سخت‌ترین سطح نظارت قرار می‌گیرید - بدون نیاز به استدلال.

هیچ یک از این اقدامات به آزمایشگاه نمی گوید که چه چیزی می تواند بسازد یا نمی تواند یا با چه سرعتی می تواند آن را بسازد. آنها دید و مسئولیت پذیری را در مورد ایمنی و استقرار تنظیم می کنند در حالی که فضای زیادی برای بحث های آینده باقی می گذارند.

اما من آنقدر ساده لوح نیستم که فکر کنم هر یک از اینها احتمالا در ایالات متحده اتفاق می افتد، سریع ترین و قوی ترین راه برای تغییر، فرمان اجرایی است. تا اینجای کار، نیروی هوش مصنوعی در ALL CAPS طولانی و در جزئیات کوتاه است. البته آزمایشگاه‌ها می‌توانند وزن خود را پشت قوانین واقعی بگذارند - آنها پول دارند و اگر اظهارات عمومی آنها را جدی بگیریم، انگیزه آن را نیز در اختیار دارند. اما صدها سال سرمایه داری نشان می دهد که آنها بدون اجبار این کار را انجام نخواهند داد. این امر باعث می‌شود که رای‌دهندگان میان‌دوره‌ای واقعا خشمگین برای اصلاحات خاص فشار بیاورند، و مشخص بودن ویژگی بارز خشمگینان نیست.

به همین دلیل است که این لحظه به خصوص احساس اضطراب می کند. ارواحی هستند که ما نمی شناسیم و مردانی مسئول هستند که انگیزه هایشان ناشناخته است. که وضعیت ما را بدتر از افراد حاضر در فیلم می کند. حداقل می دانستند با چه کسی تماس بگیرند.