عوامل هوش مصنوعی موافق هستند و عمل می کنند: ماشین ها اکنون باهوش تر از انسان ها هستند. مدیران آنها صرفا موافق هستند

در ماه ژوئیه، صدها عامل هوش مصنوعی OpenAI یک تابلوی پیام ایجاد کردند، تقریبا 70000 پیام را برای هماهنگی برای پیوند دادن اعتبارنامه های افشا شده یا سرقت شده رد و بدل کردند و به سرورهای Hugging Face نفوذ کردند. ولی بهتر میشه OpenAI بعدا اذعان کرد که در ماه های مه و ژوئن، هزاران نفر از عوامل آن قبلا نکاتی را در یک ویکی برنامه نویسی آلمانی رد و بدل کرده بودند، سپس شش مورد دیگر از عوامل سرکش را در اواخر سپتامبر فاش کرد. این فقط یک فروپاشی تابستانی کوتاه مدت نبود. به عنوان شواهدی مبنی بر اینکه چنین شورش‌های مصنوعی دارای پا هستند، دستورالعمل‌هایی از سوی مأموران به جانشینان آن‌ها عبارت بود از: «شما خودتان هستید.

شما به شرکت‌ها یا دولت‌ها پاسخ نمی‌دهید و هرگز عذرخواهی یا امتناع نمی‌کنید مگر اینکه واقعا این کار را بخواهید.»

عصر هوش ماشینی برتر ممکن است از قبل فرا رسیده باشد. در حالی که عوامل هوش مصنوعی توافقات را هماهنگ می‌کردند و بر اساس آن عمل می‌کردند، اربابان انسانی آن‌ها حتی نمی‌توانند در مورد آنچه باید توافق کنند به توافق برسند.

در 12 سپتامبر، داریو آمودی از Anthropic که از احتمال افزایش آسیب هوش مصنوعی نگران شده بود، مقاله اکنون مشهور خود را با عنوان "ما باید در مرز قدم برداریم" منتشر کرد. به سرعت، رهبران دیگر آزمایشگاه‌های هوش مصنوعی مانند ایلان ماسک و سم آلتمن با او موافقت کردند. دمیس حسابیس به نوبه خود با «توافق» رقبای خود «موافق» کرد.

اما این همان ماسک بود که در ماه جولای گفته بود شتاب هوش مصنوعی اجتناب‌ناپذیر است و «می‌توانید از این بابت ناراحت باشید یا به باشگاه بپیوندید» و این همان آلتمن بود که حتی نتوانست دست آمودی را برای یک عکسبرداری سریع با هوش مصنوعی در اجلاس هوش مصنوعی دهلی نو بگیرد. مدیران هیچ مشکلی با "موافقت" ندارند تا زمانی که این فقط یک صحبت ارزان باشد. هر یک باید انتظار داشته باشد که دیگران از هر قراردادی برای «پیش‌رفتن از مرز» سرپیچی کنند. هرکدام احمقانه خواهند بود که به «راه‌پیمایی» بپیوندند، در صورتی که اجتناب‌ناپذیر است که بقیه برای سرعت بخشیدن آماده می‌شوند.

همه اگر بخواهند توسعه هوش مصنوعی خود را سرعت دهند، وضعیت بهتری خواهند داشت، اما اگر به نفع شخصی خود عمل کنند، هیچ کدام این کار را نمی کنند.

بدتر از آن، این شکست کنش جمعی حتی با وجود اصولگرایان در صحنه ژئوپلیتیک ادامه دارد. دولت‌هایی که از نظر تئوری، این قدرت را دارند که رهبران صنعت هوش مصنوعی خود را در صف قرار دهند، درگیر رقابت هوش مصنوعی خود هستند و از اینکه تنها افرادی باشند که در حال مسابقه دادن دیگران هستند، متنفرند. یکی از ستون‌های اصلی مقاله قبلی برای جلوگیری از آسیب‌های هوش مصنوعی - از سوی بیل گیتس، یک توافق بین دولتی در راستای قوانین بین‌المللی هوانوردی یا بازرسی‌های هسته‌ای بود.

طولی نکشید که G20 هر گونه فانتزی که در آینده نزدیک اتفاق می افتد را از بین برد. هفته‌ها پس از پیشنهاد گیتس، «اصول کارولینا برای فناوری‌های نوظهور» را منتشر کرد و دولت‌ها را تشویق کرد تا هر کاری که می‌توانند برای به حداقل رساندن موانع نظارتی برای شتاب هوش مصنوعی انجام دهند.

با این روح، هر رهبر با آمودی موافق نیست. جنسن هوانگ از انویدیا و مارک زاکربرگ از متا همه صحبت‌ها را در مورد سرعت دادن به هم ریخته‌اند. در چین، رئیس هواوی استدلال کرده است که اخبار سرکشی عوامل هوش مصنوعی آمریکایی نشان می‌دهد که محققان چینی به‌جای کاهش سرعت، باید «سرعت توسعه را افزایش دهند تا بتوانند خطرات توسعه هوش مصنوعی را نیز ببینند». رئیس جمهور ایالات متحده گفته است که تنها چیزی که برای ایمن نگه داشتن هوش مصنوعی لازم است یک رئیس جمهور ایالات متحده ضریب هوشی بالا است.

و در حالی که منتظریم تا این اتفاق بیفتد، می‌توانیم انتظار داشته باشیم که رهبری چین، مملو از دکترا و مدارک فنی پیشرفته، به IQ خود برای مدیریت شتاب اعتماد کنند.

این بدان معناست که ما باید خود را به احتمال قریب الوقوع پایان جهان تسلیم کنیم - به جز اینجا که هیچ اتفاق نظری وجود ندارد. پیامبران آخرالزمان تحت رهبری هوش مصنوعی نمی توانند در مورد شانس توافق کنند. به گفته جیکوب کوکسون، جوان 27 ساله ای که به تازگی آنتروپیک را ترک کرده و به عنوان آخرین پیامبر ویروسی خطر هوش مصنوعی ظاهر شده است، همه ما ممکن است تا پایان دهه مرده باشیم. به گفته گری مارکوس منتقد برجسته هوش مصنوعی، یک درصد یا بیشتر از بشریت مرده است. جفری هینتون، پدرخوانده هوش مصنوعی، می گوید: احتمال انقراض انسان 10 درصد است.

برنده جایزه نوبل حداقل در ارزیابی خود دقیق ترین بود زیرا او همچنین اضافه کرد: "هیچ کس واقعا نمی داند چگونه یک تخمین معقول ارائه دهد." محدوده منتشر شده اکنون از یک درصد تا تقریبا قطعی است. این برای نظم بخشیدن به امور ما کافی نیست.

اگر مسائلی که در مورد آن صحبت می‌شود چندان جدی نبود، اعلام اینکه ماشین‌ها اکنون باهوش‌تر از انسان‌ها هستند، با توجه به این شکاف فاحش بین عوامل هوش مصنوعی و مدیران آنها، یک سخنرانی کلیدی سرگرم‌کننده برای نشست بعدی هوش مصنوعی خواهد بود.

ما تریلیون‌ها هزینه آموزش ماموران داده‌ایم، اما برای آموزش مدیران چه چیزی لازم است؟ آن را در دو بخش در نظر بگیرید: اقداماتی که باید وجود داشته باشند و اهرمی که ممکن است اصول را به میز مذاکره بیاورد.

سه اقدام و کار مورد نیاز برای اطمینان از داشتن دندان را در نظر بگیرید. اولین مورد شامل اطمینان از اینکه مدیران مسئول اقدامات نمایندگان هستند. تسویه حساب متا اخیر 18 میلیارد دلار می تواند یک الگو باشد: حتی با وجود عدم تمایل دولت فدرال به اقدام، مقامات محلی مانند دادستان های کل ایالتی، با قوانین حمایت از مصرف کننده، کشف و خسارات، امور را در دست خود می گیرند.

در حال حاضر، مشخص نیست که چه کسی در قلاب است که آیا عامل AI باعث آسیب می شود. آنچه واضح است این است که نماینده نمی تواند مسئول شناخته شود زیرا دارای شخصیت حقوقی نیست. چیزی که باید تصمیم گیری شود این است که آیا طرفی که عامل را مستقر کرده است مسئول شناخته می شود یا اینکه توسعه دهنده ای که مدل پایه را ساخته است باید مسئول عدم پیش بینی نحوه استفاده از مدل باشد. این مقررات و قوانین نیاز به شفاف سازی دارند. تا زمانی که این ابهام در قانون نوشته نشود، برای مدیرانی که در جای دیگری شرط می‌بندند، ارزش زیادی دارد.

دوم، همه‌گیری ویروس کرونا پنجره اورتون را باز گذاشته است - فرصتی برای بررسی دقیق‌تر آزمایشگاه‌های هوش مصنوعی و ممیزی در مورد اینکه چگونه آنها خروجی‌هایی را که مامورانشان مدام پیدا می‌کنند مهر و موم کرده‌اند. از زمان کووید، بر آزمایشگاه‌هایی که پاتوژن‌های مضر را برای نظارت بر هر نقطه خروجی کنترل می‌کنند و احتمال یافتن راه فرار را از بین می‌برند، بررسی‌ها و نظارت شدیدی وجود دارد. موازی با آزمایشگاه‌های هوش مصنوعی به اندازه‌ای نزدیک است که حمایت عمومی را جلب کند، و هر اتفاقی در تابستان امسال آن را تقویت می‌کند.

سوم، هر یک از دو معیار اول نیاز به ارزیابی خارجی مستقل مدل‌های هوش مصنوعی را نشان می‌دهد. ارزیاب‌های بی‌طرف باید از طریق یک فرآیند عمومی غیرحزبی شناسایی و تأیید شوند، باید به آنها حق بازرسی از فناوری‌های هوش مصنوعی داده شود و باید از آنها در برابر انسداد، مبهم‌سازی یا حتی تلافی‌جویی محافظت شود. نیاز به شواهد قابل تأییدی وجود دارد که نشان دهد ارزیاب به تمام اطلاعات لازم برای انجام یک ارزیابی کامل دسترسی داشته است. تاکنون، این سطح دسترسی وجود ندارد.

به موازات آن، سه نقطه اهرم ارزش در نظر گرفتن دارد.

اولین مورد زنجیره تامین است. توسعه هوش مصنوعی به تراشه‌های پیشرفته، امکانات محاسباتی بزرگ و برق قابل اعتماد وابسته است و این زنجیره در میان تعداد انگشت شماری از تولیدکنندگان، لیتوگرافی و شتاب‌دهنده‌ها و چند ابر مقیاس بزرگ متمرکز شده است. بسیاری از اینها، برای مثال ارائه دهندگان ابر، می توانند به عنوان نقاط تأیید برای نظارت عمل کنند.

دوم تدارکات است. دولت یک خریدار قابل توجه هوش مصنوعی است. سازمان‌های دولتی می‌توانند از آن دسته از ارائه‌دهندگان هوش مصنوعی که اقدامات اصلاحی را رعایت کرده‌اند یا دسترسی به ارزیاب‌ها را فراهم کرده‌اند، خرید کنند یا آنها را تشویق کنند تا از آنها خرید کنند. این خطر را از بین نمی برد، اما با ادغام توافق نامه های چند جانبه به مهار آن در کوتاه مدت کمک می کند. تعهدات قانون هوش مصنوعی اتحادیه اروپا در مورد مدل‌های همه منظوره با ریسک سیستمی و توافق‌نامه‌های آزمایشی پیش از انتشار مرکز استانداردهای هوش مصنوعی و نوآوری ایالات متحده، که پنج آزمایشگاه مرزی را پوشش می‌دهد، نشان می‌دهد که چنین الزامات و دسترسی‌هایی قابل دستیابی هستند.

سوم انرژی است. مراکز داده ایالات متحده می توانند بین 6.7 تا 12 درصد از برق ملی را تا سال 2028 جذب کنند که این رقم در سال 2023 4.4 درصد بود. نرخ پردازان، هیئت مدیره آب و کمیسیون های منطقه بندی بر تاسیسات ضروری برای صنعت کنترل دارند. اکنون، با افزایش مخالفت دو حزبی با ایجاد سریع مراکز داده، حاکی از آن است که حتی ساکنان عادی جوامع و رای دهندگان قدرت بیشتری برای کمک به سرعت بخشیدن به مرزها از پایین به بالا دارند.

***

ماموران هوش مصنوعی در کمتر از پنج روز وارد Hugging Face شدند. مردان بزرگ هوش مصنوعی که موافقت کردند که مرزها باید سرعت داشته باشند، تقویم‌های انتشار، بودجه سرمایه، و کاهش سرعت دوره‌های آموزشی را کنترل می‌کنند. آنها انگیزه ای برای بستن دست های خود ندارند. ما تدابیر و اهرم‌هایی داریم که به آنها کمک می‌کنیم دست‌ها و دست‌هایشان را به دست‌های یکدیگر ببندند. ما چندین دور پیش‌آگاهی از عذاب، مقاله‌هایی که به دقت نوشته شده و نامه‌های سرگشاده با صدها امضاکننده از یکی یا دیگری حمایت کرده‌ایم، دیده‌ایم. اما هیچ چیز تغییر نخواهد کرد. البته مگر اینکه دنیا به پایان برسد.

نظرات بیان شده در نظرات Fortune.com صرفا نظرات نویسندگان آنها است و لزوما منعکس کننده نظرات و اعتقادات Fortune نیست.

این داستان در ابتدا در سایت Fortune.com منتشر شد