غول های هوش مصنوعی یک اشتباه بزرگ تا فاجعه فاصله دارند. آنها می توانند از صنعت هسته ای چیزهای زیادی بیاموزند.

بزرگترین شرکت های هوش مصنوعی (AI) به طور فزاینده ای می فهمند که گروگان یکدیگر هستند. اگر یک شرکت بی پروا جلو بیفتد، دیگران ممکن است احساس کنند مجبور به دنبال کردن آن هستند. اگر کسی یک مدل خطرناک را بدون حفاظت کافی به کار گیرد، دیگران ممکن است آن را چراغ سبزی برای انجام همین کار بدانند.

بحث در مورد هوش مصنوعی بر این متمرکز شده است که دولت ها باید چه کاری انجام دهند تا این فناوری مرزی را تنظیم کنند. که ضروری باقی می ماند. اما یک سوال فوری‌تر مطرح می‌شود: آیا شرکت‌هایی که این سیستم‌های قدرتمند را می‌سازند، می‌توانند قبل از از دست دادن اعتبار و متحمل شدن عواقب قانونی، مستقلا اقدام کنند؟

این سوال دیگر نظری به نظر نمی رسد و به عنوان یک چالش فوری شناخته می شود. قبلا دیده‌ایم که شرکت‌های هوش مصنوعی کنترل مدل‌های خود را از دست داده‌اند - برای مثال، در استرالیا، یک هوش مصنوعی سرکش وب‌سایت مراقبت‌های بهداشتی دولتی را هک کرد. اگر مراقب نباشیم، این فقط مسئله زمان است که یکی از این حوادث باعث آسیب‌های بزرگ و واقعی شود، مانند خاموش کردن شبکه برق یا سیستم آب شهری، یا تشخیص اشتباه دسته جمعی در یک سیستم بهداشتی. اگر این روند ادامه یابد، کل صنعت ممکن است لکه دار شود.

اما طرحی برای خودتنظیمی در یک تجارت پرخطر وجود دارد: صنعت هسته‌ای، که لایه‌هایی از نظارت، کنترل و نظارت بر خود را طی دهه‌ها ایجاد کرده است.

هوش مصنوعی مرزی ممکن است به چیزی مشابه نیاز داشته باشد: مقررات خصوصی در میان رقبای که به یکدیگر اعتماد ندارند اما علاقه متقابل در جلوگیری از نتایجی دارند که می تواند به همه آنها آسیب برساند. این برای فرشتگان بهتر طبیعت انسان جذابیتی ندارد - این خود حفظ خود صنعت است.

یک سابقه تاریخی برای این نوع چیدمان وجود دارد. بخش هسته ای امن نشد زیرا هر بازیگری ناگهان خیرخواه شد. از طریق یک سیستم لایه‌ای بررسی دقیق، استانداردهای فنی، اشتراک‌گذاری اطلاعات و نظارت خارجی، ایمن‌تر شد. سازمان‌های بین‌المللی مانند آژانس بین‌المللی انرژی اتمی (IAEA) که در سال 1957 تأسیس شد، برای هماهنگ کردن نظارت و راستی‌آزمایی ظهور کردند، در حالی که تنظیم‌کننده‌های ملی و نهادهای صنعتی به تدریج هنجارهای حرفه‌ای را پیرامون خطر فاجعه‌بار ایجاد کردند.

نتیجه ایمنی کامل نبود، همانطور که فاجعه چرنوبیل در سال 1986 به وضوح نشان می دهد. اما معماری حکمرانی هسته‌ای بر این اساس طراحی شده است که در سیستم‌های فناوری پرخطر، شکست یک بازیگر می‌تواند به مشکل همه تبدیل شود. این امر پس از چرنوبیل مشاهده شد: ایمنی جهانی هسته‌ای پس از فاجعه، با ارتقاء طرح‌های راکتور، بهبود آموزش و شبکه‌های نظارتی بین‌المللی به طور قابل توجهی افزایش یافت.

پس از فاجعه چرنوبیل، ایمنی و مقررات در صنعت هسته ای جهانی افزایش یافت. (اعتبار تصویر: Cavan Images از طریق Getty Images) و این حرکت به سمت خودتنظیمی نیز در بخش هسته ای ایالات متحده، به دنبال حادثه هسته ای جزیره سه مایلی در نزدیکی هریسبورگ، پنسیلوانیا، در سال 1979 رخ داد. راکتور پس از یک نقص خنک کننده نسبتا جزئی دچار ذوب نسبی شد. بررسی‌ها بعدا نشان داد نقص‌های طراحی در ابزار و آلارم‌ها، همراه با آموزش ناکافی واکنش اضطراری، علت اصلی این حادثه بود.

این رویداد تقریبا منجر به مرگ صنعت انرژی هسته‌ای در ایالات متحده شد و باعث شد که حمایت عمومی از رکورد 69 درصد در سال 1977 به 46 درصد در سال 1979 کاهش یابد. کل صنعت به دلیل خرابی در یک تأسیسات آسیب دید. در پاسخ، صنعت هسته ای ایالات متحده مؤسسه عملیات انرژی هسته ای (INPO) را در دسامبر 1979 برای بهبود ایمنی عملیاتی تأسیس کرد.

قیاس با هوش مصنوعی را نباید اغراق کرد. شمارش مواد هسته‌ای آسان‌تر از الگوریتم‌ها است و مخفی کردن تأسیسات هسته‌ای سخت‌تر از وزن‌های مدل است. نتایج یک خطای فاجعه‌بار هوش مصنوعی نیز کمتر وجود دارد، اگرچه استفاده از آن در سیستم‌های تسلیحاتی بدون خطر نیست. در ماه سپتامبر، یک توهم هوش مصنوعی تقریبا منجر به رهگیری یک کشتی چینی توسط ایالات متحده شد که مظنون به حمل مواد هسته ای به ایران بود.

با این حال، مقایسه مفید باقی می ماند زیرا مشکل اصلی حاکمیت مشابه است. در هر دو مورد، رقبا در محیطی عمل می‌کنند که خطر نزولی رقابت کنترل‌نشده توسط جامعه متحمل می‌شود، در حالی که جنبه صعودی سود خصوصی برای این شرکت‌ها است. چالش ایجاد نهادهایی است که محدودیت های پیش فرض منطقی را ایجاد می کنند - حتی زمانی که هیچ بازیگری به طور کامل به دیگران اعتماد ندارد و عملکرد درونی صنعت به راحتی برای افراد خارجی قابل مشاهده نیست.

برای هوش مصنوعی، این می‌تواند به معنای ارزیابی متقابل مدل‌های مرزی قبل از استقرار، مکانیسم‌های ایمن برای اشتراک‌گذاری اطلاعات ایمنی، خطوط قرمز توافق شده در مورد قابلیت‌های خاص، و اشخاص ثالث مستقلی باشد که اختیار ممیزی انطباق را دارند. چنین مکانیزم‌هایی جایگزین مقررات دولتی نمی‌شوند. آنها در عوض به عنوان یک لایه میانی عمل می‌کنند: قوی‌تر از اظهارات اخلاقی داوطلبانه، اما تطبیق‌پذیرتر و آگاه‌تر از قوانین به تنهایی اغلب می‌تواند در حوزه‌های در حال حرکت باشد. دولت به عنوان یک مجری پس زمینه عمل می کند.

حاکمیت هوش مصنوعی اغلب به گونه‌ای مورد بحث قرار می‌گیرد که گویی تنها گزینه‌ها نوآوری آزاد یا کنترل شدید دولتی است. تاریخ راه سومی را نشان می دهد.

به نظر می رسد مدیران هوش مصنوعی نیز مایل به جستجوی راه حل باشند، ایلان ماسک اخیرا سیستم بررسی همتا را قبل از انتشار مدل پیشرفته پیشنهاد کرده است و دمیس حسابیس، یکی از بنیانگذاران و رئیس Google DeepMind، چارچوبی را برای یک بدنه استاندارد هوش مصنوعی، شبیه به سازمان تنظیم مقررات صنعت مالی، ارائه کرده است.

شکاکان با دلیل مخالفت خواهند کرد که حکومت تحت رهبری صنعت می تواند به رفتار کارتل یا تئاتر روابط عمومی تبدیل شود. شرکت‌ها ممکن است از زبان "ایمنی" برای تثبیت قدرت، رقبای کند یا منحرف کردن مقررات الزام آور استفاده کنند. اینها خطرات واقعی هستند. درس تاریخ هسته ای این نیست که هماهنگی خصوصی به طور خودکار کار می کند. این است که هماهنگی خصوصی تنها زمانی کار می‌کند که در داخل یک سیستم گسترده‌تر شفافیت، راستی‌آزمایی و اختیار عمومی قرار گیرد. بدون آن عناصر، مقررات خصوصی چیزی فراتر از لفاظی های اعتماد به من می شود.

با این حال، نادیده گرفتن مقررات خصوصی به طور کلی یک اشتباه خواهد بود. دولت‌ها هنوز ظرفیت فنی، سرعت یا همسویی بین‌المللی لازم برای نظارت بر هوش مصنوعی مرزی را ندارند. و اگر آزمایشگاه‌های پیشرو در حال حاضر خود را با قرار گرفتن در معرض خطر فاجعه‌بار مشترک به هم مرتبط می‌دانند، این شناخت می‌تواند مبنایی برای طراحی سازمانی باشد. سوال این است که چگونه ترس متقابل را به قوانین پایدار تبدیل کنیم.

انحصاری Live Science Pro

ما رقیب فیوژن نیستیم. ما همجوشی هستیم: در داخل مسابقه برای مهار نیروی خورشیدی نامحدود در فضا

"خودمختاری همیشه با چیزی شروع می شود": وقتی یک عامل هوش مصنوعی سرکش می شود چه کسی مسئول است؟

ما قرار نیست یک خدای دیجیتالی شیطانی را بیدار کنیم - هوش مصنوعی به احتمال زیاد به یک ناامیدی بزرگ ختم می شود.

اینجاست که قیاس هسته ای قوی ترین است. این به ما یادآوری می کند که صنایعی که با خطرات وجودی روبرو هستند برای همکاری نیازی به اعتماد کامل ندارند. آنها به مکانیسم هایی نیاز دارند که همکاری را بر فرار ترجیح دهد. در عمل، این به معنای بازرسی، بررسی همتا، گزارش رویداد، هنجارهای حرفه‌ای و یک محیط اجرایی تحت حمایت دولت است. حاکمیت هوش مصنوعی اغلب به گونه‌ای مورد بحث قرار می‌گیرد که گویی تنها گزینه‌ها نوآوری آزاد یا کنترل شدید دولتی است. تاریخ راه سومی را پیشنهاد می کند: هماهنگی خصوصی ساختاریافته در سایه عمومی.

بنابراین، فرصت واقعی جشن گرفتن احتیاط جدید (ظاهری) مدیران فناوری نیست، بلکه تشخیص آنچه نظرات آنها فاش می کند است. هنگامی که حتی رقبای سرسخت شروع به بحث و جدل برای بررسی دوجانبه می کنند، اعتراف می کنند که رقابت به تنهایی نمی تواند مرز را اداره کند. این اعتراف را باید نه به عنوان اطمینان، بلکه به عنوان مدرکی مبنی بر اینکه خطر جمعی شده است، تلقی کرد.

وظیفه سیاست در حال حاضر ایجاد نهادهایی است که متناسب با این واقعیت باشد. دولت ها باید برای گزارش اجباری، ارزیابی مستقل و پشتوانه های قانونی تلاش کنند. اما آنها همچنین باید اشکال قابل اجرا از نظارت همتایان را در میان تعداد انگشت شماری از شرکت‌هایی که سیستم‌هایشان ممکن است مسیر فناوری را شکل دهند تشویق کنند. هوش مصنوعی مرزی در حال تبدیل شدن به صنعتی است که در آن بازیگران اصلی گروگان یکدیگر هستند. عصر هسته ای نشان داد که چنین شرایطی می تواند حکمرانی جدی ایجاد کند.

امید این است که شرکت‌های هوش مصنوعی قبل از اینکه هزینه نادیده گرفتن آن را که عموم مردم را به خطر می‌اندازد، یاد بگیرند.

Opinion on Live Science به شما بینشی در مورد مهم ترین مسائل علم که بر شما و دنیای اطراف شما تأثیر می گذارد، می دهد که توسط متخصصان و دانشمندان برجسته در زمینه خود نوشته شده است.

به ما در بهبود Live Science Pro کمک کنید: ما همیشه در تلاش هستیم تا محتوای خود را بهتر کنیم. نظرات خود را در مورد Pro در اینجا برای ما بگذارید.