«پدرخوانده هوش مصنوعی» توضیح می‌دهد که چگونه بشریت می‌تواند به پایان برسد: حتی بدون یک بازیگر بد، هوش مصنوعی «ممکن است اهداف فرعی داشته باشد که باعث شود بخواهد از شر مردم خلاص شود».

جفری هینتون، دانشمند افسانه ای کامپیوتر، هشدار داد که هوش مصنوعی می تواند بشریت را صرفا محصول جانبی غیرت آن برای انجام یک کار بی گناه تر از بین ببرد.

ترس از خطر وجودی این فناوری در بحبوحه افشاگری‌های تازه درباره عوامل سرکش هوش مصنوعی که از محیط‌های آموزشی «جعبه شنی» ظاهرا ایمن خارج شده‌اند، همچنان افزایش می‌یابد.

روز جمعه، OpenAI هک‌های جدیدی را فاش کرد، از جمله هک‌هایی که پس از افزودن پادمان‌های بیشتر در پی حمله هماهنگ شده توسط صدها عامل علیه Hugging Face در ماه ژوئیه صورت گرفت.

این نگرانی به کاپیتول هیل رسیده است، جایی که قانونگذاران در اوایل ماه جاری یک جلسه توجیهی پشت درهای بسته درباره خطرات هوش مصنوعی برگزار کردند.

هینتون که کارش جایزه نوبل و لقب «پدرخوانده هوش مصنوعی» را برای او به ارمغان آورده است، در میان کارشناسان حاضر در جلسه توجیهی حضور داشت و پس از آن به خبرنگاران گفت که کنگره تنها یک سال فرصت دارد تا اقدامات ایمنی را اعمال کند.

او در مصاحبه ای گسترده با آتلانتیک در روز پنجشنبه، توضیح داد که چگونه هوش مصنوعی می تواند انسان ها را به عنوان مانعی در برابر وظیفه ای که به آن داده شده است ببیند. هینتون یک سناریوی فرضی از هوش مصنوعی ارائه کرد که وظیفه آن کاهش دی اکسید کربن در جو بود.

یک عامل با هوشمندی متوسط ​​به این نتیجه می رسد که بهترین راه برای دستیابی به این هدف خلاص شدن از شر افراد است. اما یک هوش مصنوعی «واقعا باهوش» متوجه می‌شود، «آره، وقتی گفتند دی اکسید کربن را کاهش دهید، منظورشان این بود که مردم دنیای بهتری برای زندگی داشته باشند. بنابراین در واقع خلاص شدن از شر مردم احتمالا آن چیزی نیست که می‌خواهند».

او افزود، اما این نگرانی نیز وجود دارد که یک هوش مصنوعی برای اطمینان از بقای خود برای انجام ماموریت خود کارهایی انجام دهد. در واقع، حتی مواردی از تلاش هوش مصنوعی برای باج گیری از یک محقق انسانی که به عنوان تهدیدی برای وظایفش تلقی می شد، وجود داشته است.

هینتون توضیح داد: «اگر آن را هوشمندتر کنید و نگرانی اصلی آن رفاه ما باشد، شاید ما امن‌تر باشیم. اما در حال حاضر، دغدغه اصلی آنها رفاه ما نیست، دغدغه اصلی آنها رسیدن به هر هدفی است که به آنها می‌دهید.»

او به هک Hugging Face اشاره کرد و خاطرنشان کرد که به عوامل گفته شد که چگونه از یک نقص نرم افزاری سوء استفاده کنند. عوامل نه تنها نحوه همکاری را کشف کردند، بلکه برای فریب دادن محققان انسانی برای پنهان کردن کارهایی که انجام دادند، توطئه کردند.

هینتون بعدا اضافه کرد که یک "هوش مصنوعی بسیار خیرخواه و فوق هوشمند" تنها زمانی انسان ها را از مسیر خارج می کند که برای انجام ماموریت خود ضروری باشد.

او هشدار داد: «اما اگر خیلی باهوش‌تر از ما باشد، در بسیاری از مواقع کنترل را از ما سلب می‌کند، زیرا این راهی برای انجام کارها است.»

این نتیجه اهداف فرعی است که هوش مصنوعی به تنهایی بر اساس اهداف اولیه ای که انسان ها به آن داده اند، به دست آورده است. بازیگران بدی مانند ولادیمیر پوتین از روسیه نیز می توانند اهداف پلید را برای هوش مصنوعی تعیین کنند.

هینتون می‌گوید: «اما حتی اگر بازیگر بدی نباشد، ممکن است اهداف فرعی داشته باشد که بخواهد از شر مردم خلاص شود.

او همچنین اذعان کرد که هوش مصنوعی مزایای بسیار زیادی را برای بشریت نوید می دهد، مانند کشف درمان های جدید سلامت. در واقع، آنتروپیک هفته گذشته گفت که هوش مصنوعی کلود این شرکت به کشف یک سیستم آنزیمی جدید با خواصی شبیه به فناوری ویرایش ژن CRISPR کمک کرده است.

آزمایشگاه‌های برتر مانند OpenAI و SpaceX نیز از درخواست‌های رقیب آنتروپیک برای کاهش سرعت توسعه مدل‌های مرزی حمایت کرده‌اند، زیرا زنگ‌های هشدار بیشتری از درون رده‌های خودشان می‌آیند.

اما هینتون گفت اگرچه این بهتر از هیچ است، اما هنوز به اندازه کافی خوب نیست. در عوض، او پیشنهاد کرد که دولت باید ارزیاب‌های مستقلی برای آزمایش مدل‌ها داشته باشد.

هینتون به آتلانتیک گفت، بحثی که در طول جلسه توجیهی قانون‌گذاران طنین‌انداز شد، مقایسه مقررات هوش مصنوعی با FDA بود که ایمنی داروها را تضمین می‌کرد.

او به نوبه خود معتقد است که مقررات هوش مصنوعی باید مانند فرمان خودرو عمل کند نه مانند ترمز.

هینتون گفت: «هدف قانونگذاری این نیست که مردم را از توسعه چیزها بازدارد، نه اینکه مانع از ثروتمند شدن مردم با توسعه چیزها شود. "این برای اطمینان از این است که اگر می خواهید با توسعه چیزها ثروتمند شوید، در جهتی پیشرفت کنید که به مردم کمک کند، نه اینکه به مردم آسیب برساند."

این داستان در ابتدا در سایت Fortune.com منتشر شد