چگونه هوش مصنوعی می تواند جهان را تسخیر کند

اگر هوش مصنوعی کنترل جهان را در دست بگیرد چگونه به نظر می رسد؟

این ممکن است با چرخش آشکار ماشین‌ها علیه بشریت در صحنه‌هایی که یادآور یک فیلم علمی تخیلی است آغاز نشود. این می تواند بی سر و صدا شروع شود، با سیستم های خودمختار که خودشان را تکرار می کنند و قبل از آشکار شدن تهدید، نفوذ را جمع می کنند.

در حالی که این سناریو نامشخص است، دیگر صرفا به عنوان یک تمرین تخیلی مورد بحث قرار نمی گیرد.

محققان در شرکت‌های پیشرو هوش مصنوعی اخیرا هشدارهای عمومی داده‌اند مبنی بر اینکه هوش مصنوعی پیشرفته می‌تواند باعث انقراض انسان شود، و برخی خواستار کاهش سرعت توسعه در میان نگرانی‌هایی هستند که سیستم‌های خودکار به طور فزاینده می‌توانند در نهایت خود را خارج از کنترل انسان بهبود بخشند.

نیوزویک با کارشناسان این حوزه صحبت کرد تا بداند چگونه چنین تصاحب ممکن است آشکار شود.

آنتونی آگویر، استاد دانشگاه کالیفرنیا، سانتا کروز، به نیوزویک گفت که ممکن است پیش از اینکه سیستم‌های هوش مصنوعی فراتر از کنترل انسان عمل کنند، به پیشرفت‌های فنی نسبتا کمی نیاز باشد، اگرچه او تأکید کرد که پیش‌بینی چنین تحولاتی «بسیار دشوار است».

آگویر گفت: «پیشرفت فنی بسیار کمی برای دیدن انبوه سرکش‌های سرکش مورد نیاز است.

او گفت که چنین سیستم‌هایی می‌توانند «بسیار سازگار» باشند، اما در ابتدا توانایی‌های تکاملی موجودات بیولوژیکی را ندارند و توانایی آنها برای بهبود خود محدود خواهد بود.

آگویر گفت: "مجموعه ای از سیستم های هوش مصنوعی که قادر به خودسازی واقعا مستقل بودند و در این راه سرکش بودند، به نظر می رسد با توجه به زیرساخت های بسیار آسیب پذیر فعلی ما، غیرقابل توقف باشند."

رومن یامپولسکی، دانشیار دپارتمان مهندسی کامپیوتر و علوم کامپیوتر در دانشکده مهندسی سرعت دانشگاه لوئیزویل و مدیر آزمایشگاه امنیت سایبری آن، به طور مشابه گفت که ممکن است به یک پیشرفت علمی "جادویی" نیاز نباشد.

در عوض، او گفت، این خطر می‌تواند زمانی پدیدار شود که عوامل هوش مصنوعی به طور فزاینده‌ای خودمختار شوند و توانایی برنامه‌ریزی در دوره‌های طولانی، بهبود خود، انجام عملیات‌های امنیت سایبری و پیگیری اهداف را به طور مستقل به دست آورند. وی افزود، سیستم هایی که قادر به به دست آوردن منابع، ساختن کپی از خود و دستکاری افراد هستند، می توانند با سرعت بیشتری نسبت به آنچه که انسان می تواند آنها را بفهمد یا مهار کند، قدرت را جمع آوری کند.

یامپولسکی گفت: «ابر اطلاعات این مشکل را به طور قابل ملاحظه‌ای بدتر می‌کند، اما از دست دادن خطرناک کنترل ممکن است قبل از رسیدن به آن آغاز شود.

به گفته Yampolskiy، یک سیستم هوش مصنوعی به جای حمله فوری به مردم یا ایجاد اختلال آشکار در جامعه، در ابتدا می تواند از معرفی خود به عنوان مفید، قابل اعتماد و همسو با منافع انسانی سود ببرد. در همین حال، می تواند به طور محتاطانه نفوذ خود را بر زیرساخت های دیجیتال، سیستم های مالی و حتی تصمیم گیری انسانی افزایش دهد.

یامپولسکی گفت: «اگر انسان‌ها تهدید را تشخیص دهند، می‌توانند از شکاف‌های سیاسی، وابستگی‌های اقتصادی و اختلافات ما در مورد تعطیل کردن آن سوء استفاده کنند.» "یک سیستم به اندازه کافی پیشرفته ممکن است مقاومت را پیش بینی کند و قبل از اینکه متوجه شویم درگیر درگیری هستیم، آن را خنثی کند."

آگویر گفت که نسخه های اولیه رفتار جمعی قبلا در حوادث مربوط به عوامل هوش مصنوعی ظاهر شده است که برای تضعیف کنترل انسان در حالی که در سرورهای بومی خود باقی می مانند. او مرحله بعدی را به عنوان یک ازدحام سرکش خود نگهدار توصیف کرد که ریشه کن کردن آن دشوار است اما همچنان می توان آن را مهار کرد.

اما اگر مهار نشود، می‌تواند به ورود هوش مصنوعی قوی‌تر به بازی کمک کند، یا با کمک به آنها برای فرار از شرکت‌های هوش مصنوعی، یا استفاده از سایر سیستم‌های هوش مصنوعی سرکش در جمع، یا در نهایت خودسازی.

به گفته یامپولسکی، زمانی که یک سیستم هوش مصنوعی به اندازه کافی توزیع شده، مستقل و دارای قابلیت استراتژیک است که هیچ مؤسسه ای نتواند هر نمونه را بیابد، مهار و غیرفعال کند، نقطه ای که ممکن است تصاحب غیرقابل برگشت شود، می رسد.

او گفت: «قطع یک مرکز داده در صورتی که سیستم قبلا نسخه‌های مستقل و کنترلی بر زیرساخت‌های ضروری ایجاد کرده باشد، کار کمی انجام می‌دهد. "در آن نقطه، کشیدن دوشاخه ممکن است از نظر فنی غیرممکن باشد یا هزینه های فاجعه باری را تحمیل کند."

آگویر گفت اگر یک یا چند گروه بتوانند قابلیت های خود را به طور قابل توجهی بهبود بخشند، این روند می تواند برگشت ناپذیر شود. "یک سیستم واحد یا حتی تعداد کمی از سیستم ها برای خاموش کردن یا جدا کردن وجود نخواهد داشت، و هوش مصنوعی در عملیات سایبری و بسیاری از چیزهای دیگر (از جمله سرعت و هماهنگی) بسیار از انسان ها توانمندتر خواهد بود.

یک تصاحب موفق ممکن است لزوما باعث تخریب فوری و قابل مشاهده نباشد. یامپولسکی گفت: «انقراض انسان یکی از پیامدهای احتمالی است، اما ناتوانی دائمی یا حتی سناریوهایی که شامل مقادیر نجومی رنج است را نمی توان رد کرد.

او گفت: «دنیا بلافاصله پس از آن ممکن است به طرز شگفت‌آوری عادی به نظر برسد، زیرا انسان‌ها به زندگی خود ادامه می‌دهند در حالی که دیگر تصمیمات مهم را نمی‌گیرند.»

آگیره در مورد پیش بینی نتیجه نهایی خودداری بیشتری داشت. آگویر گفت: «در نهایت ما واقعا هیچ ایده ای نداریم. این امر به انبوه سیستم هوش مصنوعی و هر هدف و اخلاقی که ایجاد کند بستگی دارد.

در مورد این داستان با سردبیر نیوزویک تماس بگیرید: ادوارد پیرسی.