نگران آخرالزمان هوش مصنوعی هستید؟ در اینجا نحوه تفکر در مورد خطر عذاب آورده شده است

احتمالا هوش مصنوعی برای شما نمی آید و احتمالا به این شکل نخواهد بود

شانس اینکه هوش مصنوعی بتواند بشریت را نابود کند چقدر است؟ تا همین اواخر، این سوالی نبود که بیشتر مردم نگران آن باشند، اما در هفته های اخیر، این بحث به جریان اصلی راه پیدا کرده است. ممکن است سرفصل هایی را دیده باشید که می گویند بیش از 10 درصد احتمال دارد که هوش مصنوعی بتواند همه انسان ها را بکشد، اما واقعا این به چه معناست؟

پاسخ صادقانه این است: بسیار کم. هیچ کس نمی تواند یک احتمال علمی معنادار از یک آخرالزمان هوش مصنوعی - چیزی که افراد در محافل هوش مصنوعی به آن p(doom) می گویند - ارائه دهد، زیرا این یک سوال علمی نیست. این با این واقعیت نشان داده می شود که مفسران برجسته در این زمینه اعدادی را برای p(doom) از 0 تا بیش از 95 درصد می دهند - پوشش طیف احتمال کامل چیزی به ما نمی گوید.

آیا این بدان معناست که نباید نگران تسلط هوش مصنوعی دنیا باشید؟ من نمی توانم به این سوال پاسخ دهم، زیرا به عددی بستگی دارد که ما هیچ راه منطقی برای استخراج نداریم. کاری که من می توانم انجام دهم این است که آن را با سناریوهای دیگر مقایسه کنم. بیایید با یک مورد آسان شروع کنیم: شانس باخت شما در قرعه کشی چقدر است؟

اول، مانند هر سوال احتمال، ما باید برخی از فرضیات را انجام دهیم. من فرض می کنم که شما در واقع یک بلیط خریده اید و در حال بازی در لاتاری ملی انگلستان هستید. شانس برنده شدن هر جایزه، از بازی رایگان تا جکپات، حدود 1 در 4.9 یا 20.4 درصد است. این بدان معناست که احتمال باخت شما 79.6 درصد است، که بخت‌آزمایی به این ترتیب پول می‌آورد – اکثر بازیکنان بازنده می‌شوند.

بیایید به چیز جدی‌تری برویم: احتمال مرگ در تصادف جاده‌ای چقدر است؟ طبق گزارش سازمان جهانی بهداشت، سالانه کمی بیش از 1 میلیون نفر در تصادفات جاده ای جان خود را از دست می دهند، بنابراین احتمال وقوع این اتفاق برای شما حدود 1 میلیون تقسیم بر 8 میلیارد یا تقریبا 0.01 درصد است.

که البته اشتباه است. شانس برای شما شخصا به فاکتورهای زیادی بستگی دارد، از جمله محل زندگی شما - سازمان جهانی بهداشت می گوید: "بیش از 90 درصد مرگ و میرهای ناشی از تصادفات جاده ای در کشورهای با درآمد کم و متوسط ​​رخ می دهد"، اما ما می توانیم از این رقم به عنوان نقطه مقابل استفاده کنیم. آنچه مهم است این است که شانس آنقدر کم است که ما دائما نگران آن نباشیم، اما به اندازه‌ای زیاد است که برخی اقدامات احتیاطی را برای کاهش این احتمال انجام دهیم، از بستن کمربند ایمنی گرفته تا نگاه کردن به دو طرف هنگام عبور از جاده.

طیف ریسک

این مثال‌ها درباره خطرات فردی هستند، اما یک آخرالزمان هوش مصنوعی برای همه ما اتفاق می‌افتد. تغییرات آب و هوایی را در نظر بگیرید، شاید مهم ترین خطر جهانی. این یک تهدید بسیار پیچیده تر است که به چند دلیل می توان به آن احتمال داد. برخلاف از دست دادن بخت آزمایی یا کشته شدن در تصادف جاده ای، تغییرات آب و هوا یک نتیجه دوتایی نیست، بلکه تداوم گرمایش بالاتر از سطوح ماقبل صنعتی است. همچنین نمی توان آن را از روی آمارهای شناخته شده محاسبه کرد، زیرا ما فقط یک جهان داریم و نتیجه آن در آینده است.

در نهایت، میزان گرمایش جهانی که در سال 2100 تجربه خواهیم کرد، بستگی به این دارد که از الان تا آن زمان چه کاری انجام می دهیم.

با این حال، هیچ کدام از اینها به این معنی نیست که ما نمی توانیم خطر را از نظر علمی ارزیابی کنیم. با استفاده از مدل‌های اقلیمی آزمایش‌شده گسترده، می‌توانیم «جهان‌های موازی» زیادی تولید کنیم تا آماری را محاسبه کنیم که به ما نشان می‌دهد چگونه سیاست‌های مختلف آب و هوایی احتمالا به نتایج متفاوتی منجر می‌شوند.

بر اساس آخرین گزارش برنامه محیط زیست سازمان ملل متحد درباره شکاف انتشار گازهای گلخانه ای که سال گذشته منتشر شد، بر اساس سیاست های فعلی، 100 درصد احتمال گرم شدن بیش از 1.5 درجه سانتی گراد در قرن حاضر، 92 درصد احتمال بیش از 2 درجه سانتی گراد و 20 درصد احتمال بیش از 3 درجه سانتی گراد وجود دارد. این ارقام همچنین با نوارهای خطا همراه هستند، اما به طور کلی تصویری از جایی که ما در حال حرکت هستیم به شما ارائه می دهد. بر اساس قوی‌ترین مفروضات اقدام آب و هوایی، احتمال فراتر رفتن از 1.5 درجه سانتی‌گراد، 2 درجه سانتی‌گراد و 3 درجه سانتی‌گراد به ترتیب به 79 درصد، 22 درصد و 0 درصد کاهش می‌یابد. واضح است که این اقدامات ارزش انجام دادن دارند.

با این حال، تغییرات آب و هوا در مقایسه با هوش مصنوعی که به طور ناگهانی جهان را از بین می برد، خطر نسبتا کندی است. مقایسه بهتر ممکن است برخورد یک سیارک باشد. ما می دانیم که آخرالزمان سیارکی ممکن است رخ دهد - فقط از دایناسورها بپرسید - اما خطرات آن چیست؟ برای درک این موضوع، باید چند چیز را بدانیم: تعداد سیارک‌ها، احتمال برخورد با زمین و آسیبی که می‌تواند ایجاد کند.

خوشبختانه، این اعداد همه به خوبی کمیت شده اند. همانطور که ممکن است انتظار داشته باشید، سیارک های بزرگتر هم راحت تر قابل تشخیص هستند و هم مرگبارتر. به گفته ناسا، ما بیش از 90 درصد از تمام سیارک‌ها را با عرض بالای 1 کیلومتر پیدا کرده‌ایم (اگر می‌خواهید بدانید چگونه می‌توانیم مطمئن شویم، این روش را قبلا در اینجا توضیح دادم).

علاوه بر این، ما می‌توانیم موقعیت‌های آینده آن‌ها را با دقت بالا پیش‌بینی کنیم، بنابراین می‌دانیم که احتمال برخورد یک نفر با زمین در قرن آینده وجود ندارد یا بسیار کم است. Chicxulub، سیارکی که دایناسورها را از بین برد، حدود 10 کیلومتر عرض داشت، بنابراین این واقعیت که ما اساسا از هر چیزی با بزرگی کوچکتر و بالاتر در امان هستیم، خبر خوبی است. آخرین برآوردها حاکی از آن است که برخورد جسمی به اندازه 1 کیلومتر یا بزرگتر فقط هر 600000 سال یا بیشتر یک بار اتفاق می افتد.

این بدان معنا نیست که ما کاملا از سیارک ها در امان هستیم، زیرا سیارک های کوچکتر بسیار بیشتری وجود دارد و بنابراین احتمال برخورد آنها بیشتر است. یک آستانه مهم اندازه 140 متر است که اغلب به آن "قاتل شهر" می گویند. ما همه اینها را پیدا نکرده‌ایم، اما در حال کار روی آن هستیم، و آخرین تخمین‌ها حاکی از آن است که سیارک‌هایی با این اندازه هر 20000 سال یکبار برخورد می‌کنند.

یک آخرالزمان بی نظیر

به نوعی، سیارک‌ها آرامش‌بخش هستند، زیرا می‌توانیم آمدن آنها را ببینیم، اما در مورد تهدید یک ویروس کشنده چطور؟ همانطور که همه ما به خوبی از تجربیات خود در مورد بیماری همه گیر کووید-19 می دانیم، ویروسی که در سرتاسر جهان پخش می شود این پتانسیل را دارد که از ناکجاآباد ظاهر شود و زندگی را همانطور که می شناسیم بهم بریزد. اما آیا می توانیم شانس وقوع این اتفاق را از نظر علمی پیش بینی کنیم؟

با نگاهی به آمار، تقریبا در قرن گذشته، بزرگ‌ترین همه‌گیری آنفولانزای 1918 بود که حدود 50 میلیون نفر را کشت. همه گیری HIV که در دهه 1980 آغاز شد و هنوز ادامه دارد، بیش از 40 میلیون نفر را کشته است. تخمین ها برای مرگ و میر ناشی از کووید-19 بسته به نحوه شمارش ارقام متفاوت است، اما WHO رقمی را بیش از 7 میلیون گزارش می دهد. دیگر همه‌گیری‌های آنفولانزا و همه‌گیری‌های بیماری‌های عفونی منطقه‌ای، تعداد کمتری از مردم، از صدها تا هزاران تا میلیون‌ها نفر را کشته‌اند.

به عبارت دیگر، باید انتظار داشته باشیم که شدیدترین وقایع کمتر اتفاق بیفتند و حوادث کمتر شدیدتر اتفاق بیفتد. این دقیقا همان الگوی خطر سیارک است. برخلاف سیارک‌ها، مشاهده همه‌گیری‌ها قبل از برخورد بسیار سخت‌تر است، بنابراین تخمین خطر آنها بیشتر شبیه تغییرات آب و هوایی است و از مدل‌هایی برای بررسی طیفی از سناریوها استفاده می‌کند. در حالی که تخمین ها متفاوت است، یک رقم پذیرفته شده به طور کلی این است که هر سال 2 تا 3 درصد احتمال ابتلا به یک بیماری همه گیر در سطح کووید-19 وجود دارد، به این معنی که باید هر 33 تا 50 سال یک مورد را انتظار داشته باشیم.

آنچه من امیدوارم نشان داده ام این است که تخمین احتمال یک آخرالزمان هوش مصنوعی شبیه هیچ یک از سناریوهای دیگری که در مورد آن صحبت کردم، نیست. چه قرعه کشی، یک تصادف مرگبار ترافیکی یا برخورد یک سیارک باشد، می توانیم آمار و استدلال علمی را برای پاسخ به این سوال به کار ببریم. برای p(doom)، هیچ چارچوب علمی وجود ندارد.

کجا ما را رها می کند؟ در سطح فردی، باید از گوش دادن به اعداد و ارقام دست بکشید تا زمانی که پشتوانه جدی داشته باشند - چیزی که محققان هوش مصنوعی باید روی ساختن آن کار کنند، نه اینکه صرفا پیشگویی کنند. برای سیاست گذاران - که باید به طور ایده آل برای همه سناریوهایی که می تواند منجر به آسیب شود، برنامه ریزی کنند، حتی در مواجهه با عدم قطعیت - من پیشنهاد می کنم مقررات را در نظر بگیرند، اما برای اقدام عجله نکنند.

با این حال، در نهایت، درک ریسک شما به ترجیحات شخصی بستگی دارد. به عنوان مثال، من با جنسن هوانگ، رئیس انویدیا مخالفم، که اخیرا گفت: احتمال 0 درصد یک آخرالزمان هوش مصنوعی تا سال 2030 وجود دارد. من این رقم را به احتمال زیاد کوچک، اما بزرگتر از صفر می‌دانم، فقط به این دلیل که فکر نمی‌کنم توسط قوانین فیزیک منتفی باشد. فراتر از آن، نمی‌توانم چیزی قوی‌تر بگویم – اما در مقایسه با خطراتی مانند تغییرات آب و هوایی یا همه‌گیری جهانی بعدی، این چیزی نیست که من را در شب بیدار نگه دارد.