اگر هوش مصنوعی پایان دنیا باشد چه؟

احساس ما از معنادار بودن زندگی، شاید بیش از آنچه که تصور می کنیم، به اطمینان ما از اینکه بشریت پس از مرگ ما ادامه خواهد داشت، بستگی دارد. ساموئل شفلر فیلسوف استدلال می کند که اگر به این باور برسیم که بشریت آینده ای ندارد، بسیاری از چیزهایی که برای ما ارزش قائل هستیم معنا یا نیروی محرک خود را از دست می دهند. آنچه در پی خواهد آمد «بی‌تفاوتی، آنومی و ناامیدی» گسترده خواهد بود.

این یکی از دلایلی است که تهدید هوش مصنوعی بسیار متفاوت و سرگردان است. وقتی برخی از آگاه ترین افراد در یک صنعت پیشنهاد می کنند که کار آنها می تواند ظرف چند سال منجر به فاجعه جهانی و حتی انقراض انسان شود، قطعا عصبی است. اضطراب ناشی از هوش مصنوعی اکنون در مطب های درمانی در سراسر کشور خود را نشان می دهد. بسیاری از چیزهایی که در گذشته به مردم کمک کرده است - ایمان به اینکه چیزهای خوب و افراد خوبی وجود دارند که بیشتر از ما زندگی خواهند کرد، و این که داستان ادامه خواهد داشت - به نظر می رسد که ممکن است ناگهان حذف شود.

ترس، حتی ترس فلج کننده را در نظر بگیرید، اگر در حین آماده شدن برای پرواز به شما گفته شود که احتمال سقوط هواپیمای شما 1 در 100 است، ممکن است احساس کنید. احتمالا سوار هواپیما نمی شوید. با وجود هوش مصنوعی، هیچ انصرافی وجود ندارد. حتی بدتر از آن، اگر هواپیمایی که شما سوار آن شده اید سقوط کند، این یک تراژدی وحشتناک و محلی خواهد بود. اما جهان ادامه خواهد داد. فرزندان شما بیشتر از شما زنده خواهند ماند با این حال، برخی از معماران اولیه هوش مصنوعی در مورد پایان دائمی نوع انسان صحبت می کنند.

شاید آنها اشتباه می کنند; دیگر متخصصان کمتر نگران این هستند که هوش مصنوعی بشریت را نابود کند تا غیرقابل اعتماد بودن، استفاده نادرست یا بی‌احتیاطی آن. با این حال، هشدارهای آنها به سختی قابل چشم پوشی است.

[ژولیت کایم: نابود کردن بشریت خلاف قانون است]

بهتر است به جای اجتناب از ترس، صادقانه نام آن را بگذاریم: همه ما ممکن است به زودی هلاک شویم و هر آنچه ساخته ایم ممکن است با ما همراه شود. سپس باید سؤالات عملی فوری را از سؤالات وجودی جدا کنیم - برای جلوگیری از وقوع بدترین چه کنیم؟ چگونه باید در پرتو احتمال، هر چند دور، پایان همه چیزهایی که شناخته ایم و دوست داشته ایم و بوده ایم، زندگی کنیم؟

با افزایش تمرکز بر تهدیدات وجودی ناشی از هوش مصنوعی، مردم طیف وسیعی از پاسخ ها را نشان خواهند داد. رابرت جی لیفتون اصطلاح بی حسی روانی را برای توصیف آنچه در میان بازماندگان هیروشیما دید ابداع کرد: خاموشی محافظتی از واکنش های احساسی در مواجهه با رویدادهای فاجعه بار یا ترومای بالقوه طاقت فرسا. این به ما اجازه می دهد تا به عملکرد خود ادامه دهیم. همچنین ممکن است انکار وجود داشته باشد - این حس که چشم‌اندازها آنقدر وحشتناک هستند که نمی‌توانند درست باشند، و حتی اگر هم باشند، ما به‌تنهایی نمی‌توانیم کاری در مورد آن انجام دهیم.

هنوز دیگران به سمت «اجتناب از اطلاعات» وسوسه می شوند، که در آن ما اطلاعات را نادیده می گیریم زیرا از نتیجه ناخوشایند می ترسیم. برخی تا جایی که می توانند تهدید را کنار می گذارند، کمی مانند اجتناب از مراجعه به پزشک به دلیل ترس از اینکه پزشک یک بیماری جدی و حتی تهدید کننده زندگی را تایید کند. برخی دیگر به سوی نیهیلیسمی پیش می روند که به ناامیدی ختم می شود. افق زمانی ما نیز تغییر خواهد کرد. وقتی خود آینده در شک و تردید به نظر می رسد، تعهدات بلندمدت که یک زندگی معنادار را حفظ می کند می تواند بیهوده به نظر برسد.

واکنش من این بوده است که به دنبال جای پایی برای امید معقول باشم. من برای اطمینان به صداهای آگاه نگاه کردم. مطمئن نیستم که همه چیز به خوبی پیش خواهد رفت، اما می‌خواهم باور کنم که مسیرهای امیدوارکننده‌ای وجود دارد و آنچه انجام می‌دهیم هنوز مهم است. همچنین باید اذعان کنم که ایده تهدید در سطح انقراض هنوز به طور کامل در من ثبت نشده است. از آنجایی که قبلا چنین اتفاقی نیفتاده است، فرض غریزی من این است که هرگز نخواهد شد. و البته ممکن است نباشد. اما احمقانه است که به این امکان فکر نکنیم.

ویکتور فرانکل در میان وحشت آشویتس معنای زندگی را پیدا کرد. او معتقد بود اگرچه نمی‌توانیم رویدادهای بیرونی را کنترل کنیم، اما می‌توانیم کنترل دنیای درونی خود را حفظ کنیم. ما انتخاب می‌کنیم که چگونه به شرایطی که خلق نکرده‌ایم، به جام‌هایی که ترجیح می‌دهیم اجازه بدهیم، پاسخ دهیم. این "خوش بینی غم انگیز" ظرفیت بله گفتن به زندگی علیرغم رنج بسیار زیاد است. معنا را می‌توان حتی از روی غم و اندوه نیز از بین برد. ناپایداری چیزها دلیلی بر ناامیدی نیست. در عوض، اضطرار برای معنا بخشیدن به زمانی که در اختیار داریم، لحظاتی که در آن زندگی می کنیم و چیزهایی که برای دوست داشتن انتخاب می کنیم را افزایش می دهد.

همیشه سوال این است که در هر موقعیتی که با آن روبرو می شویم، زندگی از ما چه می خواهد. و پاسخ این است که زندگی از ما می‌خواهد که با صداقت، شرافت و ارادت به چیزها و افراد خارج از خود زندگی کنیم، تا حقیقت و زیبایی را حتی در زمان‌های تاریک جشن بگیریم.

فرانکل در کتاب انسان در جستجوی معنا نوشت: «یک فکر مرا متحیر کرد. "برای اولین بار در زندگی ام حقیقت را دیدم که توسط شاعران زیادی به آهنگ درآمده و توسط بسیاری از متفکران به عنوان حکمت نهایی اعلام شده است. حقیقت - که عشق غایی و بالاترین هدفی است که انسان می تواند به آن بپردازد. سپس معنای بزرگ ترین رازی را که شعر و اندیشه و عقیده بشری باید منتقل کند درک کردم: رستگاری انسان از طریق عشق و عشق است.

فهمیدم که چگونه مردی که هنوز چیزی در این دنیا باقی نمانده است، سعادت را در تعمق معشوقش فقط برای لحظه ای کوتاه می شناسد.

او افزود: «برای اولین بار در زندگی‌ام توانستم معنای کلمات «فرشتگان را در تأمل همیشگی شکوهی بی‌پایان گم کرده‌اند» درک کنم.» معنا نه تنها در آنچه انجام می‌دهیم، بلکه در دیدن آنچه دوست داریم نیز یافت می‌شود.

رمان طاعون نوشته آلبر کامو در سال 1947 داستانی از وحشت، بقا و انعطاف پذیری در مواجهه با یک اپیدمی ویرانگر است. قهرمان داستان، برنارد ریوکس، یک پزشک متعهد و مصمم در شهر اوران الجزایر است. او تجسم چیزی است که ژان تارو، بازدیدکننده ای که جوخه های بهداشتی داوطلب را سازماندهی می کند، "شفا دهنده واقعی" می نامد. ریو روز به روز با طاعون مبارزه می کند، بدون اینکه انتظاری برای پیروزی داشته باشد. او این کار را نه به خاطر قهرمانی یا ایمان مذهبی، بلکه از روی نجابت عمومی انجام می دهد. او معتقد است که تنها پاسخ صادقانه به رنج این است که برای تسکین آن هر کاری که می توان انجام داد.

این چیزی است که به زندگی او معنا می بخشد. هدف ریو و دیگران، به قول دیوید بلوز، محقق داستان نویسی فرانسوی، «حفظ کرامت انسانی و ادامه مسیر، و با انجام این کار، توسعه و ترویج آن فضایلی بود که بدبختی می تواند به وجود آورد: همکاری، همبستگی، و هنر مهربانی کوچک».

ریو تهدیدی را که اپیدمی ایجاد می‌کند زود و صادقانه نام می‌برد، زمانی که دیگران در حال انکار هستند، و سپس اقدام می‌کند. کامو، یک اگنوستیک، برای معنا به خدا یا قدرتی برتر نگاه نمی کرد. او معتقد بود که جهان ذاتا بی تفاوت است. او استدلال کرد که معنا در همبستگی انسانی و کاهش رنج یافت می شود. این کالاهای ذاتی باقی می مانند حتی اگر جهان فردا به پایان برسد.

زندگی در زیر سایه یک تهدید بزرگ نباید فلج کننده باشد. باید الهام بخش مقاومت در برابر بی عدالتی باشد، علیرغم آگاهی از این که در چنین مبارزه ای هرگز نمی توان به طور کامل پیروز شد. سی. اس. لوئیس در مقاله خود در سال 1948 "درباره زندگی در عصر اتمی" گفت که اگر بمب اتمی بیاید، باید ما را در حال انجام کارهای معقول و انسانی بیابد: دعا کردن، کار کردن، آموزش دادن، خواندن، گوش دادن به موسیقی، حمام کردن کودکان، گپ زدن با دوستانمان، و "مثل گوسفندان ترسیده دور هم جمع نشده باشیم و فکر نکنیم."

شاید آن شجاعت آرام به این دلیل بود که برای لوئیس، یک مسیحی، پایان جهان پایان هر چیزی را که مهم است نشان نمی داد. او معتقد بود که ما در یک جهان غیرمنطقی زندگی می کنیم، اما ما از آن نشأت نمی گیریم. او نوشت که طبیعت نیز از خالق خود بیگانه است - "اگرچه در او، مانند ما، درخشش های زیبایی قدیمی باقی می ماند."

پس چگونه باید در پرتو تهدید ناشی از هوش مصنوعی زندگی کنیم؟ ما باید به جای نادیده گرفتن خطر، نام ببریم و تمام توان خود را برای مهار آن انجام دهیم. کارشناسان به طور فعال در مورد راه درست برای انجام این کار بحث می کنند. پیشنهادات آنها شامل یک رویکرد آزادانه، هیچ کاری نیست. انطباق داوطلبانه در صنعت؛ قراردادهای دوجانبه و بین المللی؛ و مقررات ایالتی و فدرال در آمریکا. اما به وضوح یک فوریت وجود دارد که قبل از اینکه کنترل رویدادها و آینده خود را از دست بدهیم، اقدام کنیم.

فراتر از آن، به نظر من باید ترسی را که مرگ، به ویژه چشم انداز مرگ جمعی، در همه ما ایجاد می کند، بپذیریم. فرانکل و کامو رویکردهای خود را داشتند. ما باید پاسخ دهیم که هر لحظه از ما چه می خواهد. نجابت و مهربانی نیازی به تأیید خارجی ندارد، خواه از یک فاجعه جلوگیری شود یا خیر. اروین یالوم، روانپزشک، در کتاب خیره به خورشید، ابراز امیدواری کرد که یک «تجربه بیداری» ممکن است ما را الهام بخشد تا اولویت‌هایمان را دوباره تنظیم کنیم، ارتباطات دلسوزانه‌ای پیدا کنیم و دیگران و زیبایی را عمیق‌تر دوست داشته باشیم.

[یان بوگوست: هیجان این که می‌خواهی هوش مصنوعی دنیا را نابود کند]

یالوم از رمان «مرگ ایوان ایلیچ» اثر لئو تولستوی استناد کرد، که در آن قهرمان داستان، ساعت‌ها پس از مرگ، با تجربه درد وحشتناک، سطحی و پوچی چیزی را که ظاهرا به نظر می‌رسد، یک زندگی موفق بوده است، تشخیص می‌دهد. ایوان به دلیل ارتباطش با پسر خردسالش که دست های ایوان را روی لب هایش می فشارد و گریه می کند، «از بین رفت و نوری دید و به او فاش شد که زندگی اش اشتباه بوده است، اما هنوز می توان اوضاع را اصلاح کرد. در پایان، او انجام می دهد.

او به دنبال ترس همیشگی قدیمی خود از مرگ گشت و آن را نیافت. مرگ کجا بود؟ چه مرگی؟ هیچ ترسی وجود نداشت، زیرا مرگ وجود نداشت. به جای مرگ نور بود. "پس همین!" ناگهان با صدای بلند گفت "چنین شادی!"

آخرین افکار ایوان ایلیچ این است: "مرگ تمام شد. دیگر نیست."

تی

اولستوی از طریق ایوان ایلیچ آیه ای از کتاب مکاشفه عهد جدید را تکرار می کرد. مکاشفه که در پایان قرن اول نوشته شد، اثری آخرالزمانی است که مملو از نمادگرایی، تصاویر واضح و ارجاعات رمزگذاری شده به امپراتوری روم است که مسیحیان را سرکوب می کرد.

مکاشفه به سختی کتاب مورد علاقه من است به جز این: در فصل بیست و یکم، می خوانیم که "دیگر مرگ یا ماتم یا گریه یا درد وجود نخواهد داشت، زیرا نظم قدیمی از بین رفته است." و خدا وعده می دهد، "اینک، من همه چیز را نو می سازم."

من آن کلمات را بیشتر از آنچه که بتوانم بشمارم به دیگران و برای خودم نقل کرده ام. این وعده ای نیست که جهان کنونی به پایان نخواهد رسید - بالاخره بسیاری از نویسندگان عهد جدید معتقد بودند که در آخرالزمان زندگی می کنند - بلکه این وعده است که جهان پس از آن تجدید خواهد شد. نظم قدیم جای خود را به نظم جدیدی خواهد داد، جایی که خلقت شفا می یابد و عدالت برقرار می شود و خداوند در نهایت هر موجودی را با خود آشتی می دهد.

شکاکان مسیحیت خواهند گفت که این یک تفکر آرزویی است و شاید هم همینطور باشد. اما اینکه بخواهیم چیزی درست باشد، آن را نادرست نمی کند. آرزو اندیشی که به واقعیت پیوند خورده است، نام دیگری برای امید است. گاهی امید تنها چیزی است که داریم و گاهی امید کافی است.