اگر هوش مصنوعی تا سال 2030 «10 درصد احتمال» دارد که همه ما را بکشد، آیا باید در حقوق بازنشستگی سرمایه‌گذاری کنم؟

گزارش‌های سیلیکون ولی در این ماه درباره احتمال نابودی بشر توسط هوش مصنوعی (AI) تا سال 2030 کافی است تا یک شکاف قلک را باز کند و وحشی شود. چرا در حالی که بیش از 10 درصد احتمال کشته شدن همه انسان ها تا زمان برگزاری جام جهانی بعدی وجود دارد، روی حقوق بازنشستگی سرمایه گذاری کنید؟

این پیش‌بینی خاص توسط یک محقق «افشاگر» در شرکت فناوری Anthropic انجام شد. رئیس شرکت، داریو آمودی، به دور از کم‌اهمیت جلوه دادن این پیش‌گویی، بعدا هشدار داد که یک گروه هوش مصنوعی می‌تواند ظرف یک سال «کل اینترنت» را تصاحب کند. و در یک نمایش نادر از اتحاد میان ابرخودروهای پول‌گیر، ایلان ماسک و سم آلتمن - که مسئول چت‌بات‌های Grok و ChatGPT هستند - از فراخوان‌هایی برای "کم کردن سرعت" توسعه هوش مصنوعی حمایت کردند.

چه خبر است؟ و شهروندان عادی مانند من و شما چگونه باید به این شیوع در حالات نابودگر هوش مصنوعی واکنش نشان دهند؟ از آنجایی که چشم‌انداز این است که ربات‌ها از طریق دستگاه‌هایمان ما را تا حد مرگ لیزر کنند، ترسناک‌تر است، اما آنچه بلافاصله وحشتناک‌تر است این است که فردی مانند ماسک خود را به عنوان چهره مسئول توسعه هوش مصنوعی قرار دهد. یا در واقع آلتمن، که الیور کالان به درستی در برنامه رادیویی RTÉ خود به عنوان «یکی دیگر که پشت چشم مرده است» توصیف کرد.

برای درک همه چیز، Unthinkable به Carissa Véliz مراجعه کرد، که آینده نگری را داشت تا اخیرا کتابی در مورد همین موضوع بنویسد - Prophecy: Prediction, Power, and the Fight for the Future, from Ancient Oracles تا AI (Swift Press).

در سال 2023، یک گروه 9 نفره از «پیش‌بینی‌کنندگان متخصص» گفتند که احتمال 30.5 درصد وجود دارد که یک فاجعه هوش مصنوعی تا سال 2200 بیشتر بشریت را بکشد. اما مطالعه دیگری که شامل 89 «ابر پیش‌بینی‌کننده» بود - افرادی که پیش‌بینی‌های بهتر از حد متوسط ​​داشتند - و دیگر کارشناسان به نظر من بسیار پایین‌تر بود. آنها احتمال 2.1 درصد یک فاجعه ناشی از هوش مصنوعی که حداقل 10 درصد از جمعیت را می کشد، و 0.38 درصد احتمال انقراض ناشی از هوش مصنوعی را تا پایان قرن برآورد کردند.

ولیز می نویسد: «ارزیابی خود من این است که ابر پیش بینی ها احتمالا به یک پیش بینی دقیق نزدیک تر هستند. "اما نکته اینجاست: پیش‌بینی‌ها در همه جا وجود دارند، زیرا ما ناشناخته هستیم، که نشان می‌دهد این پیش‌بینی‌ها چیز زیادی درباره جهان نمی‌گویند." او این هفته در صحبت با ایریش تایمز، تردید خود را در مورد هوش مصنوعی آرماگدون دوچندان کرد. ولیز، دانشیار فلسفه در مؤسسه اخلاق هوش مصنوعی دانشگاه آکسفورد، می گوید اولین چیزی که در مورد پیش بینی ها باید به خاطر بسپارید این است که آنها حدس و گمان هستند، نه واقعیت.

دومین چیزی که باید به خاطر بسپاریم این است که پیش‌بینی‌ها «آرزو» هستند – آنچه ما می‌خواهیم بر دیدگاه ما تأثیر می‌گذارد.

او می‌گوید برخی از افراد نسبت به دیگران اشتهای بیشتری برای ریسک دارند. اما این به طور کامل توضیح نمی دهد که چرا برخی از افراد خطرات هوش مصنوعی را کم اهمیت می دانند، در حالی که دیگران آنها را به خطر می اندازند.

او می‌گوید: «من گمان می‌کنم دلایل بی‌شماری وجود دارد که چرا برخی افراد احتمال خطر وجودی را جدی‌تر از دیگران می‌پذیرند... هوش عاطفی، دیدگاه تاریخی، و داشتن ایده‌ای – یا نداشتن – از محدودیت‌های پیش‌بینی، عوامل مهمی به نظر می‌رسند.

"بسیاری از آنها حتی نمی توانند هوش مصنوعی را تلفظ کنند": بحث انقراض فناوری آمریکا را دچار تشنج می کند

"همچنین این سوال وجود دارد که آیا مردم به آنچه که می گویند باور دارند یا خیر. برای برخی، این ممکن است حداقل تا حدی یک استراتژی بازاریابی باشد. و بله، به نظر می رسد تفاوت در تمایل به ریسک نیز در این امر موثر باشد.

اما ذکر این نکته ضروری است که اولا، بسیاری از مدیران فناوری که تصمیم می‌گیرند ممکن است فکر کنند که با ثروت و پناهگاه‌هایشان بیشتر از آنچه که هستند در مقابل ریسک مصون هستند. ویلیز از مردم می خواهد که نسبت به شرکت های فناوری که «مدیریت ریسک را می فروشند در حالی که ریسک سیستمی را افزایش می دهند» احتیاط کنند. بنابراین آیا پیش‌بینی‌های محکوم‌کننده بیشتر مضر هستند تا مفید؟

"بله، من فکر می‌کنم این پیش‌بینی‌ها - به‌طور دقیق‌تر، توجه مردم به آن‌ها، و وحشت از آنها - خطر را افزایش می‌دهد. محیط ترس معمولا منجر به خطرات بالاتری می‌شود. مردم ممکن است فلج شوند یا بخواهند در ازای وعده امنیت، قدرت بیشتری را به کسانی بسپارند که لیاقت آن را ندارند."

او در یک پست این هفته در وب سایت Substack خود، توضیح بیشتری داد. «پیامبران دیدگاه خود را نسبت به آینده بر شما تحمیل می کنند». اما "آینده پیش بینی نمی شود - تولید می شود".

در حالی که ما با تکنولوژی جدید خیره شده ایم، ولیز می گوید "بزرگترین اختراع بشریت اجتماعی و سیاسی است" - و مهمترین آنها دموکراسی است.

آیا هوش مصنوعی همه ما را خواهد کشت؟

برخی از روسای هوش مصنوعی فکر می کنند ما خوشحال خواهیم شد که از حقوق دموکراتیک خود برای آخرین به روز رسانی ربات چت چشم پوشی کنیم - آلتمن چشم اندازهای جوامع آینده را ارائه کرده است که در آن انسان ها از ابزارهای هوش مصنوعی خصوصی که توسط ارزهای رمزنگاری شده پشتیبانی می شوند پشتیبانی می کنند. فناوری‌های بزرگ با تعجب مواجه هستند – این پیش‌بینی من است – زیرا، به طرز عجیبی، مردم دموکراسی را بیشتر از گوشی‌های هوشمند خود دوست دارند.

ویلیز در کتاب خود خاطرنشان می کند که کمدی می تواند "متحد ما در چالش ما برای سرپیچی از شانس" شگفت انگیز باشد. چرا؟ زیرا "کمدی لحن آزادی را تعیین می کند".

بنابراین نسبت به پیش بینی های اخیر هوش مصنوعی ناامید نشوید. جبرگرا نباشید از جهاتی خبر خوبی است: احتمال وجود انسان تا سال 2030 تقریبا 90 درصد است. از آن نهایت استفاده را ببرید.