«P(doom)» فقط انبوهی از علم است

چندین خودی صنعت هوش مصنوعی در هفته گذشته هشدار داده اند (خیلی علنی) که همان فناوری که آنها در حرفه خود صرف ساختن آن کرده اند احتمالا عامل انقراض ما است. ایوان هابینگر، سرپرست تحقیقات همسویی در Anthropic، تا آنجا پیش رفت که سطح خطر را کمیت کرد: در یک پست X سه شنبه گذشته، او با اطمینان اعلام کرد که احتمال اینکه "هوش مصنوعی بتواند همه انسان ها را در ده سال آینده بکشد" بیش از 10٪ است.

در دره سیلیکون، این نوع پیش‌بینی آخرالزمانی - سنجش احتمال اینکه برخی از سیستم‌های هوش مصنوعی فراری آینده همه نوع بشر را نابود کند - به عنوان مخفف احتمال عذاب «p(doom)» شناخته می‌شود. گاهی اوقات به عنوان یک پنجره ارائه می شود: برای مثال، داریو آمودی، بنیانگذار و مدیر عامل Anthropic، گفته است که p(doom) شخصی او بین 10 تا 25 درصد است. و امت شیر، مدیر عامل سابق توییچ که در اواخر سال 2023 برای مدت کوتاهی جایگزین سام آلتمن به عنوان رئیس OpenAI شد، در سال 2023 به هافینگتون پست گفت که او بین شکاف بسیار گسترده 5٪ و 50٪ در نوسان است.

در موارد دیگر این عدد ثابت است: دانیل کوکوتاجلو، محقق سابق OpenAI که در اواسط سال 2024 شرکت را به دلیل نگرانی در مورد سرعت توسعه آن ترک کرد، p(doom) خود را 70% قرار داده است. و هابینگر، محقق فوق الذکر Anthropic که پستش در شبکه های اجتماعی چنین اضطراب گسترده ای را در هفته گذشته ایجاد کرده است، قبلا "احتمال خطر وجودی ناشی از هوش مصنوعی" را در حدود 80 درصد می دانستند.

چه به‌عنوان پنجره‌های آماری گسترده یا مقادیر مشخص ارائه شوند، همه آن اعداد هجوم، عدم دقت و عدم قطعیت پشت p(doom) را رد می‌کنند. هیچ‌کس، از جمله محققان آزمایشگاه‌های مرزی که قدرتمندترین مدل‌های هوش مصنوعی جهان را می‌سازند، هیچ فرمول ریاضی واقعی برای محاسبه احتمال وقوع آخرالزمان با هوش مصنوعی ندارند. دنیا برای هر مغز انسان یا الگوریتم تشخیص الگوی پیچیده‌تر از آن است که بتواند به آینده نگاه کند و با اطمینان اعلام کند که در آینده چه اتفاقی خواهد افتاد.

قرارداد پنهان کردن آنچه در نهایت ذهنی است با آمارهای به ظاهر عینی تنها سردرگمی بیشتری را به یک گفتمان عمومی نگران کننده در مورد هوش مصنوعی و نقش آن در جامعه اضافه می کند. سام آلتمن، مدیر عامل OpenAI قبلا گفته بود که با وجود اینکه او معتقد است که هوش مصنوعی بشریت را از بین می‌برد، "هرگز نمی‌دانست چگونه عدد دقیقی را روی p(doom) قرار دهد..."

برخی از بدبینان همچنین استدلال کرده‌اند که همه هشدارهای روز قیامت در نهایت جنبه‌های نمایشی روابط عمومی دارند، شیرین کاری‌های بازاریابی که برای ایجاد حس هیبت عمومی برای هوش مصنوعی طراحی شده‌اند، در زمانی که دو بازیگر بزرگ صنعت، OpenAI و Anthropic، آماده می‌شوند تا با عرضه‌های عمومی اولیه خود به جلو حرکت کنند (که انتظار می‌رود ارزش هر دو شرکت به سه دلار برسد).

کال نیوپورت، نویسنده و دانشمند کامپیوتر جورج تاون در اوایل سال جاری در مقاله‌ای برای نیویورک تایمز نوشت: «این می‌توانست دوره‌ای از نوآوری امیدوارکننده باشد، اما در عوض احساسات ما توسط اعتیاد خودخواهانه و اخلاقا غیرقابل دفاع سیلیکون ولی به ترولینگ عذابی دستکاری می‌شوند. "این استراتژی ارتباطی باید متوقف شود. آسیبی که به سلامت روان مردم وارد می کند مسلما بر مزایایی که هوش مصنوعی تاکنون ارائه کرده است، برتری دارد."

در یک پست X در چهارشنبه گذشته، دریک توماس، محقق ایمنی هوش مصنوعی Anthropic، با تمسخر به ادعاهایی مانند این پاسخ داد: "به شما قول می دهم، ما در واقع فقط می ترسیم،" او نوشت: "این بازاریابی مغز کهکشانی نیست."

با این حال، تقریبا به طور قطع حقیقتی در تز «ترولینگ عذاب» وجود دارد. شرکت‌های هوش مصنوعی با ترساندن مردم تا حدی که شروع به تحریم فعال فناوری خود می‌کنند، چیزی به دست نمی‌آورند، اما آن را به‌عنوان یک نیروی تقریبا ماورایی - همانطور که دانشمند ارشد OpenAI اخیرا در مقاله‌ای ویروسی نامیده است - «ذهن بیگانه» به تصویر می‌کشند - و مرحله بعدی اجتناب‌ناپذیر در نردبان تکاملی هوش زمینی کاملا متفاوت است.

اگر ورود ابراطلاعات یک پیشرفت تاریخی غیرقابل توقف باشد (همانطور که شرکت‌های هوش مصنوعی اغلب ادعا می‌کنند)، و امتناع ما از ساخت آن به سادگی در را به روی دشمنان ما (یعنی چین) باز می‌کند تا با تلاش‌های خود به پیش بروند، آن‌گاه هرکسی که سعی می‌کند مانعی شود، هم خود را فریب می‌دهد و هم مانع پیشرفت می‌شود.

P(doom) بخشی از آن روایت اجتناب‌ناپذیر است که در دوران رونق هوش مصنوعی عمیقا در سیلیکون ولی ریشه دوانده است. رهبران شرکت مقداری را برای احتمال وقوع آخرالزمان ناشی از هوش مصنوعی کنار می گذارند و از آن به عنوان توجیهی برای حرکت رو به جلو برای ساختن همان فناوری استفاده می کنند که به گفته آنها می تواند تک تک ما را بکشد. آنها می گویند خواه ناخواه، هوش فوق العاده در راه است و ما تنها کسانی هستیم که می توانیم به بشریت کمک کنیم تا از بدترین نتیجه ممکن جلوگیری کند. برای بسیاری از مردم، p(doom) + "فقط ما می توانیم شما را نجات دهیم" ≠ p (اعتماد).