هشدارهای روز رستاخیز که مدیران عامل هوش مصنوعی در اولین تأسیس شرکت های خود داده اند

به نظر می رسد تنها چیزی که سیلیکون ولی در سال های اخیر توانسته است درباره آن صحبت کند این است که به لطف هوش مصنوعی آینده بشریت چقدر شکوهمند خواهد بود. آموزش شخصی، یک دکتر اسلش درمانگر که 24 ساعته در دسترس است، همه بیماری ها را درمان می کند و فقر را از بین می برد - تقریبا هر چیزی که می توانیم بخواهیم فقط چند بار با شما فاصله دارد. اما طی دو هفته گذشته یک تغییر فضای مشخص وجود داشته است. ناگهان، به نظر می رسد، خلق و خوی کمتر مشتاق انتظار یک عصر طلایی جدید، ترس بیشتر است.

چندین نفر از خودی‌های صنعت هوش مصنوعی از روز کارگر در مورد آنچه که به‌عنوان یک تهدید وجودی برای بشریت می‌دانند صحبت کرده‌اند، که ناشی از مسابقه صنعت برای ساختن سیستم‌هایی است که قادر به ساخت نسخه‌های پیشرفته‌تر از خود بدون نظارت انسان هستند - تکنیکی که به عنوان «بهبود خود بازگشتی» یا RSI شناخته می‌شود. هیچ کس نمی داند، دقت کنید، دقیقا چگونه چنین هوش مصنوعی فوق هوشمندی در آینده می تواند نسل بشر را از بین ببرد، اگرچه سناریوهای فرضی زیادی پیشنهاد شده است.

از بیرون، ممکن است پیش‌بینی‌ها برای صنعت هوش مصنوعی لحظه‌ای مهیج به نظر برسد، گویی این فناوری ناگهان از آستانه حیاتی توانایی فراتر رفت و افرادی که آن را توسعه می‌دادند - که تا به حال معتقد بودند چیزی کاملا بی‌ضرر را از بین می‌برند - ناگهان از خواب بیدار شدند و فهمیدند خدای من، ما چه می‌کنیم؟ اما فقط به این دلیل که این پیش‌بینی‌های روز قیامت در دو هفته گذشته بر سرفصل‌های خبری بوده است، به این معنی نیست که آنها یک پدیده جدید هستند.

در واقع، آن‌ها تا سرچشمه‌های صنعت مدرن هوش مصنوعی (و فراتر از آن) باز می‌گردند و عمیقا کل مبنای ایدئولوژیکی آن را به‌وجود می‌آورند.

در هسته آنها دو ایده خطرناک و محرک وجود دارد: (1) اینکه ورود سیستم‌های هوش مصنوعی فوق‌هوشمند یک امر اجتناب‌ناپذیر تاریخی است، گام بعدی اجتناب‌ناپذیر و کاملا طبیعی در داستان تکامل زمین، و (2) اینکه چنین سیستم‌هایی، با تمام قدرت قدرتمندشان، می‌توانند نه تنها بشریت را از برخی از چالش‌برانگیزترین مشکلاتش خلاص کنند، بلکه به طور بالقوه ما را نیز از بین ببرند.

من فکر می‌کنم هوش مصنوعی احتمالا مانند به احتمال زیاد، به نوعی به پایان جهان می‌انجامد.»

این اظهارات در طول یک کنفرانس فناوری در ژوئن 2015، حدود شش ماه قبل از اینکه آلتمن، دانش آموخته علوم کامپیوتر دانشگاه استنفورد، OpenAI را تأسیس کرد، روی صحنه بیان شد. اما نترسید، زیرا او در ادامه هشداری را ارائه می دهد: "اما در این بین، شرکت های بزرگی با یادگیری ماشینی جدی ایجاد خواهند شد." (احساس بهتری دارید؟) در سال 2023، OpenAI در یک پست وبلاگی نوشت که ابر هوش می تواند "بسیار خطرناک" باشد و "به ناتوانی بشریت یا حتی انقراض انسان منجر شود."

"با هوش مصنوعی، ما شیطان را احضار می کنیم."

در سال 2014، نه سال قبل از اینکه ماسک شرکت هوش مصنوعی خود، xAI را برای رقابت با OpenAI، Anthropic و Google تأسیس کند، او پیش از این تلاش‌های سیلیکون ولی برای هوش مصنوعی را با ایجاد نیروی شیطانی که بشریت نه می‌توانست درک کند و نه کنترل کند، مقایسه می‌کرد. این هشدار پیش‌بینی بسیاری از استدلال‌هایی بود که امروز دوباره مطرح می‌شوند: اینکه توسعه هوش مصنوعی سریع‌تر از توانایی ما برای اطمینان از همسویی این سیستم‌ها با منافع و ارزش‌های انسانی حرکت می‌کند.

هوش مصنوعی "می تواند نوعی تهدید برای بشریت باشد."

آمودی که قبلا معاون تحقیقات OpenAI بود، در دسامبر 2020 راه خود را از شرکت جدا کرد تا Anthropic را با خواهرش دانیلا تأسیس کند. آنها شرکت را به عنوان صدای مسئولیت و ایمنی در صنعتی معرفی کردند که از نظر آنها بی پروا تسلط بر بازار را بر همسویی اولویت می داد. این نقل قول، که در مصاحبه بهار 2022 با موسسه آینده زندگی (کمی بیش از یک سال پس از تأسیس آنتروپیک) ارائه شد، دریچه ای به تفکر او در آن زمان می دهد.

او اذعان کرد که سیستم‌های هوش مصنوعی آینده به‌طور قابل تصوری می‌توانند تهدیدی وجودی برای بشریت باشند – «در درازمدت»، او ادامه داد که این استدلال «حداقل به‌طور بالقوه برای ما مشروع به نظر می‌رسد» – و از آن زمان آنتروپیک را به عنوان تنها شرکتی معرفی کرده است که می‌توان به آن اعتماد کرد تا با خیال راحت ورود ابرهوش‌ها را آغاز کند. اخیرا، او گفته است که احتمال اینکه هوش مصنوعی «واقعا به طرز فاجعه‌باری اشتباه کند» بین 10 تا 25 درصد است.

با این حال، مهم است که به خاطر داشته باشید که این اعداد، که معمولا به عنوان "p(doom)" (مخفف "احتمال عذاب") نامیده می‌شوند، حدس‌های کاملا شخصی هستند و بر اساس هیچ نوع محاسبات عینی نیستند.

"زندگی دیجیتال گام بعدی طبیعی و مطلوب" در "تکامل کیهانی" است.

این انعکاس همان فلسفه ای است که توسط رباتیک پیشگام، هانس موراوک بیان شد، که در سال 1999، یک سال پس از تأسیس گوگل، نوشت که ماشین ها در نهایت می توانند «[بشریت] را از هستی جابجا کنند»، و ما عاقلانه خواهیم بود «به آنها هر مزیتی بدهیم و زمانی که دیگر نمی توانیم کمک کنیم، سر تعظیم فرود آوریم.»