به مدت 10 سال، من به افرادی گوش داده ام که می گویند هوش مصنوعی همه ما را خواهد کشت. این چیزی است که من فکر می کنم

بیش از یک دهه پیش، من چند ماه را صرف گوش دادن به صحبت‌های مردم کردم - در سانفرانسیسکو، لندن، آکسفورد - در مورد احتمالات هشداردهنده‌ای که هوش مصنوعی ایجاد می‌کند. در آن زمان، هوش مصنوعی هنوز اساسا یک مفهوم انتزاعی بود: چیزی که قریب‌الوقوع بود، و مطمئنا دگرگون‌کننده بود، اما هنوز حضور معناداری در فرهنگ نداشت، به‌جز شبحی مبهم که توسط داستان‌های علمی تخیلی القا شده بود.

من به ویژه به یک گروه کوچک اما پر سر و صدا از مردم علاقه مند بودم که خود را به عنوان کاساندراهای سیلیکون ولی معرفی کرده بودند. این افراد، که بسیاری از آنها در زمینه هوش مصنوعی کار می کردند، متقاعد شده بودند که، مگر اینکه اقدامات حفاظتی بسیار مشخصی اعمال شود، این احتمال وجود دارد که بشریت توسط هوش مصنوعی از بین برود.

شخصیت اصلی آنها نیک بوستروم، فیلسوف سوئدی بود که مدت‌ها با جنبش فراانسانی مرتبط بود و در آن روزها مؤسسه تحقیقاتی به نام مؤسسه آینده بشریت را در آکسفورد اداره می‌کرد.

بوستروم بر این باور بود که هوش مصنوعی در نهایت به سطحی از "فوق هوش" خواهد رسید که بسیار از سازندگان انسانی خود پیشی می‌گیرد و در یک حلقه بازخورد فراری به بهبود خود ادامه خواهد داد. اگر اهداف آن به درستی با «ارزش‌های انسانی» همسو نمی‌شد – هر چه که می‌توانیم آن‌ها را قضاوت کنیم – یک ابرهوش مصنوعی می‌تواند به بشریت آسیب فاجعه‌باری وارد کند، صرفا به این دلیل که رفاه انسان در اهداف رمزگذاری شده اولیه هوش مصنوعی گنجانده نشده بود.

یکی از بدنام‌ترین ایده‌های بوستروم، آزمایش فکری بود که به «بیشینه ساز گیره کاغذ» معروف بود. در این سناریو، به یک هوش مصنوعی فوق هوشمند در خدمت یک شرکت لوازم التحریر دستور داده می شود تا تولید گیره های کاغذ را به حداکثر برساند. هوش مصنوعی که هدف خود را با یک هدف کلی دنبال می‌کند، می‌تواند تمام مواد موجود، از جمله تمام شکل‌های حیات مبتنی بر کربن را به گیره‌های کاغذ یا زیرساخت‌های تولید گیره کاغذ تبدیل کند. در چنین سناریویی هدف به حداکثر رساندن تولید گیره های کاغذ محقق شده است، اما به قیمت نابودی تمام حیات روی زمین.

این یک آزمایش فکری عمدا پوچ بود، اما آزمایشی که بوستروم و پیروانش معتقد بودند یک مشکل واقعی را نشان می‌دهد: بدون اهداف درست، حتی دستورالعمل‌های بی‌اهمیت به یک هوش مصنوعی فوق‌هوشمند می‌تواند منجر به آخرالزمان شود.

من شخصا آن را نخریدم، اما مجذوب آن شدم - به عنوان روشی برای اندیشیدن به طرز فکر عقل‌گرایی که در دره سیلیکون در حال رشد بود، و اینکه چگونه این عقل‌گرایی، به حد افراط، می‌تواند به نوعی جنون تبدیل شود.

از آن زمان اتفاقات زیادی افتاده است. To Be a Machine، کتابی که از آن برخوردها و موارد دیگر پدید آمد، در سال 2017 منتشر شد. هوش مصنوعی دیگر یک انتزاع نیست، یک شبح آینده نگر که در حاشیه آگاهی فرهنگی ما کمین کرده است. و این افراد و ایده های آنها دیگر از راه دور حاشیه ای نیستند.

در زمان نگارش این مقاله، رسانه‌های بین‌المللی در حال غرق شدن در یک عرق مضطرب (و کم‌معنا) بر سر این احتمال هستند که هوش مصنوعی همه ما را از بین ببرد. "هوش مصنوعی احتمالا می تواند به بشریت پایان دهد. انسان ها چگونه باید آن را پردازش کنند؟" یکی از تیترهای نیویورک تایمز می پرسد. یکی دیگر از روزنامه فایننشال تایمز می نویسد: «چرا نژاد هوش مصنوعی باعث ترس سازندگانش از انقراض انسان شده است.

"قمار با زندگی ما": چگونه صحبت در شرکت های هوش مصنوعی به طور فزاینده ای به روز قیامت تبدیل می شود

علت همه اینها استعفای جاکوب کوکسون، محقق شرکت هوش مصنوعی Anthropic در اعتراض به رویکرد غیرمسئولانه این شرکت در ساخت هوش مصنوعی فوق‌هوشمند بود. او گفت: «افرادی که هوش مصنوعی می‌سازند، عمیقا معتقدند که می‌تواند تا پایان دهه همه ما را بکشد.» او خود این احتمال را حدود 10 درصد اعلام کرد. به طرز نگران کننده ای، داریو آمودی، مدیر اجرایی آنتروپیک، علنا با این ارزیابی موافقت کرد. من احساسات پیچیده ای در مورد همه اینها دارم.

اول از همه، آنتروپیک، شخصا چندین هزار دلار به من بدهکار است - جایزه داده شده، اما هنوز پرداخت نشده است، به عنوان بخشی از تسویه حساب جمعی اخیر 1.5 میلیارد دلاری (1.3 میلیارد یورو) به نویسندگانی که کتاب‌هایشان به طور غیرقانونی برای آموزش مدل‌های هوش مصنوعی شرکت استفاده شده است.

به دلایل منافع شخصی و بشردوستانه، من از هوش مصنوعی متنفرم که قبل از اینکه چک به حساب من برسد، دنیا را به پایان برساند. (البته این یک سناریوی به حداکثر رساندن گیره کاغذی کلاسیک خواهد بود: نابود کردن تمام زندگی روی زمین برای جلوگیری از پرداخت تسویه حساب قانونی.) اما همچنین به نظرم می رسد که اگر آنتروپیک به خاطر نقض حق چاپ من مبلغ اندکی را به من بدهکار است، مطمئنا باید به من و عزیزانم به خاطر مجبور کردن من و عزیزانم که در معرض تهدید دائمی زندگی کردن هستند غرامت قابل توجهی بیشتری بپردازد.

اما واقعا، من الان بیشتر از 10 سال پیش آن را نمی خرم. درست است که هوش مصنوعی به یک فناوری بسیار قدرتمندتر تبدیل شده است و حضور فرهنگی و اقتصادی آن چنان گسترده است که خورشید را تهدید می کند. و تهدیدهای واقعی، فوری‌تر و ملموس‌تر از تهدید مبهم وجود دارد که هوش مصنوعی تمام مشاغل ما را از بین می‌برد – که همانطور که بسیاری از اقتصاددانان اشاره کرده‌اند، برای پایین نگه داشتن دستمزدها بسیار خوب عمل می‌کند. همین هفته گذشته، ما از تلاش‌های زیادی برای استفاده از Claude، ربات چت هوش مصنوعی Anthropic، برای تولید سلاح‌های بیولوژیکی مطلع شدیم.

آیا هوش مصنوعی همه ما را خواهد کشت؟

اما همچنین بسیار بدیهی است که این ایده‌های آخرالزمانی به یک چرخه تبلیغاتی با هوش مصنوعی بازگشتی بدیهی می‌خورند و به گرسنگی افتضاح این بخش برای سرمایه‌گذاری کمک می‌کنند. محصولی به اندازه کافی قدرتمند، در دستان نادرست، که بتواند بشریت را از بین ببرد، به هر حال، مطمئنا محصولی به اندازه کافی قدرتمند، در دستان درست، برای انجام کارهای خارق‌العاده است و سرمایه‌گذاران خود را حتی بسیار بیشتر از آنچه که هستند، ثروتمند می‌کند.

و اگر ساخت ماشینی خطرات مخاطره آمیز اقتصاد جهانی را به همراه داشته باشد و باعث تخریب غیرقابل جبران زیست محیطی شود. اگر باید بر روی مقادیر زیادی نیروی کار استخراج شده و بدون جبران ساخته شود. اگر تمام زمینه های تلاش انسان را از نظر اقتصادی منسوخ کند. و در نهایت دموکراسی را در زیر موجی از اطلاعات نادرست و نابرابری افسارگسیخته درهم می شکند – پس همینطور باشد. پولی برای ساختن وجود دارد. گیره های کاغذ برای تولید وجود دارد.

فراموش نکنیم، در این بحث، سیلیکون ولی چقدر بی وقفه علیه مقررات دولتی لابی کرده است. حرکت جمعی میلیاردرهای فناوری به سمت حمایت کامل از دونالد ترامپ، تا حدی به تعهد او برای لغو مقررات هوش مصنوعی که در زمان جو بایدن وضع شده بود، تغییر داد. وقتی آنها اکنون در مورد نیاز به "نرده های محافظ" صحبت می کنند، چیزی که در مورد آن صحبت می کنند خود تنظیمی است که طبیعتا مانع رشد حداکثری نمی شود.

و اینجاست که در ایده خطر وجودی هوش مصنوعی، حقیقتی وجود دارد، حقیقتی شاعرانه. من همیشه سناریوی آخرالزمانی را به‌عنوان استعاره‌ای از تهدید ملموس‌تر سرمایه‌داری افسارگسیخته خوانده‌ام، برای اینکه خود فناوری، در دست افراد و شرکت‌های بی‌سابقه‌ی ثروتمند، می‌تواند برای شکوفایی انسان ویرانگر باشد.

به هر حال، تجسم وحشی کنونی تکنو-سرمایه داری چیست، اگر نه یک ماشین جهنمی برای تسلط بر بازار، یک گیره کاغذ که جان انسان ها را چیزی جز مواد خام برای تولید سود تلقی می کند؟