در سیلیکون ولی، پایان بشریت همیشه بخشی از برنامه بوده است

هانس موراوک، رباتیک پیشگام و محقق هوش مصنوعی در سال 1987 نوشت: «این پایان است.» او معتقد بود که بشریت در آستانه فراتر رفتن از فرآیند دست و پا گیر تکامل داروینی و همراه با آن، خود مرگ و میر است. بدن های فیزیکی ما دور ریخته می شوند و به جای آنها روباتیک ü bermenschen بالا می روند. ای ذهن شما که با افزایش سن به طرز غم انگیزی مستعد زوال است، به کد بی عیب و نقص و جاودانه منتقل می شود.

موروک نوشت: ماشین‌ها در آستانه بلوغ بودند «از دستگاه‌های ساده‌ای که هنوز هستند، به موجوداتی به پیچیده‌تر از خودمان، به چیزی فراتر از همه چیزهایی که ما می‌دانیم، که می‌توانیم به آنها افتخار کنیم وقتی آنها خود را فرزندان ما می‌نامند».

چشم انداز موراوک از آینده ای که توسط انسان های گوشتی و خونی اداره نمی شود، بلکه توسط جانشینان پسا بیولوژیکی ما، زمین حاصلخیز را در منطقه نوپای آن زمان به نام دره سیلیکون یافت، جایی که ضد فرهنگ دهه 1960 به روح کارآفرینی، ضد اقتدارگرایی الهام گرفته از بینش های انسانی در آینده، و الهام بخشیدن به آینده گرایانه، و بزرگواری های علمی تبدیل می شد. آیزاک آسیموف و فیلیپ کی دیک.

با گذشت زمان، مکتب فکری موسوم به «فرا انسان‌گرایی» - که معتقد است انسان‌ها در نهایت قادر خواهند بود با کمک فناوری، خود را از محدودیت‌های بیولوژیکی، از جمله مرگ رهایی بخشند - به یک شبه دین در میان بسیاری از قدرتمندترین بازیگران صنعت فناوری آمریکا تبدیل می‌شود، یک منطق فکری و یک انگیزه ایدئولوژیکی که از هر جهت برای ساختن ماشینی خطرپذیر است.

این به حل سوالی کمک می کند که بدون شک بسیاری از مردم در طی چند هفته گذشته از خود پرسیده اند، در میان انبوهی از پیش بینی های خودی های سیلیکون ولی مبنی بر اینکه هوش مصنوعی می تواند روزی تمام بشریت را از بین ببرد: اگر این واقعا یک امکان مشروع است، چرا به ساخت آن ادامه دهیم؟ متداول‌ترین پاسخ به این سؤال دقیقا از کتاب بازی پروژه منهتن خارج شده است: اگر ما ابتدا آن را نسازیم، یکی از دشمنان ما این کار را می‌کند - و هیچ‌کس نمی‌خواهد در جهانی زندگی کند که در آن یک رژیم استبدادی انحصار ابراطلاعات را در اختیار دارد، همانطور که هیچ فرد عاقلی در دهه 1940 نمی‌خواست.

رایش سوم برای ساختن بمب هسته ای در برابر متفقین. داریو آمودی، مدیر عامل آنتروپیک، در مقاله‌ای که در اوایل ماه جاری منتشر شد و خواستار کاهش سرعت در آزمایشگاه‌های هوش مصنوعی شد، نوشت: «پیشرفت چینی در هوش مصنوعی خطری جدی برای ایالات متحده و جهان به همراه خواهد داشت».

این استدلال ما یا آنها بر این فرض ضمنی استوار است که ابرهوش یک امر اجتناب ناپذیر تاریخی است، چیزی که حتی اگر بخواهیم نمی‌توان از آن اجتناب کرد. برادران فناوری به نمودارهایی اشاره می‌کنند که نشان می‌دهند افزایش بی‌وقفه و تصاعدی قدرت محاسباتی که توسط قانون مور دیکته می‌شود، و پیش‌بینی‌های یک «تکینگی» قریب‌الوقوع - لحظه نظری که قابلیت‌های هوش مصنوعی از ما پیشی می‌گیرد - به عنوان مدرکی که نشان می‌دهد فناوری که آنها می‌سازند یک نیروی غیرقابل توقف است، یا هر کسی که در راه است.

پیتر تیل، یک مسیحی خودخوانده و یکی از قدرتمندترین سرمایه گذاران دره سیلیکون، بارها هشدارهای عمومی در مورد ورود دجال منتشر کرده است، که به اعتقاد او توسط فردی مانند گرتا تونبرگ، فعال محیط زیست، تجسم خواهد شد: "یک لودیت که می خواهد تمام علم را متوقف کند." در یک مبادله بدنام با راس دوتات، ستون نویس سابق نیویورک تایمز در سال گذشته، تیل قبل از پاسخ به این سوال که آیا نژاد بشر باید در آینده زنده بماند یا نه، متزلزل شد.

او قبل از گفتن «بله»، چند لحظه مکث کرد، سپس به طور نامنسجم برخی از نسخه‌های آینده فراانسانی را که با الهیات مسیحی ارتدکس آمیخته شده بود، توصیف کرد. او گفت: "ما از شما می خواهیم که بتوانید قلب خود را تغییر دهید، ذهن خود را تغییر دهید و کل بدن خود را تغییر دهید." (شایان ذکر است که اعتقاد بر این است که اصطلاح «فراانسانی» برای اولین بار در ترجمه انگلیسی بهشت ​​دانته، آخرین بخش کمدی الهی که صعود خیالی نویسنده به بهشت ​​را به تصویر می‌کشد، ظاهر شده است.)

به طور مشابه، مارک آندریسن، سرمایه‌گذار فناوری - شریک عمومی آندریسن هوروویتز - در سال 2023 خود در «مانیفست خوش‌بین فنی» نوشت که دشمنان پیشرفت شامل مجموعه‌ای از «ایده‌های زامبی‌ها، که بسیاری از آنها از کمونیسم نشأت می‌گیرند»، مانع دستیابی بشریت به‌عنوان مقدر و مدنی به‌عنوان ارباب برحق خود می‌شوند. از جمله آنها "خطر وجودی" و اصل احتیاط بود، که دومی این ایده است که ایده ها و فن آوری های جدید باید به عنوان بالقوه خطرناک تلقی شوند تا زمانی که خلاف آن ثابت شود.

(آندرسن احتمالا بیانیه‌ای که در اوایل این هفته توسط هیئت علمی مستقل بین‌المللی سازمان ملل در مورد هوش مصنوعی صادر شد مبنی بر اینکه اصل احتیاط باید به عنوان چراغ راهنمای صنعت فناوری در ادامه ساختن نسخه‌های قوی‌تر از این فناوری باشد، مورد تمسخر قرار گرفته است.)

به اصطلاح خوش‌بین‌های فنی، متحدی در دونالد ترامپ پیدا کرده‌اند که درخواست آمودی برای کاهش سرعت را رد کرده است، که به سرعت توسط دیگر رهبران برجسته هوش مصنوعی، از جمله سم آلتمن از OpenAI و ایلان ماسک از SpaceXAI تأیید شد و آن را یک "توطئه بیمار" خواند که به نفع چین منتشر شد. (تیل و آندریسن به ترتیب در سال های 2016 و 2024 به طور علنی از پیشنهادهای ترامپ برای ریاست جمهوری حمایت کردند و از آنها حمایت مالی کردند. ماسک، ثروتمندترین مرد جهان و معتقد سرسخت به این ایده که روزی انسان ها با ماشین ها ادغام خواهند شد، در انتخابات اخیر نیز از حامیان سرسخت ترامپ بود.)

سرمایه گذاران دره سیلیکون مانند تیل، آندریسن و ماسک اصرار دارند که هر کاری که انجام می دهند برای بهبود بشریت است. به عنوان مثال، مأموریت SpaceX ماسک این است که بشریت را به گونه ای بین سیاره ای تبدیل کند، در نتیجه احتمال نابودی آن توسط برخی بلای طبیعی، مانند برخورد یک سیارک به زمین یا فوران یک ابر آتشفشان، از بین می رود. تیل چندین شرکت فناوری به نام ارباب حلقه‌ها را تأسیس کرده یا از آنها حمایت مالی کرده است.

(این واقعیت که همچنین هشداری در مورد خطرات توسعه گسترده تکنولوژیکی و صنعتی شدن است، به نظر می رسد که تیل و دیگر نخبگان فناوری که تالکین را تصاحب کرده اند از بین رفته است.) طبق مانیفست آندریسن، خوش بینان فنی، «سفر قهرمان را برعهده می گیرند، عصیان می کنند، بر علیه سرزمین های غیرقانونی غلبه می کنند و به خانه می برند. غنایم برای جامعه ما.»

با این حال، در زیر همه شکوفایی‌های اسطوره‌ای، چشم‌اندازی از آینده است که عمیقا ضد بشری است: چشم‌اندازی که در آن حرکت بی‌وقفه پیشرفت فناوری، انسان‌ها را به زودی منسوخ خواهد کرد. بر اساس این جهان بینی، اگر توانایی های ذهن و بدن انسان به زودی تحت الشعاع توانایی های دیجیتال قرار گیرد، بهترین کار است اگر ما فقط از مسیر خارج شویم و اجازه دهیم این مرحله تکاملی بعدی مسیر درست خود را طی کند.

با این حال، برای فراانسان گرایان رنگ آمیزی شده، این دلیلی برای ناامیدی نیست - کاملا برعکس. عصر ماشین پس از زیست‌شناسی، به‌طور متناقض، ادامه‌ی جرقه‌ی انسانی خواهد بود، حتی اگر هوموساپین‌ها برای دیدن آن نباشند. اگر گیج هستید، تنها نیستید. فراانسانی‌ها اغلب از «انسانیت» به عنوان انسان‌های گوشتی و خونی امروزی و هم نسلی ماشینی یاد می‌کنند که به زودی جای ما را خواهند گرفت. آنها به شکل ما ساخته خواهند شد، همانطور که خداوند آدم را در خود آفرید، و بنابراین می توان آنها را هم به عنوان انسان و هم پس از انسان در نظر گرفت.

موراوک زمانی نوشت: "من این ماشین‌های آینده را فرزندان خود می‌دانم، خودمان را به شکلی قوی‌تر می‌دانم. مانند کودکان بیولوژیکی نسل‌های گذشته، آنها بهترین امید بشریت را برای آینده‌ای بلندمدت تجسم می‌دهند. این وظیفه ماست که به آنها هر مزیتی بدهیم، و زمانی که دیگر نمی‌توانیم کمک کنیم، سر تعظیم فرود آوریم." آن سطر آخر را دوباره بخوانید. به گفته موراوک، بشریت یک تعهد اخلاقی دارد که در نهایت کنترل را به ماشین‌ها واگذار کند - و راه دودو را طی کند و به فراموشی سپرده شود.

درک شیلر، فیلسوف، در مقاله‌ای با عنوان «در دفاع از جایگزینی مصنوعی» در سال 2017، نکته دقیق‌تری را در این مورد بیان کرد، که در آن استدلال کرد: «انسان‌ها باید انقراض ما را مهندسی کنند تا منابع سیاره ما بتواند به ساخت موجودات مصنوعی با زندگی بهتر اختصاص یابد.»

بارها و بارها، نخبگان سیلیکون ولی می گویند تنها راه برای شکوفایی بشر در آینده این است که بفهمد چگونه می تواند به طور ایمن ابرهوش مصنوعی بسازد. اما تقریبا در همان نفس، آنها همچنین می گویند که حتی اگر این اتفاق بیفتد، هومو ساپینس ناپدید می شود و… چیز دیگری جایگزین می شود. چیزی شبیه ما و در عین حال کاملا بیگانه. مثل همیشه، این موضوع به‌عنوان یک واقعیت هستی‌شناختی تاریخ به مردم ارائه می‌شود، نه محصول انتخاب‌هایی که در زمان حال توسط گروه کوچکی از مدیران فناوری ثروتمند و سرمایه‌گذاران خطرپذیر انجام می‌شود.

آلتمن در مقاله ای در سال 2023 نوشت: "ما اولین گونه ای خواهیم بود که تا به حال فرزندان خود را طراحی می کنیم." حدس من این است که ما یا می توانیم بوت لودر بیولوژیکی برای هوش دیجیتالی باشیم و سپس در شاخه درخت تکاملی محو شویم، یا می توانیم بفهمیم که یک ادغام موفق چگونه به نظر می رسد.

هشدارهای روز رستاخیز که مدیران عامل هوش مصنوعی در اولین تاسیس شرکت های خود داده اند