اجازه ندهید فناوری بزرگ آینده بشریت را دیکته کند

آیا انسان باید سیاره زمین را در کنترل خود حفظ کند؟ یا باید به عنوان گونه غالب جایگزین شویم؟ هرچقدر هم که این سؤالات پوچ به نظر می رسند، و هر چقدر هم که پاسخ ها بدیهی به نظر برسد، الیگارش های فناوری بزرگ که بودجه انقلاب هوش مصنوعی را تأمین می کنند، به گونه ای پاسخ داده اند که باید همه ما را نگران کند.

در دره سیلیکون، برخی از ثروتمندترین افراد روی زمین بر این باورند که قدرت ایجاد یک گونه برتر را دارند. سام آلتمن، رئیس OpenAI، در سال 2017 نوشت که هوش مصنوعی به انسان این امکان را می‌دهد تا به «اولین گونه‌ای تبدیل شود که فرزندان خود را طراحی کرده است». با این حال، این به چه معنی برای انسان است، هنوز مشخص نیست. به گفته آلتمن، ما یا هوش دیجیتالی را شروع خواهیم کرد و سپس در یک شاخه درخت تکاملی محو می‌شویم، یا می‌توانیم بفهمیم که یک ادغام موفق چگونه به نظر می‌رسد. به عبارت دیگر، انسان ها یک انتخاب دارند: با انقراض مواجه شوند یا با ماشین ها ادغام شوند.

آلتمن افزود: "من معتقدم که ادغام از قبل شروع شده است" و "احتمالا بهترین سناریوی ما است."

به همین ترتیب، داریو آمودی، رئیس Anthropic، امکان حقوق مدل‌های هوش مصنوعی را باز کرده است. او توضیح داد: «ما نمی‌دانیم که آیا مدل‌ها هوشیار هستند یا خیر،» و افزود: «اما ما پذیرای این ایده هستیم که می‌تواند چنین باشد.»

در اوایل این ماه، ایلان ماسک، رئیس SpaceXAI و ثروتمندترین مرد روی زمین، در X پستی منتشر کرد: «انتشار هوش فوق‌العاده به ستاره‌ها یک شرط موفقیت بزرگ برای بوت‌لودر بیولوژیکی است» و انسان‌ها را به برنامه‌نویسی تشبیه کرد که سیستم عامل رایانه را راه‌اندازی می‌کند. به زبان ساده، ماسک می‌گوید که انسان‌ها تنها گامی به سوی ابرهوش دیجیتال هستند. پیتر تیل، یکی از بنیانگذاران میلیاردر Palantir و یک سرمایه گذار بزرگ هوش مصنوعی، سال گذشته از او پرسیده شد که آیا ترجیح می دهد نسل بشر دوام بیاورد. پاسخ او؟ «اوه… خب، نمی‌دانم.

من می‌خواهم – می‌خواهم... سؤالات بسیار زیادی در این موضوع نهفته است،» او با لکنت گفت، قبل از اینکه با اکراه قبول کند که انسان‌ها باید زنده بمانند.

[ بخوانید: برنامه جدید شرکت های هوش مصنوعی برای جلوگیری از نابودی همه چیز]

این دیدگاه‌ها ریشه در ایدئولوژی دره سیلیکون به نام «فرات‌انسان‌گرایی» دارند. فراانسان گرایان بر این باورند که فناوری به ما این امکان را می دهد که از طریق ایجاد گونه ای جدید یا با ترکیب خود با ماشین ها از انسانیت فراتر برویم. چرا فراتر از انسان ها برویم؟ زیرا این "پسامردان" جدید از ما باهوش تر خواهند بود. معصوم خواهند بود. آنها به سوی ستارگان خواهند رفت و جهان را فتح خواهند کرد. آنها برای همیشه زنده خواهند ماند.

اگر اینها فانتزی های پسران نوجوانی بود که به داستان های علمی تخیلی وسواس دارند، می توانستیم آنها را بخندیم. آنها نیستند. اینها باورهای اساسی قدرتمندترین افراد جهان است که تریلیون ها دلار را بسیج می کنند تا آنها را به واقعیت تبدیل کنند.

و این سرمایه گذاری ها در حال حاضر نتیجه داده است. برای ده ها هزار سال، انسان ها انحصار زبان را داشتند. فقط ما می توانستیم از جملات استفاده کنیم. دیگر نه. برای هزاران سال، انسان ها تنها کسانی بودند که قادر به حل مسائل پیچیده در زمینه هایی مانند ریاضیات بودند. دیگر نه. تا همین اواخر، ما می‌توانستیم به طور قابل اعتماد تشخیص دهیم که چه زمانی یک انسان، برخلاف رایانه، از طریق صفحه نمایش با ما صحبت می‌کند. دیگر نه.

ماشین‌ها در واقع شروع به جایگزینی ما کرده‌اند. و چشم اندازی که الیگارش های فناوری بزرگ برای آینده دارند ترسناک تر می شود. ماسک در حال ساخت Neuralink برای کاشت تراشه در مغز افراد به منظور دستیابی به "همزیستی با هوش مصنوعی" است. تیل به آرژانتین رفته است، جایی که رئیس جمهور خاویر مایلی خواستار تأسیس «شرکت‌های غیر انسانی» شده است که توسط عوامل هوش مصنوعی اداره می‌شوند، که «سهامداران انسانی ممکن است در آن شرکت کنند، اما لازم نیست». یکی از بنیانگذاران Anthropic، کریستوفر اولا، تلاش کرده است تا رهبران مذهبی، از جمله پاپ، را متقاعد کند که هوش مصنوعی

می تواند هوشیار باشد

این پوچ است. این غیر مسئولانه است. و تقریبا هیچ کس خارج از سیلیکون ولی این آینده را نمی خواهد. دلیلی وجود دارد که چرا 91 درصد از آمریکایی ها فکر می کنند ما به نرده های محافظ برای هوش مصنوعی نیاز داریم، چرا 74 درصد به رهبران شرکت های هوش مصنوعی اعتماد ندارند و چرا 73 درصد نگران هستند که هوش مصنوعی بقای انسان را تهدید کند.

[بخوانید: هوش مصنوعی در حال دویدن دور سیستم سیاسی ما است]

در ماه مه، پاپ لئو چهاردهم اولین بخشنامه خود را با نام «انسانیت باشکوه» منتشر کرد که در آن نسبت به «دیدگاه ضد بشری» هشدار داد که به موجب آن «شخص انسان در معرض خطر کاهش داده‌ها، چرخ دنده‌ای در ماشین یا کالا است». پاپ صریح بود: «بشریت - با تمام عظمت و جراحتش - هرگز نباید جایگزین شود یا از آن پیشی گرفت.»

در پاسخ، تیل پاپ را "یک عامل کمونیست چین" خواند. اما پاپ حق داشت. تیل و دیگر الیگارش های فناوری بزرگ او نمی توانند اشتباه کنند.

بشریت نباید اجازه دهد که تعداد انگشت شماری از مولتی میلیاردرها بی پروا برای جایگزینی ما تلاش کنند. ما باید فورا توسعه هوش مصنوعی پیشرفته را متوقف کنیم و ابرهوش مصنوعی را ممنوع کنیم - ذهنی مصنوعی که باهوش‌تر از هر انسانی است و قادر است به طور مستقل خارج از کنترل ما عمل کند - تا زمانی که یک نهاد فدرال جدید بتواند از ایمنی این فناوری اطمینان حاصل کند. به همین دلیل است که من قانونی را با نماینده گرگ کازار برای انجام این کار معرفی کرده ام. هوش مصنوعی یک تهدید وجودی برای بشریت است. باید به این شکل برخورد کرد.

آینده بشریت را نمی توان در دستان چند الیگارشی بیگ تک که وسواس پول و قدرت دارند سپرد. مردم آمریکا و مردم سراسر جهان باید این آینده را تعیین کنند. انسان ها، نه ماشین ها، باید اول باشند.