من یک دهه در هوش مصنوعی کار کرده ام. در اینجا این است که چرا من از آن نمی ترسم

اوایل این ماه، نهادهای دولتی و رسانه‌ای در سراسر جهان توجه خود را به انقراض هوش مصنوعی بر اساس توییت کاملا غیرقابل اثبات یک محقق 27 ساله آنتروپیک معطوف کردند که درک چگونگی تأثیر هوش مصنوعی بر جهان توسط یک طرز فکر صادقانه و در عین حال ناقص شکل گرفته است. پست او با اطمینان ادعا کرد که «افرادی که هوش مصنوعی می‌سازند، عمیقا معتقدند که می‌تواند تا پایان دهه همه ما را بکشد». و باور او توسط سایر کارمندان آزمایشگاه مرزی که فعالانه در ساخت این فناوری مشغول بودند تکرار شد. این به معنای جدا کردن جیکوب کاکسون نیست.

در واقع، او کهن الگوی برادر تکنولوژی امروزی است. کاکسون همه افراد دارای خطر وجودی است – ارسال پیام روز رستاخیز او منعکس کننده مکالمات روزمره افراد شاغل در هوش مصنوعی با افرادی است که در جامعه نابودگر هوش مصنوعی در حال رشد هستند. دوران استارت‌آپ پرهیجان به پایان رسیده است. اکنون ما در عصر دانشگاهی بی دست و پا هستیم که به آرامی ما را از مرگ بشریت آگاه می کند.

هم جامعه ای که می خواهد هوش مصنوعی به هر قیمتی بسازد و هم جامعه ای که ایمنی هوش مصنوعی را محافظت در برابر یک «سرکش از بین رفته هوش مصنوعی» تعریف می کند. در هر دو مورد، مشکلات «میز آشپزخانه» که یک فرد معمولی هنگام در نظر گرفتن آینده هوش مصنوعی با آن مواجه می‌شود، بیزاری می‌کند - مواردی مانند تأثیر هوش مصنوعی بر ذهن کودکان، اینکه آیا شغل آنها خودکار می‌شود یا نه، و اینکه آیا مراکز داده محیط را خراب می‌کنند. این نقطه پایانی تعجب آور نیست، زیرا از پذیرش مداوم و غیرانتقادی تسلط فناوری بزرگ ناشی می شود.

همانطور که قاب بندی شده است، هم قهرمانان و هم شروران فقط می توانند از جامعه فناوری بیایند.

تصاحب توییتر توسط ایلان ماسک در سال 2022 (جایی که من مدیر مهندسی اخلاق یادگیری ماشین، شفافیت و مسئولیت‌پذیری بودم) نقطه عطفی بود که فناوری بزرگ با حمله ترامپ به حقوق، آزادی‌ها و آزادی همسو شد و دنیایی را به وجود آورد که در آن بدترین مردان چیره شدند.

بیزاری آشکار ماسک از ایمنی اولیه آنلاین، استفاده اخلاقی و مسئولانه، به نظر می رسید به شرکت های دیگر اجازه می دهد تا در اخراج نامتناسب تیم ها شرکت کنند تا اطمینان حاصل شود که کاربران فناوری توسط الگوریتم ها دستکاری نمی شوند، در معرض کمپین های اطلاعات نادرست هماهنگ، کلاهبرداری یا آزار و اذیت قرار نمی گیرند. در عین حال، چند سال اخیر شاهد پیشرفت سریع و کنترل نشده فناوری‌های هوش مصنوعی در محیط‌های کاری، مدارس و زندگی خصوصی و عمومی بوده‌ایم.

و اکنون، تعریف هوش مصنوعی «ایمن» از موقعیت‌های انسانی در دنیای واقعی - مانند اتوماسیون شغلی، اطلاعات غلط یا سوگیری الگوریتمی - به داستان‌های فوق‌العاده‌ای در سطح انقراض که توسط میلیاردرها بودجه و سازماندهی شده‌اند، منحرف و منحرف شده است.

هفته گذشته تقریبا سه بار در روز باید به خبرنگاری پاسخ می‌دادم که این سؤال را می‌پرسید: "آیا می‌ترسی هوش مصنوعی همه ما را بکشد؟ اگر نه، چرا؟" غریزه من پاسخ منطقی و منطقی است: هوش مصنوعی قصد یا تمایلی ندارد، هوش مصنوعی نمی‌تواند به نهادهای فیزیکی برای راه‌اندازی یک سلاح زیستی دسترسی داشته باشد، و هیچ تحقیقی تا به امروز توانایی‌های شدید در سطح انقراض را برای تضمین این هشدارها نشان نداده است.

برای مثال، برای راه اندازی یک سلاح زیستی، مدل های هوش مصنوعی (بدون افراد) باید به نوعی به مواد حساس و بسیار محدود دسترسی داشته باشند، وارد آزمایشگاه های فوق العاده پیچیده شوند، این تجهیزات را کار کنند و مکانیسم های رهاسازی را تعیین کنند. وقتی مسیر منطقی را دنبال می‌کنید، حتی به عنوان یک فرد غیرمجاز، این احتمال بسیار کم به نظر می‌رسد. پاسخ ترامپ به وحشت هوش مصنوعی با ریختن بنزین روی آن جیسون ایزبل ادعا می کند که سونو از هویت هنرمندان برای آموزش هوش مصنوعی «بدون رضایت» در دعوای جدید پنهان شده ترامپ از ایران استفاده کرده است.

اما این به یک سوال عمیق‌تر پاسخ نمی‌دهد. ممکن است هوش مصنوعی با سلاح هسته‌ای به بشریت پایان ندهد، اما ممکن است با ناتوانی در برقراری ارتباط با دیگران، متکی کردن ما به فناوری که به ما می‌گوید چگونه احساس کنیم و چه فکر کنیم، محیط ما را خراب می‌کند، به‌طور الگوریتمی ما را به یکنواختی در ظاهر، افکار و ترجیحات سوق می‌دهد، و ایجاد یک وضعیت نظارت تنبیهی به بشریت پایان می‌دهد.

و به نوعی، متوجه شده ام که دیگر از آن هم نمی ترسم.

امسال اتفاق بسیار جالبی افتاد که به من امید داد، و آن در بخش نظرات همان مقالات رسانه‌ای نهفته است که به‌طور غیرانتقادی آنچه را که سه مدیر عامل فناوری می‌گویند، تکرار می‌کنند که انگار انجیل است. هنجارها شروع کرده‌اند به درک اینکه Big Tech چقدر توهین‌آمیز است و این انگیزه آنها را برای عقب نشینی می‌کند. سرگرمی مورد علاقه و الهام‌بخش جدید من این است که از مقاله رد شوم و روی «مشاهده نظرات» کلیک کنم، جایی که می‌توانم جواهری مانند «اینکه صاحبان خطرات خارق‌العاده را تبلیغ کنند، منطقی است، زیرا روایت یک تغییر تکنولوژی بی‌سابقه را تغذیه می‌کند.

به‌جای رویداد اقتصادی-اجتماعی که داریم، یک تریلیون دلار مزاحمت جهانی که باعث میانه‌روی و ناکارآمدی می‌شود.» (با تشکر، استیو از کالیفرنیا.) یا، "اگر هوش مصنوعی چنین هیولایی است که بشریت را نابود می کند، اگر مردم فقط هوش مصنوعی را رد کنند و از استفاده از آن امتناع کنند چه؟ مردم قدرت دارند.» (درست است، پائولین از سانفرانسیسکو!)