ویدیویی برای ثبت در تاریخ: هشدار تکاندهنده دانشمندان درباره خطر انقراض انسانها به دست هوش مصنوعی
پژوهشگران برجستهی هوش مصنوعی نسبت به احتمال انقراض بشر و ناتوانی در کنترل ابرهوش هشدار دادند.
پژوهشگران برجستهی هوش مصنوعی نسبت به احتمال انقراض بشر و ناتوانی در کنترل ابرهوش هشدار دادند.
احتمال انقراض نسل بشر بر اثر پیدایش ابرهوش مصنوعی در نگاه برخی پژوهشگران ارشد چیزی شبیه به شیر یا خط انداختن است. هشدارهایی که تا چندی پیش برچسب آخرالزمانی یا بدبینانه میخوردند، اکنون مستقیما از زبان دانشمندانی بیان میشوند که شخصا در حال ساخت و ارتقاء پیشرفتهترین مدلهای هوش مصنوعی جهان هستند.
مؤسسهی غیرانتفاعی Palisade Research مجموعهای از مصاحبههای ویدئویی با پژوهشگران فعلی و سابق مجموعههای بزرگی نظیر اوپنایآی، گوگل و آنتروپیک را در وبسایتی به نام frominside.ai منتشر کرده است. جفری ایروینگ ، پژوهشگر پیشین اوپنایآی و گوگل دیپمایند، شانس نابودی انسان توسط سیستمهای فوقهوشمند را حدود ۵۰ درصد برآورد میکند و معتقد است نباید چنین تهدیدی را کماهمیت شمرد.
نیل ناندا ، دانشمند ارشد پژوهشی در گوگل دیپمایند، احتمال نابودی تمدن بشری را حداقل ۱۰ درصد میداند و چنین احتمالی را برای رخدادی تا این حد فاجعهبار، به شکلی مضحک و غیرقابلقبول بالا توصیف میکند.
بحثهای مرتبط با ایمنی و مهار سیستمهای خودمختار همواره محل مناقشه بوده، اما مصاحبههای اخیر نشان میدهند حتی در سطوح بالای فنی نیز راهکار جامع و قابل اتکایی برای مهار مدلهای نسل بعد وجود ندارد.
دانیل کوکوتایل و، از اعضای سابق اوپنایآی، قدرت بالقوهی ابرهوش مصنوعی را شبیه به قدرتی خداگونه ارزیابی میکند. او در بخشی از صحبتهای خود تأکید میکند: «متاسفانه در حال حاضر مطلقا نمیدانیم چگونه چنین سیستمی را کنترل کنیم و به احتمال زیاد هیچکس قادر به مهار آن نخواهد بود. خطر پیش رو درست به همان اندازهای که شنیده میشود سهمگین است و هرگز نباید اجازهی وقوع آن را داد.»
پژوهشگران حاضر در این ویدئوها به پرسشهای متعددی دربارهی انگیزههای شخصی، هیاهوی تبلیغاتی پیرامون پروژهها و چراییِ کار روی سیستمی فوقالعاده خطرناک پاسخ دادهاند. ماری فونگ ، پژوهشگر گوگل، با صداقتی کمسابقه اشاره میکند: «فکر میکنم کاملا حق دارید به حرفهای من مشکوک باشید، زیرا از همین شرکت حقوق میگیرم.»
نیل ناندا با اشاره به چالشهای اخلاقی فعالیت در چنین مراکزی، انگیزهی خود را تلاش برای ایمنسازی ابزارها میداند. ناندا باور دارد کنارهگیری دانشمندان نگران، مانع از سرعت گرفتن مسابقهی توسعه نخواهد شد: «اگر باور نداشتم که تحقیقاتم مستقیما خطرات وجودی این سامانهها را کاهش میدهد، استعفا میدادم؛ اما شرکتها با رفتن من دست از ساخت مدلها برنمیدارند.»
گفتوگوهای ثبتشده نشان میدهند که خطرات وجودی ناشی از خودکارسازی تفکر و تصمیمگیری، دیگر موضوع داستانهای علمیتخیلی نیست، بلکه دغدغهای عینی در میان مهندسان صف اول فناوری جهان به شمار میرود.