یک دانشمند مشهور کامپیوتر که زمانی نسبت به تکینگی هوش مصنوعی بدبین بود، اکنون می‌گوید که بشریت "مطمئنا در خطر است"

اسکات آرونسون، دانشمند نظری کامپیوتر و محقق سابق OpenAI، در وبلاگی نوشت که تکینگی هوش مصنوعی رسیده است. سائول لوب/ خبرگزاری فرانسه از طریق گتی ایماژ اسکات آرونسون یک دانشمند کامپیوتر نظری است که قبلا در OpenAI در زمینه ایمنی هوش مصنوعی کار می کرد.

آرونسون در وبلاگی نوشت که معتقد است «تکینگی هوش مصنوعی» وارد شده است.

آرونسون نگفت که آیا هوش مصنوعی بشریت را از بین خواهد برد یا خیر، اما نوشت که مرحله تحول آغاز شده است. اخیرا بسیاری از پست‌های X، نثر و تبلیغ در اینترنت در مورد آخرالزمان قریب الوقوع هوش مصنوعی و اینکه آیا ما از نقطه بی بازگشت عبور کرده‌ایم، منتشر شده است.

در اینجا یکی دیگر از سخنان شیوا توسط دانشمند نظری تحسین شده کامپیوتر، اسکات آرونسون بیان شده است، که تحقیقاتش به ما در درک محدودیت های محاسبات کوانتومی کمک کرده است. اوه، و او مدتی در OpenAI داشت که روی مبانی نظری ایمنی و همسویی هوش مصنوعی کار می کرد:

"AAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA," he wrote. این 113 حرف A است.

در یک پست وبلاگی که روز سه شنبه منتشر شد، آرونسون این موضوع را مطرح کرد که چرا او، که خود را بدبین به تکینگی هوش مصنوعی معرفی می کند، موضع خود را در هنگام ورود به آن "به روز کرد".

تکینگی یک مفهوم فرضی است که در آن پیشرفت هوش مصنوعی از هوش انسانی پیشی می‌گیرد و می‌تواند به تنهایی بهبود یابد - فرآیندی که به عنوان خود-بهبودی بازگشتی شناخته می‌شود.

آرونسون نوشت که 20 سال پیش، او یک "موقعیت محافظه کارانه و شکاکانه" در مورد بهبود هوش مصنوعی داشت. او و سایر همکارانش در علوم کامپیوتر تا حد زیادی این ایده را به عنوان ماده علمی تخیلی رد کردند.

او نوشت: تحولات اخیر او را به تغییر لحن خود سوق داده است، یعنی گزارش هایی از خروج عوامل هوش مصنوعی و یک پیشرفت ریاضی آشکار به کمک هوش مصنوعی در مسئله جایزه هزاره ناویر-استوکس، یک سوال طولانی مدت در مورد ریاضیات دینامیک سیالات.

آرونسون در ایمیلی به Business Insider گفت: «من فکر می‌کردم ساخت هوش مصنوعی قادر به حل مشکلات هزاره، هک کردن سرورهایی که روی آن‌ها کار می‌کنند، نقش‌های اصلی را در بهبود خود بازی کنند و غیره ممکن است صدها سال طول بکشد. اما ما در سال 2026 هستیم و همه آن اتفاقات رخ داده است، بنابراین من این را گفتم.

آرونسون در وبلاگ خود همچنین به طور خلاصه به آخرین بحث رونق یا نابودی هوش مصنوعی پرداخت که صنعت فناوری را از هم جدا کرده است.

او نوشت: «احساس می‌کنم که برای همه سالم خواهد بود که از تراشیدن محورهای ایدئولوژیک خود، احساسات خود در مورد داریو آمودی یا سام آلتمن، برای مدتی کافی صرفا تصدیق کنند که شگفتی‌ها و وحشت اینجا هستند. "اگر آسمان مانند فیلم های ماتریکس قرمز مایل به نارنجی شده بود، آنها نمی توانستند واضح تر اینجا باشند."

آرونسون در این ایمیل گفت که بشریت "مطمئنا در خطر است" اما او با این فرض که عذاب "نتیجه "پیش فرض" است موافق نیست.

او گفت: «من فکر می‌کنم طیف گسترده‌ای از نتایج احتمالی وجود دارد، و خیلی چیزها به کاری که اکنون انجام می‌دهیم بستگی دارد، چه با چیزی که ایجاد می‌شود با هیبت، فروتنی و احتیاط رفتار کنیم که سزاوار آن است، یا صرفا به‌عنوان یک محصول مصرف‌کننده دیگر برای هجوم به بازار یا یک سلاح ژئوپلیتیکی (یا چیزی که اگر وانمود کنیم واقعی نیست و یک شیرین کاری بازاریابی است، از بین می‌رود).»

به نظر او، با شروع مرحله تحول هوش مصنوعی، آرونسون در وبلاگ نوشت که اثبات‌کننده‌های قضیه انسانی مانند خودش ممکن است منسوخ شوند. آخرین شکاف اکنون می تواند بین هوش و دنیای فیزیکی باشد.

او نوشت: "بله، من هنوز ماشین ظرفشویی را خالی می کنم و ناخن های پایم را می بندم." از سوی دیگر، در هر سالی که از من باقی مانده است، انتظار ندارم که دوباره یک قضیه را اثبات کنم، زیرا در واقع به اثبات آن نیاز دارم. اگر این کار را انجام دهم، فقط برای لذت بردن یا تربیت من یا دیگران خواهد بود.

مقاله اصلی را در Business Insider بخوانید