سیگنال های دود: سرنوشت گرایی خطرناک AGI در سیلیکون ولی

گتی ایماژ; تایلر لی/بی هفته گذشته، شیام سانکار، CTO Palantir در مصاحبه ای در CBS News به چیز عجیبی اشاره کرد. او گفت: "بسیاری از محققان هوش مصنوعی سیگار کشیدن را به عنوان راهی برای نشان دادن میزان اعتقاد آنها به هوش مصنوعی به سایر محققان آغاز کرده اند." او گفت که تفکر آنها به این صورت است: "من آنقدر به هوش مصنوعی اعتقاد دارم که سرطان را درمان می کند. بنابراین من به شما نشان می دهم که تراشه هایم تمام شده است."

من که نقل قول را خواندم خندیدم. این مانند یک تیتر در پیاز خوانده می شد که خوش بینی کور افراد دارای هوش مصنوعی را به سخره می گیرد. اما بعد برای آنها غمگین و نگران شدم. من تعجب کردم که آیا آنها سیگار می کشند زیرا معتقدند هوش مصنوعی جهان را نجات می دهد یا به این دلیل که معتقدند هوش مصنوعی به آن پایان می دهد؟

این چند ماه به خصوص در اینجا در سانفرانسیسکو بسیار نگران کننده است. ربات‌های OpenAI سرکش شدند و یک شرکت دیگر را هک کردند، و سپس یک محقق Anthropic از کار کنار رفت و هشدار داد که هوش مصنوعی می‌تواند نسل بشر را از بین ببرد. برای من باورپذیرتر به نظر می‌رسید که این محققان سیگار می‌کشیدند، زیرا فکر نمی‌کردند مدت طولانی‌تری در اطراف باشند - یا حداقل از این احتمال وحشت داشتند. من به برنامه HBO "The Leftovers" فکر کردم که یک فرقه روز قیامت را به نمایش می گذارد که زنجیره ای دود می کند. چون معتقدند دنیا به پایان رسیده است، بدشان نمی آید که ریه هایشان را از بین ببرند.

آنها طوری زندگی می کنند که انگار قبلا مرده اند.

من از تعداد انگشت شماری از افرادی که در زمینه هوش مصنوعی کار می کنند پرسیدم و هیچ یک از آنها کسی را نمی شناختند که به طور ناگهانی به دلیل هوش مصنوعی سیگار کشیده باشد. بنابراین من فکر نمی کنم آنچه سانکار مشاهده کرد گسترده باشد. اما در داستانی در ماه گذشته در مورد بنیانگذاران فناوری که سیگار می‌کشند، همکارم هنری چاندونت از مردی نقل قول کرد که نگران عادت خود نبود زیرا معتقد بود هوش مصنوعی به زودی سرطان ریه را درمان می‌کند. در میان افرادی که با آنها صحبت کردم، چند نفر آن احساس اساسی را تشخیص دادند: هوش مصنوعی همه چیز را اصلاح می کند (یا نابود می کند)، بنابراین YOLO . سال گذشته، همکار سابق من راب پرایس در مورد این نگرش ها گزارش داد. برخی پس انداز خود را خرج می کردند.

دیگران داروهای خطرناک مصرف می کردند و عیاشی می گرفتند. سال گذشته، همکار سابق من راب پرایس در مورد این نگرش ها گزارش داد. برخی پس انداز خود را خرج می کردند. دیگران داروهای خطرناک مصرف می کردند و عیاشی می گرفتند.

در حالی که رشد کنندگان و محکومان هوش مصنوعی انتظار نتایج کاملا متضادی را دارند، برای من جالب بود که باورهای بسیار متفاوت آنها اغلب به صورت رفتارهای مشابه ظاهر می شود. سیگار بکشید یا سیگار نکشید، مهم نیست: آینده اجتناب ناپذیر است. در هر صورت، آنها سرنوشت خود را به یک هوش مصنوعی پایان دهنده یا نجات دهنده بشریت واگذار می کنند - و یکی از شواهد ترین کارهایی را که می توانند برای داشتن آینده ای سالم انجام دهند نادیده می گیرند. این یک نوع تقدیرگرایی است، با این باور که کاری که انجام می دهید، اتفاقات بعدی را تغییر نمی دهد.

من ردپای آن را در بسیاری از گوشه های جامعه می بینم. دانش‌آموزان می‌گویند اگر هرگز در برنامه‌نویسی یا ریاضی به خوبی ChatGPT نباشند، مطالعه چه فایده‌ای دارد؟ مردم می گویند اگر یک ربات بتواند آن را برای آنها بنویسد، دردسر کشیدن برای متن جدایی چه فایده ای دارد؟ کارمندان می گویند اگر شرکتشان بخواهد یک نماینده را جایگزین آنها کند، کار سخت چه فایده ای دارد؟ در یک نظرسنجی اخیر توسط Verasight، 78٪ احساس کردند که در مورد چگونگی توسعه و تنظیم هوش مصنوعی اظهار نظر کمی دارند یا اصلا حرفی ندارند.

حتی افرادی که بیشترین حرف را دارند نیز به نظر نمی رسد که باور کنند. داریو آمودی، مدیر عامل آنتروپیک، هشدارهای جدی‌تری درباره فناوری‌هایی که خودش ایجاد می‌کند، صادر کرده است. او می گوید که او باید به راه خود ادامه دهد، زیرا اگر این کار را نکند، یک مباشر کمتر مسئولیت پذیر صنعت این کار را انجام خواهد داد. آمودی و همتایانش طوری به نظر می رسند که انگار در برابر خدایی غیرقابل توقف کاملا ناتوان هستند. اگر واقعا بد است، نمی‌توانستند دوشاخه را بکشند؟ "Saturday Night Live" عجیب بودن همه چیز را در طرحی که اخیرا خودنمایی می کند آمودی به تصویر کشیده است.

Amodei از جین ویکلین می گوید: «اگر بتوانیم قانونگذاران را برای ایجاد حفاظ تحت فشار قرار دهیم، می توانیم جلوی من را بگیریم.»

ما به افرادی نیاز داریم که به طور جدی در مورد خطرات این فناوری‌ها فکر کنند، و همچنین به افرادی نیاز داریم که رویاهای بزرگی در مورد خیر عظیمی که می‌توانند به ارمغان بیاورند، داشته باشند. اما هیچ یک از این نتایج اجتناب ناپذیر است. همانطور که ما بیشتر و بیشتر کار و زندگی خود را به عوامل هوش مصنوعی می سپاریم، نباید آژانس خود را نیز به آنها بسپاریم. من به این زودی سیگار نمی کشم.

مقاله اصلی را در Business Insider بخوانید