آیا هشدارهای آخرالزمانی صنعت هوش مصنوعی فقط یک ترفند بازاریابی است؟

داریو آمودی، مدیرعامل آنتروپیک به سازمان ملل گفت که اگر مدل‌های هوش مصنوعی «ضعیف مدیریت شوند» می‌توانند برای کل بشریت خطرآفرین باشند. | جان لامپارسکی/ بلومبرگ از طریق گتی ایماژ

سیلیکون ولی مدت‌هاست که هشدار داده است که فناوری مورد علاقه‌اش ممکن است همه ما را بکشد. اما صحبت درباره پتانسیل آخرالزمانی هوش مصنوعی در هفته های اخیر بلندتر شده است.

در ماه سپتامبر، محقق Anthropic، Jacob Coxon، از شرکت استعفا داد و کارفرمای سابق خود را به «قماربازی با زندگی ما» از طریق توسعه مدل‌های قدرتمندتر سریع‌تر از آنچه که می‌توانست آنها را کنترل کند، متهم کرد. یکی از همکاران سابق کاکسون این ارزیابی را تایید کرد و گفت که بیش از 10 درصد احتمال دارد که هوش مصنوعی «همه انسان‌ها» را در دهه آینده بکشد.

اظهارات اخیر رهبران این شرکت ها تقریبا به همان اندازه تلخ بوده است. در ماه گذشته در سازمان ملل، داریو آمودی، مدیرعامل آنتروپیک هشدار داد که اگر مدل‌های هوش مصنوعی «ضعیف مدیریت شوند»، «می‌توانند خطری برای کل بشریت باشند». سم آلتمن از OpenAI نیز به طور مشابه اعلام کرد که گونه ما ممکن است به دلیل نوع نرم افزاری که شرکتش می فروشد، «کنترل آینده را از دست بدهد».

همه این‌ها باعث سونامی پوشش رسانه‌ای و بحث‌های سیاستی در مورد «خطرات وجودی» هوش مصنوعی شد - و اگر کاری می‌توانیم در مورد آنها انجام دهیم.

خوراکی های کلیدی

برخی از منتقدان استدلال می کنند که هشدارهای رهبران هوش مصنوعی در مورد ریسک وجودی یک استراتژی روابط عمومی برای جذب سرمایه گذاری، انحراف از آسیب های امروزی و شکل دادن به مقررات به نفع آنها است.

اما این نظریه چندان منطقی نیست.

توضیح ساده‌تر این است که بسیاری از مدیران، محققان و فراریان هوش مصنوعی بر اساس روندهای واقعی در قدرت رو به رشد و استقلال هوش مصنوعی، واقعا معتقدند که این فناوری خطرات فاجعه‌باری دارد.

با این حال، برخی از بزرگترین منتقدان صنعت هوش مصنوعی بیشتر از اینکه بترسند آزرده خاطر هستند. آن‌طور که می‌بینند، دنیا در پرتگاه نابودی روبوسی نمی‌لرزید، آنقدر که گرفتار حقه‌های فروشندگان روغن مار می‌شود. این استدلال سال‌ها است که توسط مجموعه گسترده‌ای از ناظران مطرح شده است، از جمله زبان‌شناس امیلی بندر («محصول را قدرتمندتر به نظر می‌رساند»)، دانشمند کامپیوتر تیمنیت گبرو («این فقط یک حواس‌پرتی نیست، بلکه مضر است»)، و همچنین ستون‌نویس Substack، Ed Zitron و خبرنگاران مختلف و تأثیرگذاران رسانه‌های اجتماعی.

در تفکر آنها، آلتمن و آمودی از پتانسیل فاجعه‌بار فناوری خود صحبت نمی‌کنند، زیرا به طور منطقی از اینکه هوش مصنوعی به کجا می‌رود می‌ترسند - آنها این کار را انجام می‌دهند زیرا شرکت‌هایشان به شدت تشنه سرمایه‌گذاری بیشتر هستند. و دلیل برجسته‌تر شدن «عذاب هوش مصنوعی» در هفته‌های اخیر این نیست که نگرانی‌ها قوی‌تر شده است، بلکه نزدیک‌تر شدن عرضه‌های اولیه OpenAI و Anthropic است.

به طور خلاصه، این شکاکان فناوری بزرگ استدلال می‌کنند که روزنامه‌نگاران و سیاستمداران طعمه یک استراتژی روابط عمومی غیرمعمول شده‌اند، استراتژی‌ای که دیوانگی رسانه‌ها را بر سر سناریوهای علمی تخیلی مضحک برمی‌انگیزد تا وعده‌های فناوری هوش مصنوعی را تبلیغ کند، توجه را از آسیب‌های ربات‌های گفتگوی امروزی منحرف کند و به آزمایشگاه‌ها کمک کند تا درمان مطلوب را ایمن کنند.

اگر درست باشد، این اطمینان‌بخش خواهد بود. متأسفانه، این نظریه متقاعدکننده نیست. دلیل کمی وجود دارد که باور کنیم وحشت ناشی از "خطرات وجودی" هوش مصنوعی در بخش بازاریابی سیلیکون ولی پخته شده است. برعکس، معقول‌ترین توضیح برای محکومیت بخش هوش مصنوعی نیز ساده‌ترین توضیح است: بسیاری از مدیران، کارمندان و تحلیل‌گران صنعت واقعا معتقدند که پیشرفت هوش مصنوعی خطرات فاجعه‌باری را به همراه دارد.

در مکالمات من با ناظران نزدیک صنعت، حتی برخی از سرسخت‌ترین مخالفان OpenAI و Anthropic اذعان کردند که نگرانی‌های اعلام شده رهبران آنها بعید است تاکتیک‌های بازاریابی صرف باشد. کال نیوپورت، نویسنده و دانشمند کامپیوتر، به من گفت: «هرچه بیشتر در مورد ایدئولوژی‌های زیربنایی که آن دو آزمایشگاه از آنها شکل گرفتند، بیشتر یاد می‌گیرم، بیشتر فکر می‌کنم آنچه در اینجا داریم یک باور صادقانه است.

این بدان معنا نیست که آمودی و آلتمن درست می گویند، چه رسد به اینکه بتوانیم به قضاوت یا درستی آنها اعتماد کنیم. دلایل زیادی برای شک وجود دارد که پیش‌بینی آب و هوا برای سال 2036 «ابری با احتمال آخرالزمان ربات» است، یا اینکه هر کسی می‌تواند یک احتمال «10 درصد» را برای نتیجه دوم بدون بیرون کشیدن اعداد از هوای رقیق تعیین کند.

با این وجود، کاساندراهای سیلیکون ولی منطق و شواهدی در کنار خود دارند. مدل‌های هوش مصنوعی هم توانمندتر، هم خودمختارتر و هم احتمالا سرکش در حال رشد هستند. اگر این روندها بدون کنترل ادامه پیدا کنند، سخت نیست که ببینیم چگونه می توانند نتایج بسیار بدی داشته باشند.

با توجه به خطرات، ما نباید راحت باشیم که هشدارهای آنها را به دلایل مشکوک رد کنیم. و تئوری "PR" نابودی هوش مصنوعی دقیقا این کار را انجام می دهد.

چگونه شرکت های هوش مصنوعی (ظاهرا) از ترس از آخرالزمان ربات سود می برند

قبل از بررسی این موضوع که چرا "دومریسم" هوش مصنوعی احتمالا یک شیرین کاری روابط عمومی نیست، بهتر است در مورد اینکه چرا برخی معتقدند چنین است، کمی بیشتر توضیح دهیم.

طبق گفته های Bender، Gebru و دیگران، شرکت های هوش مصنوعی حداقل از سه طریق از صحبت در مورد خطرات وجودی هوش مصنوعی سود می برند.

اول اینکه سرمایه گذاری را جذب می کند. به قول متئو وونگ از آتلانتیک، روایت نابودگر حاکی از آن است که مدل‌های آزمایشگاه‌های هوش مصنوعی «مقدر شده است که به طرز وحشتناکی توانمند شوند» و در نتیجه سود انبوهی داشته باشند. همانطور که برایان مرچنت از لس آنجلس تایمز در طول اولین موج بزرگ وحشت هوش مصنوعی در سال 2023 به این نکته اشاره کرد، "چه راهی بهتر برای ایجاد سر و صدا از اصرار، با یک اعتبار فرضی خاص، بر اینکه فناوری جدید شما آنقدر قدرتمند است که ممکن است جهان را آنطور که ما می شناسیم باز کند؟"

"اگر این تهدیدها را به عنوان همه‌جانبه و تا حدودی ناشناخته در نظر بگیرید، متخصص آن خواهید بود." کیت برنان، موسسه هوش مصنوعی

دوم، هیپ زدن خطرات فرضی آینده هوش مصنوعی توجه را از تخلفات فعلی شرکت ها منحرف می کند. هر دقیقه ای که صرف بحث در مورد اینکه آیا هوش مصنوعی روزی همه ما را به گیره کاغذ تبدیل خواهد کرد، دقیقه ای است که در مورد موارد ادعایی نقض حق چاپ، آلودگی، نقض کار، و هزاران آسیب اجتماعی دیگر در آزمایشگاه های هوش مصنوعی بحث نمی کنیم.

و سوم، روایت عذاب، بررسی‌های نظارتی را از موضوعاتی که مستقیما سودآوری شرکت‌های هوش مصنوعی را تهدید می‌کنند - مانند اجرای کپی‌رایت - دور می‌کند و همچنین پیشنهاد می‌کند که تنظیم‌کننده‌ها باید برای راهنمایی به خود آزمایشگاه‌ها اعتماد کنند.

کیت برنان از مؤسسه AI Now، یک اندیشکده مترقی که بر روی آسیب های کوتاه مدت هوش مصنوعی متمرکز است، به من گفت: «اگر این تهدیدها را قدرتمند و تا حدودی ناشناخته قرار دهید، می توانید در آن متخصص باشید.

به طور بحرانی، برای بزرگ‌ترین شکاکان «عذاب هوش مصنوعی»، مدیران و کارکنان صنعت تنها کسانی نیستند که در این استراتژی روابط عمومی شریک هستند. افشاگرانی مانند کوکسون نیز مشکوک هستند، زیرا ممکن است "از کانون توجه برای جذب سرمایه برای شروع یک سرمایه گذاری جدید یا کسب موقعیت های جدید استفاده کنند." حتی تصور می‌شود که حتی سازمان‌های غیرانتفاعی ایمنی هوش مصنوعی به‌عنوان کشتی‌هایی برای کمپین‌های بازاریابی Big Tech عمل می‌کنند، واقعیتی که توسط روابط مالی و بین‌فردی بین آزمایشگاه‌های بزرگ و چنین اتاق‌های فکر منعکس شده است.

راه‌های بهتری برای جمع‌آوری پول نسبت به قول پایان دادن به دنیا وجود دارد

نقد "PR" از نابودی هوش مصنوعی دارای هسته های حقیقت است. احتمالا شرکت‌های هوش مصنوعی ترجیح می‌دهند در مورد خطرات فرضی آینده فناوری خود صحبت کنند تا در مورد آسیب‌های امروزی محصولاتشان. و اگر تبلیغ علنی خطرات وجودی هوش مصنوعی در تضاد با اهداف تجاری Anthropic و OpenAI باشد، رهبران آنها تقریبا به طور قطع درمورد آن موضوع کمتر صحبت خواهند کرد. (افشای: Vox Media یکی از چندین ناشر است که قراردادهای مشارکتی را با OpenAI امضا کرده است. گزارش ما از نظر سردبیری مستقل است.)

اما این نتیجه نمی گیرد که هشدارهای آلتمن و آمودی یک استراتژی بازاریابی خودآگاه است که به جای نگرانی واقعی، ناشی از محاسبه بدبینانه است. و دلایل متعددی برای شک در این اتهام وجود دارد.

برای یک چیز، شرکت‌های هوش مصنوعی هیچ کمبودی برای افزایش قابلیت‌های فناوری خود ندارند. و به سختی می توان دید که چگونه هر شرکتی می تواند به این نتیجه برسد که رویکرد بهینه - از نقطه نظر مالی محض - این است که خود را تهدیدی برای بقای انسان نشان دهد.

برای سرمایه گذاران، جذابیت شرکت های هوش مصنوعی این نیست که به طور فرضی می توانند همه ما را اسیر یک خدای ماشینی کنند. این است که آنها از نظر تئوری می توانند پول زیادی به دست آورند.

شاید قرار دادن ربات‌های چت خود به عنوان یک ریسک «وجودی» برخی سرمایه‌داران را نسبت به سودآوری آینده شما متقاعد کند. اما به نظر می‌رسد که این یک موضوع بسیار غیرمستقیم است - و تقریبا مطمئن است که کمتر از نشان دادن اینکه بسیاری از شرکت‌ها مایلند نرم‌افزار شما را اجاره کنند، مؤثر است.

روی باهات، رئیس بازوی سرمایه گذاری مخاطره آمیز بلومبرگ، به من گفت: «اگر این افراد کاغذ پروازی می فروختند – و درآمد به همان سرعتی که هست رشد می کرد – سرمایه گذاران کم و بیش به همان اندازه علاقه مند می شدند.

و حتی اگر این شرکت‌ها می‌خواستند افکار عمومی را با پیش‌بینی‌های بزرگ درباره قدرت‌های آینده فناوری‌شان به هیجان بیاورند، نیاز چندانی به فراخوانی آخرالزمان روبات‌ها ندارند. به نظر می رسد تبلیغ پتانسیل هوش مصنوعی برای درمان سرطان، از بین بردن فقر یا تسهیل سفرهای بین کهکشانی، همگی همین هدف را پیش می برد، در حالی که کمتر باعث به خطر انداختن اعتبار عمومی یا آزادی شرکت ها از مقررات مزاحم می شود.

و در واقع، بسیاری از افرادی که علاقه زیادی به موفقیت آزمایشگاه‌های اصلی هوش مصنوعی دارند، این فناوری را دقیقا به این شکل مطرح می‌کنند. مارک آندرسن، سرمایه‌گذار OpenAI، نگرانی‌های ایمنی هوش مصنوعی را به عنوان یک "هراس اخلاقی تمام عیار" محکوم کرد و در عین حال تاکید کرد که هوش مصنوعی بشریت را برای درمان همه بیماری‌ها و شرکت در "سفرهای بین ستاره‌ای" توانمند می‌سازد. به طور مشابه، جنسن هوانگ، مدیرعامل تراشه‌ساز انویدیا و سرمایه‌گذار اصلی در OpenAI و Anthropic، ادعاهای مربوط به پتانسیل فاجعه‌بار هوش مصنوعی را "بیهوده کامل" خوانده است. اگر برای افزایش سرمایه‌گذاری‌ها، نابودی هوش مصنوعی ضروری است، همه افراد در سیلیکون ولی چنین نیستند

یادداشت را دریافت کرد

به نظر نمی رسد رسانه ها آنقدرها منحرف شوند

ترویج ترس از خطرات وجودی هوش مصنوعی یک رویکرد مشابه برای مدیریت رسانه خواهد بود.

بدون شک، شرکت ها همیشه به دنبال هدایت پوشش خبری به دور از بزرگترین مسئولیت های قانونی و اخلاقی خود هستند. اما شرکت‌ها می‌توانند از طرق مختلف، مطبوعات مطلوب‌تری را تضمین کنند. و دخالت دادن خود در آخرالزمان، از نقطه نظر ارتباطات بحران، بهینه به نظر نمی رسد. حداقل، نام بردن از صنایع دیگری که چنین مانوری را انجام داده اند دشوار است. شرکت های انرژی اتمی به پوشش رسانه ای فاجعه فوکوشیما با صحبت درباره تهدید زمستان هسته ای پاسخ ندادند.

علاوه بر این، دلیلی برای شک وجود دارد که گفتمان عذاب AI در واقع بررسی نکات منفی فوری هوش مصنوعی را در عمل کاهش می دهد. این درست است که توجه انسان محدود است و پوشش برخی از مشکلات ناگزیر از گزارش دادن به برخی دیگر خواهد شد. با این حال، هنگامی که یک داستان علاقه عمومی را در یک شخص، موسسه یا صنعت برانگیزد، رسانه‌ها اغلب با بررسی رفتار گسترده‌تر خود پاسخ می‌دهند. به این ترتیب، هشدارها در مورد خطرات وجودی هوش مصنوعی ممکن است از لحاظ نظری توجه روزنامه نگاران را به آسیب های امروزی فناوری افزایش دهد.

و به نظر می رسد این در نشریه خودم رخ داده است. در هفته‌های پس از استعفای کاکسون خشم بر سر پتانسیل آخرالزمانی هوش مصنوعی، Vox داستان‌های بیشتری را در مورد تهدیدات کوتاه‌مدت هوش مصنوعی نسبت به ماه قبل از خروج او منتشر کرده است - از جمله مطالبی در مورد اینکه چگونه هوش مصنوعی می‌تواند زیرساخت‌های حیاتی آمریکا را به خطر بیندازد، جنایات جنگی، آسیب‌رسانی به مزایای بیمه سلامت روانی، پیشرفت‌های توسعه‌ای.

به نظر می‌رسد که رسانه‌های خبری بزرگ‌تر دیگر حواس‌پرتی ندارند. طی ماه گذشته، نیویورک تایمز مقالاتی در مورد چگونگی افزایش آلودگی هوا توسط هوش مصنوعی، تضعیف آموزش عالی، کمک به شرکت های شرط بندی ورزشی برای هدف قرار دادن قماربازان مشکل دار و کاهش دستمزد واقعی برای کارگران جوان منتشر کرده است.

و مشخص نیست که گفتمان عذاب هوش مصنوعی در محافظت از آزمایشگاه‌های برتر در برابر نظارت نظارتی مؤثرتر باشد. به هر حال، سیاستمدارانی که بحث‌های ریسک وجودی را جدی‌تر می‌گیرند، از قوی‌ترین مدافعان آمریکا برای تنظیم تأثیرات هوش مصنوعی بر نیروی کار، محیط‌زیست، هنرمندان و آموزش هستند.

محققان ایمنی هوش مصنوعی احتمالا پیشرو بخش بازاریابی Anthropic نیستند

در نهایت، نظریه «PR» در توضیح اینکه چرا بسیاری از افراد بدون سهم بزرگ در موفقیت OpenAI و Anthropic نگران خطر وجودی هستند، مشکل دارد. Coxon یکی از بسیاری از کارگرانی است که شغل خود را در صنعت هوش مصنوعی رها کرده و به دلیل نگرانی از پتانسیل فاجعه‌بار هوش مصنوعی، ارزش سهام پردرآمد را در این فرآیند کنار گذاشته است. به همین ترتیب، محققان مستقل ایمنی هوش مصنوعی از جمله کسانی هستند که زنگ خطر را در ماه‌های اخیر به صدا درآورده‌اند.

تلاش برای تطبیق این حقایق با روایت «PR» می‌تواند به تئوری‌های توطئه نزدیک شود. سارا گودرزی در مقاله‌ای برای بولتن دانشمندان اتمی می‌نویسد: «استعفای کوکسون آخرین مورد از یک رشته رویدادهای اخیر است که در آن شرکت‌ها تاکید کردند که یک هوش مصنوعی قدرتمند تا چه حد ممکن است غیرقابل پیش‌بینی، مخاطره‌آمیز و تأثیرگذار باشد. این عبارت خروج کاکسون را به کارفرمایش نسبت می‌دهد - آن را به عنوان نمونه‌ای از اینکه چگونه شرکت‌های هوش مصنوعی به دنبال این بودند که محصولاتشان چشمگیر به نظر برسند، نشان می‌دهد که گویی کاکسون به دستور آنتروپیک کار می‌کرد.

آن را به بی مسئولیتی وحشتناک متهم کرد.

هشداردهنده های هوش مصنوعی احتمالا صادق هستند

با توجه به همه این‌ها، من فکر می‌کنم باید توضیح ساده‌تری برای اینکه چرا برخی از مدیران صنعت هوش مصنوعی، جداشدگان و محققان همگی می‌گویند هوش مصنوعی دارای خطرات وجودی است، طرفداری کنیم: آنها معتقدند که این درست است.

برخی ممکن است تمایلی به اعتبار دادن به آمودی و آلتمن با این صداقت نداشته باشند. به هر حال، اگر آنها واقعا معتقد بودند که کارشان می‌تواند منجر به نابودی انسان شود، چرا به انجام آن ادامه می‌دهند؟

اما همانطور که کال نیوپورت، منتقد سرسخت نابودی هوش مصنوعی به من گفت، آنها دلایل خود را دارند. او گفت: "هدف آنها این است که ابتدا سعی کنند به ابراطلاعات برسند، زیرا اگر به درستی انجام شود، یک مدینه فاضله فراانسانی ایجاد می کند - و اگر اشتباه انجام شود، همه ما را خواهد کشت."

حتی برنان از AI Now، که نابودی آزمایشگاه‌ها را «استراتژی خودخدمت» می‌داند، پیشنهاد کرد که ایده‌های جدی (اگر بزرگ) در مورد ایمنی هوش مصنوعی در رفتار آنها نقش داشته باشد. او گفت: «تشدید و شتاب آن‌ها به این فناوری دست به دست هم می‌دهد و با اعتقاد به قدرت دانا و خداگونه آن پیش می‌رود.

به عبارت دیگر، به نظر می رسد رهبران Anthropic و OpenAI معتقدند که:

هوش مصنوعی همچنین می‌تواند عملکرد فوق‌العاده‌ای داشته باشد.

انگیزه‌های اقتصادی و ژئوپلیتیکی برای توسعه یک هوش مصنوعی فوق‌هوشمند (و در نتیجه، فوق‌العاده خطرناک) بسیار زیاد است، به طوری که ظهور نهایی آن بسیار محتمل است، صرف نظر از اینکه آنها چه می‌کنند.

اگر آنها در مسابقه ابرهوش ماشینی برنده شوند، به طور منحصر به فردی در موقعیت مناسبی قرار خواهند گرفت تا ایمنی آن را تضمین کنند.

آیا این باورها غیرقابل تغییر و خودخواهانه هستند؟ شاید. آیا آنها به عنوان عقلانی سازی برای دستیابی به قدرت شخصی عمل می کنند؟ کاملا ممکن است.

اما هر چه از نگرانی‌های آخرالزمانی آمودی و آلتمن بگوییم، و اینکه چگونه آنها به آنها عمل کرده‌اند و چگونه عمل نکرده‌اند، مهم است که بدانیم نگرانی‌های آنها به‌طور قطع از استدلال مستدل و مشاهدات فنی ناشی شده است، نه محاسبات صرف روابط عمومی.

هر دو رهبر پیوندهای عمیقی با جامعه "خردگرا" منطقه خلیج دارند، که از دهه اول قرن حاضر در مورد آخرالزمان ربات ها نگران بوده است. آلتمن و آمودی، مانند کارمندان و منتقدان سابق مخالف خود در اتاق‌های فکر، شاهد روندهای نگران‌کننده‌ای در توسعه هوش مصنوعی بوده‌اند.

من نمی‌توانم ترس‌های «نابود کننده» را در پیکسل‌های اختصاص داده شده‌ام رعایت کنم (شما می‌توانید آن‌ها را به خوبی در اینجا، اینجا، اینجا، و تقریبا در 10 تریلیون پست وبلاگ دیگر خلاصه کنید). اما نگرانی اساسی این است که مدل‌های هوش مصنوعی قدرتمندتر و مستقل‌تر می‌شوند، حتی با وجود اینکه عملکرد آنها بسیار مبهم است.

آزمایشگاه‌ها می‌دانند که چگونه این چت‌بات‌ها را آموزش دهند - برای اینکه آنها را وادار کنند تا دستورات را به کدهای مفید، خلاصه‌های قانونی یا توصیه‌ها ترجمه کنند - اما به طور کامل نمی‌دانند که چگونه مدل‌ها به خروجی مورد نظر می‌رسند. در همان زمان، سیستم‌های هوش مصنوعی به طور فزاینده‌ای توانمند می‌شوند و در کارهای شناختی بیشتر و بیشتر از انسان پیشی می‌گیرند. و کاربران به آنها آزادی بیشتری برای عمل در جهان می دهند و به "عامل" هوش مصنوعی قدرت می دهند تا در اینترنت مرور کنند، به ابزارهای نرم افزاری بی شماری دسترسی داشته باشند، کد را اجرا کنند و برنامه های خود را برای تکمیل وظایف چند مرحله ای طراحی کنند.

اگر این روند ادامه پیدا کند، دشوار نیست که ببینیم اوضاع چگونه می‌تواند بد پیش برود: یک مدل هوش مصنوعی فوق‌العاده توانا ممکن است هدفی را به روش‌های پیش‌بینی‌نشده و فاجعه‌باری دنبال کند، قبل از اینکه عوامل انسانی آن متوجه شوند که چه اتفاقی دارد می‌افتد.

نات پورسر، مدیر سیاست ایالات متحده در مؤسسه تحقیقاتی تأیید و ارزیابی هوش مصنوعی، گفت: «آنچه مرا به‌ویژه مضطرب می‌کند ترکیبی از ما است که قدرت و نظارت بیشتری را به مدل‌ها می‌سپاریم، حتی زمانی که می‌دانیم چرا آنها کاری را که کمتر و کمتر انجام می‌دهند، انجام می‌دهند.

رویدادهای اخیر مسلما اثبات مفهومی برای این اضطراب ها ارائه کرده است. در اوایل سال جاری، OpenAI به تعدادی از مدل‌ها دستور داد تا تست‌های مختلف کدنویسی و هک را تکمیل کنند. وقتی سیستم‌ها متوجه شدند که برخی از سؤالات غیرقابل پاسخ هستند، به این نتیجه رسیدند که بهترین راه برای تحقق اهدافشان هک کردن سیستم‌های داخلی OpenAI و وب‌سایت یادگیری ماشین منبع باز Hugging Face است. این حادثه - و موارد دیگر مانند آن - به تشدید وحشت ماه گذشته هوش مصنوعی کمک کرد.

البته، یک جهش بزرگ لازم است تا از «عوامل هوش مصنوعی بدون نظارت ممکن است در شرایط آزمایشگاهی خاص بد رفتار کنند» به «احتمال 10 درصدی وجود دارد که تا سال 2036 هیچ انسانی زنده نخواهد ماند». منظور من در اینجا این نیست که محکومان حق دارند، فقط ترس آنها تا حدی منعکس کننده روندهایی در توسعه هوش مصنوعی است که واقعا خطرناک به نظر می رسد.

با توجه به نتیجه‌گیری منطقی‌اش، نظریه «همه روابط عمومی است» نشان می‌دهد که تنظیم‌کننده‌ها باید خطرات فرضی و بلندمدت هوش مصنوعی را به‌عنوان یک فکر بعدی در نظر بگیرند – اگر نگوییم حواس‌پرتی فعال از آسیب‌های مهم‌تر آن. با این حال، برای اثبات چنین سیاستی، شکاکان باید نقص در شواهد و مفروضات هشداردهنده را شناسایی کنند. استدلال‌هایی که صرفا انگیزه‌های آنها را به دلایل غیرمحتمل به چالش می‌کشند، ارزش شرط‌بندی روی گونه‌ها را ندارند.