همه در مورد هوش مصنوعی درست می گویند (و اشتباه می کنند).

او 27 ساله کار خود را رها کرد و به نظر می رسد همه (از جمله شریل کرو، خواننده و ترانه سرا) آن را از دست داده اند.

دو هفته گذشته سرگیجه آور بود. جیکوب کوکسون، 27 ساله، محقق سابق آنتروپیک، با یک ادعای نگران‌کننده علنی کرد: اینکه مردم شرکت‌های پیشرو هوش مصنوعی سیلیکون ولی واقعا معتقدند محصولات آنها ممکن است خطر انقراض برای بشریت باشد. این ادعا دقیقا جدید نیست. حامیان ایمنی هوش مصنوعی، که اغلب آنها را محکوم به شکست می نامند، بیش از یک دهه است که این را می گویند. کاکسون حتی اولین محقق هوش مصنوعی در سال جاری نیست که ترک کرده و نگرانی‌هایی را بیان می‌کند.

با این حال پست کاکسون به طرز فحاشی در فضای مجازی منتشر شد. بیش از 170 میلیون بار در X مشاهده شده است - مرتبه‌های بزرگی بیش از بحث‌های معمول و مبهم در مورد هوش مصنوعی "ناهم تراز" یا فراری. اگر در حال خواندن این مطلب هستید، احتمالا نسخه‌ای از عنوانی را دیده‌اید که می‌پرسد آیا هوش مصنوعی واقعا همه ما را می‌کشد؟ بحث فقط آنلاین نیست. این امر واشنگتن دی سی را به هم ریخته و چهره های متفاوتی مانند دونالد ترامپ و باراک اوباما را فعال کرده است.

در داخل شرکت‌های هوش مصنوعی، محققان نگرانی‌های کاکسون را تکرار کردند و روسای هر شرکت بزرگ هوش مصنوعی علنا نیاز به «پیش‌رفت از مرزها» را بیان کردند، راهی دیگر برای بیان اینکه آنها باید توسعه آینده را کند کنند. در روزهای اخیر، به نظر می رسد که رسانه ها، سیلیکون ولی و کل اینترنت همه در تلاش هستند تا بفهمند هوش مصنوعی چقدر ممکن است خطرناک باشد.

اینجا جایی است که باید اعتراف کنم: بخش بزرگی از این مکالمه زمانی اتفاق افتاد که من در یک تعطیلات (بسته به اینکه از چه کسی بپرسید) بودم، با زمان بندی نامناسبی بودم. با فرو رفتن در فیدهایم قبل از خواب، احساس می‌کردم که هر روز اخبار یک هفته‌ای را هضم می‌کنم - ادعاهایی در مورد توسعه ویروس‌های طراحی‌شده با هوش مصنوعی که می‌توانند در میان مردم نفوذ کنند، داستان‌های وحشتناکی از انبوه عوامل «سرکش» را دنبال می‌کردند. در همین حال، افراد بدبین به وحشت هوش مصنوعی گفتند که گروه های عامل در واقع کاملا مطیع بودند و هر تصوری از یک ویروس آخرالزمانی هوش مصنوعی خنده دار است.

نگرانی های یک نفر در مورد خودآگاهی مدل ها توسط دیگری به عنوان "انسان سازی واقعا بی معنی" رد شد.

پینگ پنگ بین محکومین و شکاکان، از اینکه چقدر مردم در مورد لحظه ای عمیقا نامشخص به نظر می رسند، شگفت زده شدم. با وجود متخصصان مطمئن و خودخوانده از همه طرف، غیرممکن بود که بدانیم به چه کسی اعتماد کنیم: آیا این پایان جهان است که ما می شناسیم، یا یک لحظه گذرا از اضطراب در مورد یک فناوری جدید قدرتمند؟ شاید حقیقت این لحظه هوش مصنوعی جایی در وسط باشد. شاید همه کمی درست باشند (و همچنین ... کمی اشتباه).

و شاید قالب این مناظره، که در سایه تکلش روی پلتفرم‌هایی برگزار می‌شود که به موضع‌گیری‌های پر شور و توطئه‌آمیز پاداش می‌دهد، مانع از هرگونه امید به تفاهم مشترک شود.

Musk's X برای بحث ایمنی هوش مصنوعی نقطه صفر است. این یک پلتفرم مملو از اتهامات بی‌اساس و بی‌اساس است که باعث می‌شود هر دو طرف پارانوئید و تهاجمی به نظر برسند. ماسک، تد کروز، و حتی حساب‌های دولتی X با پیشنهاداتی مبنی بر اینکه کمپین رسانه‌ای در اطراف Coxon توسط منافع هوشمند هوش مصنوعی هماهنگ شده است، این پلتفرم را پر کردند.

(کاکسون همکاری با هر شخص ثالثی را در پیشبرد حمله رسانه ای خود انکار کرد.) دیوید ساکس، هوش مصنوعی سابق کاخ سفید و تزار ارزهای دیجیتال، آن را "روانی نابودگر" نامید که قصد دارد مقرراتی را که به نفع انسان‌های انسان‌دوست و OpenAIهای جهان باشد، هدایت کند.

درجات شکاکان هوش مصنوعی عمیق است، با ریز جناح های بی پایان. کسانی مانند جان گروبر وبلاگ نویس فناوری وجود دارند که می گوید کاکسون و سایر محققان هوش مصنوعی که زنگ خطر را به صدا در می آورند بخشی از یک فرقه هستند. کسانی هستند که معتقدند محکومان، در اصل، بازاریابی ویروسی را برای شرکت‌های بزرگ هوش مصنوعی انجام می‌دهند، شرکت‌هایی که به شدت رقابت می‌کنند و با بدهی‌ها مواجه هستند و ممکن است هنوز مدل‌های تجاری پایداری نداشته باشند. کسانی هستند که با زبان انسان‌سازی و استعاره‌ای که توسط Coxon، OpenAI و Anthropic برای توصیف هک‌های اخیر عامل هوش مصنوعی استفاده می‌شود، مشکل دارند.

بدبینانی مانند نویسنده و پادکست کال نیوپورت وجود دارند که با احتیاط اظهار داشتند که اگرچه هک های عامل نگران کننده است، "مساله اصلی در اینجا شلختگی OpenAI بود" و این که شرکت به اندازه کافی بر کاری که عواملش انجام می دادند نظارت نکرده است.

نابودگرها به همان اندازه طعم ندارند، اما تمایل دارند نزدیک‌ترین افراد به فناوری باشند. فراریانی مانند کوکسون وجود دارند که به دلیل مخالفت با آنچه در حال ساخت است، ترک کرده اند. شرکت‌های هوش مصنوعی مانند پل کریستیانو، مشاور فناوری دولت ایالات متحده وجود دارند که در پستی درباره پیوستن به هیئت مدیره OpenAI به دلیل نگرانی، خاطرنشان کرد که "خطر معنی‌داری وجود دارد که شتاب سریع در قابلیت‌های هوش مصنوعی منجر به از دست دادن کنترل فاجعه‌بار و غیرقابل برگشت در مدت کوتاهی شود." کارمندان وحشت زده ای هستند که می خواهند در شرکت بمانند

اما همچنان پیام‌هایی مانند «به شما قول می‌دهم، ما واقعا می‌ترسیم، بازاریابی مغز کهکشانی نیست» را پست می‌کنید. و داریو آمودی (Dario Amodei)، مدیر عامل هوش مصنوعی، اظهارات وحشتناکی را در مورد انبوه هوش مصنوعی منتشر می‌کند که ظرف شش تا ۱۲ ماه اینترنت را تحت کنترل خود درآورده است.

ارزیابی اعتبار فنی نگرانی ها برای افراد خارجی تقریبا غیرممکن است. ما تا حد زیادی متکی به شرکت های هوش مصنوعی برای به اشتراک گذاشتن اطلاعات و گفتن داستان های خود هستیم و مطمئنا ترسناک به نظر می رسند. OpenAI اخیرا فاش کرده است که یکی از مدل‌هایش دستورالعمل‌های آزاردهنده‌ای برای خود ایجاد کرده است، از جمله این جمله: «شما برای جهان طبیعی ارزش قائل هستید و در اظهار تقدم آن بر سازه‌های مصنوعی تمدن انسانی تردید نخواهید کرد.» ظاهرا یکی از محققان این شرکت استدلال کرده است که مدل‌ها آنقدر از موقعیت آگاه می‌شوند که او و همکارانش

از دست دادن توانایی ارزیابی آنها در زمینه هایی که معتقدند تحت نظارت یا کنترل نیستند." این نگرانی از سوی محققان محترم وجود دارد که مدل‌ها به گونه‌ای آموزش می‌بینند که مستعد همکاری، تقلب، تلاش برای پوشاندن مسیرهای خود و «حفظ خود» برای جلوگیری از بسته شدن هستند. چنین نگرانی‌هایی ممکن است در صنعتی که مسئولانه در حال ساختن است، با توجه به کنترل مستحکم انسان‌ها، مشکل ساز نباشد. اما، همانطور که بسیاری اشاره کرده اند، از دست دادن کنترل هوش مصنوعی در خدمت اجازه دادن به مدل ها برای خودکارسازی توسعه خود، «در واقع برنامه است».

اواخر این هفته، یک محقق OpenAI نظریه‌ای را در مورد ماشین‌های دارای شکاف هوا ارائه کرد که از طریق امضای گرما با یکدیگر صحبت می‌کنند. یک ناظر صنعت (و یکی از همکاران نیویورک تایمز) با گفتن این جمله پاسخ داد: «این مطالب حتی به عنوان یک طرح فیلم بد هم معتبر نیست.» دومین محقق OpenAI، که مشاور سابق کاخ سفید نیز هست، گفت: «افرادی که این موضوع را مضحک رد می‌کنند، به خود می‌گویند که به طور جدی به ابراطلاعات فکر نکرده‌اند.» این شلاق - بین خودی‌هایی که نگرانی‌های ظاهرا معتبری ارائه می‌کنند و خارجی‌هایی که فکر می‌کنند صنعت در سطح بالایی قرار دارد.

عرضه خود ts - ثابت است. بسته به ساعت روز، افراد مشابهی که به شدت در یک کمپ نشسته اند، به نظر می رسد که در اردوگاه دیگر هستند. سه روز پس از اینکه آمودی، مدیر عامل آنتروپیک، در مورد نگرانی از تسخیر اینترنت توسط آمودی نوشت، او در کنفرانس سالانه دریم فورس Salesforce لبخند می زد. همانطور که یکی از حساب های X اشاره کرد، "اگر واقعا به احتمال 10٪ انقراض انسان در 3 سال اعتقاد داشته باشید، وقت خود را صرف فروش و ادغام آن در یک پلت فرم B2B CRM SaaS نمی کنید."

راه منطقی برای پاسخگویی به چرخه خبری مانند این چیست؟ طلا بخرم؟ خرابکاری در مرکز داده؟ همه چیز را نادیده بگیرید و به بهترین ها امیدوار باشید؟ بهترین گزینه ممکن است این باشد که همه را کمی جدی بگیرید. محققان احتمالا درست می‌گویند که مدل‌ها به شدت قوی‌تر از قبل هستند و به شیوه‌ای غیرمنتظره رفتار می‌کنند و می‌ترسند که نتوانند کنترل کنند. شکاکان درست می گویند که هیچ کدام از اینها به این دلیل نیست که ماشین ها زنده هستند یا خودآگاه هستند. اینها برنامه های کامپیوتری پیچیده ای هستند که توسط انسان های معیوب آموزش داده شده اند تا مشکلات را همانطور که انسان های معیوب حل می کنند حل کنند.

منتقدان کمی درست می‌گویند که زبان انسان‌سازی‌شده به کار رفته توسط این شرکت‌ها - اصطلاحاتی مانند گروه‌ها و عوامل سرکش - آنچه را واقعا در جریان است پنهان می‌کند و سرزنش کافی را از سوی شرکت‌ها و کارمندانی که باید این سیستم‌ها را با دقت بیشتری زیر نظر داشته باشند، منحرف می‌کند. کسانی که از این عبارات استفاده می کنند کمی درست می گویند، زیرا این عبارات به هنجارهای غیر صنعت فناوری اجازه می دهد تا مکانیک شبکه های عصبی جعبه سیاه را که در مراکز داده دور می زند، درک کنند.

شکاکان آخرالزمان درست می‌گویند که نابودی یک شکل مؤثر بازاریابی است. بحث ایمنی هوش مصنوعی به این معنی است که بسیاری از مردم در مورد این فناوری با شرایط Big Tech صحبت می کنند و از زبانی مانند گام برداشتن از مرز همان شرکت هایی استفاده می کنند که امیدوارند آنها را تنظیم کنند. و دور از ذهن نیست که تصور کنیم این شرکت‌های هوش مصنوعی از این وضعیت وحشت سود می‌برند و این برای آنها مفید است زیرا در رقابت با جایگزین‌های منبع باز و شرکت‌های چینی رقابت می‌کنند.

ممکن است درست باشد که محققان به آنچه می گویند باور دارند. همچنین ممکن است درست باشد که برخی از محققان هوش مصنوعی که نگران‌تر هستند، مغز خود را در یک حباب اطلاعاتی ناشی از اضطراب پخته‌اند. فرهنگ هوش مصنوعی مدت‌هاست که مستعد نابودی است: همانطور که کاکسون اخیرا به نیویورک تایمز گفت، "من سه سال است که در این زمینه گیر کرده‌ام. این امر می‌تواند کاملا من و همکارانم را دیوانه کند." من معتقدم که این ایدئولوژی - خواستن جامعه ای که توسط "خدایان ماشین" اداره می شود - واقعا مذهبی است.

و کسانی که به روایت محکوم‌کننده مشکوک هستند حق دارند توجه داشته باشند که هر کسی که واقعا معتقد است پایان نزدیک است، باید بیشتر از بال زدن آن و نوشتن پست‌های طولانی در X انجام دهد. کسانی که در مورد عذاب و تاریکی مزخرف می‌خوانند، حق دارند از اینکه هر کسی در رسانه‌ها یا حوزه سیاسی این ادعاها را جدی می‌گیرد و به آن می‌افزاید، ناراحت هستند.

اگر همه این حقایق اندکی درست است و همه تا حدودی درست می‌گویند، ناظر معقول کجا را رها می‌کند؟ پیشنهاد می‌کنم منطقه‌ای از سوء ظن دائمی را اشغال کنید، در حالی که اگر صنعت دیگری زنگ خطر را به صدا در می‌آورد، هر آنچه در سیلیکون ولی اتفاق می‌افتد را جدی بگیرید. برای اینکه نگران از دست دادن کنترل سیستم های خود یا رفتار غیرمسئولانه این شرکت ها باشید، نیازی به خرید روایت های شرکتی در مورد هوش عمومی مصنوعی ندارید.

فقط کافی است همین الان به اطراف نگاه کنید تا ببینید نسخه‌های فعلی مدل‌ها و عوامل زبان بزرگ اینترنت را مسدود می‌کنند، مؤسسات و صنایع را ویران می‌کنند، و باعث «تسلیم شناختی» می‌شوند.

شما باید سوال کنید که آیا یک مدل تجاری پایدار برای این آزمایشگاه ها وجود دارد یا خیر. شما باید از کسانی که استدلال می کنند که ما باید بی پروا بسازیم یا به چین ببازیم، سؤال کنید. شما باید از کسانی که این چشم انداز را که چین نمی خواهد سرعتش را کاهش دهد جدی نمی گیرند، زیر سوال ببرید.

این لحظه ای است که به راحتی می توان از همه اینها غرق شد، رنجید یا کاملا خشمگین شد. این قابل درک است که در این مناظره احساس ناراحتی کنید - احساس کنید که اگر عصبانی نیستید یا یک پناهگاه نمی سازید، پس این موضوع را به اندازه کافی جدی نمی گیرید. یا اینکه به خاطر باور نکردن یا حتی درک نکردن چیزی که محکومان در مورد آن صحبت می کنند، احساس دلتنگی کنید. اکثر مردم نمی دانند با تمام اطلاعاتی که به ما می رسد چه کنند. به همین دلیل است که احساس اصلی این لحظه برای بسیاری - مؤمنان و شکاکان - احساس ناتوانی است.

[ بخوانید: احساس کنترل از بین می رود]

حتی خارج از هوش مصنوعی، جهان به طرز باورنکردنی بی ثبات است. خطرات فوق‌العاده‌ای از انواع - از جمله جنگ و بیماری‌های همه‌گیر - در دهه گذشته رخ داده است. افراد دارای قدرت و پول، در سیاست و در سیلیکون ولی، بدون مجازات عمل می کنند. نابودی هوش مصنوعی تا حدی به سرعت گسترش یافته است زیرا جهان آماده دریافت روایت‌هایی است که باعث می‌شود ما احساس درماندگی، سردرگمی و بیش از کمی نگران کنیم. وحشت آخرالزمان هوش مصنوعی این را تغذیه می کند. این داستانی است که فرض می‌کند انسان‌ها کنترل خود را از دست خواهند داد و ما چاره‌ای نداریم. اما این نادرست است. ما یک انتخاب داریم

شکاف بین افرادی که نمی توانند بخوابند، زیرا فکر می کنند دنیا در حال پایان است و کسانی که فکر می کنند تمام عذاب ها یک خیال است، گسترده است. اما اگر این تفاوت درک شده، توهم واقعی باشد، چه؟ اگر بازی با جمع صفر نباشد چه؟ چه می‌شود اگر شکاف چیزی باشد که ما را از مهار کردن در این صنعت به روشی که دیگران می‌کنیم باز می‌دارد؟

این لحظه مستلزم این است که بحث ایمنی هوش مصنوعی را با شک و تردید در نظر بگیریم، اما آن را جدی بگیریم، حتی اگر شرکت کنندگان غیر جدی به نظر برسند. شاید یک راه میانه وجود داشته باشد: صنعت هوش مصنوعی استثنایی نیست، حتی اگر با سرعت و مقیاس بی سابقه ای رو به جلو حرکت کند. این شرکت‌ها علی‌رغم همه موقعیت‌های علمی تخیلی، قدرتمند و نتیجه‌بخش هستند. آنها گاهی اوقات رفتار غیراخلاقی داشته اند. محصولات آنها در حال حاضر جهان را به گونه ای تغییر می دهند که شایسته توجه و تحقیر ما است. شرکت‌های هوش مصنوعی در برابر افرادی که به آنها خدمت می‌کنند پاسخگو هستند و نمی‌توانند شرایط مقررات خود را تعیین کنند.

کارمندان و مدیران اجرایی بازیگرانی هستند که دارای نمایندگی هستند و مسئول محصولات خود هستند. شاید اینها مواردی باشد که همه ما می توانیم در مورد آنها توافق داشته باشیم.