آیا واقعا هوش مصنوعی به طور خطرناکی از کنترل خارج می شود؟

آیا هوش مصنوعی در حال اجرا است؟

شما در حال حاضر به سختی می توانید به یک پادکست گوش دهید یا اخبار را بخوانید بدون اینکه یک هشدار آخرالزمانی در مورد هوش مصنوعی بشنوید. رئیس هوش مصنوعی مایکروسافت پیشنهاد می کند که این فناوری می تواند به یک "گونه سیلیکونی" جدید تبدیل شود که با انسان رقابت می کند. یکی از کارمندان سابق آنتروپیک می گوید احتمال زیادی وجود دارد که همه ما به دست آن بمیریم. و جفری هینتون، "پدرخوانده هوش مصنوعی" می گوید که ممکن است ظرف یک سال کاملا کنترل آن را از دست بدهیم.

آیا هوش مصنوعی واقعا خارج از کنترل است؟ مهیری آیتکن، سابقا از مؤسسه آلن تورینگ و اکنون یکی از بنیانگذاران شرکت غیرانتفاعی Our AI Collective، نسبت به پذیرش پیش‌بینی‌ها بر اساس شهرت کسانی که آنها را انجام می‌دهند هشدار می‌دهد. در عوض، ما باید به حقایق نگاه کنیم - و حقایق نشان نمی دهد که هوش مصنوعی از کنترل انسان رها شده است یا در آستانه انجام این کار است.

آیتکن می گوید: "این روایتی است که بارها و بارها تحت فشار قرار می گیرد. ما این امواج هیستری را دریافت می کنیم." او می‌گوید اگر چیزی نادرست شده باشد، این مدل‌های هوش مصنوعی نیستند، بلکه انسان‌ها هستند که آنها را توسعه می‌دهند.

وقتی مدل‌های هوش مصنوعی می‌روند و رایانه‌های یک شرکت دیگر را هک می‌کنند، به این دلیل است که اقدامات ایمنی مناسب در طول آزمایش در نظر گرفته نشده است - آزمایشی که برای ارزیابی اینکه آن مدل‌های هوش مصنوعی چقدر می‌توانند کامپیوترها را هک کنند طراحی شده است. ما به سادگی شاهد ناکامی شرکت ها در ایجاد پادمان های کافی هستیم.

آیتکن می‌گوید، مدل‌های هوش مصنوعی نیز خود را به صورت بازگشتی بهبود نمی‌دهند - این نشان می‌دهد که ما می‌توانیم به تکینگی وحشتناک نزدیک شویم که در آن هوش مصنوعی به یک حلقه بهبود خودگردان می‌رود که تسریع می‌کند و به سرعت هوش عمومی مصنوعی ایجاد می‌کند. آیتکن می‌گوید: «وقتی این ایده‌های ابرهوشی مطرح می‌شوند، بر اساس یک روایت هیجان‌انگیز قانع‌کننده هستند، اما هیچ مدرک مشخصی وجود ندارد». "اگر چیزی به این قدرتمندی وجود داشت، ما چیزی از آن را می دیدیم."

اندرو روگویسکی از دانشگاه ساری بریتانیا می‌گوید که در حقیقت، علیرغم پیشرفت‌های هوش مصنوعی در ریاضیات و امنیت سایبری، طی دو سال گذشته هیچ تغییر چشمگیری در خطر ناشی از هوش مصنوعی رخ نداده است. اما هیپ به طور دوره‌ای با یک حادثه یا صدایی جذاب تحریک می‌شود.

روگویسکی می گوید: "خلق این نوع داستان ترسناک بسیار آسان است. این به نوعی با روان انسان بازی می کند." او معتقد است که در مدل‌های زبانی بزرگ، انسان‌ها چیزی ساخته‌اند که ظاهرا آنقدر شبیه به خودشان است که آینه‌ای را نگه می‌دارد. او می‌گوید: «سپس ما آن را با تمام رفتارها و ترس‌های انسان‌مانند آغشته می‌کنیم. بنابراین ما از آن وحشت داریم.»

اگر همه اینها درست است، پس چرا بسیاری از روسای فناوری خواستار کاهش سرعت تحقیقات هوش مصنوعی هستند؟

آیتکن این صحبت را راهی برای منصرف کردن قانونگذاران از ایجاد مقرراتی می‌داند که مانع از کار شرکت‌های هوش مصنوعی می‌شود - به نظر می‌رسد که مسئولانه عمل می‌کنند، آنها از تقاضا برای دخالت دولت برای تحمیل این موضوع کاسته می‌شوند. اما آیتکن اشاره می‌کند که وقتی کارکنان سابق پیش‌بینی‌های جسورانه‌ای در مورد ابرهوش و خطرات ناشی از مدل‌های هوش مصنوعی انجام می‌دهند، همین شرکت‌ها کاری برای تعطیل کردن کار انجام نمی‌دهند. او می‌گوید: «این روایت‌های ابرهوشی در واقع برای شرکت‌های هوش مصنوعی مفید هستند، زیرا باعث ایجاد هیاهو، هیجان و افزایش سرمایه‌گذاری می‌شوند.

نتیجه این است که شرکت‌ها در نهایت به یک طناب روایی می‌روند: به همه ما اطمینان می‌دهند که اخلاقی و مسئولانه عمل می‌کنند، با درخواست برای کاهش سرعت که بعید است اتفاق بیفتد، در عین حال ایده‌های علمی تخیلی ابرهوش‌مندی را اجرا می‌کنند، زیرا برای تجارت خوب است.

روگویسکی معتقد است که عامل دیگری می تواند آب را گل آلود کند. سرمایه‌گذاری عظیم هوش مصنوعی در مراکز داده، کارکنان، بودجه‌های تحقیقاتی و داده‌های آموزشی به سادگی ناپایدار است، بنابراین یک کندی رسمی می‌تواند راهی را به شرکت‌ها بدهد تا سرعت را بدون از دست دادن رقبا کاهش دهند - شاید حتی مزیت آنها را تقویت کنند.

ممکن است شرکت‌ها بدانند که مقیاس بیشتر برای کارهای روزمره تجاری مانند ارسال ایمیل، ارسال گزارش یا طراحی گرافیک رسانه‌های اجتماعی مهم نیست (اگرچه ممکن است کلیدی برای تلاش‌های بی‌سود مانند حل مسائل ریاضی باشد)، بنابراین آنها در واقع از فرصتی برای کاهش هزینه‌ها و شروع کارآمدی، کاهش هزینه‌ها و افزایش درآمد لذت خواهند برد.

روگویسکی می‌گوید: "آیا واقعا باید یک تریلیون دلار خرج کنم تا بتوانم یک اسلاید پاورپوینت بهتر بنویسم یا برخی از ایمیل‌های بازاریابی را دریافت کنم؟ واقعا جمع نمی‌شود، و ما 10 سال دیگر به این موضوع نگاه خواهیم کرد و خواهیم گفت: "به چه فکر می‌کردیم؟"

اما این منجر به خطر دیگری از هوش مصنوعی می شود که بسیار ملموس تر و کمتر تئوری است: ترکیدن حباب هوش مصنوعی و پیامدهای اقتصادی احتمالی. روگویسکی انتظار دارد که در سال‌های آتی، یک "پاپ" دراماتیک و بیشتر "پففف" تدریجی ایجاد شود.

با این حال، در میان همه اینها، نگرانی های مشروعی برای آینده وجود دارد. روگویسکی می گوید یک خطر واقعی – اما کوچک – ناشی از هوش مصنوعی وجود دارد که باید جدی گرفته شود. این که آیا مدلی که به اندازه کافی پیشرفته می شود تا آن خطر را ایجاد کند، به زودی می رسد، یا سال ها و برخی پیشرفت های اساسی از هم اکنون، ارزش برنامه ریزی از قبل را دارد.

روگویسکی می‌گوید که تردید دارد که هوش مصنوعی فعلی هوشمند باشد، اگرچه تعریف ما از آن کلمه و درک مکانیسم‌های آن ضعیف است. اما وقتی می آید، نباید انتظار داشته باشیم که شبیه ما باشد یا رفتار کند: "الگوهای فکری و رفتاری وجود خواهد داشت که بسیار بیگانه خواهد بود".

بنابراین تلاش برای تشخیص این نوع هوش حتی سخت‌تر است، و تلاش برای پیش‌بینی انگیزه‌های آن، سخت‌تر است.

روگویسکی می‌گوید: «اگر در حال ساخت ماشینی هستید که فکر می‌کنید هوشمند خواهد بود، پس باید در مورد اینکه چه حقوقی باید داشته باشد، بحث کنید. "آیا این بدان معناست که من فقط می توانم یک کلید خاموش داشته باشم که وقتی کمی حوصله ام سر می رود یا از آن احساس تهدید می کنم، می توانم آن را بکشم؟ به نظر نمی رسد که خیلی منصفانه باشد، و لزوما مفید نیست، زیرا ماشین هایی که احساس می کنند توسط بشریت تهدید می شوند ممکن است رفتار متفاوتی داشته باشند. ممکن است به خودی خود مشکل ساز شود و به آن حقوقی اعطا نشود."