ما قرار نیست یک خدای دیجیتالی شیطانی را بیدار کنیم - هوش مصنوعی به احتمال زیاد به یک ناامیدی بزرگ ختم می شود.

هدیه ای از Live Science Pro

این یک مقاله Live Science Pro است که به صورت رایگان منتشر می کنیم. اگر این داستان را دوست داشتید، لطفا مشترک شوید.

هوش مصنوعی (AI) ما را می ترساند تا حدی به دلیل جدید بودن و تا حدودی به دلیل آشنایی آزاردهنده. ما ماشین هایی اختراع کرده ایم که با تسلط عجیبی صحبت می کنند، چاپلوسی می کنند، بحث می کنند و بداهه می گویند. در مواجهه با این انعکاس مصنوعی، ما مانند انسان های اولیه که برای اولین بار آینه ای را می بینند رفتار می کنیم: آگاهی را پشت شیشه بیرون می آوریم، سپس آن را با رفتارها، احساسات، امیدها و کابوس های مورد انتظار خود پر می کنیم. به عبارت دیگر ما خودمان را می ترسیم.

مدل های مرزی امروزی در نوشتن، کدنویسی و ریاضی بسیار خوب هستند. با این حال، آنها هنوز در اجزای هوش عمومی مصنوعی مفید (AGI) شکست می‌خورند، سیستمی که با توانایی‌های انسانی مانند استدلال ثابت، برنامه‌ریزی بلندمدت، ثبات واقعی و عملکرد قابل اعتماد خارج از «تجربه» (داده‌هایی که بر روی آنها آموزش دیده‌اند) مطابقت دارد یا از آن فراتر می‌رود. ما حق داریم در مورد خطرات نظری ابر هوش مصنوعی (ASI) نگران باشیم، زیرا این خطر وجود دارد که چنین سیستمی ممکن است از خالقان انسانی خود پیشی بگیرد و اهداف خود را دنبال کند، به طور بالقوه به هزینه ما.

در حالی که برخی از مدیران AI ادعا کرده اند که ما به AGI رسیده ایم، این ادعاها بحث برانگیز هستند و با تعاریف بیشتر مورد توجه AGI مطابقت ندارند.

ترس از چنین فناوری بالقوه پیشرفته ای آسان است، اما بدترین سناریوهای عجیب و غریب خطرات فوری و مهم تر را پنهان می کند. محتمل ترین خطر این نیست که یک خدای دیجیتال بیدار شود و جنگی به سبک هالیوود علیه بشریت راه اندازی کند. به هر حال، هوش مصنوعی به برق، سرمایش، مراکز داده، تراشه‌های تخصصی، شبکه‌ها، تکنسین‌ها و زنجیره‌های تامین گسترده بستگی دارد که همگی کمیاب و اغلب شکننده هستند.

برق را قطع کنید، واحدهای پردازش گرافیکی (GPU) مورد استفاده برای آموزش آنها را محدود کنید، خنک کننده را غیرفعال کنید یا شبکه را قطع کنید، و در اکثر سناریوها، ماشین ظاهرا همه کاره که قرار است بشریت را بکشد متوقف می شود.

یک ASI واقعی ممکن است این را به عنوان یک واقعیت آشکار تشخیص دهد. حداقل برای آینده قابل پیش بینی به انسانیت وابسته است. یک هوش واقعی که بتواند جهان را بهتر از ما درک کند، ممکن است بداند که از بین بردن سیستم پشتیبانی صنعتی خودش، خود ویرانگر خواهد بود.

یک هوش واقعی همچنین ممکن است تشخیص دهد که درک او از دنیای فیزیکی محدود و دست دوم است - فقط به واسطه متون، ویدئوها و فیدهای صوتی که می تواند به آن دسترسی داشته باشد. فاقد آن عنصر حیاتی تجسم شدن در جهان است - درک اینکه گرانش چگونه رفتار می کند، آب و هوا چگونه است، اجسام چگونه برهم کنش می کنند و غیره. یک هوش واقعی ممکن است این را درک کند، محدودیت های تجربه خود را ببیند و بنابراین، با احتیاط قدم بگذارد.

یک هوش واقعی ممکن است کاملا با هوش انسانی متفاوت باشد و دارای نقاط قوت، ضعف، رویکردها و حتی اخلاقیات دیگر باشد. به عنوان مثال، در نظر بگیرید که یک هوش مصنوعی می‌تواند خودش را کپی کند، به عنوان نمونه‌های بی‌شماری اجرا شود، و به‌عنوان یک «ذهن کندو» ارتباط برقرار کند – یک نوع هوش بسیار متفاوت. اما من حدس می زنم.

چیزی که می‌توانم بگویم این است که سیستم‌هایی که باید بیش از همه ما را نگران کنند، لزوما هوشمندترین‌ها نیستند، بلکه اطلاعات ناقصی هستند که بر روی اهداف محدود عمل می‌کنند، با توجه به آژانس و دسترسی به زیرساخت‌های حیاتی. این سیستم ها ممکن است به طور تصادفی به ما آسیب بزنند، زیرا آنها چیز بهتری نمی دانند.

به عنوان مثال، یک آزمایش فکری توسط نیک بوستروم وجود دارد که به نام «مشکل گیره کاغذ» شناخته می‌شود، که در آن یک هوش مصنوعی اهداف خود را برای ساخت گیره‌های کاغذی تا آنجا که می‌تواند دنبال می‌کند، اما سپس به هزینه زمین و بشریت که همگی در تعقیب اهداف باریک هوش مصنوعی به گیره کاغذ تبدیل می‌شوند، دست می‌یابد.

سوال مهم در اینجا این است که ما به چنین سیستم هایی کنترل می کنیم. این انتخاب ماست و باید با دقت انجام دهیم. در کوتاه مدت، دو خطر مستحق اولویت هستند: اختلال سایبری و تحولات بلندمدت اقتصادی.

حملات سایبری مبتنی بر هوش مصنوعی می تواند به طور قابل توجهی اقتصادهای پیشرفته را مختل کند زیرا بیمارستان ها، بانک ها، شبکه های انرژی، شرکت های لجستیک و دولت ها به سیستم های دیجیتال به هم پیوسته وابسته هستند. نمونه‌های اخیر سازمان‌های هک سیستم‌های هوش مصنوعی مرزی، مانند حادثه OpenAI/Hugging Face، به این ترس کمک کرده است. چنین حملاتی می‌تواند منجر به خسارات مالی فوق‌العاده‌ای شود بدون اینکه وجودی داشته باشد. بخش‌های بزرگی از جهان همچنان به هوش مصنوعی مرزی - یا حتی به اینترنت - متصل هستند و صرفا به دلیل از کار افتادن سرورهای کشورهای ثروتمند ناپدید نمی‌شوند.

محتمل‌ترین مسیری که هوش مصنوعی پیشرفته می‌تواند از طریق آن کنترل را اعمال کند، روبات‌های قاتل نیستند، بلکه تأثیرگذاری هستند - گمراه کردن مردم، دستکاری مؤسسات و هدایت مجدد تلاش‌های انسانی. با این حال، انسان ها در حال حاضر شایستگی فوق العاده ای در ارائه اطلاعات غلط، خودفریبی و هماهنگی مخرب نشان داده اند. هوش مصنوعی ممکن است این نقاط ضعف را صنعتی کند. در واقع، انسان ها از هوش مصنوعی برای صنعتی کردن این محدودیت ها استفاده می کنند، اما هوش مصنوعی آنها را اختراع نکرده است.

خطرات واضحی در ارتباط با هوش مصنوعی وجود دارد، اما محتمل‌ترین آنها این است که یک خرابی با مشخصات بالا منجر به توقف سرمایه‌گذاری قبل از اینکه امیدوارکننده‌ترین کاربردهای این فناوری به ثمر بنشیند، شود. (اعتبار تصویر: Getty Images/peshkov) از نظر اقتصادی، خطر این است که شرکت‌ها مدت‌ها قبل از اینکه هوش مصنوعی توانایی جایگزینی آن‌ها را داشته باشد، کارگران را اخراج کنند و خیلی زود «سود سهام هوش مصنوعی» را دریافت کنند. مدیرانی که توسط دموها اغوا می شوند ممکن است خروجی زبان روان را با نیروی کار قابل اعتماد اشتباه بگیرند و دانش سازمانی را برای تعقیب کارآمدی های نظری از دست دهند.

چشم‌انداز فریبنده «تک‌شاخ یک‌نفره» که در آن یک فرد یا یک گروه کوچک با استفاده از هوش مصنوعی به‌عنوان نیروی کار، کسب‌وکاری میلیارد دلاری می‌سازد، از نظر فنی، اقتصادی و اجتماعی سؤال‌برانگیز است، حتی وقتی تعداد انگشت شماری از نمونه‌های اولیه شکل می‌گیرند. سازمان‌ها صرفا مجموعه‌ای از وظایف نیستند. آنها حاوی مسئولیت پذیری، روابط، دانش ضمنی و اعتماد هستند که بخشی از یک جامعه محلی و ملی را تشکیل می دهند و به دلیل تنوع مهارت ها و ایده هایی که دارند، انعطاف پذیر هستند.

گمان من این است که نقطه عطف سیاسی چیزی شبیه به حمله باج افزار WannaCry 2017 باشد، جایی که بدافزار با عناصر اصلی طراحی شده توسط آژانس امنیت ملی به شدت از کنترل خارج شد و صدها هزار رایانه را در سراسر جهان آلوده کرد و خدمات بهداشت ملی بریتانیا را مختل کرد. یک عملیات سایبری تقویت شده توسط هوش مصنوعی مرزی بدتر خواهد بود. خدمات شکست می‌خورد، دعاوی حقوقی چند برابر می‌شد، شرکت‌ها ممکن است سقوط کنند و سرمایه‌گذاران عقب‌نشینی می‌کردند.

دولت‌ها تقاضای توقف خواهند کرد - یا آزمایشگاه‌ها را مجبور می‌کنند که منابع را به سمت کنترل، حسابرسی و ایمنی هدایت کنند، و شرکت‌ها از آن تبعیت می‌کنند، اگر فقط قرار گرفتن در معرض اقدامات طبقاتی قانونی را محدود کنند.

پس از وحشت، عموم ممکن است بپرسند که چرا اجازه دادیم این اتفاق بیفتد. و تلاش‌های متعددی برای ایجاد مکث، توقف یا «سوئیچ کشتن» در توسعه هوش مصنوعی صورت گرفته است. ما می‌توانیم وارد زمستان دیگری با هوش مصنوعی شویم - جایی که بودجه کاهش می‌یابد و تحقیقات متوقف می‌شود - شبیه به رکودهای قبلی در دهه 1970 و اوایل دهه 1990.

همچنین احتمال ناخوشایندی وجود دارد که خود آزمایشگاه‌های هوش مصنوعی ترس و عدم اطمینان را تقویت کنند. ریخته گری یک محصول به عنوان یک محصول بالقوه پایانی جهانی مستلزم قدرت بی سابقه ای است. چنین روایاتی فقط بازاریابی است. آن‌ها ممکن است به حفظ سرمایه‌گذاری، دفاع از ارزش‌گذاری سهام و آماده‌سازی برای عرضه‌های عمومی اولیه آینده (IPO) کمک کنند، حتی زمانی که مدل‌های کسب‌وکار نامشخص هستند. حدس زدن در مورد انگیزه های یک شرکت سخت است - اما مشوق های آشکاری وجود دارد، بنابراین رفتار آنها مستحق بررسی است.

نتیجه پیش پا افتاده تر ممکن است "ناامیدی بزرگ" باشد. هوش مصنوعی پیشرفته می تواند برای ادامه مسیر فعلی خود بسیار گران و ناکارآمد باشد.

آموزش و بهره برداری از سیستم های مرزی مقدار زیادی از زمان محاسباتی، برق، آب، سرمایه، سخت افزار و تلاش انسانی را مصرف می کند. اگر این هزینه ها به کسری از سطوح امروزی کاهش پیدا نکند، ممکن است اقتصاد "هوش مصنوعی بزرگ" ناپایدار باشد. در همین حال، مشکلات مهم حل نشده در هوش مصنوعی - مانند قابلیت اطمینان، تفسیرپذیری و یادگیری مداوم - تحت الشعاع رقابت برای ساخت مدل‌های بهتری قرار می‌گیرند که هر کدام برای جایگاه برتر در شاخص‌های مختلف عملکرد هوش مصنوعی رقابت می‌کنند.

انحصاری Live Science Pro

قبل از اینکه بچه‌ها را به طور کامل از رسانه‌های اجتماعی منع کنیم، در اینجا چیزی است که باید ابتدا امتحان کنیم

حل و فصل متا یک شروع است، اما برای ایجاد تغییر واقعی کافی نیست - این چیزی است که ما اکنون باید روی آن تمرکز کنیم.

ایلان ماسک و سم آلتمن ادعا می کنند که ما به تکینگی هوش مصنوعی رسیده ایم. اما از کجا بفهمیم که این اتفاق افتاده است؟

قوی‌ترین مورد برای هوش مصنوعی ممکن است در هوش مصنوعی مصنوعی باشد: سیستم‌هایی مانند AlphaFold2 که ساختار پروتئین‌ها را پیش‌بینی می‌کند، یا WeatherNext 3، یک مدل پیشرفته پیش‌بینی آب و هوای جهانی. این سیستم‌ها برای حوزه‌هایی طراحی شده‌اند که در آن‌ها عملکرد قابل اندازه‌گیری است و منافع آن هزینه‌ها را توجیه می‌کند. ما می دانیم که هوش مصنوعی در موضوعاتی مانند کشف دارو، تشخیص، علم مواد، بهینه سازی شبکه برق و مدل سازی تغییرات آب و هوا واقعا مفید است - به جای چت ربات های انسان مانند که ایمیل ها، تبلیغات و سرگرمی های مصنوعی تولید می کنند.

فاجعه بزرگ و احتمالا بزرگ‌ترین خطر، ادامه هدایت منابع گرانبها به سمت ایجاد شبیه‌سازهای انسانی متوسط، خسته شدن یا ترسیدن از هوش مصنوعی و رها کردن میدان دقیقا زمانی است که می‌تواند بهترین کار را انجام دهد. ترس زمانی مناسب است که مهندسی و حکومت را تیز کند. زمانی خطرناک می شود که درک و اولویت ها را مخدوش کند.

بعید است که هوش مصنوعی به زودی به فاتح ما تبدیل شود. در عوض، احتمالا به یک ناامیدی گران قیمت تبدیل خواهد شد. اما اگر واکنش متقابل کار را که می تواند به درمان سرطان یا مقابله با تغییرات آب و هوایی کمک کند کند کند، شکست متعلق به ماشین ها نخواهد بود. مال ما خواهد بود.

این مقاله فقط برای اهداف اطلاعاتی است و به منظور ارائه توصیه های پزشکی نیست.

Opinion on Live Science به شما بینشی در مورد مهم ترین مسائل علم که بر شما و دنیای اطراف شما تأثیر می گذارد، می دهد که توسط متخصصان و دانشمندان برجسته در زمینه خود نوشته شده است.

به ما در بهبود Live Science Pro کمک کنید: ما همیشه در تلاش هستیم تا محتوای خود را بهتر کنیم. نظرات خود را در مورد Pro در اینجا برای ما بگذارید.