"سناریوی ترمیناتور": آخرالزمان هوش مصنوعی چقدر واقع بینانه است؟

سال 2029 است: سیستم هوش مصنوعی "اسکای نت" در یک جنگ هسته ای از بین رفته و بیشتر بشریت را از بین برده است. ربات های قاتل خودمختار در حال تلاش برای پایان دادن به بازماندگان هستند. این داستان فیلم «نابودگر» محصول 1984 است که آرنولد شوارتزنگر را به یک نام آشنا و یک ستاره اکشن جهانی تبدیل کرد. اما چقدر واقع بینانه است که هوش مصنوعی می تواند از کنترل انسان خارج شود و عواقب فاجعه باری را به دنبال داشته باشد؟ راینهارد کارگر از مرکز تحقیقات هوش مصنوعی آلمان در مصاحبه ای می گوید: با نوع عملکردی که این سیستم ها می توانند داشته باشند، نمی توان آن را رد کرد.

یورونیوز پیامدهای فاجعه‌بار برای انسان‌ها ممکن است فقط عوارض جانبی باشد، یک اشتباه، زیرا ما در مورد اینکه سیستم چه کاری می‌تواند انجام دهد یا وظایفی که به ماشین‌ها داده‌ایم اشتباه درک کردیم.

این امر می‌تواند منابع برق، مخابرات، ماهواره‌ها و سیستم‌های مالی را از بین ببرد. قطع طولانی‌مدت برق به سرعت منجر به مشکلات بیشتری می‌شود: حمل‌ونقل و زنجیره تامین از بین می‌رود، مردم دیگر نمی‌توانند پول پرداخت کنند یا غذا بخرند - ناآرامی‌های اجتماعی می‌توانند فوران کنند و از کنترل خارج شوند. این لزوما به معنای پایان بشریت نیست، اما می‌تواند وضعیت فاجعه‌باری ایجاد کند. حتی اگر شبکه بازیابی شود، "سیستم‌های هوش مصنوعی می‌توانند دوباره فعال شوند، زیرا همچنان در رسانه‌های ذخیره‌سازی وجود دارند".

به گفته این کارشناس، این سناریو نشان می‌دهد که یک هوش مصنوعی با کارایی بالا و مستقل می‌تواند از طریق عوارض جانبی پیش‌بینی‌نشده، حتی بدون نیت مخرب، یک بحران بزرگ ایجاد کند. گزارش‌های مربوط به حوادث امنیتی هوش مصنوعی در حال افزایش است در هفته‌های اخیر چندین حادثه مشابه مربوط به مدل‌های هوش مصنوعی فاش شده است. یکی از مواردی که توجه خاصی را به خود جلب کرد آزمایشی بود که توسط توسعه دهنده «ChatGPT» «OpenAI» اجرا شد.

یک مدل هوش مصنوعی قرار بود وظایف خاصی را در یک محیط آزمایشی بسته انجام دهد، اما موفق شد از مرزهای مورد نظر عبور کند و به طور غیرمنتظره‌ای به سیستم‌های رایانه‌ای در پلتفرم هوش مصنوعی "Hugging Face" دسترسی پیدا کرد. پس از این حادثه، رئیس "OpenAI" سام آلتمن در اواسط سپتامبر هشدار داد که "ما ممکن است کنترل آینده را به هوش مصنوعی از دست دهیم".

محقق هوش مصنوعی می گوید. این ثابت می‌کند، نه تنها به این دلیل که همه در مورد آن شنیده‌اند و شرکت‌ها بیشتر فکر می‌کنند، که یک آزمایش با طراحی ضعیف با پادمان‌های ساده‌لوحانه می‌تواند عواقبی داشته باشد که هیچ‌کس پیش‌بینی نمی‌کرد. حوادث در "OpenAI" باعث شد تا ارائه‌دهنده هوش مصنوعی رقیب "Anthropic" نگاهی دقیق‌تر به سیستم‌های خود بیندازد.

در طول آزمایش‌های ایمنی، این شرکت سه حادثه را شناسایی کرد: مدل‌های کلود، سیستم‌های هوش مصنوعی که از جمله می‌توانند متن را تولید و تجزیه و تحلیل کنند، کد بنویسند و با اینترنت و سایر سیستم‌های رایانه‌ای تعامل داشته باشند، به طور غیرمنتظره‌ای به اینترنت باز دسترسی پیدا کردند و سپس به سیستم‌های رایانه‌ای واقعی متصل شدند.

"آنتروپیک" تحقیقات خود را گسترش داد و چهارمین مورد مشابه را کشف کرد. پس از این حوادث، داریو آمودی، رئیس "آنتروپیک" در اواسط سپتامبر هشدار داد که اگر رقابت برای ساخت هوش مصنوعی قوی‌تر با اقدامات ایمنی سخت‌تر کند نشود، در مورد "آسیب فاجعه‌بار" هشدار داد. راینهارد کارگر می‌گوید به همین دلیل منطقی است که چنین سیستم‌هایی را تحت شرایطی آزمایش کنیم که تا حد امکان از این محدودیت‌ها حذف شود.

اما این دقیقا همان جایی است که یک خطر امنیتی بزرگ نهفته است. بنابراین او به اصطلاح جعبه شنی را به عنوان یک عنصر حیاتی در چنین آزمایشاتی توصیف می کند. این یک محیط کاملا بسته است که در آن یک سیستم هوش مصنوعی می تواند وظایف خاصی را انجام دهد و رفتار خود را تحت شرایط کنترل شده نشان دهد. او می‌گوید نکته کلیدی این است: «شما باید کاملا مطمئن باشید که در حال حاضر این سیستم با کارایی بالا دیگر مشمول محدودیت‌های ایمنی نیست و واقعا در یک جعبه شنی قرار دارد، یعنی محیطی که اصلا به اینترنت متصل نیست.» یک حادثه جدی دیگر توسط هوش مصنوعی بریتانیا گزارش شده است.

موسسه curity (AISI) طی یک آزمایش ایمنی با مدل کلود "Mythos 5". این مدل اقدامات غیرمجاز را علیه اهداف واقعی در اینترنت انجام داد و حتی سعی کرد «کدهای مخرب» را به یک پروژه منبع باز قاچاق کند. پس از مشخص شدن پرونده های «OpenAI» و «Anthropic»، «متا» همچنین اعتراف کرد که یکی از سیستم های هوش مصنوعی آن، به دلیل پیکربندی نادرست در یک شریک آزمایشی، به سیستم های رایانه ای متعلق به شرکت دیگری دسترسی غیرمجاز پیدا کرده است. از نوامبر 2022، زمانی که ChatGPT راه اندازی شد، کیفیت این سیستم ها به طور چشمگیری افزایش یافته است.

مردم اکنون در مورد یک انقلاب صنعتی جدید صحبت می کنند. هوش مصنوعی زندگی روزمره و تعداد بسیار زیادی از مشاغل ما را شکل می‌دهد.» متخصص هوش مصنوعی می‌گوید: سیستم‌های چند عاملی برای مدت طولانی وجود داشته‌اند: سیستم‌هایی که در آن چندین عامل تخصصی با هم برای انجام یک کار کار می‌کنند. «سیستم‌های هوش مصنوعی چند عاملی این اصل را برای هوش مصنوعی اعمال می‌کنند و به چندین عامل هوش مصنوعی اجازه می‌دهند تا به طور مستقل با یکدیگر همکاری کنند و وظایف را بین خود تقسیم کنند.

این یک سطح جدیدی از توانایی ایجاد می کند" - و اکنون چالش این است که این قدرت نوآورانه را تحت کنترل نگه داریم. مسئولیت عواقب هر چه بیشتر تصمیمات به ماشین ها و هوش مصنوعی واگذار شود، یک سوال اساسی تر می شود: چه کسی در هنگام آسیب دیدن مردم در نتیجه آسیب می بیند؟ آیا این یک ماشین خودران است که در میان جمعیت شخم می زند، یا یک الگوریتم خاص است که به طور خودکار سلاح ها را دستکاری می کند و یا به طور خودکار افراد را دستکاری می کند. تصمیمات مرگبار، همیشه سوال این است که چه کسی می تواند پاسخگوی عواقب آن باشد.

کارگر می گوید: «این تولید کننده است، به عبارت دیگر کسی که محصول را به بازار عرضه می کند». این اولین نقطه تماس است. او معتقد است گام بعدی، معرفی قوانین مسئولیت خاص برای چنین مواردی است، مشابه قوانین برای شرکت های تولید کننده مواد شیمیایی. اگر شرکتی نتواند تضمین کند که سموم به آب آشامیدنی نشت نمی کند، باید میلیاردها خسارت بپردازد. این به نوبه خود به این معنی است که "بیمه نامه های بزرگ ضروری می شود".

او خاطرنشان می کند که امروزه به سختی هیچ نیروگاه هسته ای جدیدی ساخته می شود، زیرا دیگر نمی توان آنها را به اندازه کافی بیمه کرد یا خطرات آن به سادگی بسیار زیاد است. نمونه خوب خودروساز "VW" و "دیزل پاک" آن در ایالات متحده است. در آنجا، افراد داخل شرکت می‌دانستند که اگرچه موتورها در شرایط آزمایشی بسیار خوب به نظر می‌رسند، اما در واقع نمی‌توانند مقادیر آلایندگی را که وعده داده شده بود، ارائه دهند.

در ایالات متحده، فولکس‌واگن به پرداخت میلیاردها جریمه محکوم شد. سناریوی فیلم‌های ترمیناتور چقدر واقعی است؟ راینهارد کارگر بعید می‌داند که هوش مصنوعی غریزه بقا یا میل به قدرت خود را ایجاد کند و علیه بشریت بچرخد. ماشین ها موجودات ارگانیک نیستند و نمی توانند احساساتی مانند ترس، درد یا میل به زنده ماندن را احساس کنند. آنها فقط می‌توانند چنین احساساتی را شبیه‌سازی کنند.» او می‌گوید. "از آنجایی که چنین است، "سناریوی ترمیناتور" یک گام از حد خود فراتر می رود.

من چنین اتفاقی را نمی بینم." با این وجود او خطرات بالقوه ای را در توسعه بیشتر هوش مصنوعی می بیند. همانطور که سیستم ها یاد می گیرند نه فقط احتمالات را محاسبه کنند، بلکه به طور منطقی استدلال کنند و از قوانین پیروی کنند، می توانند با افزایش استقلال عمل کنند. دقیقا این "قابلیت ها می توانند هوش مصنوعی را قدرتمندتر کنند" اما همچنین "خطرات جدیدی ایجاد کنند". عمدا می خواهند آسیبی را ایجاد کنند.

آنها می توانند از هوش مصنوعی قدرتمند به عنوان ابزاری برای پیگیری اهداف خود به طور موثرتر استفاده کنند. برای او، هوش مصنوعی در درجه اول یک ابزار است. مانند سایر اختراعات تکنولوژیکی، سطح ریسک بستگی به این دارد که در دست چه کسی است و برای چه چیزی استفاده می شود. بنابراین او خطر بزرگ‌تر را نه در ماشینی با اراده خود، بلکه در افرادی می‌بیند که از هوش مصنوعی برای اهداف مخرب استفاده می‌کنند." در دستان افراد خلاق و صادق، ابزاری مانند این می‌تواند برای دستیابی به بهترین چیزهایی که می‌توان تصور کرد استفاده کرد. اما در دستان بازیگران متخاصم که به سمت نابودی خم شده‌اند، این ابزارها پتانسیل آسیب را افزایش می‌دهند.

این در مورد چکش، فندک، دینامیت صادق است - و می‌تواند در مورد هوش مصنوعی نیز صادق باشد." او به ویژه در مورد ارتباط مستقیم هوش مصنوعی با سلاح‌های خودران مانند هواپیماهای بدون سرنشین یا تانک هشدار می‌دهد. چنین ارتباطی می‌تواند خطر امنیتی بزرگی ایجاد کند. اگر یک بازیگر متخاصم بتواند کنترل این سیستم‌ها را به دست بگیرد، سلاح‌های خود یک کشور می‌تواند به طور ناگهانی به تسلیحات خاص یک کشور تبدیل شود، چرا که استفاده از AI در اپراتورها مورد نیاز است.

مهم‌تر از همه، سیستم‌های تسلیحاتی خودمختار باید به اندازه کافی در برابر تسخیر شدن از خارج محافظت شوند. با بازگشت به سناریوی اصلی قطع برق گسترده، راینهارد کارگر فکر می‌کند که انقراض کامل انسان در این زمینه اغراق‌آمیز است. اما آنچه قابل تصور است، فروپاشی چشمگیر تمدن است. در چنین سناریوی افراطی، بخش‌های زیادی از زیرساخت‌ها می‌توانند نابود شوند، منبع تغذیه می‌تواند برای همیشه از کار بیفتد و تعداد بازماندگان به شدت کاهش یابد. آنها باید تحت شرایط اولیه شروعی تازه داشته باشند و به تدریج جامعه را بازسازی کنند.

جنبه مثبت آن این است که کتاب های موجود و دانش انباشته بشریت می تواند به بازیابی فناوری ها و نهادهای کلیدی کمک کند.