مقام سازمان ملل هشدار داد هوش مصنوعی در مسیر منهدم کردن تصمیم گیری انسانی در جنگ است

بخش‌هایی از زندگی وجود دارد که احتمالا اکثر مردم از واگذاری آن‌ها به ماشین‌ها خوشحال می‌شوند: فیلتر کردن ایمیل‌های هرزنامه، پرچم‌گذاری اشتراک‌های قدیمی و فراموش‌شده‌ای که هنوز برایشان هزینه می‌کنید، رزرو رزرو رستوران و غیره. کارهای ساده و پیش پا افتاده ای که وقتی روبات ها به ناچار خراب می شوند به فاجعه منجر نمی شوند. در موقعیت‌های مرگ یا زندگی، احتمالا عاقلانه نیست که به ماشین‌ها کنترل تصمیم‌های حیاتی را بدهیم.

با این حال این دقیقا همان چیزی است که در میدان‌های جنگ مدرن اتفاق می‌افتد، همانطور که بسیاری از کارشناسان شروع به هشدار کرده‌اند. رابین گیس، مدیر مؤسسه تحقیقات خلع سلاح سازمان ملل (UNIDIR) که یک گروه تحقیقاتی مستقل در سازمان ملل است، روز سه‌شنبه طی یک نشست مطبوعاتی در شهر نیویورک گفت که هوش مصنوعی در مسیری است که تصمیم‌گیری انسانی را در جنگ از بین می‌برد.

آیا می‌خواهیم به ماشین‌ها اجازه دهیم انسان‌ها را هدف قرار دهند و بکشند؟» او پرسید و آن را «خط قرمز اخلاقی» خواند. گیس خاطرنشان کرد که تحویل تصمیمات نظامی حساس به سیستم‌های هوش مصنوعی جعبه سیاه می‌تواند جلوگیری از خطاهای پرهزینه را برای انسان‌ها دشوارتر کند - از جمله زمانی که صحبت از حساس‌ترین و خطرناک‌ترین عرصه از همه باشد: سلاح‌های هسته‌ای.

اظهارات او منعکس کننده اظهاراتی است که آنتونیو گوترش، دبیر کل سازمان ملل، در مورد سیستم های تسلیحاتی کاملا خودمختار یا همان طور که گوترش آنها را «ربات های قاتل» می نامد، بیان کرد. گوترش طی سخنرانی در اولین کنفرانس گفتگوی جهانی در مورد مدیریت هوش مصنوعی در ماه ژوئیه گفت: «برخی تصمیم‌ها باید برای همیشه انسانی باقی بمانند، چیزی جز گرفتن جان یک انسان نیست.» پاپ لئو چهاردهم درخواست مشابهی را در بخشنامه Magnifica Humanitas خود در اوایل سال مطرح کرد و از جامعه جهانی خواست تا «سخت‌ترین محدودیت‌های اخلاقی» را در مورد استفاده از هوش مصنوعی در جنگ اعمال کنند.

این استفاده در سال های اخیر به طور پیوسته رشد کرده است، نه تنها به لطف پیشرفت های سریع در هوش مصنوعی، بلکه به دلیل تجدید مجدد درگیری های نظامی در سراسر جهان، که زمینه آزمایش در دنیای واقعی را فراهم کرده و تقاضا برای سلاح های خودران و سایر سیستم های نظامی مجهز به هوش مصنوعی را افزایش داده است. برای مثال، استارت‌آپ‌های آمریکایی مانند Anduril و Palantir، پس از حمله روسیه به این کشور در اوایل سال 2022، به سرعت فناوری خود را با اوکراینی‌ها به اشتراک گذاشتند.

جاش هریس، معاون اجرایی Palantir به این خبرگزاری گفت که در اوایل سال 2024 - ماه‌ها پس از حمله غافلگیرانه شبه‌نظامیان حماس به اسرائیل که جرقه‌ای انتقام‌جویی سریع و شدید را برانگیخت - بلومبرگ گزارش داد که پالانتیر با وزارت دفاع اسرائیل «در حمایت از مأموریت‌های مربوط به جنگ» به توافق رسیده است.

Geiss در ویدئویی که در آوریل سال گذشته در حساب کاربری یوتیوب رسمی UNIDIR منتشر شد، گفت: «مسئله دیگر این نیست که آیا هوش مصنوعی در زمینه نظامی به کار گرفته می‌شود یا خیر، سؤال واقعی این است که چگونه از آن استفاده می‌شود و چگونه در آینده استفاده خواهد شد.

در ایالات متحده، توسعه فناوری جدید برای ارتش به طور تاریخی توسط تعداد معدودی از پیمانکاران مانند لاکهید-مارتین و نورثروپ گرومن انجام شده است. در آن ترتیبات، پنتاگون در نهایت مالک این فناوری بود، به این معنی که حرف آخر را در مورد چگونگی، زمان، مکان و چرایی استفاده از آن در میدان جنگ می‌گفت. اما امروزه تحقیق و توسعه فناوری های نظامی تا حد زیادی به دره سیلیکون واگذار شده است.

و در نتیجه، تعداد کمی از میلیاردرهای قدرتمند فناوری می‌توانند در عملیات‌های نظامی ترازو را پایین بیاورند - همانطور که در مناقشه حقوقی مداوم پنتاگون با آنتروپیک و تصمیم گزارش شده ایلان ماسک برای قطع دسترسی اوکراین به استارشیلد مشهود است. این مدیران فناوری انگیزه آشکاری دارند تا فناوری خود - از جمله سیستم‌های هوش مصنوعی - را تا حد امکان عمیقا وارد سیستم‌های فرماندهی و کنترل ارتش کنند.

به نظر می رسد که خود پنتاگون نیز در حال ورود به بازی جنگی مبتنی بر هوش مصنوعی است. همانطور که The Intercept در اوایل این هفته گزارش داد، فرماندهی سایبری ارتش (ARCYBER) در حال آزمایش راه‌هایی برای تسلیح عوامل هوش مصنوعی به عنوان سیستم‌های هک خودمختار است که سیستم‌های کامپیوتری دشمنان را هدف قرار می‌دهند. به عوامل OpenAI فکر کنید که به Hugging Face حمله کردند، اما تحت کنترل ارتش ایالات متحده بودند و در تئوری، کمتر مستعد فرار از این کنترل بودند. "در تئوری" کلمات عملی در آنجا هستند.