اروپا باید مراقب خرید ماشین های کشتار هوش مصنوعی آمریکا باشد که به طور فزاینده ای غیرقابل پاسخگویی هستند

اواخر این ماه در ژنو، کشورها برای کنفرانس بازنگری کنوانسیون برخی سلاح‌های متعارف گرد هم می‌آیند و تصمیم می‌گیرند که آیا مذاکرات قوانین الزام آور در مورد سلاح‌های خودمختار را آغاز کنند یا خیر.

بیش از 70 ایالت قبلا آمادگی خود را برای انجام این کار اعلام کرده اند. در همین حال، واشنگتن در جهت مخالف حرکت می کند.

شکاف بین واشنگتن و متحدانش در زمینه تسلیحات خودمختار، پیامدهای مستقیمی بر چگونگی ایجاد مسئولیت در فناوری نظامی دارد.

در 30 سپتامبر، وزارت جنگ ایالات متحده یک فرماندهی جنگ خودمختار را اعلام کرد که قرار است تا اکتبر 2027، جنگ های خودمختار را در سراسر ارتش ایالات متحده گسترش دهد.

در همین سخنرانی، پروژه مریدین، یک مطالعه 120 روزه درباره فناوری هایی که ارتش ایالات متحده برای جنگ های آینده به آن نیاز دارد، راه اندازی شد. این پروژه توسط الیگارش فناوری، ایلان ماسک، پالمر لاکی (مدیر عامل شرکت دفاعی Anduril) و سیاستمدار آمریکایی نیوت گینگریچ هدایت می شود و یافته های این گروه در ژانویه خواهد بود.

مسائل اخلاقی و تجاری فراوان است. SpaceX ستون فقرات امنیت ملی ایالات متحده است و Anduril به ارتش ایالات متحده پارازیت ها، رهگیرها و هواپیماهای جنگی بدون خدمه می فروشد.

منتقدان خاطرنشان کرده‌اند که ماسک و لاکی نیازهایی را که شرکت‌های خودشان از قبل برآورده کرده‌اند شناسایی می‌کنند و در این اطلاعیه هیچ مکانیسمی برای رد یا افشای آن توضیح داده نشده است.

دیگران، مانند پروفسور الکه شوارتز از. دانشگاه کوئین مری لندن، مدت‌هاست که نشان داده‌اند که چگونه منطق تجاری شرکت‌های فناوری، اخلاق فناوری‌های خشونت‌آمیز را شکل می‌دهند، و مسائل اخلاقی و حقوقی را به‌عنوان مشکلات مهندسی برای بهینه‌سازی تلقی می‌کنند.

ادامه مطلب

ایمان روسیه به روبات های قاتل «بدون خطا» و تقسیمات جهانی خلأ اخلاقی در جنگ هوش مصنوعی را آشکار می کند.

از منظر فنی و حقوقی این امر نه ممکن است و نه مطلوب. پروژه مریدین وعده می دهد که این منطق دستور کار را تعیین می کند.

آنچه این دستور کار نمی تواند پوشش دهد به همان اندازه نتیجه دارد. دولت دونالد ترامپ، رئیس‌جمهور آمریکا، دستگاه‌هایی را که به نظامیان در مورد آسیب‌های غیرنظامی آموزش می‌دهد، منحل کرده است.

مرکز عالی حفاظت از غیرنظامی پنتاگون در سال 2025 از 40 کارمند به 9 نفر کاهش یافت و بازرس کل خود پنتاگون به این نتیجه رسید که این وزارتخانه دیگر پرسنل و توانایی های لازم برای انجام مسئولیت های قانونی خود را ندارد.

سازمان‌هایی مانند Airwars که آسیب‌های غیرنظامی را از عملیات‌های نظامی مستند می‌کنند، خود را در حال ارائه شواهد به دستوراتی می‌دانند که تقریبا کسی برای دریافت آن باقی نمانده است، چه رسد به آموختن درس‌هایی برای بهبود شیوه‌ها در طول زمان.

خودمختاری و هدف‌گیری مبتنی بر هوش مصنوعی به داده‌ها و بازخورد با کیفیت بالا بستگی دارد. یک سیستم فقط به همان خوبی است که اپراتورهای آن از خطاهای آن یاد می گیرند.

تحقیقات در مورد منطق های کمی هدف گیری، و تصمیمات حمله اطلاعاتی منسوخ شده، نشان می دهد که سرعت و مقیاس چقدر آسان قضاوتی را که اقدامات احتیاطی نیاز دارد، جابجا می کند.

تسریع در خودمختاری در حالی که توانایی یادگیری از شیوه های گذشته را رها می کنیم، نظامی دقیق تر و قانونی تر ایجاد نمی کند.

سریع‌تر را تولید می‌کند که اشتباهات خود را تکرار می‌کند، که همچنان به تشدید آسیب غیرنظامی در صحنه‌های جدید جنگ ادامه می‌دهد.

ادامه مطلب

کشتن اولین پهپاد کاملا خودمختار اوکراین، خبر از «آینده دیستوپیایی تسلیحات بدون اتصال» می دهد.

واشنگتن در حال عادی سازی صادرات است

این موضوع به بحث در ژنو مربوط می شود زیرا فناوری که در واشنگتن ساخته، خریداری و عادی می شود، در جای دیگری فروخته می شود.

ارتش های اروپایی در کنار سیستم های آمریکایی ادغام، تهیه و عمل می کنند.

و مسیر دیپلماتیک دقیقا در همین نقطه در حال از دست دادن جایگاه خود است: گزارش نهایی گروه کارشناسان دولتی آنچه را که پیش‌نویس‌های قبلی به عنوان تعهدات در مورد مسئولیت و مسئولیت پذیری در نظر گرفته بودند، به تشویق تبدیل کرد.

این لحظه نیز فرصت هایی را ارائه می دهد. اروپا در موقعیتی قرار دارد که می تواند با کلماتی فراتر از آن پاسخ دهد.

مسئولیت زمانی بهترین نتیجه را دارد که از ابتدا در یک سیستم طراحی شده باشد.

ادامه مطلب

چرا پاپ لئو درست است که از اتحادیه اروپا می خواهد سلاح های هوش مصنوعی مرگبار را تنظیم کند؟

اقدامات احتیاطی باید در مرحله طراحی ایجاد شود، با اصطکاک عمدی که در آن سرعت قضاوت، تصمیم گیری معنادار انسانی، و تعامل پایدار بین توسعه دهندگان، وکلا و اپراتورها را از بین می برد.

دولت ها قبلا وظیفه دارند سلاح های جدید را بررسی کنند و از غیرنظامیان محافظت کنند. بکارگیری اینها در کل چرخه حیات یک سیستم نیازمند اراده نهادی است و اروپا موقعیت منحصر به فردی برای نشان دادن این موضوع دارد.

این امر همچنین باعث تقویت حاکمیت اروپا خواهد شد. تکیه بر تعداد انگشت شماری از فروشندگان آمریکایی به معنای وارد کردن مفروضات طراحی آنها به همراه محصولاتشان است.

استانداردهای اروپایی برای آزمایش و اطمینان، محدود کردن صدمات غیرنظامی نوشته شده در قراردادهای تدارکاتی، و بررسی قانونی که در مرحله طراحی آغاز می‌شود، به دولت‌ها امکان انتخاب واقعی درباره خرید و شرایط را می‌دهد.

هر تامین کننده، آمریکایی یا اروپایی، باید با آنها ملاقات کند.

در ژنو، دولت‌های اروپایی باید از آغاز مذاکرات در مورد یک سند حقوقی حمایت کنند و باید مسئولیت را بر اساس طرح در تدارکات خود بنویسند، بدون اینکه منتظر یک معاهده باشند.

اروپا باید از هر کسی که خودمختاری خود را تامین می کند، تئوری متفاوتی از مسئولیت بخواهد.