سربازان می توانند از ارتکاب جنایات جنگی خودداری کنند. آیا هوش مصنوعی می تواند؟

نسخه جدید SARBOT، اولین ربات مسلح ترکیه، در 29 آوریل 2026 در دوزچه ترکیه به نمایش گذاشته شد. Omer Urer/Anadolu/Getty Images

چه کسی می تواند به ارتش "نه" بگوید؟

این سوال پس از آن که پنتاگون شرکت‌های هوش مصنوعی را تحت فشار قرار داد تا محدودیت‌های استفاده از فناوری خود را در جنگ کاهش دهند - از جمله اینکه چقدر باید کنترل انسان بر سلاح‌های خودمختار باقی بماند، اهمیت بیشتری پیدا کرد. وقتی آنتروپیک گفت نه، یک معامله بزرگ دولتی را از دست داد. OpenAI وارد عمل شد و در عوض استانداردهای انعطاف پذیرتر پنتاگون را پذیرفت. اکنون، به لطف گزارش‌های جدید The Intercept، ما در حال بررسی بهتر آنچه که این مذاکرات واقعا مستلزم آن بودیم.

توافق OpenAI-Pentagon شامل زبان خاصی در مورد نوع مدل‌های هوش مصنوعی بود که وزارت دفاع آمریکا دریافت می‌کرد: «مدل‌های OpenAI که برای موارد استفاده امنیت ملی طراحی شده‌اند و دارای حداقل نرخ امتناع هستند». این عبارت - "حداقل نرخ های امتناع" - به این معنی است که پنتاگون به دنبال مدل هایی است که به ندرت، یا هرگز، به آن نه می گویند. (طبق گزارش The Intercept، یک وکیل وزارت دادگستری به نمایندگی از پنتاگون این زبان را تایید کرد، اما تنها چند ساعت بعد از آن عقب نشینی کرد.)

در ظاهر، آن شرط ممکن است معقول به نظر برسد. ارتش یک نهاد کاملا سلسله مراتبی است. وقتی ارشدتان به شما دستوری می دهد، آن را انجام می دهید. رهبران عموما از خرد و تجربه میدان نبرد بیشتری نسبت به زیردستان خود برخوردارند، بنابراین افراد درجه یک معمولا می‌توانند فرض کنند که فرماندهان آنها می‌دانند چه می‌کنند و دنبال می‌کنند. به علاوه، در محیط‌های پر استرس و حساس به زمان اکثر عملیات‌های نظامی، فضای کمی برای بحث، توضیح یا پیشنهادهای جایگزین وجود دارد.

بنابراین، اگر سربازان نمی توانند دستوری را رد کنند، چرا یک ماشین مجاز است؟ چه کسی رباتی است که به فرمانده خود نه بگوید؟

فقط یک مسئله وجود دارد سربازان می توانند دستور را رد کنند - زمانی که دستور غیرقانونی باشد. در واقع قانونا موظف هستند. اما ارتش با معرفی فناوری‌هایی با توانایی محدود برای به چالش کشیدن دستورات، توقف جنایات جنگی را قبل از ارتکاب دشوارتر می‌کند.

انسان ها وظیفه دارند از y نافرمانی کنند

همانطور که در قوانین داخلی، نظامی و بین المللی ایالات متحده ذکر شده است، سربازان فقط موظف به پیروی از دستورات قانونی هستند و آنها وظیفه دارند از دستورات غیرقانونی خودداری کنند.

دستورالعمل قانون جنگ وزارت دفاع بدون ابهام است: "هر یک از اعضای نیروهای مسلح موظف است: (1) با حسن نیت از قانون جنگ پیروی کند؛ و (2) از تبعیت از دستورات آشکارا غیرقانونی برای ارتکاب نقض قانون جنگ خودداری کند. اطاعت از یک دستور غیرقانونی - مانند دستورالعملی که قانون اساسی، قوانین ایالات متحده، قوانین بین‌المللی را نقض می‌کند یا فرد را به ارتکاب جرم هدایت می‌کند - می‌تواند یک سرباز و همچنین فرمانده آنها را در معرض مسئولیت کیفری قرار دهد.

این "وظیفه نافرمانی" در حقوق عرفی اولیه بریتانیا و آمریکا پایه و اساس دارد، اما پس از محاکمه نورنبرگ علیه سربازان نازی پس از جنگ جهانی دوم به رسمیت شناخته شد.

در آن محاکمات، بسیاری از سربازان نازی استدلال کردند که در قبال جنایاتی که در جریان هولوکاست مرتکب شده اند، مسئولیتی ندارند، زیرا صرفا از دستورات مافوق خود پیروی می کردند. رودولف هوس، فرمانده بزرگترین اردوگاه کار اجباری نازی ها، آشویتس، خود توضیح داد: "در آلمان فهمیدند که اگر مشکلی پیش بیاید، مردی که دستور می دهد مسئول است. بنابراین من فکر نمی کردم که هرگز مجبور باشم خودم پاسخگوی آن باشم."

این دفاعیات به صراحت توسط دادگاه رد شد.

دادگاه اعلام کرد که اطاعت بدون محدودیت نیست، به ویژه زمانی که یک عمل در زمان جنگ برای زیردستان یا هر فردی که «عقل و فهم عادی» دارد، آشکارا غیرقانونی است. اگر «من فقط دستورات را اجرا می‌کردم» یک دفاع مطلق بود، همه کسانی که در یک جنایت دخیل بودند از پاسخگویی فرار می‌کردند، به استثنای یک افسر عالی رتبه. در عوض، دادگاه تشخیص داد که مسئولیت اخلاقی و قانونی فردی جایگزین سلسله فرماندهی ملی یا نظامی برای اعمال غیرقانونی است.

اطاعت بدون محدودیت نیست، به ویژه زمانی که یک عمل در زمان جنگ برای زیردستان یا هر فرد دارای «عقل و فهم عادی» به وضوح غیرقانونی است.

اما، وقتی صحبت از سیستم‌های هوش مصنوعی یا سلاح‌های به کمک هوش مصنوعی می‌شود، که به طور فزاینده‌ای به جای سربازان انسان استفاده می‌شوند، آیا همین منطق اعمال می‌شود؟ و شاید مهمتر از آن، آیا این کار باید انجام شود؟

... اما آیا ماشین آلات؟

هنگامی که از یک ربات چت هوش مصنوعی استفاده می کنید، به سادگی پرس و جوهایی را که ممکن است «موافق» نباشد، رد نمی کند. به درخواست هایی که «دوست ندارد» نه نمی گوید. در عوض، از مجموعه‌ای از پروتکل‌های تعیین‌شده پیروی می‌کند، همان‌طور که یک سرباز باید از قانون جنگ پیروی کند: درخواست‌هایی را که شرایط خدماتش را نقض می‌کنند، رد می‌کند.

ارتش از هوش مصنوعی برای برنامه‌های کاربردی‌تر استفاده می‌کند تا افرادی که از ChatGPT استفاده می‌کنند، مثلا یک برنامه سفر بسازند. بنابراین، چه نوع دنیایی با درخواست پنتاگون برای هوش مصنوعی ایجاد می‌شود که دستورالعمل‌های آن را «به حداقل ممکن رد می‌کند»، که بسیاری از آنها ممکن است پیامدهای اخلاقی، اخلاقی یا حقوقی شدیدی داشته باشند؟

ربکا کروتوف، کارشناس حقوق فناوری و استاد دانشکده حقوق دانشگاه ریچموند، به Vox گفت که در حالی که این زبان به راحتی می تواند به عنوان افزایش احتمال انطباق با دستورات غیرقانونی یا حداقل کاهش اصطکاک پیرامون آنها خوانده شود، "امتناع حداقل به معنای عدم امتناع نیست."

کروتوف گفت: «هر دو می‌خواهم بگویم که این قطعا به معنای پیروی از دستورات غیرقانونی نیست، اما همچنین اذعان می‌کنم که شناسایی و ارزیابی آنچه در حال حاضر یک دستور غیرقانونی است می‌تواند فوق‌العاده دشوار باشد».

حتی برای سربازان انسانی، سرپیچی از دستورات غیرقانونی نه ساده است و نه آسان. برعکس، حتی آنقدر هم اتفاق نمی افتد. در واقع، برخی از صاحب نظران حقوقی استدلال کرده اند که صدور دستورات غیرقانونی به خودی خود نوعی سوء استفاده علیه زیردستان است که به طور کامل در زمینه ظرافت های قانونی آموزش ندیده اند، مشروط به اطاعت هستند و در صورت انتخاب اشتباه با پیگرد قانونی مواجه می شوند.

با این حال، صرف این واقعیت که سربازان می توانند نافرمانی کنند، یک محدودیت مهم برای فرماندهانی است که ممکن است اجازه دهند شرایط میدان نبرد، یا حتی دستورات صادره از مافوق خود، اخلاق و تعهد آنها به قانون را از بین ببرد.

با این حال، صرف این واقعیت که سربازان می توانند نافرمانی کنند، یک محدودیت مهم برای فرماندهانی است که ممکن است اجازه دهند شرایط میدان نبرد، یا حتی دستورات صادره از مافوق خود، اخلاق و تعهد آنها به قانون را از بین ببرد.

کسانی که به هوش مصنوعی خوشبین هستند اغلب استدلال می کنند که ماشین ها می توانند در تفسیر و اعمال قانون بهتر از سربازان انسان باشند. ماشین‌ها را می‌توان بر اساس خود قانون آموزش داد - با استفاده از مخزن پرونده‌های حقوقی، احکام، و داده‌های میدان نبرد - که ممکن است آنها را نسبت به یک سرباز معمولی «دانش‌تر» کند. و ماشین‌ها با فشارهای مشابهی که سربازانی که به دلیل اشتباهاتشان تحت تعقیب قرار می‌گیرند مواجه نمی‌شوند، زیرا نمی‌توانند دقیقا پاسخگو باشند. یک مشکل برای باز کردن بسته یک بار دیگر. این به نوبه خود ممکن است امتناع دستورات غیرقانونی را در شرایط مناسب برای آنها آسان تر کند.

بنابراین، آیا پاسخ به این سادگی است که اجازه دهید ماشین‌ها تصمیم بگیرند؟ نه دقیقا. کروتوف گفت: "این یک خواسته و انگیزه فناوران برای قرن ها بوده است." "اگر ما فقط قانون را در سیستم قرار دهیم و آن را فقط کارهایی انجام دهیم که قانونی هستند، چه؟"

با این حال، تفسیر و اعمال قانون یک باینری ساده قانونی-غیر قانونی نیست. کروتوف به من گفت: «این بسیار مختص به زمینه است، و صادقانه بگویم، این همان چیزی است که عموما برای انسان‌ها مشکل است و سیستم‌های تصمیم‌گیری هوش مصنوعی حتی بدتر از آن هستند». اغلب، تعیین قانونی بودن یک عمل به نکات ظریف ظریفی مربوط می شود که نمی توانید برای آنها برنامه ریزی کنید: شما مجاز هستید یک جنگجو را هدف قرار دهید. شما مجاز نیستید یک رزمنده مجروح یا تسلیم شده را هدف قرار دهید. شما مجاز به هدف قرار دادن یک غیرنظامی نیستید. شما مجاز به هدف قرار دادن غیرنظامیانی هستید که مستقیما در خصومت ها شرکت می کند.

تفاوت بین یک هدف قانونی و یک هدف غیرقانونی ممکن است به زبان بدن، انتخاب لباس یا حتی شهود میدان جنگ برگردد.

همانطور که کروتوف توضیح داد، "اینها انواع تحلیل های زمینه ای نیستند که هوش مصنوعی برای آنها خوب است."

پس راه حل چیست؟

در جایی که قدرت سربازان انسانی برای نافرمانی به طور سنتی به عنوان یک کنترل مهم برای قدرت فرماندهان نظامی عمل می‌کند، اگر این قدرت ناقص باشد، جایگزین کردن سربازان با ماشین‌هایی که چنین محافظی ندارند، آخرین لایه قضاوت در مورد استفاده از زور را حذف می‌کند. و با این حال، خود ماشین‌ها همیشه نمی‌توانند قضاوت‌هایی را که به تفسیر قانون می‌پردازند، انجام دهند، بنابراین ممکن است اجازه دادن به هوش مصنوعی حرف آخر را نداشته باشد.

پس راه حل چیست؟ با توجه به روشی که فناوری هوش مصنوعی قبلا به طور کامل در ارتش ادغام شده است، کروتوف به من گفت که ممکن است جایی در وسط باشد.

کروتوف گفت، به جای برنامه‌ریزی هوش مصنوعی برای امتناع از دستوراتی که به‌عنوان غیرقانونی تفسیر می‌شود، «چیزی که می‌توان برای انجام آن طراحی کرد این است که آن مناطق نامشخص، آن تحلیل‌های منطقه خاکستری را برای بررسی انسانی یا برای مقامات بالاتر پرچم‌گذاری کند.» هنگامی که یک سیستم سیگنال های متناقضی را دریافت می کند - برای مثال یک سرباز دشمن که به نظر می رسد ممکن است تسلیم شود - می تواند از فرمانده بخواهد انتخاب آنها را تأیید کند یا قوانین قابل اجرا را به آنها یادآوری کند.

به این ترتیب، کنترل اختیارات فرماندهان در میدان نبرد می‌تواند بدون تسلیم قضاوت کامل در مورد استفاده از زور به ماشین حفظ شود.

ما هنوز نمی‌دانیم که OpenAI مدل‌های «حداقل امتناع» خود را به چنین قابلیت‌هایی مجهز کرده است یا خیر. اما از آنجایی که این فناوری‌ها به طور فزاینده‌ای برای تصمیم‌گیری نظامی محور می‌شوند، عموم مردم سزاوار پاسخ‌دهی زودتر از آن هستند.