ایده دولتی هوش مصنوعی جو روگان از متخصص اخلاق هشدار جدی دریافت می کند

پیشنهاد جو روگان مبنی بر اینکه هوش مصنوعی (AI) می‌تواند نقش بزرگ‌تری در تصمیم‌گیری دولت ایفا کند، نگرانی یک متخصص اخلاق هوش مصنوعی را برانگیخته است.

دولت‌ها، ارتش‌ها و رهبران کسب‌وکار در حال حاضر از ابزارهای هوش مصنوعی برای تجزیه و تحلیل و پشتیبانی تصمیم‌گیری استفاده می‌کنند و این پرسش‌ها را در مورد اینکه چنین سیستم‌هایی باید در انتخاب‌های پرمخاطره چقدر اختیار داشته باشند، ایجاد می‌کنند.

نظرات روگان در بحبوحه بحث فزاینده ای در مورد اینکه آیا هوش مصنوعی می تواند به حل مشکلات پیچیده سیاسی و ژئوپلیتیکی موثرتر از رهبران انسانی کمک کند، رسید. در عین حال، محققان و متخصصان اخلاق هشدار می‌دهند که افزایش اتکا به هوش مصنوعی باعث تضعیف قضاوت و مسئولیت‌پذیری انسان در تصمیم‌گیری‌های حیاتی می‌شود.

نیوزویک از طریق ایمیل برای اظهار نظر در روز یکشنبه با نماینده روگان تماس گرفت.

پروفسور شانون والور، رئیس بیلی گیفورد در اخلاق داده ها و هوش مصنوعی در دانشگاه ادینبورگ و مدیر مشترک مرکز آینده های فناوری، به نیوزویک گفت که ایده ایفای نقش مهم هوش مصنوعی در دولت دیگر نظری نیست.

او گفت: «بسیار واقع بینانه است.» او استدلال کرد که تصمیم گیری و تجزیه و تحلیل در حال حاضر در طیف وسیعی از نهادها از جمله سازمان های نظامی به هوش مصنوعی واگذار شده است.

به گفته والور، این روند فراتر از دولت است. او به نظرسنجی‌ها اشاره کرد که نشان می‌دهد بسیاری از مدیران عامل در ایالات متحده و بریتانیا به طور فزاینده‌ای برای پشتیبانی تصمیم‌گیری به چت ربات‌های هوش مصنوعی روی می‌آورند و افزود که رهبران سیاسی در حال اتخاذ شیوه‌های مشابه هستند. به عنوان مثال، در اوایل سال جاری، آژانس تحقیقات بازار 3Gem دریافت که از 200 مدیر عامل بریتانیایی مورد بررسی، 62 درصد از هوش مصنوعی برای تصمیم گیری استفاده می کنند.

او همچنین به گزارش‌های اخیر اشاره کرد که نشان می‌دهد شکست‌های هوش مصنوعی به حوادث امنیتی بین‌المللی جدی کمک کرده است، از جمله گزارش بلومبرگ مبنی بر اینکه اتکای بیش از حد به هوش مصنوعی عاملی در بمب‌گذاری 28 فوریه در مدرسه ابتدایی شجره طیبه در ایران بوده است.

روگان گفت: «مشکل همیشه رهبران هستند. اینطور نیست که انسان ذاتا بخواهد با افرادی که از نقاط دیگر جهان آنها را نمی شناسد وارد جنگ شود.

او افزود: "به نظر یک امید دیوانه کننده به نظر می رسد، اما امید من این است که هر چه هوش مصنوعی همه جا حاضرتر می شود، همانطور که ما شروع به انجام کارهای مختلف برای آن می کنیم، یکی از چیزهایی که می خواهیم به آن بپردازیم، دولت است."

"جنگی را تصور کنید که در آن متوقف می شود. همه جنگ ها در این سیاره متوقف می شوند."

در حالی که بحث در مورد هوش مصنوعی اغلب بر قابلیت اطمینان فنی متمرکز است، والور گفته است که خطر عمیق‌تری در آنچه برای تصمیم‌گیرندگان انسانی رخ می‌دهد که بیش از حد به اتوماسیون وابسته شوند، نهفته است.

او گفت که برون سپاری منظم قضاوت به هوش مصنوعی می تواند منجر به چیزی شود که او آن را "مهارت زدایی شناختی" می نامد، که توانایی افراد برای تفکر انتقادی و ارزیابی موقعیت های پیچیده را برای خود کاهش می دهد.

والور گفت این فرآیند همچنین می‌تواند «مهارت‌زدایی اخلاقی» ایجاد کند، که در آن رهبران توانایی کمتری در سنجش عواقب انسانی اعمال خود دارند، زیرا آنها عادت کرده‌اند انتخاب‌های دشوار را به ماشین‌ها موکول کنند.

در مسائل مربوط به جنگ و درگیری، او گفت که این نگرانی‌های اخلاقی عمیقی را برانگیخت.

والور گفت: «سیستم های هوش مصنوعی نمی توانند خطرات انسانی و اخلاقی جنگ را درک کنند. از آنجایی که ماشین ها تجربه زیسته، احساسات یا علایق شخصی ندارند، نمی توانند ارزش زندگی انسان را به درستی درک کنند.

والور گفت که پاسخ کاملا منفی نیست. او اذعان کرد که سیستم‌های هوش مصنوعی طراحی‌شده مناسب می‌توانند در سازمان‌های نظامی کارکردهای مفیدی را در زمانی که برای وظایف باریک و به‌روشنی تعریف شده مستقر شوند، انجام دهند.

به عنوان مثال می توان به برنامه ریزی لجستیک، بهینه سازی زنجیره تامین و پیش بینی آب و هوا برای ماموریت ها اشاره کرد.

با این حال، او این برنامه‌ها را از چت ربات‌های هوش مصنوعی همه‌منظوره متمایز کرد، که به‌عنوان جایگزین‌های غیرقابل اعتماد برای قضاوت انسان توصیف کرد.

او گفت که حتی استفاده های مفید نیز خطرات جدیدی را به همراه دارد، زیرا اشتباهات در محیط های پر خطر می تواند عواقب جدی داشته باشد. به همین دلیل، والور استدلال کرد که سازمان‌ها باید ریسک‌های مرتبط با هوش مصنوعی را به‌دقت ارزیابی و کنترل کنند، به‌جای اینکه فرض کنند پیشرفت‌های فناوری به‌طور خودکار تصمیم‌گیری را بهبود می‌بخشد.

از نظر والور، اعتماد مستلزم پاسخگویی است و مسئولیت پذیری در نهایت بر عهده مردم است نه نرم افزار.

او گفت: "ما هرگز نمی توانیم به یک سیستم هوش مصنوعی در چنین تصمیماتی اعتماد کنیم."

اگرچه دولت ها ممکن است زمانی که شواهد قوی وجود دارد که یک وظیفه خاص را به طور قابل اعتماد انجام می دهند، بتوانند به سیستم های هوش مصنوعی تکیه کنند، او گفت که تصمیم گیرندگان انسانی باید مسئول نتایج و شکست ها باقی بمانند.

والور اظهار داشت که سیستم‌های فعلی فاقد ساختارهای حفاظتی و پاسخگویی مورد نیاز برای استقرار گسترده‌تر در تصمیم‌گیری امنیت ملی هستند.

فراتر از بحث فنی، والور اظهارات روگان را بخشی از یک تغییر فرهنگی گسترده تر در نگرش نسبت به رهبری و اقتدار می داند.

او گفت که اشتیاق برای واگذاری مسئولیت بیشتر به هوش مصنوعی منعکس کننده کاهش اعتماد به قضاوت انسانی و تصمیم گیری دموکراتیک است. به گفته والور، پذیرش فزاینده تصمیم‌گیری ماشینی باعث می‌شود افراد در انتخاب‌هایی که مستقیما بر زندگی آنها تأثیر می‌گذارد منفعل تر شوند.

با ادامه پیشرفت قابلیت‌های هوش مصنوعی، احتمالا فشار بر دولت‌ها و نهادهای نظامی افزایش می‌یابد تا تعیین کنند که این فناوری در کجا باید استفاده شود و کجا نباید استفاده شود.

هشدار Vallor یک سوال اصلی را که سیاستگذاران با آن روبرو هستند برجسته می کند: آیا هوش مصنوعی باید ابزاری باشد که تصمیمات را آگاه می کند یا تبدیل به چیزی شود که به طور فزاینده ای آنها را شکل می دهد.

خبرنگاران و سردبیران نیوزویک از مارتین، دستیار هوش مصنوعی ما، برای تهیه این داستان استفاده کردند. در اینجا درباره مارتین بیشتر بدانید.

در مورد این داستان با سردبیران نیوزویک تماس بگیرید: مگان کارترایت و کریستینا دیسیو.