دستورالعمل تجدید نظر شده اتحادیه اروپا می تواند در برابر برخی از خطرات هوش مصنوعی محافظت کند

آقا، - بیش از 40 سال پیش، استاد برجسته مهندسی نرم افزار دیوید ال پارناس از هیئت مشاوره ابتکار دفاع استراتژیک رئیس جمهور ایالات متحده رونالد ریگان، که معمولا به عنوان "جنگ ستارگان" شناخته می شود، استعفا داد. او این کار را به این دلیل انجام داد که معتقد بود «نمی‌توان سیستمی ساخت که بتوانیم به آن اعتماد کنیم».

در آن زمان ما نه توانایی اثبات درستی چنین سیستم هایی را داشتیم و نه امکان آزمایش آنها را قبل از استقرار آنها. از آن زمان، جهان به طور فزاینده ای به سیستم های فشرده نرم افزار وابسته شده است. مشکل صحت با تحقیق حل نشده است. تعداد بی‌شماری دکمه‌های «می‌پذیرم» که در واقع فروشندگان نرم‌افزار را از مسئولیت معمولی محصول مبرا می‌سازد، حذف شده است.

شکست Crowdstrike در ژوئیه 2024 حداقل 10 میلیارد دلار هزینه داشت، اما شرکت های مسئول با موفقیت ادعا کردند که مسئولیت آنها محدود به بازپرداخت هزینه ها است.

سیستم های به اصطلاح هوش مصنوعی (AI) بزرگتر و گسترده تر از جنگ ستارگان هستند. ما در خطر استقرار اینها هستیم حتی اگر هنوز نمی توانیم صحت آنها را تضمین کنیم یا از قبل آنها را به طور کامل آزمایش کنیم. ما تعبیر گمراه کننده "توهم" را برای توصیف خطاهای اجتناب ناپذیر آنها پذیرفته ایم. رویکرد تصحیح آنها، موردی است و باید باشد، زیرا هیچ کس نمی تواند درستی طرح آنها را ثابت کند.

استقرار چنین سیستم‌هایی در مناطق حیاتی یا حتی از نظر اقتصادی مهم عملی حماقت فاحش خواهد بود.

با این حال، یک تغییر بالقوه بازی وجود دارد. دستورالعمل بازنگری شده اتحادیه اروپا در مورد مسئولیت محصولات از 9 دسامبر اجرایی می شود. این امر به معافیت شرکت های نرم افزاری از مسئولیت عادی محصولات پایان می دهد. اگر اجرا شود، اولین شکست بزرگ یک شرکت هوش مصنوعی می تواند آخرین آن باشد. بیایید امیدوار باشیم که شکست فاجعه بار نباشد. - مال شما و غیره

کوین تی رایان،

لیمریک