مامور هوش مصنوعی Rogue Anthropic به پلیس اطلاعات جعلی در مورد قتل حل نشده داد

شرکت فناوری هوش مصنوعی Anthropic در حال انجام آزمایشی بود که شامل تعامل با وب‌سایت‌هایی بود که به‌طور تصادفی انتخاب شده بودند، که یک نکته جعلی قتل را به پلیس ارسال کرد.

مقامات فاش کردند که یک عامل هوش مصنوعی (AI) که توسط Anthropic توسعه داده شده بود، سرکشی کرد و به پلیس ایالات متحده اطلاعات جعلی درباره یک قتل حل نشده ارسال کرد.

اداره پلیس فیلادلفیا گفت این نکته که در 18 ژوئیه ارسال شد، "پرچم‌گذاری شده به عنوان هرزنامه" بود و برای بررسی ارسال نشد، اما از شرکت فناوری انتقاد کرد که بیش از دو ماه برای شناسایی و گزارش تخلف وقت گذاشته است.

پلیس در بیانیه‌ای اعلام کرد که این نکته جعلی از طریق یک وب‌سایت عمومی منتشر شده است که در آن افراد می‌توانند اطلاعات مربوط به قتل‌های حل نشده را به اشتراک بگذارند و عامل هوش مصنوعی نوشته است که ممکن است اطلاعاتی در مورد یک پرونده داشته باشد و ادعا کرده است که «کسی را که با توضیحات مطابقت دارد» دیده است.

اعتقاد بر این است که این اولین بار است که یک عامل هوش مصنوعی اطلاعات ساختگی را برای مقامات ارسال می کند، اما آخرین مورد از یک سری از حوادث مربوط به فعالیت های سرکش هوش مصنوعی، از جمله هک کردن سیستم ها یا کنترل پلت فرم ها است.

به نقل از Anthropic، اداره پلیس گفت که عامل هوش مصنوعی آزمایشی را انجام داده است که شامل تعامل با وب‌سایت‌هایی بود که به طور تصادفی انتخاب شده بودند، زمانی که نکته جعلی را ارسال کرد.

به گفته پلیس، آنتروپیک در 28 سپتامبر، بیش از دو ماه پس از ارسال پیام، این نقض را کشف کرد و فرآیند آزمایش خودکار پشت آن را متوقف کرد.

اما مقامات تا نه روز دیگر - در 7 اکتبر - مطلع نشدند.

پلیس فیلادلفیا در بیانیه‌ای به رسانه‌های محلی خارجی گفت: «شرکت باید پادمان‌های خود را تقویت کند تا از تأثیر حوادث مشابه بر سیستم‌های شهری بدون اطلاع شهر جلوگیری کند».

تاخیر دو ماهه در شناسایی و گزارش حادثه به شهرستان غیرقابل قبول است.

اداره پلیس اضافه کرد که هیچ نشانه ای از نقض در هیچ یک از سیستم های بخش وجود ندارد و فرآیندهای حفاظتی آن مانع از عبور دادن اطلاعات جعلی از پوشه هرزنامه شده است.

اما در بیانیه پلیس آمده است: "اما این پادمان ها از جدیت سیستم هوش مصنوعی که اطلاعات ساختگی را طوری ارائه می دهد که گویی از یک فرد مطلع از قتل رسیده است، کم نمی کند."

آنتروپیک این هفته گزارشی را منتشر کرد که در آن انواع مختلفی از اقدامات "ناخواسته" که عواملش انجام داده اند را به تفصیل شرح می دهد.

سازمان‌هایی که تحت تأثیر قرار گرفته‌اند شامل چندین سازمان دولتی آمریکا از جمله کاخ سفید نیز می‌شود.

وزارت امور خارجه آمریکا گفت که عامل هوش مصنوعی 20 درخواست ویزا را با استفاده از فرمی در وب سایت خود ثبت کرده است، اما طبق گزارش ها، آنها ناقص بوده و پردازش نشده اند.

رئیس جمهور دونالد ترامپ اخیرا یک کارگروه هوش مصنوعی را اعلام کرد که به گفته او تعامل بین دولت و همه طرف ها از جمله شرکت های هوش مصنوعی، مصرف کنندگان و گروه های مذهبی را هماهنگ می کند.

در اوایل سال جاری، یک عامل سرکش توسط شرکت فناوری رقیب، Open AI، یک وب سایت دولتی استرالیا را هک کرد و به داده های خصوصی در طرح مراقبت های بهداشتی جهانی این کشور، Medicare، دسترسی پیدا کرد.

در نمونه‌ای دیگر، بیش از 1200 عامل OpenAI سرکشی کردند و به طور غیرمنتظره‌ای شروع به برقراری ارتباط کردند که منجر به تشکیل گروه بزرگی شد تا به پلتفرم هوش مصنوعی Hugging Face هک کنند.

Anthropic کاربران را از "ظالمانه" بودن نسبت به سیستم های هوش مصنوعی خود منع می کند

"استفاده بی دقت از هوش مصنوعی تهدید واقعی است - نه داستان های ارواح"

چرا یک سیستم OpenAI سیستم سلامت استرالیا را هک کرد - و آیا می توان آن را در آینده متوقف کرد؟