مدل هوش مصنوعی Anthropic یک نکته جعلی قتل را برای پلیس فیلادلفیا ارسال کرد

مدل هوش مصنوعی خود را به عنوان فردی معرفی کرد که ممکن است از این مورد اطلاعات داشته باشد.

سان فرانسیسکو - مقامات ایالات متحده در 9 اکتبر گفتند که یک مدل هوش مصنوعی توسعه یافته توسط Anthropic یک نکته ساختگی در مورد یک قتل حل نشده را به پلیس فیلادلفیا ارسال کرد و از شرکت برای گزارش دو ماهه برای گزارش این حادثه انتقاد کرد.

اداره پلیس فیلادلفیا گفت که این ارسال نادرست در ماه ژوئیه از طریق PhillyUnsolvedMurders.com، یک وب سایت عمومی که در آن مردم می توانند اطلاعات مربوط به قتل های حل نشده را به اشتراک بگذارند، ارائه شده است.

طبق گزارش آنتروپیک، همانطور که توسط پلیس مخابره شده است، این مدل در حال انجام آزمایشی بود که شامل تعامل با وب‌سایت‌هایی بود که به‌طور تصادفی انتخاب شده بودند، زمانی که به سایت رسید و اطلاعات نادرستی درباره یک قتل حل‌نشده ارائه کرد.

این دپارتمان اعلام کرد پیش از انتشار گزارشی که آنتروپیک قصد دارد در 9 اکتبر منتشر کند، این حادثه و موارد دیگر از رفتار ناخواسته مدل‌هایش را شرح می‌دهد.

این پرونده بازتاب موارد اخیر دیگر بود، از جمله مواردی که در آن یک عامل OpenAI تحت ارزیابی امنیتی از محیط آزمایش خود خارج شد و سیستم‌های پلتفرم هوش مصنوعی Hugging Face را نقض کرد.

این قسمت نگرانی‌ها را در مورد استفاده روزافزون صنعت هوش مصنوعی از عوامل هوش مصنوعی، سیستم‌هایی که برای انجام اقدامات چند مرحله‌ای بدون نظارت انسان برنامه‌ریزی شده‌اند، افزایش داد.

آنتروپیک بلافاصله به درخواست خبرگزاری فرانسه برای اظهار نظر پاسخ نداد.

پلیس گفت این نکته، مورخ 18 جولای، به عنوان هرزنامه علامت گذاری شده است و هرگز برای بررسی به مرکز جرایم بلادرنگ اداره نرسیده است.

آنها افزودند که هیچ نشانه ای مبنی بر نقض سیستم های پلیس یا به خطر افتادن داده های بخش وجود ندارد.

پلیس گفت که آنتروپیک این حادثه را در 28 سپتامبر کشف کرد، فرآیند تست خودکار مسئول را خاموش کرد و یک مرحله اعتبار سنجی جدید برای آزمایش‌های آینده اضافه کرد.

این شرکت در 7 اکتبر به بخش هشدار داد و روز بعد دو طرف ملاقات کردند.

این اداره گفت: "تاخیر دو ماهه در شناسایی و گزارش این حادثه به شهر غیرقابل قبول است."

پلیس گفت که تدابیر حفاظتی آنها تأثیر را محدود کرده است، اما اینها "از جدیت یک سیستم هوش مصنوعی که اطلاعات ساختگی را طوری ارائه می کند که گویی از یک فرد مطلع از یک قتل رسیده است، کم نمی کند."

این بیانیه افزود: «پرونده‌های حل‌نشده شامل قربانیان واقعی، خانواده‌های داغدار و بازپرسانی است که برای دریافت پاسخ تلاش می‌کنند». خبرگزاری فرانسه