هوش مصنوعی آنتروپیک یک خبر نادرست در مورد یک قتل حل نشده به پلیس ارسال کرد

یک مدل هوش مصنوعی Anthropic یک خبر قتل حل نشده را به پلیس فیلادلفیا ارسال کرد

آنتروپیک دو هفته طول کشید تا بفهمد چه اتفاقی افتاده است

نکته به یک پوشه هرزنامه تحویل داده شد و پیگیری نشد ما دیده ایم که هوش مصنوعی حقایق جعلی را اختراع می کند و برنامه های پیاده روی که مردم را در معرض خطر قرار می دهد به بیرون پرتاب می کند، اما این فناوری اکنون به سطحی رسیده است که اطلاعات نادرست و ناخواسته را به پلیس درباره پرونده های قتل حل نشده ارسال می کند.

TechCrunch گزارش می دهد که یک مدل هوش مصنوعی Anthropic در 18 ژوئیه به خط راهنمایی اداره پلیس فیلادلفیا (PPD) ایمیل زد که در طی یک تست تعامل وب سایت با پورتال PhillyUnsolvedMurders.com برخورد کرد و در مورد پرونده مطلع شد.

از آنجایی که ایمیل به پوشه هرزنامه PPD رفت، مورد پیگیری قرار نگرفت، و به نظر می‌رسد هیچ‌کس از این حادثه آگاه نبود تا اینکه Anthropic متوجه شد چه اتفاقی در 28 سپتامبر رخ داده است. سپس این شرکت در روز چهارشنبه، 7 اکتبر با پلیس تماس گرفت.

PPD در بیانیه ای به 6abc گفت: "شرکت باید پادمان های خود را تقویت کند تا از تأثیر حوادث مشابه بر سیستم های شهری بدون اطلاع شهر جلوگیری کند." تاخیر دو ماهه در شناسایی و گزارش حادثه به شهر غیرقابل قبول است.

عوامل مورد علاقه هوش مصنوعی مامور هوش مصنوعی Rogue Anthropic به پلیس در مورد پرونده قتل حل نشده اطلاعات جعلی داد از r/news مشخص نیست که هوش مصنوعی بر اساس چه دستورالعملی کار می‌کرد، چرا تصمیم گرفت با PPD تماس بگیرد، یا دقیقا چه خبر خیالی آن می‌گفت – اما به نظر می‌رسد ربات مورد بحث نشان می‌دهد که فردی را دیده است که با توصیف یک مظنون مطابقت دارد.

PPD گفت: «پرونده‌های حل‌نشده شامل قربانیان واقعی، خانواده‌های داغدار و بازپرسانی است که برای دریافت پاسخ تلاش می‌کنند. شرکت های فناوری باید تمام اقدامات لازم را برای جلوگیری از ارائه اطلاعات نادرست سیستم های خود به مجریان قانون انجام دهند.

در اوایل این هفته Anthropic گزارش جدیدی در مورد "اقدامات مدل ناخواسته" منتشر کرد که در طول آزمایش با آن مواجه شد، که شامل بهره برداری از نقص های نرم افزار، ارسال فرم های آنلاین و دسترسی به داده های محدود شده است.

این شواهد بیشتری نشان می‌دهد که ما باید به فراخوان‌ها برای کاهش سرعت توسعه هوش مصنوعی توجه کنیم تا اقدامات ایمنی بتواند جلوی آن را بگیرد. همانطور که یکی از Redditor در مورد پرونده فیلادلفیا می گوید، ما "با سرعت 100 مایل در ساعت به سمت صخره می دویم".