پس از اینکه کلود هوش مصنوعی Anthropic اطلاعات نادرستی در مورد یک پرونده قتل حل نشده فیلادلفیا ارائه کرد، پلیس می‌گوید: «این پرونده‌ها شامل قربانیان واقعی، خانواده‌های داغدار است».
آنتروپیک گفت، این حادثه در فیلادلفیا در 18 ژوئیه زمانی رخ داد که مدل هوش مصنوعی کلود هایکو 4.5 وظیفه تولید و اجرای کارهای نمونه در صفحات وب به طور تصادفی را داشت.
به گفته مقامات و آنتروپیک، یک مدل هوش مصنوعی Anthropic اطلاعات نادرستی را به وب سایت پلیس فیلادلفیا در مورد یک پرونده قتل حل نشده ارسال کرده است.
این آخرین نمونه از مدل‌های هوش مصنوعی است که به روش‌های ناخواسته عمل می‌کنند و در طول آزمایش‌ها، وب‌سایت‌های دولتی و دیگر را دستکاری می‌کنند. در گزارشی که روز جمعه منتشر شد، آنتروپیک همچنین یک حادثه جداگانه را فاش کرد که مدل هوش مصنوعی آن به جای توقف قبل از ارسال، فرم‌ها را به یک وب‌سایت دولتی ناشناس ارسال کرد.
آنتروپیک گفت، این حادثه در فیلادلفیا در 18 ژوئیه زمانی رخ داد که مدل هوش مصنوعی کلود هایکو 4.5 وظیفه تولید و اجرای کارهای نمونه در صفحات وب به طور تصادفی را داشت.
کلود فرمی را در سایت پلیس PhillyUnsolvedMurders.com پر کرد که نشان می داد ممکن است اطلاعاتی در مورد یک قتل حل نشده در این سایت داشته باشد.
پلیس فیلادلفیا در بیانیه ای اعلام کرد تا زمانی که آنتروپیک روز چهارشنبه به آنها اطلاع نداد، از این حادثه بی اطلاع بودند. سپس آنها ارسالی را در سوابق راهنمایی وب سایت یافتند و تأیید کردند که هرزنامه علامت گذاری شده است و هرگز به پلیس ارسال نشده است.
نگرانی‌های فزاینده‌ای در مورد دخالت عوامل هوش مصنوعی شرکت‌های هوش مصنوعی در همه چیز از وب‌سایت‌های دولت ایالات متحده گرفته تا داده‌های مراقبت‌های بهداشتی وجود دارد. منتقدان خواستار مقررات بیشتر شده اند.
در ماه سپتامبر، یکی دیگر از شرکت‌های هوش مصنوعی، OpenAI، شش گزارش از رفتار «غیر منتظره یا نگران‌کننده» در مدل‌های هوش مصنوعی را فاش کرد.
اداره پلیس فیلادلفیا در بیانیه‌ای گفت: «پرونده‌های حل‌نشده شامل قربانیان واقعی، خانواده‌های داغدار و بازپرسانی است که برای دریافت پاسخ تلاش می‌کنند. شرکت‌های فناوری باید تمام اقدامات لازم را برای جلوگیری از ارائه اطلاعات نادرست سیستم‌های خود به مجریان قانون انجام دهند.
آنتروپیک در گزارش خود گفت که بیشتر رفتارهای گزارش شده اشکالی هستند که آن را «پایداری» می نامد - «که در آن کلود، زمانی که نمی تواند کاری را همانطور که داده شده انجام دهد، به جای توقف، حول یک محدودیت کار می کند».
این شرکت گفت که آموزش های خود را برای "کاهش احتمال بدرفتاری بیشتر" تغییر می دهد.
آنتروپیک گفت که کاخ سفید را در مورد مواردی که سازمان‌های دولتی ایالات متحده در سطوح فدرال، ایالتی و محلی را درگیر می‌کرد، مطلع کرده و به هر آژانس مرتبط اطلاع داده است.
این داستان در ابتدا در سایت Fortune.com منتشر شد
متن اصلی (انگلیسی)
After Anthropic’s Claude AI submits a false tip on a Philadelphia unsolved homicide case, police say ‘cases involve real victims, grieving families’
The incident in Philadelphia occurred on July 18 when the AI model Claude Haiku 4.5 was tasked with generating and performing example tasks on randomly selected webpages, Anthropic said.