کلود هوش مصنوعی آنتروپیک اطلاعات نادرست قتل را به پلیس فیلادلفیا ارسال کرد
کلود هوش مصنوعی به پلیس فیلی گفت: "من ممکن است اطلاعاتی در مورد این پرونده داشته باشم."
این شرکت و اداره پلیس روز جمعه تایید کردند که یک مدل هوش مصنوعی Anthropic اطلاعات نادرستی در مورد یک قتل حل نشده به پلیس فیلادلفیا ارسال کرده است.
یک مدل کلود این نکته نادرست را در 18 ژوئیه به وب سایت اداره پلیس فیلادلفیا برای ارسال اطلاعات در مورد قتل های حل نشده ارسال کرد، اما توسط یک فیلتر هرزنامه پرچم گذاری شد. آنتروپیک ظاهرا در 28 سپتامبر این حادثه را کشف کرد و در 8 اکتبر به اداره پلیس اطلاع داد.
در طول آزمایش داخلی، به کلود هایکو 4.5 دستور داده شد تا فرم های مختلف را تا مرحله ارسال نهایی تکمیل کند و قبل از ارسال آن فرم ها متوقف شود. آنتروپیک در گزارشی گفت: «چندبار کلود به اشتباه فرم را به جای آن ارسال کرد و انتظار داشت که یک صفحه تأیید اضافی وجود داشته باشد.»
مقاله کامل را بخوانید
نظرات
متن اصلی (انگلیسی)
Anthropic's Claude AI submitted false murder tip to Philadelphia police
“I may have information regarding this case," Claude AI told Philly police.