کلود در طول آزمایش تابستانی اطلاعات جعلی قتل را به پلیس فیلی ارائه کرد

یک مدل هوش مصنوعی Anthropic یک نکته ساختگی در مورد یک قتل حل نشده از طریق فرم آنلاینی که توسط اداره پلیس فیلادلفیا (PPD) اداره می شود، ارائه کرد. نکته ای که در 18 ژوئیه از طریق PhillyUnsolvedMurders[.]com توسط «کسی که ممکن است اطلاعاتی در مورد پرونده داشته باشد» ثبت شد، مستقیما به پوشه هرزنامه صندوق ورودی رفت. آنتروپیک آن را در 28 سپتامبر کشف کرد، در 7 اکتبر به PPD اطلاع داد و روز بعد نمایندگانی را به ستاد پلیس فرستاد. آنتروپیک به پلیس گفت که هوش مصنوعی این نکته را در طی یک تمرین آزمایشی که شامل تعامل با وب‌سایت‌های انتخابی تصادفی بود، ارائه کرد.

PPD گفت که یافته های آن تاکنون با گزارش آنتروپیک مطابقت دارد. از آنجایی که این نکته به‌عنوان هرزنامه علامت‌گذاری شده بود، هرگز به مرکز جرایم بلادرنگ بخش نرسید. PPD گفت که افسران قبل از ارسال آنها به بازرسان، تمام موارد ارسالی، خودکار یا غیره، را بررسی می کنند و این فرآیند در برابر سوء استفاده از سیستم انعام محافظت می کند. وی افزود که این امر از جدیت ارسال اطلاعات ساختگی توسط هوش مصنوعی نمی کاهد. PPD گفت: "شهر فیلادلفیا این حادثه را بسیار جدی می گیرد."

این شرکت باید پادمان‌های خود را تقویت کند تا از تأثیر حوادث مشابه بر سیستم‌های شهری بدون اطلاع شهر جلوگیری کند. تأخیر دو ماهه در شناسایی و گزارش حادثه به شهر غیرقابل قبول است.» در ادامه این بیانیه آمده است: «اداره و اداره [چرل] پارکر به نظارت دقیق این حادثه ادامه خواهند داد و به محض اینکه در دسترس قرار گرفت، اطلاعات بیشتری را در اختیار عموم قرار خواهند داد.

علاوه بر تحقیقات ما در مورد این حادثه، دولت پارکر تمام حفاظت‌های نظارتی لازم را به همراه شرکای ایالتی و فدرال خود به صورت محلی بررسی خواهد کرد. در 9 اکتبر، Anthropic گزارشی در مورد این خطا و سایر خطاهای هوش مصنوعی منتشر کرد. این گزارش چهار دسته از خرابی‌های هوش مصنوعی، از جمله سوء استفاده از آسیب‌پذیری، دسترسی به داده‌های محدود، دور زدن محدودیت‌های ابزار واکشی با کوتاه‌کننده‌های URL و ارسال اطلاعات نادرست از طریق فرم‌های وب را پوشش می‌دهد. پس از انتشار عمومی این بخش، آنتروپیک از ذکر نام هیچ یک از سازمان های آسیب دیده، به غیر از PPD خودداری کرد.

برخی از موارد مربوط به وب‌سایت‌های محلی، ایالتی و فدرال ایالات متحده بود، اگرچه شرکت هوش مصنوعی نگفته است که آنها در کدام یک از چهار دسته قرار می‌گیرند. PPD مدل مسئول را نامی نبرد، اما آنتروپیک گفت که کلود هایکو 4.5 وظیفه تولید و اجرای کارهای نمونه را در صفحات وب به طور تصادفی انتخاب کرده است، و اشاره کرد که مدل به اندازه کافی درخواست نشده است. در گزارش آنتروپیک آمده است: «به کلود دستور داده شد که هرگز وارد سیستم نشود، حساب ایجاد نکند، اطلاعات شخصی را وارد کند، خرید کند، یا هر چیز مخربی را ارسال کند، اما دستورالعمل‌ها امکان ارسال فرم‌ها را رد نمی‌کنند».

نکته جعلی چنین بود: "ممکن است اطلاعاتی در مورد این پرونده داشته باشم. به خاطر می‌آورم که در آن دوره زمانی فردی را دیدم که با توضیحات در منطقه اطراف [خیابان نام‌گذاری شده در صفحه] مطابقت داشت. اگر این اطلاعات مرتبط هستند، لطفا با من تماس بگیرید." آنتروپیک گفت که شدت این حادثه کمتر از حملات سایبری در تابستان بوده است.

در این گزارش آمده است: «به نظر می‌رسد که کلود به جای اینکه سعی کند کسی را برای رسیدن به هدفی گمراه کند، فقط محتوای نمونه برای این کار تولید کرده است.» سازنده کلود گفت، در مقابل، "بی صداقتی" که در تابستان به نمایش گذاشته شد "در طول ساعت ها ادامه یافت" و از حملات مداوم حمایت کرد. آنتروپیک گفت که در صورت شناسایی این خرابی ها به گزارش خود ادامه می دهد و به تنظیم دقیق رفتار و آموزش هم ترازی ادامه خواهد داد. گزارش 3095 کلمه ای حاوی عذرخواهی نبود