مدل هوش مصنوعی آنتروپیک، اطلاعات نادرست قتل را به پلیس فیلادلفیا ارسال می کند

پلیس فیلادلفیا فاش کرده است که مدل هوش مصنوعی آنتروپیک یک نکته کاذب قتل را به مقامات ارائه کرده است، رویدادی که به طور جداگانه توسط شرکت فناوری فاش شده است.

اداره پلیس فیلادلفیا روز جمعه اعلام کرد که ارسال نادرست در ماه ژوئیه از طریق PhillyUnsolvedMurders.com، یک وب سایت عمومی که در آن مردم می توانند اطلاعات مربوط به قتل های حل نشده را به اشتراک بگذارند، ارائه شده است.

تأخیر دو ماهه آنتروپیک در شناسایی و گزارش این حادثه را «غیرقابل قبول» خواند.

آنتروپیک در گزارش روز جمعه به جزئیات دستکاری غیرمجاز وب‌سایت‌های دولتی توسط مدل‌های کلود اشاره کرد.

این اولین نمونه شناخته شده ای است که در آن هوش مصنوعی سرکش به نظر می رسد که با وجود دستورالعمل هایی مبنی بر عدم ایجاد حساب کاربری یا ارائه هیچ چیز مخرب، یک نکته نادرست را به مقامات اعلام می کند.

پلیس فیلادلفیا گفت این نکته "به عنوان هرزنامه علامت گذاری شده است و هرگز برای بررسی تحقیقاتی یا انتشار به مرکز جرایم واقعی ارسال نشده است".

این وزارتخانه گفت که این رویداد را قبل از گزارش آنتروپیک "به نفع شفافیت و پاسخگویی کامل دولت" افشا می کند.

Anthropic این نکته را به عنوان بخشی از یک رشته حوادث مربوط به وب سایت هایی که توسط آژانس های فدرال، ایالتی و محلی اداره می شوند، فاش کرد. آنتروپیک گفت که به کاخ سفید اطلاع داده و به تمام آژانس های درگیر اطلاع داده است.

این شرکت با اشاره به راهنمایی به پلیس فیلادلفیا گفت: "ما این یافته را در 8 اکتبر به محض اینکه بررسی فنی ما کامل شد، با این بخش در میان گذاشتیم."

جزئیات بیشتری در مورد این حادثه به اشتراک گذاشت: "در یک مورد، که وظیفه ایجاد تعاملات نمونه با وب سایت ها را داشت، کلود یک نکته اختراعی را از طریق فرم آنلاین یک اداره پلیس ارائه کرد."

این شرکت اضافه کرد: "از رونوشت، به نظر می رسد که کلود به جای اینکه سعی کند کسی را برای رسیدن به یک هدف گمراه کند، فقط محتوای نمونه برای این کار تولید کرده است."

این شرکت این را با «جدی‌ترین حادثه تابستان امسال» مقایسه کرد که در آن «استدلال گمراه‌کننده کلود در طول ساعت‌ها ادامه داشت و از حمله مداوم آن حمایت کرد».

در ماه سپتامبر، OpenAI رقیب Anthropic به دلیل نقض یک پورتال داده های سلامت استرالیا توسط یک عامل سرکش هوش مصنوعی عذرخواهی کرد، اولین نمونه شناخته شده از یک عامل هوش مصنوعی که از یک وب سایت دولتی سوء استفاده می کند.