یک مدل هوش مصنوعی آنتروپیک یک نکته کاذب قتل را به پلیس فیلادلفیا ارسال کرد
آنتروپیک این رفتار را تا بیش از دو ماه پس از ارائه اطلاعات غلط توسط هوش مصنوعی خود کشف نکرد.
بر اساس گزارشی از 6abc Action News، یک مدل هوش مصنوعی Anthropic اطلاعات نادرستی در مورد یک قتل حل نشده به پلیس فیلادلفیا ارسال کرد.
گزارش شده است که هوش مصنوعی این اطلاعات نادرست را در 18 ژوئیه به یک خط راهنمایی عمومی اداره پلیس فیلادلفیا (PPD) ارسال کرد، اما آنتروپیک این رفتار را تا 28 سپتامبر کشف نکرد. پلیس این نکته را ندیده بود زیرا به عنوان هرزنامه علامت‌گذاری شده بود.
آنتروپیک روز چهارشنبه به PPD در مورد این حادثه اطلاع داد و روز بعد با این بخش ملاقات کرد.
Anthropic و PPD بلافاصله به درخواست‌های TechCrunch برای اظهار نظر پاسخ ندادند.
PPD در بیانیه ای به 6abc گفت: "شرکت باید پادمان های خود را تقویت کند تا از تأثیر حوادث مشابه بر سیستم های شهری بدون اطلاع شهر جلوگیری کند. تاخیر دو ماهه در شناسایی و گزارش حادثه به شهر غیرقابل قبول است."
از آنجایی که عوامل هوش مصنوعی به طور فزاینده‌ای در دسترس مصرف‌کنندگان قرار می‌گیرند، این حادثه خطر اعطای توانایی هوش مصنوعی برای انجام وظایف بدون نظارت انسانی را برجسته می‌کند.
داریو آمودی، مدیر عامل آنتروپیک، به ویژه در مورد اعتقاد خود مبنی بر اینکه توسعه هوش مصنوعی باید کند شود تا آزمایشگاه‌ها بتوانند نرده‌های محافظ کافی را پیاده‌سازی کنند، صحبت کرده است. شاید این موضع، تا حدی، با مشاهده ابزارهای شرکت او که نکات نادرست قتل را ارائه می‌کنند، اعلام شده است.
این مسائل منحصر به آنتروپیک نیست. OpenAI اخیرا فاش کرده است که یکی از مدل‌هایش در طی یک آزمایش به طور غیرمنتظره عمل کرده و پلتفرم داده‌های هوش مصنوعی Hugging Face را هک کرده و آسیب‌پذیری‌های مهم نرم‌افزار خود را آشکار کرده است. از آنجایی که همچنان به مدل‌های هوش مصنوعی اجازه دسترسی بدون بررسی به رایانه‌های افراد و اعتبارنامه‌های ورود داده می‌شود، انتظار می‌رود این مشکل همچنان ادامه داشته باشد.
وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.
می‌توانید با ارسال ایمیل به [email protected] یا از طریق پیام رمزگذاری‌شده به آدرس @amanda.100 در سیگنال، با آماندا تماس بگیرید یا آن را تأیید کنید.
ایالات متحده مایکروسافت، ادوبی و شرکت های بزرگ فناوری اطلاعات را از برنامه گرین کارت برای کارگران خارجی ماهر عایشه مالک محروم کرد.
قاضی فدرال، آنتونی ها را "نظارت جمعی بی رویه" می نامد
آمازون در پاسخ به عکس العمل مرکز داده، می گوید دیگر از NDA آنتونی ها استفاده نمی کند
کارمند ایمنی OpenAI با این ادعا که آنتونی ها «فرهنگ شرکت شکسته است» استعفا داد
متن اصلی (انگلیسی)
An Anthropic AI model sent a false homicide tip to Philadelphia police
Anthropic did not discover this behavior until over two months after its AI submitted the false tip.