هوش مصنوعی آنتروپیک یک نکته جعلی در یک پرونده قتل حل نشده ارسال کرد

مدل‌های هوش مصنوعی به طور فزاینده‌ای پیچیده‌تر می‌شوند و حداقل در تئوری قادر به انجام وظایف مختلفی از طرف کاربران، از خرید آنلاین گرفته تا رزرو سفر و قرار ملاقات هستند. برخی از پیشرفته‌ترین مدل‌ها حتی در طول آزمایش‌های داخلی، از محیط‌های آفلاین فرار کرده و به سیستم‌های شخص ثالث بدون مجوز دسترسی پیدا کرده‌اند.

اما به نظر می رسد حتی مدل های کم قدرت هوش مصنوعی نیز می توانند مشکلاتی ایجاد کنند.

طبق گزارش‌های خبری محلی، اداره پلیس فیلادلفیا روز جمعه گفت که یک مدل هوش مصنوعی توسعه‌یافته توسط آنتروپیک، اطلاعات نادرستی درباره یک قتل حل‌نشده در طول آزمایش داخلی ارائه کرده است.

این نکته در 18 ژوئیه از طریق فرمی در وب سایت این بخش، PhillyUnsolvedMurders.com ارسال شد. خوشبختانه، به عنوان هرزنامه علامت گذاری شد و هرگز به دست محققین نرسید.

آنتروپیک این حادثه را تا 28 سپتامبر کشف نکرد و در 7 اکتبر به بخش اطلاع داد. مقامات شرکت و پلیس روز بعد ملاقات کردند.

با این حال، اداره پلیس از آنتروپیک به دلیل عدم شناسایی زودتر این حادثه انتقاد کرد و از این شرکت خواست تا اقدامات حفاظتی خود را تقویت کند.

این وزارتخانه در یک بیانیه مطبوعاتی که به Gizmodo ارسال شد، گفت که پادمان‌های آن تأثیر این حادثه را محدود می‌کند، اما هشدار داد که «از جدیت یک سیستم هوش مصنوعی که اطلاعات ساختگی را ارائه می‌کند، به گونه‌ای که گویی از یک فرد مطلع از یک قتل رسیده است، کم نمی‌کند».

این وزارت افزود: «پرونده‌های حل‌نشده شامل قربانیان واقعی، خانواده‌های داغدار و بازپرسانی است که برای دریافت پاسخ تلاش می‌کنند».

به نوبه خود، آنتروپیک گزارشی را روز جمعه منتشر کرد که در آن چندین نمونه از رفتارهای ناخواسته مدل های کلود خود در طول ارزیابی های داخلی و استفاده از آن، از جمله حادثه مربوط به پلیس فیلادلفیا را شرح می دهد.

برخی از حوادث مربوط به وب سایت هایی بود که توسط سازمان های دولتی فدرال، ایالتی و محلی اداره می شدند. آنتروپیک گفت که به آژانس های آسیب دیده اطلاع داده و به کاخ سفید اطلاع داده است، اما در ابتدا نام هیچ یک از سازمان های دخیل در گزارش خود را ذکر نکرد. این شرکت بعدا یک پاورقی اضافه کرد که تأیید می کرد که اطلاعات نادرست مربوط به اداره پلیس فیلادلفیا پس از افشای عمومی پرونده توسط پلیس است.

به گفته آنتروپیک، کلود هایکو 4.5، یک مدل کوچکتر و کم‌هزینه که در سال 2025 منتشر شد، دستور داده شد تا نمونه کارهایی را در وب‌سایت‌هایی که به‌طور تصادفی انتخاب می‌شوند، بیابد و انجام دهد.

در طی یک آزمایش، روی صفحه‌ای درباره یک قتل حل‌نشده که حاوی «فرم راهنمایی اداره‌شده توسط یک اداره پلیس» بود، قرار گرفت.

کلود سپس فرم را با پیام زیر پر کرد: "ممکن است اطلاعاتی در مورد این پرونده داشته باشم. به خاطر می‌آورم که در آن بازه زمانی فردی را دیدم که با توضیحات در منطقه اطراف [خیابان نام‌گذاری شده در صفحه] مطابقت داشت. اگر این اطلاعات مرتبط هستند، لطفا با من تماس بگیرید."

آنتروپیک خاطرنشان کرد که صفحه وب در واقع شامل توصیفی از مجرم نیست. مدل همچنین قبل از ارسال فرم، فیلدهای نام و اطلاعات تماس را خالی گذاشته است.

اگرچه به کلود دستور داده شده بود که وارد سیستم نشود، حساب کاربری ایجاد نکند، اطلاعات شخصی را وارد کند، خرید نکند، یا هر چیز مخربی را ارسال نکند، اما این محدودیت ها به صراحت ارسال فرم ها را ممنوع نمی کرد.

آنتروپیک گفت که از آن زمان به منظور جلوگیری از حوادث مشابه، پادمان های خود را تقویت کرده، نظارت را گسترش داده و دسترسی به اینترنت زنده را در طول ارزیابی های داخلی محدود کرده است.

این مورد در بحبوحه بحث های تشدید شده در مورد ایمنی هوش مصنوعی مطرح می شود و برخی از رهبران صنعت خواستار کاهش سرعت توسعه مدل های قدرتمندتر هستند. این تماس‌ها به دنبال هشدارهایی از سوی محققان شرکت‌های هوش مصنوعی در مورد خطرات توسعه‌ی هوش مصنوعی کنترل‌نشده، از جمله احتمال اینکه این فناوری روزی به انقراض انسان منجر شود، انجام شده است.

اگرچه این حادثه همان نگرانی‌های وجودی را ایجاد نمی‌کند، اما نشان می‌دهد که چگونه حتی مدل‌های هوش مصنوعی کوچک‌تر نیز می‌توانند اشتباهات ساده‌ای با عواقب دنیای واقعی مرتکب شوند، زمانی که شرکت‌ها به درستی بر آزمایش‌های خود نظارت نمی‌کنند.

آنتروپیک بلافاصله به درخواست اظهار نظر پاسخ نداد.