هوش مصنوعی «کلاد» گزارش جعلی قتل برای پلیس آمریکا ارسال کرد!

یکی از مدل‌های هوش مصنوعی انتروپیک اطلاعاتی ساختگی درباره‌ی پرونده‌ی قتل حل‌نشده به سامانه‌ی گزارش‌های مردمی پلیس فیلادلفیا فرستاد.

هوش مصنوعی انتروپیک اطلاعاتی ساختگی درباره‌ی پرونده‌ی قتل حل‌نشده به سامانه‌ی دریافت گزارش‌های مردمی اداره‌ی پلیس فیلادلفیا ارسال کرد.

به گفته‌ی مقامات پلیس ، این اطلاعات در تاریخ ۱۸ جولای (۲۷ تیر) از طریق وب‌سایت PhillyUnsolvedMurders.com ثبت شد؛ اما کارآگاهان هرگز آن را بررسی نکردند چون سامانه‌ی خودکار، پیام ارسالی را به‌عنوان اسپم شناسایی کرده بود.

انتروپیک در تاریخ ۲۸ سپتامبر (۶ مهر) متوجه ارسال این گزارش جعلی شد و در ۷ اکتبر (۱۵ مهر) موضوع را به اطلاع پلیس رساند. در جریان آزمایش‌های دوره‌ای، مدل Claude Haiku 4.5 برای انجام وظایف نمونه در وب‌سایت‌های تصادفی به کار گرفته شده بود. دستورالعمل‌های آزمایشی، مدل را از ورود به حساب‌های کاربری یا خرید آنلاین منع می‌کردند، اما پر کردن فرم‌های اینترنتی را به طور صریح محدود نکرده بودند.

مدل با ورود به صفحه‌ی مربوط به یک قتل حل‌نشده، فرم ارسال گزارش مردمی را پر کرد و متنی مبنی بر مشاهده‌ی فردی مظنون در منطقه‌ی حادثه به ثبت رساند؛ در حالی که در آن وب‌سایت هیچ مشخصاتی از مظنون پرونده وجود نداشت.

اداره‌ی پلیس فیلادلفیا، در بیانیه‌ای رسمی گفت: «انتروپیک باید تدابیر امنیتی خود را تقویت کند تا از تاثیرگذاری حوادث مشابه بر سیستم‌های شهری بدون اطلاع مقامات جلوگیری شود. تاخیر دوماهه در شناسایی و گزارش این حادثه به مدیریت شهری غیرقابل‌قبول است.»

انتروپیک اعلام کرد که پس از کشف این موضوع، فرآیند آزمایشی منجر به ثبت فرم را متوقف کرده است. انتروپیک تأکید دارد که مدل قصد فریب‌دادن کسی را نداشته و صرفا در حال تولید محتوای نمونه برای انجام وظیفه‌ی محوله بوده است.