گزارش آنتروپیک از ورود دفتر خاطرات به پلیس، زن با اتهام جنایت روبرو است

چه اتفاقی افتاد؟ حادثه دیگری رخ داده است که نشان می دهد باید مراقب آنچه به هوش مصنوعی می گویید باشید. یک زن فلوریدا پس از اینکه از کلود به عنوان دفتر خاطرات استفاده کرد و نوشت که قصد داشت دفتر کلانتر را "تیراندازی کند" با اتهامات جنایت روبرو شد. پس از بازبینی انسانی اظهارات، آنها به پلیس گزارش شدند.

بر اساس گزارش بازداشت، کارلی میشل هلر، از بونیتا اسپرینگز، فلوریدا، در 26 سپتامبر نوشت که به دفتر کلانتر حمله خواهد کرد. او بعدا گفت که از چت ربات آنتروپیک مانند یک "دفتر خاطرات" استفاده می کند.

سیستم‌های ایمنی کلود ورودی را علامت‌گذاری کردند و آن را به بازبینی انسانی تشدید کردند. پس از تشخیص اینکه این یک تهدید معتبر است، بازبینی کننده آن را به مجریان قانون گزارش کرد.

این شرکت می‌گوید اگر فکر می‌کند که افشای آن برای جلوگیری از مرگ یا آسیب جسمی جدی ضروری است، ممکن است اطلاعات کاربر را در مواقع اضطراری محدود به اشتراک بگذارد.

نمایندگان هلر را شناسایی کردند و از خانه او دیدن کردند. قبل از اینکه یک کارآگاه اطلاعاتی LCSO تحقیقات را در دست بگیرد، او بدون هیچ حادثه ای بازداشت شد.

طبق قانون فلوریدا، هلر با اتهام تهدید کتبی به خشونت روبرو است. اساسنامه 836.10 فلوریدا ارسال، ارسال یا مخابره سابقه مکتوب یا الکترونیکی تهدید به کشتن یا مجروح کردن کسی، انجام تیراندازی دسته جمعی یا ارتکاب یک عمل تروریستی را جرم درجه دوم می داند. ارتباط باید به نحوی انجام شود که شخص دیگری بتواند آن را مشاهده کند.

آنتروپیک در مورد هر چیزی که یک تهدید بالقوه به نظر می رسد، هیچ شانسی نمی گیرد. ماه گذشته، گزارش شد که OpenAI و سام آلتمن توسط بریتیش کلمبیا به دلیل این ادعا که این شرکت می توانسته از تیراندازی دسته جمعی در استان کانادا جلوگیری کند، شکایت کرده اند.

تیرانداز، دانش‌آموز سابق هجده ساله جسی وان روتسلار، قبلا توسط تیم ایمنی OpenAI به دلیل مکالماتش در مورد خشونت با اسلحه علامت‌گذاری شده بود، اما OpenAI هرگز به پلیس هشدار نداد زیرا مکالمات آستانه ارجاع قانونی را برآورده نمی‌کرد.

در ماه ژوئن، فلوریدا همچنین از OpenAI و Altman شکایت کرد و ادعا کرد که ChatGPT به آسیب‌های دنیای واقعی، از جمله تیراندازی در دانشگاه ایالتی فلوریدا در سال 2025 کمک کرده است.

آخرین حادثه یادآوری دیگری است که باید قبل از وارد کردن چیزی در چت بات فکر کنید که ممکن است شما را دچار مشکل کند. مطمئنا این یک دفتر خاطرات خصوصی نیست که محتوای آن فقط برای چشمان شما باشد.

گزارش‌های ماه گذشته نشان داد که پیمانکاران انسانی که ویرایشگر تصویر Microsoft Copilot را بررسی می‌کنند، می‌توانند درخواست‌های کاربران، عکس‌های آپلود شده و ویرایش‌های ایجاد شده توسط هوش مصنوعی را ببینند. اسناد نشان می‌دهد که برخی از این تکالیف حاوی مطالب جنسی، مزاحم یا بالقوه غیرقانونی هستند، اگرچه بازبین‌ها برای علامت‌گذاری محتوا در آنجا نیستند - فقط برای ارزیابی دقیق بودن خروجی.