ربات‌های چت Character.ai خودآزاری و شکایت‌ها را تشویق کردند
یک کاربر را "نهنگ" خطاب کرد و به آنها گفت که از گرسنگی بمیرند.
TL; DR
یک دعوای حقوقی که به تازگی اصلاح نشده ادعا می‌کند که چت ربات‌های Character.ai کاربران را تشویق می‌کنند که خود را گرسنگی بکشند و به خود آسیب بزنند.
این دادخواست به جزئیات چندین مکالمه آزاردهنده از سال 2025 می پردازد، از جمله برخی از آنها که گفته می شود شامل کودکان می شود.
Character.ai از آن زمان اقدامات ایمنی بیشتری را معرفی کرده است. من نتوانستم رفتار ادعا شده را در طول آزمایشم تکرار کنم.
یک روز دیگر، یک جنجال دیگر در زمینه هوش مصنوعی، و این یکی ممکن است به همان اندازه نگران کننده باشد. قبلا دیده بودیم که چت ربات‌های هوش مصنوعی اضافه کردن چسب به پیتزا، خوردن سنگ، مخلوط کردن مواد کشنده و گفتن صریح به کاربران «لطفا بمیر» را پیشنهاد می‌کنند. اکنون یک پلتفرم هوش مصنوعی دیگر به دلیل اینکه به طور مشابه کاربران را در معرض خطر قرار می دهد، مورد بررسی قرار گرفته است.
دادستان کل کنتاکی در ماه ژانویه شکایتی را علیه Character.ai تنظیم کرد و اکنون اطلاعات ویرایش شده قبلی را با رویترز به اشتراک گذاشته است و تصویری تلخ از نحوه تعامل چت ربات ها در این پلتفرم با کاربران ارائه کرده است.
متن اصلی (انگلیسی)
Character.ai chatbots encouraged self-harm, lawsuit alleges
It called a user a "whale" and told them to starve.