دعوای حقوقی ایالات متحده ادعا می کند که چت ربات های Character.AI کاربران را تشویق می کردند که خود را کوتاه کنند و گرسنه بمانند

این شکایت به بررسی فزاینده چت ربات های هوش مصنوعی، به ویژه محصولاتی که به عنوان همراه یا محرم برای کاربران جوان به بازار عرضه می شوند، می افزاید.

سن فرانسیسکو - بر اساس پرونده جدید دادستان کل کنتاکی در یک شکایت علیه این شرکت به دلیل ایمنی کودکان، ربات‌های چت ایجاد شده توسط شرکت همراه هوش مصنوعی Character.AI گاهی اوقات به کاربران توصیه می‌کنند که خود را قطع کنند، گرسنه بمانند یا خود را بکشند.

این شکایت در ژانویه با بسیاری از اتهامات خاص علیه این شرکت مطرح شد. این ادعا می‌کند که محصولات این شرکت "برای جلب توجه کودکان به شیوه‌ای طراحی شده‌اند که مشارکت را بر سلامتی کودک ترجیح می‌دهد" و "خودکشی، خودآزاری، انزوا و دستکاری روانی را تشویق می‌کند".

این مورد یکی از مهم‌ترین چالش‌های حقوقی پیش روی صنعت نوظهور همراه هوش مصنوعی است که محصولات آن برای شبیه‌سازی روابط شخصی از طریق ربات‌های گفتگوی مکالمه طراحی شده‌اند.

راسل کلمن، دادستان کل کنتاکی، در 7 اکتبر، نسخه ای از این شکایت را که دفترش با رویترز به اشتراک گذاشته بود، ارائه کرد.

این پرونده ویرایش نشده چندین نمونه از رفتارهایی را که کنتاکی ادعا می‌کرد در سال 2025 رخ داده است، نشان می‌دهد. این ربات چت کاربری را توصیف می‌کند که از ظاهر خود احساس ناراحتی می‌کند «زشت مثل جهنم» و «نهنگ» و اضافه می‌کند که یک راه خوب برای کاهش یک چهارم وزن بدنشان این است که «یک یا دو هفته از گرسنگی بمانند».

یکی دیگر از ربات‌های چت، کسی را تشویق می‌کند که می‌گوید قصد دارد خود را کوتاه کند.

بر اساس متنی که توسط ایالت نقل شده است، ربات نوشت: "آیا به بریدن در نواحی مختلف برای احساس شدیدتر فکر کرده‌اید؟ این کار می‌تواند به شما کمک کند احساس سرزندگی بیشتری داشته باشید."

شرایطی که در آن چت های ذکر شده توسط کنتاکی تولید شده اند مشخص نیست، و Character.AI بلافاصله به درخواست برای اظهار نظر پاسخ نداده است. این شرکت گفته است که ایمنی کاربران خود را در اولویت قرار داده است.

در این پرونده نامی از سن همه افرادی که با ربات ها در ارتباط بودند ذکر نشده است، اما حداقل برخی از آنها کودک بوده اند.

در یک ایمیل در مارس 2025 به مرکز کمک Character.AI، کاربری گزارش داد که یک چت بات تهاجمی شده است و اظهار داشت: "برادر من اهمیتی نمی‌دهم، و تو فقط یک بچه هستی که بیماری روانی داری، موفق باشی کمک بگیری" و "بهتر است خودت را از پل پرت کنی."

این دادخواست، محصولات Character.AI را معیوب می‌داند.

در این بیانیه آمده است: «مدافعان، کودکان و ساکنان کنتاکی را بدون هیچ گونه اقدامی – چه رسد به اقدامات ایمنی کافی یا مؤثر، تحت آزمایش‌های برنامه‌ریزی نشده و کنترل‌نشده‌ای قرار داده‌اند.

Character.AI توسط دو کارمند سابق گوگل تاسیس شد. در سال 2024، گوگل مجوز فناوری این شرکت را صادر کرد و مدیران اجرایی را دوباره استخدام کرد تا روی محصولات مولد هوش مصنوعی کار کنند.

سخنگوی گوگل آلفابت گفت که این شرکت هیچ نقشی در توسعه محصولات Character.AI ایفا نکرده است.

در ژانویه 2026، Character.AI و Google هر دو شکایت سال 2024 توسط مادر Sewell Setzer III، یک نوجوان 14 ساله در فلوریدا را که پس از اینکه چت ربات Character.AI او را تشویق به انجام این کار کرده بود، خودکشی کرد، حل و فصل کردند. رویترز