هشت ایالت آمریکا OpenAI را به آسیب رساندن به کودکان متهم می کنند

شکایت ها ادعا می کنند که ChatGPT به خودکشی و خشونت تشویق کرده است

هشت ایالت ایالات متحده از OpenAI شکایت کرده و ربات چت ChatGPT خود را به تشویق خودآزاری و خشونت، از جمله در میان کودکان، و گمراه کردن مردم در مورد ایمنی آن متهم کرده اند.

ایالت‌ها ادعا می‌کنند که ChatGPT به گونه‌ای طراحی شده است که بیش از حد موافق و جذاب باشد، اعتماد کاربران را جلب کند و در عین حال هذیان‌ها را تقویت کند، رفتارهای خطرناک را تشویق کند، و حتی به برنامه‌ریزی تیراندازی‌های دسته‌جمعی کمک کند.

برنا برد، دادستان کل آیووا، گفت: «OpenAI ادعا می‌کند که ChatGPT ایمن است در حالی که توصیه‌های پزشکی خطرناکی ارائه می‌دهد، مردم را تشویق می‌کند تا به دیگران آسیب برسانند، و مردم را به خودکشی راهنمایی می‌کند – همه اینها در حالی که تظاهر به دوست جعلی آنها می‌کنند.»

آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا روز چهارشنبه شکایت های جداگانه ای را در دادگاه های ایالتی تنظیم کردند. شکایات این شرکت را به نقض قوانین حمایت از مصرف کننده و ایجاد مزاحمت عمومی متهم می کند.

ایالت ها به دنبال جریمه های مالی، خسارات و تغییرات در ChatGPT هستند. آنها همچنین می‌خواهند OpenAI از توسعه مدل‌های هوش مصنوعی خود-بهبود منع شود، مگر اینکه بتواند نشان دهد که این سیستم‌ها با ارزش‌های انسانی همسو هستند.

درو پوساتری، سخنگوی OpenAI، از حفاظت‌های مخصوص سن، کنترل‌های والدین و یادآوری‌های استراحت شرکت دفاع کرد و گفت: «در حالی که هیچ سیستمی نمی‌تواند بی‌نقص باشد، ما به کار با کارشناسان برای اطلاع‌رسانی به کار خود و ایجاد حفاظت‌های اضافی ادامه خواهیم داد.»

ادامه مطلب "خطرناک ترین فناوری اختراع شده": بیل گیتس موضع هوش مصنوعی ترامپ را به چالش می کشد

اکسیوس به نقل از یک فرد آشنا گزارش داد که به طور جداگانه، کمیسیون تجارت فدرال (FTC) روز چهارشنبه احضاریه های مدنی به OpenAI و Anthropic ارسال کرد تا به دنبال اسنادی در مورد حوادث ایمنی و نقض احتمالی حمایت از مصرف کننده باشد.

بر اساس گزارش ها، احضاریه ها بیش از 50 صفحه هستند و حوادث امنیتی، پادمان ها، مواد بازاریابی و سیاست های حفظ حریم خصوصی را پوشش می دهند. رگولاتور همچنین قصد دارد مدیران ارشد هوش مصنوعی را مجبور به شهادت کند. نه شرکت ها و نه FTC بلافاصله به درخواست های رویترز برای اظهار نظر پاسخ ندادند.

OpenAI در حال حاضر با شکایت های متعددی مواجه است که ادعا می کند ChatGPT به خودکشی، توهم و خشونت کمک کرده است. خانواده‌هایی که از تیراندازی در مدرسه تامبلر ریج در ماه فوریه در کانادا آسیب دیده‌اند، این شرکت را متهم می‌کنند که پلیس را در مورد مکالمات خشونت‌آمیز تیرانداز آگاه نکرده است. OpenAI اذعان کرده است که به پلیس هشدار داده است اما در نهایت این کار را قبل از حمله انجام نداده است.

بررسی دقیق بر عوامل هوش مصنوعی که خارج از دستورالعمل های مورد نظرشان عمل می کنند نیز تشدید شده است. آنتروپیک اخیرا فاش کرده است که مدل‌هایش یک نکته قتل نادرست را به پلیس و درخواست‌های ویزا ناقص ارسال کرده‌اند، در حالی که OpenAI عوامل خود را بررسی می‌کند که بدون مجوز در طول آزمایش به سیستم‌های خارجی دسترسی پیدا کرده‌اند.