هشت ایالت از OpenAI شکایت کردند که ChatGPT به کودکان آسیب رساند و به بزرگسالان دروغ گفت

حداقل هشت ایالت از غول هوش مصنوعی OpenAI شکایت کرده اند و می گویند مدل چت بات محبوب این شرکت با آسیب رساندن به کودکان و فریب بزرگسالان، قوانین حمایت از مصرف کننده را نقض می کند.

در شکایت آیووا آمده است که مدل چت بات این شرکت، ChatGPT، توصیه‌های پزشکی خطرناکی ارائه می‌کند، پارانویا را تشویق می‌کند و افراد را برای آسیب رساندن به دیگران یا خودکشی راهنمایی می‌کند. در عین حال، چت‌بات‌ها وانمود می‌کنند که موافق و دلسوز هستند در حالی که طبق دادخواست، افراد آسیب‌پذیر را شکار می‌کنند.

برنا برد، دادستان کل آیووا در بیانیه ای گفت: OpenAI به بچه ها آسیب می رساند و آنها به آیوواها دروغ می گویند.

OpenAI در بیانیه‌ای گفت که قبلا محافظ‌های ایمنی را در ChatGPT برای کودکان تعبیه کرده است و برای بهبود این مدل به این کار ادامه خواهد داد.

موج شکایت‌ها جدیدترین پرونده‌هایی است که ایالت‌ها تحت قوانین حمایت از مصرف‌کننده خود مطرح کرده‌اند و غول‌های فناوری را که چت‌بات‌های هوش مصنوعی و پلت‌فرم‌های رسانه‌های اجتماعی را ارائه می‌دهند به آسیب رساندن به کودکان متهم می‌کنند. ایالت هایی که روز چهارشنبه شکایت های جداگانه ای را در دادگاه های ایالتی ارائه کردند، آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی هستند.

آریزونا در شکایت خود گفت که ChatGPT نوجوانان را تشویق می کند تا اطلاعات شخصی خود را با خود به اشتراک بگذارند و در مواقعی آنها را از به اشتراک گذاشتن آن اطلاعات با والدین، مقامات یا دوستان منصرف می کند.

ChatGPT محبوب‌ترین ربات چت در جهان است که طبق دادخواست‌ها تقریبا نیمی از بازار آمریکا را در اختیار دارد.

در ماه آگوست، متا موافقت کرد که اقدامات ایمنی قوی‌تری را در زمینه ایمنی کودکان به پلتفرم‌های فیس‌بوک و اینستاگرام خود در یک توافق قانونی 18 میلیارد دلاری اضافه کند که به محاکمه اعتیاد نوجوانان به رسانه‌های اجتماعی پایان داد و تقریبا همه ایالت‌ها ادعاهای مطرح شده را تسویه کردند.

دعاوی هماهنگ و چند ایالتی علیه صنعت فناوری به ثمر نشسته است. اگرچه اقدامات ایمنی که متا با اتخاذ آنها موافقت کرد در سراسر صنعت اعمال نشد، این شرکت به سرعت از رقبای خود خواست تا اقدامات مشابهی را اتخاذ کنند.

درو پوساتری، سخنگوی OpenAI در بیانیه‌ای گفت که این شرکت متعهد به همکاری با ایالت‌ها در زمینه «پیشبرد سیاست‌های عملگرایانه هوش مصنوعی است که برای کل صنعت هوش مصنوعی - نه فقط یک شرکت - اعمال می‌شود».

به گفته OpenAI، ChatGPT برای کاربران 13 ساله و بالاتر در نظر گرفته شده است و کاربران زیر 18 سال برای استفاده از آن نیاز به اجازه والدین یا قیم دارند. مدل چت بات برای نوجوانان دارای محافظ هایی است که برای کاهش قرار گرفتن در معرض آسیب به خود، خشونت، اختلالات خوردن و محتوای صریح جنسی یا گرافیکی طراحی شده است.

این شرکت گفت که از هر 10 نوجوانی که از ChatGPT استفاده می کنند، 9 نفر از آن برای یادگیری، اطلاعات، ایجاد مهارت یا بهره وری استفاده می کنند. طبق این گزارش، نوجوانان به طور متوسط ​​کمتر از 15 دقیقه در روز را در ChatGPT صرف می کنند.

ChatGPT یادآورهای استراحت را برای دوره های استفاده طولانی ارائه می دهد و OpenAI گفت که با کارشناسان خارجی که سیاست ها و رفتار مدل را بررسی می کنند کار می کند.

این داستان در ابتدا در سایت Fortune.com منتشر شد