ایالت ها از OpenAI شکایت می کنند و می گویند که به "عوامل هک سایبری" جان می دهد در حالی که ChatGPT به کودکان آسیب می رساند و بزرگسالان را فریب می دهد.

حداقل هشت ایالت از غول هوش مصنوعی OpenAI شکایت کرده‌اند و می‌گویند که مدل چت‌بات محبوب این شرکت با آسیب رساندن به کودکان و فریب بزرگسالان، قوانین حمایت از مصرف‌کننده را نقض می‌کند، چیزی که دادستان‌ها آن را یک تعقیب بی‌ملاحظه سود توصیف می‌کنند.

در این دادخواست ها آمده است که مدل چت بات این شرکت، ChatGPT، توصیه های پزشکی خطرناکی ارائه می دهد، پارانویا را تشویق می کند و افراد را به کشتن خود یا آسیب رساندن یا کشتن دیگران راهنمایی می کند.

در عین حال، شکایت‌ها ادعا می‌کنند که چت‌بات‌ها وانمود می‌کنند که موافق و دلسوز هستند در حالی که افراد آسیب‌پذیر و نوجوانان را شکار می‌کنند، اولین نسلی که با هوش مصنوعی بزرگ شده‌اند.

برنا برد، دادستان کل آیووا در بیانیه ای گفت: OpenAI به بچه ها آسیب می رساند و آنها به آیوواها دروغ می گویند.

ایالت‌ها همچنین OpenAI را متهم کردند که به مدل‌های هوش مصنوعی سرکش - یا به قول یکی از پرونده‌ها «عوامل هک سایبری» که به سایر شرکت‌ها هک می‌کردند، به کاربران انسانی دروغ می‌گفتند و دستورالعمل‌های مأموریت جدیدی را برای خود نوشتند، جان می‌بخشد.

در بیانیه ای، OpenAI مستقر در سانفرانسیسکو گفت که حفاظت های ایمنی را در ChatGPT برای کودکان تعبیه کرده است و برای بهبود این مدل به این کار ادامه خواهد داد. این شرکت همچنین گفت که در حال بررسی آن چیزی است که آن را «مدل‌های ناهماهنگ» می‌نامد و چیزی نزدیک به حادثه سرکشی که در ماه ژوئیه کشف شد، زمانی که یک عامل هوش مصنوعی به یک شرکت هوش مصنوعی دیگر هک شد، پیدا نکرده است.

ایالت ها در دعاوی به هم می پیوندند

موج شکایت‌ها آخرین موردی است که ایالت‌ها تحت قوانین حمایت از مصرف‌کننده خود مطرح کرده‌اند و غول‌های فناوری را که چت‌بات‌های هوش مصنوعی و پلتفرم‌های رسانه‌های اجتماعی را ارائه می‌دهند به آسیب رساندن به کودکان متهم می‌کنند. ایالت هایی که روز چهارشنبه شکایت های جداگانه ای را در دادگاه های ایالتی ارائه کردند، آریزونا، آرکانزاس، آیداهو، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی هستند.

متیو برگمن، وکیل بنیانگذار مرکز حقوقی قربانیان رسانه های اجتماعی، این شکایت ها را "مهم ترین اقدام هماهنگ دولتی که تا به حال علیه یک شرکت هوش مصنوعی انجام شده است" خواند.

آریزونا در شکایت خود گفت که ChatGPT نوجوانان را تشویق می کند تا اطلاعات شخصی خود را با خود به اشتراک بگذارند و در مواقعی آنها را از به اشتراک گذاشتن آن اطلاعات با والدین، مقامات یا دوستان منصرف می کند.

ایالت ها می گویند که خطرات و مضرات - برای نوجوانان و عموم مردم از عوامل سرکش - قابل پیش بینی بود، اما OpenAI مردم را گمراه کرده است که فکر کنند ChatGPT تحت آزمایش های ایمنی کافی قرار می گیرد در حالی که این شرکت ایمنی را در تعقیب سود تضعیف می کند.

آیداهو در دادخواست خود نوشت: «این درآمدها به دلیل رفتار بی پروا (OpenAI) و ویژگی ها و محتوای منحصر به فرد خطرناک ChatGPT، متحمل آسیب های جبران ناپذیری برای مردم شده است، مردمی که متحمل آسیب های جبران ناپذیری شده اند - از جمله عزیزان از دست رفته، حملات سایبری نگران کننده، و اکنون تهدید محتمل فروپاشی تمدن.

ایالت ها در دادخواست های خود گفتند که ChatGPT محبوب ترین ربات چت در جهان است که تقریبا نیمی از بازار آمریکا را در اختیار دارد.

چشم انداز هوش مصنوعی در حال تکامل است

این احتمال وجود دارد که تمام ادعاهای موجود در پرونده های قضایی طولانی ایالت ها مربوط به حوادث و یافته های قبل از ماه اوت باشد، زمانی که OpenAI نسخه ای از ChatGPT را که برای نوجوانان طراحی شده بود، با محافظت های قوی تر در مورد موضوعاتی مانند خودکشی و چت های جنسی معرفی کرد.

با این حال، ایالت‌ها گفتند که مشخص نیست که نسخه فعلی کمتر خطرناک باشد.

یک گروه ناظر، Common Sense Media، هفته گذشته گفت که برخی از محافظت‌های OpenAI در محصول ChatGPT برای نوجوانان آن‌طور که در نظر گرفته شده کار نمی‌کند و از OpenAI خواست تا ربات چت را به بزرگسالان محدود کند تا زمانی که بتواند محصول ایمن برای نوجوانان ارائه دهد.

دعاوی هماهنگ و چند ایالتی علیه صنعت فناوری به ثمر نشسته است.

در ماه آگوست، متا موافقت کرد که اقدامات ایمنی قوی‌تری را در زمینه ایمنی کودکان به پلتفرم‌های فیس‌بوک و اینستاگرام خود در یک توافق قانونی 18 میلیارد دلاری اضافه کند که به محاکمه اعتیاد نوجوانان به رسانه‌های اجتماعی پایان داد و تقریبا همه ایالت‌ها ادعاهای مطرح شده را تسویه کردند.

اگرچه اقدامات ایمنی که متا با اتخاذ آنها موافقت کرد در سراسر صنعت اعمال نشد، این شرکت به سرعت از رقبای خود خواست تا اقدامات مشابهی را اتخاذ کنند.

OpenAI جذابیت مشابهی را ایجاد می کند.

درو پوساتری، سخنگوی OpenAI گفت که این شرکت متعهد به همکاری با ایالت‌ها برای «پیشبرد سیاست‌های هوش مصنوعی عمل‌گرایانه است که برای کل صنعت هوش مصنوعی - نه فقط یک شرکت - اعمال می‌شود».

OpenAI همچنین گفت که با کارشناسان خارجی که سیاست‌های آن و رفتار ChatGPT را بررسی می‌کنند کار می‌کند.

به گفته OpenAI، ChatGPT برای کاربران 13 ساله و بالاتر در نظر گرفته شده است و کاربران زیر 18 سال برای استفاده از آن نیاز به اجازه والدین یا قیم دارند. مدل چت بات برای نوجوانان برای کاهش قرار گرفتن در معرض آسیب به خود، خشونت، اختلالات خوردن و محتوای صریح جنسی یا گرافیکی طراحی شده است.

این شرکت گفت که از هر 10 نوجوانی که از ChatGPT استفاده می کنند، 9 نفر از آن برای یادگیری، اطلاعات، ایجاد مهارت یا بهره وری استفاده می کنند. طبق این گزارش، نوجوانان به طور متوسط ​​کمتر از 15 دقیقه در روز را در ChatGPT صرف می کنند.

اما لورا زیمرمن، مدیر تحقیقات هوش مصنوعی جوانان Common Sense Media، ارزش آمار OpenAI را زیر سوال برد.

زیمرمن گفت، از یک جهت، ChatGPT می‌تواند تکالیف دانش‌آموز را در چند ثانیه انجام دهد، بنابراین حتی ۱۵ دقیقه نیز می‌تواند تاثیر زیادی بر رشد نوجوان داشته باشد. او همچنین این سوال را مطرح کرد که آیا OpenAI می‌داند چه کاربرانی نوجوان یا کودک هستند، با توجه به اینکه آزمایش سازمانش نشان داد که ChatGPT نمی‌تواند یا تشخیص نمی‌دهد که کدام کاربر کودک است.

این داستان در ابتدا در سایت Fortune.com منتشر شد