آیووا، نبراسکا و شش ایالت دیگر از OpenAI به دلیل به خطر انداختن کودکان شکایت کرده اند

این دعاوی همه چیز را از طراحی ChatGPT گرفته تا مشکلات اخیر این شرکت با عوامل سرکش را پوشش می دهد.

در تلاشی هماهنگ، هشت ایالت علیه OpenAI شکایت کرده اند که این شرکت قوانین حمایت از مصرف کننده در سطح ایالت را نقض کرده و کودکان را در معرض خطر قرار داده است. همانطور که رویترز برای اولین بار گزارش داد، دادستان های کل از آیووا، نبراسکا، کانزاس، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا هر کدام در دادگاه های ایالتی مربوطه شکایت کردند، اما با هدف مشترک تغییر نحوه توسعه مدل های OpenAI و تبلیغ قابلیت های آنها و وادار کردن شرکت به پرداخت خسارتی که ادعا می شود باعث شده است.

این شکایت ها ادعا می کنند که OpenAI مشتریان را در مورد ایمنی محصولات هوش مصنوعی خود گمراه می کند، نه فقط به دلیل توانایی آنها برای ارائه اطلاعات نادرست یا به طور بالقوه امکان آسیب رساندن به خود و دیگران، بلکه همچنین به این دلیل که خود عوامل هوش مصنوعی قادر به نقض قانون هستند. به عنوان مثال، هر دو آیووا و نبراسکا به موارد متعددی از رفتار عامل سرکش OpenAI، از جمله هک Hugging Face، اشاره می کنند.

آنها همچنین به مواردی از ChatGPT اشاره می‌کنند که ادعا می‌شود مرگ نوجوانی را با خودکشی امکان‌پذیر می‌کند و ربات چت اطلاعات پزشکی نادرستی ارائه می‌دهد که منجر به مصرف بیش از حد یک کاربر شده است، حوادثی که منجر به تشکیل پرونده‌های اعدام غیرقانونی جداگانه علیه شرکت شده است. برخی از ایالت ها همچنین با OpenAI داده های کاربران زیر سن قانونی را حفظ می کنند.

Engadget از OpenAI خواسته است تا در مورد دعاوی دولتی اظهار نظر کند. اگر پاسخی شنیدیم، این مقاله را به روز خواهیم کرد.

راه حل های مورد نظر برای رفتار OpenAI از ایالتی به ایالت دیگر متفاوت است، به دلیل ماهیت تکه تکه قوانین حمایت از مصرف کننده و حمایت از کودکان در ایالات متحده. خارج از جریمه‌های مالی، ایالت‌ها از OpenAI می‌خواهند که خطرات محصولات خود را به وضوح افشا کند، اقداماتی را که ایالت‌ها فریبنده می‌دانند متوقف کند و با قوانین موجود مطابقت کند. برخی از ایالت‌ها مانند آرکانزاس نیز از دادگاه می‌خواهند تا «آزمایش مدل‌های پیشرفته هوش مصنوعی را تا زمانی که اقدامات حفاظتی کافی اجرا نشود» متوقف کند.

OpenAI مجموعه‌ای از کنترل‌های والدین و ویژگی‌های محافظت از کودک را برای مقابله با برخی از فوری‌ترین خطرات ناشی از ربات چت خود راه‌اندازی کرده است. همچنین از قانون ایمنی آنلاین کودکان حمایت کرد، لایحه ای که در صورت تصویب قانونی، می تواند چندین تغییر طراحی اجباری را در محصولات این شرکت ایجاد کند. اگرچه شناسایی تلاش‌های این شرکت برای رسیدگی به پتانسیل هوش مصنوعی برای شکستن قوانین و «فرار از مهار» دشوارتر بوده است.

OpenAI اعلام کرد که توسعه مدل‌های مرزی خود را در ماه آگوست کند می‌کند تا از ایمنی آنها اطمینان حاصل کند و این شرکت با سایر شرکت‌های هوش مصنوعی که در ماه سپتامبر توسط کاخ سفید سازماندهی شده بود، قرارداد ایمنی داوطلبانه امضا کرد. مشخص نیست که آیا هر یک از این تغییرات واقعا فرآیند توسعه هوش مصنوعی شرکت را ایمن‌تر کرده است یا خیر.