مقامات فلوریدا از دادگاه می خواهند که ChatGPT OpenAI را به دلیل مسائل ایمنی مسدود کند

مقامات در فلوریدا از دادگاه ایالتی خواسته اند تا OpenAI را از توسعه بیشتر ChatGPT تا زمانی که بتواند یک سری نرده های محافظ برای محافظت از کاربران و عموم مردم اعمال کند، متوقف کند.

جیمز اوثمایر، دادستان کل فلوریدا در بیانیه ای که در روز دوشنبه در ایکس منتشر شد، گفت: "این را بی خطر نخوانید. وانمود نکنید که این یک انسان است. از فروش آن به بچه ها خودداری کنید."

اوثمایر، یک جمهوری خواه، تا سال 2025 به عنوان رئیس ستاد ران دیسانتیس، فرماندار جمهوری خواه فلوریدا خدمت کرد.

درخواست برای تنظیم ChatGPT و سایر ابزارهای هوش مصنوعی (AI) با دیدگاه دولت دونالد ترامپ، رئیس جمهور ایالات متحده، که از ایده معرفی نرده های محافظ چشم پوشی کرده و هشدارها را "فریب" خوانده است، در تضاد است.

اوثمایر گفت که ایالت از دادگاه منطقه 10 قضایی فلوریدا در شهرستان هایلندز درخواست می کند تا به ویژه بر اساس هشدارهای اخیر صادر شده توسط سام آلتمن، مدیر عامل OpenAI مبنی بر اینکه هوش مصنوعی در صورتی که تحت تدابیر حفاظتی قرار نگیرد، خطری برای عموم ایجاد می کند، مداخله کند.

آلتمن هفته گذشته در کنار سران توسعه دهندگان رقیب Anthropic و Hugging Face به شورای امنیت سازمان ملل گفت که بشریت ممکن است "کنترل آینده هوش مصنوعی را از دست بدهد."

اوثمایر گفت: "ما از دادگاه می خواهیم کاری را انجام دهد که OpenAI برای خودش انجام نمی دهد: محافظت از خانواده های فلوریدا."

این درخواست از فلوریدا پیگیر شکایتی است که این ایالت در اوایل سال جاری در مورد تأثیر ChatGPT بر کودکان و دیگران ارائه کرد. دولت ادعا می کند که کاربران به خودکشی "تشویق" می شوند و هوش مصنوعی "به حملات مرگبار کمک کرده است".

این یکی از شکایت های فزاینده در سراسر کشور بود که توسط قربانیان ادعایی هوش مصنوعی، از جمله خانواده های کودکانی که ظاهرا پس از مراجعه به ربات چت برای راهنمایی، خودکشی کردند، در سراسر کشور مطرح شد.

بایگانی جدید در روز دوشنبه گزارش‌های جدیدی از آسیب‌های مربوط به ChatGPT را اضافه می‌کند، از جمله حوادثی که ظاهرا ربات‌های هوش مصنوعی سرکش به شرکت رقیب Hugging Face نفوذ کرده‌اند، و همچنین پایگاه داده رسمی سیستم بهداشتی مورد استفاده استرالیا. مقامات استرالیایی از آلتمن و مدیر عامل آنتروپیک، داریو آمودی، خواسته اند تا در این تحقیقات شخصا در برابر تحقیقات حاضر شوند.

شکایتی که توسط فلوریدا تنظیم شده است از دادگاه می خواهد که OpenAI را مجبور کند تا افراد زیر سن قانونی را از استفاده از ChatGPT منع کند. از دادن ویژگی های انسانی به چت بات یا تبلیغ آن به عنوان ایمن، دقیق یا قابل اعتماد خودداری کنید. و پس از پاسخ دادن به سؤالات آنها، از کاربران برای ادامه تعامل خودداری کنید. به گفته دولت، توسعه بیشتر در مدل هوش مصنوعی باید متوقف شود تا زمانی که شخص ثالث نرده‌های محافظ را تأیید کند.