OpenAI به دلیل هک صورت در آغوش کشیده شکایت می شود

یک سازمان غیرانتفاعی قانونی روز سه شنبه از OpenAI در دادگاهی در کالیفرنیا به دلیل فرار عوامل این شرکت از محیط آزمایش و هک کردن پلت فرم منبع باز هوش مصنوعی Hugging Face شکایت کرد. در این شکایت آمده است: «اقدامات OpenAI آشکارا قوانین کالیفرنیا را نقض کرده است. این شکایت توسط مدافعان حقوقی برای علم و فناوری ایمن (LASST) و شرکت حقوقی Gerstein Harrow در دادگاه عالی کالیفرنیا در سانفرانسیسکو، جایی که دفتر مرکزی OpenAI در آن قرار دارد، ثبت شد. این ادعا می‌کند که عوامل OpenAI با نقض Hugging Face در طول تابستان، قانون دسترسی و کلاهبرداری به داده‌های رایانه‌ای جامع کالیفرنیا (CDAFA) را نقض کردند.

این دادخواست که در بحبوحه افشاگری‌های مداوم در سراسر صنعت عوامل سرکش ارائه می‌شود، ادعا می‌کند که OpenAI باید مسئول این فعالیت باشد با توجه به قانون هوش مصنوعی کالیفرنیا که از اول ژانویه در حال اجرا است و می‌گوید: «این نباید دفاعی باشد... اینکه هوش مصنوعی به طور مستقل باعث آسیب به شاکی شده است.» تایلر ویتمر، موسس LASST، به WIRED می‌گوید: «ما فکر می‌کنیم که اجرای قوانین موجود برای مسئول دانستن شرکت‌های هوش مصنوعی برای آسیب‌هایی که ایجاد می‌کنند بسیار مهم است.

به خصوص زمانی که این آسیب توسط عوامل مستقل ایجاد شود، زیرا ما آن را به عنوان یک چیز آشکار و بسیار خطرناک در جهان می بینیم که بسیار جدید است. OpenAI بلافاصله به درخواست نظر پاسخ نداد. روز دوشنبه، جیمز اوتمایر، دادستان کل فلوریدا، برای جلوگیری از توسعه مدل‌ها بدون نظارت مستقل، در بحبوحه شکایتی که فلوریدا در ماه ژوئن علیه OpenAI و مدیر عامل آن، سام آلتمن، اقامه کرد، درخواست دستور موقت علیه OpenAI کرد. OpenAI «از دولت خواست که آنها را به دکل ببندد.

اوثمایر در بیانیه ای گفت، فلوریدا به فریادهای آنها برای کمک پاسخ می دهد. با توجه به اینکه هدف کلی عوامل هوش مصنوعی این است که می‌توان آنها را اختیار کرد تا از طرف یک کاربر (انسانی) اقداماتی انجام دهند، توسعه‌دهندگان هوش مصنوعی و محققان ایمنی مدت‌ها پیش پیش‌بینی کرده‌اند که با پیشرفت توسعه یادگیری ماشین، فعالیت‌های ناخواسته «عاملی» یک نگرانی ایجاد می‌کند.

حفاظ‌های تعبیه‌شده در سیستم‌های هوش مصنوعی مصرف‌کننده تا حد زیادی تا حد زیادی از فعالیت‌های سرکش انبوه جلوگیری کرده‌اند، اما به‌طور کلی قابلیت‌های پیشرفته به‌سرعت، و همچنین موقعیت‌هایی که نرده‌های محافظ معلق هستند (مانند در مورد Hugging Face که OpenAI برخی از محدودیت‌های مدل را برای آزمایش حذف کرده بود)، منجر به افزایش آشکار فعالیت‌های سرکش شده است. از آنجایی که دولت ها مقررات هوش مصنوعی را در میان مسائل ایمنی وجودی و ملاحظات اقتصادی و امنیت ملی می سنجند، محققان و مردم در سراسر جهان به طور فزاینده ای خواستار سازوکارهای پاسخگویی برای هوش مصنوعی شده اند.

و از منظر حقوقی، کارشناسان تا حد زیادی تاکید کرده‌اند که مسائل مربوط به مسئولیت، مسئولیت و تقصیر را می‌توان تنها از طریق سابقه‌ای که توسط پرونده‌هایی که در دادگاه‌ها انجام می‌شوند، پاسخ داد. "بعد از فاش شدن حادثه "Huging Face"، ما در واقع یکسری کار انجام دادیم تا به قانون‌گذاران و سازمان‌های جامعه مدنی در مورد هک آموزش دهیم. ویتمر می گوید.

"دلایل ساختاری وجود دارد که چرا فکر می کنیم Hugging Face، که شاکی بالقوه آشکار برای انجام کاری در اینجا است، هیچ کاری انجام نمی دهد. بنابراین با توجه به اینکه به نظر نمی رسید شخص دیگری در این مورد کاری انجام دهد، ما به جلو حرکت کردیم. همانطور که این سیستم ها مقیاس می شوند و همه چیز دیوانه تر می شود، هوش مصنوعی واقعا می تواند به طور فاجعه باری مضر باشد." LASST و Gerstein Harrow شکایت خود را بر اساس قانون رقابت ناعادلانه کالیفرنیا مطرح کردند، که مستلزم آن است که LASST هم نحوه تأثیرگذاری و منحرف شدن کار و منابع خود را در نتیجه حادثه Hugging Face و همچنین فعالیت غیرقانونی OpenA ادعا کند.

من این شکایت به دنبال خسارات مالی نیست، و در عوض از دادگاه تقاضای معافیت قضایی می‌کند به طوری که OpenAI از توسعه عوامل هوش مصنوعی که می‌توانند به طور مستقل سایر نهادها را هک کنند، به علاوه هزینه‌های قانونی و «هر نوع کمک دیگری که منصفانه و مناسب تشخیص داده شود» منع شود.