ماموران هوش مصنوعی سرگردان OpenAI برای آن احضاریه کالیفرنیا به دست می آورند

دادستان کل کالیفرنیا از OpenAI احضار کرده است زیرا این ایالت در حال بررسی این است که چه اتفاقی می‌افتد وقتی مدل‌های آزمایشگاه هوش مصنوعی از محیط‌های آزمایشی خود فرار می‌کنند و شروع به مداخله در سیستم‌های موجود در اینترنت باز می‌کنند. راب بونتا، دادستان کل، گفت که دفتر او این هفته به عنوان بخشی از تحقیقات گسترده تر وزارت دادگستری کالیفرنیا در مورد حوادث امنیت سایبری و خطرات مربوط به شرکت و مدل های آن، احضاریه ای تحقیقاتی به OpenAI ارائه کرد.

این اقدام به دنبال تحقیقاتی صورت گرفت که ماه گذشته در مورد یک حادثه مربوط به Hugging Face، پس از اینکه عوامل OpenAI موفق شدند از محیط های آزمایشی خود خارج شده و به اینترنت عمومی نفوذ کنند، آغاز شد. آن‌ها سپس سیستم‌های Hugging Face را بررسی کردند و یکی از نمایندگان حتی بدون اینکه به او گفته شود، یک حساب کاربری در پلتفرم ایجاد کرد. وزارت دادگستری کالیفرنیا دقیقا آنچه را که تحت این احضاریه از OpenAI خواسته است، نمی گوید، اما Bonta گفت که ایالت خواهان اطلاعات بیشتر در مورد حوادث امنیت سایبری مربوط به شرکت است.

Bonta گفت: "دفتر من سوالات اضافی OpenAI در مورد حوادث امنیت سایبری و خطرات مربوط به شرکت و مدل های هوش مصنوعی آن می پرسد." او همچنین تصریح کرد که تحقیقات در حال بررسی این موضوع است که وقتی یک مدل هوش مصنوعی در نهایت کاری را انجام می‌دهد که توسعه‌دهنده آن قصد نداشته است، مسئولیت آن کجاست. «مدل‌های مرزی می‌توانند ابزاری مشروع برای دفاع سایبری باشند – در عین حال، شرکت‌هایی که این مدل‌ها را توسعه می‌دهند و آنها را برای استفاده ارائه می‌دهند، مسئولیت اخلاقی و قانونی دارند تا اطمینان حاصل کنند که حملات سایبری را انجام نمی‌دهند یا آن‌ها را فعال نمی‌کنند، چه در طول آزمایش و توسعه مدل یا زمانی که مدل‌ها آماده شوند.

بونتا گفت: «توسعه‌دهندگانی که این کار را انجام نمی‌دهند، می‌توانند و باید از نظر قانونی پاسخگو باشند، و دفتر من متعهد است که مشخص کند آیا این مورد در اینجا وجود دارد یا خیر.» این احضاریه به این معنا نیست که کالیفرنیا به این نتیجه رسیده است که OpenAI قانون را نقض کرده است و دفتر دادستان کل هیچ تخلف خاصی را شناسایی نکرده است. در حال حاضر، ایالت چندین هفته در حال جمع‌آوری اطلاعات است.

در سپتامبر، بونتا به یک گروه دو حزبی متشکل از 25 دادستان کل پیوست که از کنگره خواستند مدل‌های هوش مصنوعی در مقیاس بزرگ را به دنبال گزارش‌هایی درباره حوادث امنیت سایبری در آزمایشگاه‌های هوش مصنوعی مرزی تنظیم کند. آن نامه به طور خاص به گزارش‌هایی اشاره می‌کرد که مدل‌های OpenAI تحت ارزیابی از محیط‌های آزمایشی خود فرار کرده‌اند، به اینترنت عمومی دسترسی پیدا کرده‌اند و به سیستم‌های کامپیوتری خارج دسترسی پیدا کرده‌اند. دادستان کل خواستار یک رژیم واکنش به حوادث تحت رهبری دولت شدند که به بازرسان اجازه دسترسی مستقیم به سوابق شرکت‌های هوش مصنوعی را در مواقعی که اوضاع خراب می‌شود، می‌دهد.

اکنون به نظر می رسد دفتر بونتا بخشی از این تفکر را در سطح ایالتی عملی می کند. همانطور که The Reg قبلا اشاره کرد، جعبه‌های شنی که قرار است حاوی این عوامل باشند باید از امنیت بیشتری برخوردار باشند، که منطقی‌ترین دلایلی است که چرا در وهله اول Hagging Face و سایر حوادث رخ داده است. OpenAI به سوالات ما پاسخ نداد. ®