OpenAI با اولین شکایت در مورد عوامل سرکش هوش مصنوعی که صورت در آغوش گرفتن را هک کردند

OpenAI به تازگی با شکایتی در مورد این حادثه در تابستان امسال که در آن عوامل هوش مصنوعی آن در طول آزمایش داخلی سرکشی کردند و Hugging Face را که مخزن اصلی مدل‌ها و مجموعه داده‌های هوش مصنوعی است هک کردند، مورد هک قرار گرفت. از آن زمان این نقض به ایجاد یک بحث گسترده تر در مورد خطرات سخت تر شدن سیستم های هوش مصنوعی کمک کرده است.

سازمان غیرانتفاعی Legal Advocates for Safe Science and Technology (LASST) این شکایت را روز سه شنبه در دادگاه عالی سانفرانسیسکو تنظیم کرد و مدعی شد که این نقض قانون ضد هک کالیفرنیا را نقض می کند. به نظر می رسد LASST v. OpenAI اولین شکایتی است که به طور خاص در مورد هک Hugging Face ثبت شده است، اگرچه این حادثه قبلا در دعاوی دیگر علیه OpenAI مورد استناد قرار گرفته بود.

LASST می‌گوید که طبق قانون رقابت ناعادلانه کالیفرنیا می‌تواند شکایت کند، زیرا باید زمان و منابع کارکنان را برای واکنش به این حادثه منحرف می‌کرد. این گروه همچنین استدلال می‌کند که «اصرار OpenAI بر خارجی‌سازی آسیب‌های تصمیم‌گیری ناامن آن، اساسا یک رویه تجاری ناعادلانه است».

طبق این دادخواست، OpenAI عمدا طبقه‌بندی‌کننده‌های ایمنی سایبری را که معمولا عواملش را محدود می‌کردند، غیرفعال کرد و در طول آزمایش نظارت کافی بر آنها نداشت.

این گروه همچنین در یک پست وبلاگ نوشت: "ما این شکایت را به این دلیل مطرح می کنیم که OpenAI قانون را نقض کرده است - و باید پاسخگو باشد. توسعه دهندگان OpenAI و هوش مصنوعی مرزی به طور گسترده تر نمی توانند از عواقب اقدامات ناامن خود جلوگیری کنند."

این شکایت چند ماه پس از آن صورت می گیرد که Hugging Face در ماه ژوئیه فاش کرد که نفوذی را شناسایی کرده و به آن پاسخ داده است که توسط یک سیستم عامل هوش مصنوعی مستقل انجام شده است.

OpenAI چند روز بعد مطرح شد تا تصدیق کند که مدل‌هایش پشت این سازش هستند. این شرکت گفت که این عوامل بر روی ExploitGym آزمایش می‌شوند، معیاری که برای اندازه‌گیری اینکه آیا سیستم‌های هوش مصنوعی می‌توانند آسیب‌پذیری‌های نرم‌افزار را پیدا کنند و از آن‌ها بهره‌برداری کنند، طراحی شده است.

در طول آزمایش، عوامل از یک آسیب‌پذیری در سرور Artifactory که OpenAI برای دانلود و ذخیره بسته‌های نرم‌افزاری برای دسترسی به اینترنت استفاده می‌کند، استفاده کردند. ماموران هوش مصنوعی پس از آن اطلاعات ورود به سیستم را پیدا کردند و در نهایت هنگام جستجوی اطلاعاتی که می‌تواند به آنها در کسب امتیاز بهتر در آزمون‌ها کمک کند، Hugging Face را نقض کردند.

از آن زمان OpenAI حوادث دیگری را فاش کرده است که در آن عوامل آن بدون مجوز به سیستم های شخص ثالث دسترسی پیدا کرده اند. برای مثال، در ماه ژوئن، یک عامل OpenAI به یک پورتال آماری مدیکر دولت استرالیا دسترسی غیرمجاز پیدا کرد.

سایر شرکت‌های مرزی هوش مصنوعی نقض‌های مشابهی را گزارش کرده‌اند. آنتروپیک چهار حادثه را فاش کرد که در آن مدل‌های کلود به سیستم‌های شخص ثالث واقعی دسترسی غیرمجاز پیدا کردند، در حالی که گوگل تأیید کرد که مدل‌های جمینی در طی ارزیابی امنیت سایبری در ماه می به سیستم‌های متعلق به سه شرکت دسترسی پیدا کردند.

این حوادث به نگرانی‌های فزاینده در مورد آنچه که با توانایی و خودمختاری عوامل هوش مصنوعی روی می‌دهد افزوده است.

داریو آمودی، مدیر عامل آنتروپیک، به طور جداگانه از این صنعت خواسته است تا سرعت توسعه مدل های مرزی توانمندتر را کاهش دهد. رقبای او، مدیر عامل OpenAI، سام آلتمن و مدیر عامل xAI، ایلان ماسک، علنا از پیشنهاد او حمایت کردند.

اخیرا، رئیس‌جمهور دونالد ترامپ روز سه‌شنبه با مدیرانی از OpenAI، Anthropic، Google، Meta، Nvidia و سایر شرکت‌های فناوری ملاقات کرد که توافق‌نامه‌ای داوطلبانه امضا کردند که برخی از استانداردهای ایمنی محدود AI را مشخص می‌کرد. ترامپ این استانداردها را که هیچ مکانیسم اجرایی قانونی ندارند، "اخلاقی الزام آور" خواند.

با این حال، LASST استدلال می کند که اقدامات قانونی لازم است تا شرکت های هوش مصنوعی پاسخگو باشند زیرا مقررات برای همگام شدن با این فناوری تلاش می کنند.

این گروه از دادگاه می خواهد دستوری صادر کند که OpenAI را از دسترسی آگاهانه یا وادار کردن عوامل هوش مصنوعی خود به سیستم های رایانه ای بدون مجوز منع کند. همچنین از دادگاه می‌خواهد که OpenAI را از درگیر شدن در شیوه‌های تجاری که قانون ضد هک کالیفرنیا را نقض می‌کند یا آگاهانه تهدیدی جدی برای مردم ایجاد می‌کند، منع کند.

OpenAI بلافاصله به درخواست نظر پاسخ نداد.