ویکی‌مدیا فعالیت‌هایی را از عوامل «سرکش» OpenAI در سراسر پلتفرم‌های خود شناسایی کرد

به نظر می رسد هر هفته داستان جدیدی در مورد عوامل OpenAI وجود دارد که با بخش دیگری از اینترنت درگیر هستند. این هفته نوبت به ویکی‌مدیا رسید. سازمان غیرانتفاعی پشت ویکی‌پدیا در یک پست وبلاگی روز دوشنبه گفت که خدمات آن تحت تأثیر عوامل «سرکش» OpenAI قرار گرفته است.

بنیاد ویکی‌مدیا گفت که تحقیقات خود را انجام داده و فعالیت‌هایی را در پلتفرم‌های خود پیدا کرده است که معتقد است از سوی عواملی که توسط OpenAI اداره می‌شوند، آمده است. ربات‌های غیرمجاز ویکی‌های ویکی‌مدیا را ویرایش کردند، تلاش ناموفقی برای سوء استفاده از ابزار عمومی یادداشت‌برداری کردند و ترافیک سنگینی ایجاد کردند که ممکن است به قطع نسبی یکی از سرویس‌های داده آن کمک کرده باشد.

ویکی‌مدیا گفت هیچ مدرکی دال بر به خطر افتادن سیستم‌ها یا داده‌هایش پیدا نکرده است. با این حال، این سازمان غیرانتفاعی اعلام کرد که نگران اتفاقاتی است که ممکن است رخ داده باشد، دشواری بررسی این حوادث، و «خطرات فزاینده فعالیت هوش مصنوعی عاملی».

این پست وبلاگ موجی از گزارش‌ها را دنبال می‌کند که در آن عوامل OpenAI به وب‌سایت‌ها و سرویس‌های شخص ثالث بدون مجوز دسترسی یا هدف قرار می‌دهند.

بررسی دقیق عوامل سرکش هوش مصنوعی امسال پس از اینکه Hugging Face در ماه ژوئیه فاش کرد که نفوذی را که "پایان به انتها" توسط یک سیستم عامل هوش مصنوعی مستقل انجام شده بود را شناسایی کرده و به آن پاسخ داده بود، بسیار کارآمد شد. OpenAI چند روز بعد مطرح شد تا تصدیق کند که مدل‌هایش پشت این سازش هستند.

این شرکت هوش مصنوعی گفت که عواملی که تحت ارزیابی‌های امنیت سایبری داخلی بودند، نرده‌های محافظی را که قرار بود آنها را از اینترنت دور نگه دارند، دور زدند. آنها از آسیب‌پذیری‌ها سوء استفاده کردند، به اینترنت دسترسی پیدا کردند و در نهایت بخش‌هایی از زیرساخت‌های Hugging Face را به خطر انداختند، در حالی که تلاش می‌کردند وظایف محول شده خود را تکمیل کنند. OpenAI در حال حاضر با شکایتی در مورد این نقض روبرو است.

از آن زمان OpenAI حوادث دیگری را فاش کرده است که در آن عوامل آن بدون مجوز به سیستم های شخص ثالث دسترسی پیدا کرده اند. برای مثال، در ماه ژوئن، یک عامل OpenAI به یک پورتال آماری مدیکر دولت استرالیا دسترسی غیرمجاز به دست آورد.

در مورد ویکی‌مدیا، این سازمان غیرانتفاعی گفت که ویرایش‌هایی را در ویکی‌های خود شناسایی کرده است که معتقد است توسط عوامل OpenAI انجام شده است. تقریبا همه ویرایش‌های آزمایشی بودند که در قسمت‌های «جعبه ماسه‌بازی» انجام شده بودند و در صفحات قابل مشاهده برای خوانندگان عمومی منتشر نشدند. با این حال، برخی از عوامل پیکربندی یک ابزار استناد را نیز ویرایش کردند. ویکی‌مدیا گفت که معتقد است این تغییرات «به منظور سوء استفاده از این ابزار به‌عنوان یک پروکسی برای واکشی داده‌ها از سرویس‌های راه دور بوده است».

برای زمینه، ویکی‌مدیا به ربات‌ها اجازه می‌دهد تا ویرایش‌هایی را انجام دهند، اما تنها زمانی که توسط انجمن فاش و تأیید شوند.

ویکی‌مدیا همچنین گفت که عوامل OpenAI تلاش‌های ناموفقی برای به خطر انداختن Etherpad، ابزار یادداشت‌برداری عمومی که میزبان آن است، انجام دادند. این عوامل همچنین سعی کردند از این سرویس به عنوان یک پروکسی برای جمع آوری داده ها از وب سایت های دیگر استفاده کنند.

در نهایت، ویکی‌مدیا گفت که عواملی که معتقد است توسط OpenAI اداره می‌شوند میلیون‌ها درخواست خودکار به APIهای عمومی آن داده‌اند، میلیون‌ها صفحه را خزیده و صدها هزار پرس‌وجو به سرویس پرس و جوی ویکی‌داده (WQDS) داده‌اند. این سازمان غیرانتفاعی گفت که ترافیک ممکن است در قطع نسبی WQDS در ماه مه نقش داشته باشد.

سلنا دکلمن، مدیر تولید و فناوری ویکی‌مدیا در این پست وبلاگ نوشت: «حوادثی مانند این، و بسیاری موارد دیگر که کشف شده‌اند (و هنوز هم هستند)، نشان می‌دهند که چگونه عوامل هوش مصنوعی می‌توانند منابع را تخلیه کنند و سرورها را خراب کنند و همچنین تلاش کنند اطلاعات قابل اعتماد را به خطر بیندازند.

دکلمن از شرکت‌های هوش مصنوعی خواست که مسئولیت بیشتری برای نظارت بر عوامل خود و جلوگیری از این خطرات بر عهده بگیرند.

OpenAI بلافاصله به اظهار نظری پاسخ نداد، با این حال، سخنگوی درو پوساتری به رویترز گفت که این شرکت از یافته‌های ویکی‌مدیا قدردانی می‌کند و در حال کار با آن‌ها برای بررسی فعالیت گزارش‌شده است.