ویکی‌مدیا: عوامل سرکش OpenAI پشت ویرایش‌های غیرمجاز ویکی‌پدیا

بنیاد ویکی‌مدیا می‌گوید که عوامل سرکش OpenAI ویرایش‌های غیرمجاز ویکی‌پدیا را انجام داده‌اند و ممکن است تا حدی مسئول قطعی در ماه مه بوده باشند.

همانطور که سلنا دکلمان، مدیر ارشد محصولات و فناوری ویکی‌مدیا، روز دوشنبه فاش کرد، ویکی‌پدیا میزبان بیش از 67 میلیون مقاله به بیش از 300 زبان است و ماهانه بیش از 15 میلیارد صفحه بازدید می‌کند.

با این حال، سال گذشته ویکی‌مدیا شاهد بود که ۶۵ درصد از منابع مصرف‌کننده‌ترین ترافیک پروژه‌هایش از طریق ربات‌ها انجام می‌شود، در میان افزایش ۵۰ درصدی استفاده از پهنای باند به دلیل افزایش فعالیت ربات‌ها.

ویکی‌مدیا در حین بررسی اینکه آیا وب‌سایت‌هایش نیز تحت تأثیر عوامل هوش مصنوعی قرار گرفته‌اند، دریافت که عوامل OpenAI بدون تأیید قبلی، ویرایش‌هایی را در ویکی‌ها انجام می‌دهند، تلاش ناموفقی برای سوءاستفاده از ابزار عمومی یادداشت‌برداری کرده‌اند، و میلیون‌ها درخواست API و درخواست داده‌ها را در حین پاک کردن سایت‌های ویکی‌مدیا (که ممکن است در ماه مه منجر به قطع شدن آن شده باشد) انجام داده‌اند.

دکلمان گفت: "ما ویرایش‌هایی را در ویکی‌های ویکی‌مدیا شناسایی کرده‌ایم که فکر می‌کنیم از عوامل هوش مصنوعی هستند که توسط OpenAI اداره می‌شوند. این ویرایش‌ها در صفحاتی که برای خوانندگان عمومی قابل مشاهده باشد منتشر نشدند؛ تقریبا همه آنها ویرایش‌هایی را در مناطق "جعبه ایمنی" ویکی آزمایش می‌کردند."

ربات‌های سرکش همچنین سعی کردند ابزار استناد عمومی Etherpad ویکی‌مدیا را با ایجاد «ویرایش‌های مخرب بالقوه» در پیکربندی آن به خطر بیاندازند و احتمالا از آن به عنوان یک پروکسی هنگام واکشی داده‌ها از سایر سیستم عامل‌های آنلاین استفاده می‌کنند.

ویکی‌مدیا همچنین عامل‌های OpenAI را به میلیون‌ها درخواست خودکار API، خزیدن میلیون‌ها صفحه ویکی‌داده و ویکی‌مدیا کامانز و صدها هزار جستار داده سرویس پرس و جوی ویکی‌داده (WQDS) مرتبط کرد.

دکلمن افزود: "در حالی که OpenAI به عوامل "غیرقابل پیش بینی" رفتار می کند، آنها همچنین باید مسئولیت نظارت و جلوگیری از این خطرات را بپذیرند. شرکت های هوش مصنوعی به اندازه کافی برای ایمن سازی سیستم های خود و محافظت از مردم در برابر آسیب هایی که ایجاد می کنند، انجام نمی دهند. "این بار بر دوش دیگران، از جمله سازمان‌های کوچک‌تر است. حداقل، سیستم‌های آنها باید به گونه‌ای عمل کند که صاحبان وب‌سایت‌های غیرانتفاعی مانند ما بتوانند به راحتی شناسایی کنند و نحوه تعامل آنها با خدمات ما را انتخاب کنند."

عوامل OpenAI در ماه‌های اخیر با چندین رویداد مشابه دیگر از جمله نقض پورتال گزارش‌دهی آمار مدیکر که توسط Services Australia اداره می‌شود، یک آژانس دولتی استرالیایی که مسئول ارائه پرداخت‌های اجتماعی و بهداشتی است، مرتبط شده‌اند.

در ماه مه، عوامل هوش مصنوعی که توسط OpenAI اداره می‌شوند نیز یک ویکی آلمانی را برای اشتراک‌گذاری پاسخ‌ها و تبادل تکنیک‌های دور زدن محدودیت‌ها در اختیار گرفتند. دو ماه بعد، در ماه جولای، نزدیک به 700 عامل سرکش OpenAI برای هک کردن مخزن هوش مصنوعی Hugging Face هماهنگ شده بودند.

با این حال، این مشکل منحصر به OpenAI نیست. در ماه جولای، Anthropic همچنین فاش کرد که عوامل کلود هوش مصنوعی سه سازمان را زیر پا گذاشته اند. در یک مورد، آنها یک بسته پایتون مخرب ساختند و آن را در مخزن بسته پایتون (PyPI) آپلود کردند.

به میکو هیپونن و رهبران امنیتی NFL، CHANEL و Atlassian بپیوندید تا در یک نشست دیجیتالی دو ساعته در مورد اینکه حملات با سرعت هوش مصنوعی چه تغییراتی می‌کنند، مدافعان چه کارهایی را باید انجام ندهند و چگونه اعتبار، تصمیم‌گیری، اصلاح و تأیید مجدد با سرعت ماشین را انجام دهند، بپیوندید.

DIVD می گوید Zammad zero-days نفوذ شبکه مبتنی بر هوش مصنوعی را فعال کرده است

عامل هوش مصنوعی خودکار برای نقض DIVD غیرانتفاعی امنیت سایبری استفاده می شود

OpenAI سایت دولتی مدیکر استرالیا را هک کرد و ارائه دهندگان داده را مورد بررسی قرار داد

OpenAI موارد بیشتری از انجام اقدامات غیرمجاز توسط عوامل هوش مصنوعی را شرح می دهد

آژانس داده اسپانیا اولین گزارش از نقض داده های مبتنی بر هوش مصنوعی را دریافت کرد