ویکی‌مدیا عوامل OpenAI را به قطع و فعالیت غیرمجاز مرتبط می‌کند

این بنیاد می گوید که «عمیقا نگران تأثیر عوامل «سرکش» هوش مصنوعی بر روی پلتفرم هایی مانند ما است.

عوامل OpenAI به صورت آنلاین در حال اجرا هستند و به نظر می رسد که بنیاد ویکی مدیا نیز تحت تأثیر قرار گرفته است. این بنیاد می‌گوید که فعالیت‌های غیرمجاز عوامل OpenAI را در پلتفرم‌های خود شناسایی کرده است، از جمله ویرایش‌های برخی ویکی‌ها و تلاش‌های ناموفق برای به خطر انداختن ابزار یادداشت‌برداری. مجددا تاکید کرد که ربات‌ها به طور انبوه داده‌ها را از پلتفرم‌های آن می‌خزند، در حالی که عواملی که به نظر می‌رسد توسط OpenAI اداره می‌شوند میلیون‌ها درخواست به APIهای عمومی آن ارسال کرده‌اند.

تحقیقات هیچ مدرکی مبنی بر اینکه عوامل هوش مصنوعی از سیستم‌های ویکی‌مدیا برای هماهنگ کردن فعالیت‌های خود استفاده می‌کنند (همانطور که به نظر می‌رسد در ویکی‌های غیر تحت مدیریت ویکی‌مدیا انجام می‌دهند) به دست نیامد و همچنین بنیاد نشانه‌هایی از به خطر افتادن داده‌ها یا سیستم‌هایش را تشخیص نداد. سلنا دکلمان، مدیر تولید و فناوری بنیاد، در یک پست وبلاگی نوشت: «با این حال، ما نگران آنچه می‌توانست در اینجا رخ دهد، دشواری و تلاشی که در بررسی و نسبت دادن این فعالیت وجود دارد و خطرات فزاینده فعالیت هوش مصنوعی بر روی پلتفرم‌های ما به طور کلی نگران هستیم».

وب باز یک کالای عمومی است. ما نباید اجازه دهیم این رفتار برای افراد یا سازمان‌هایی که آن را حفظ می‌کنند به یک «عادی جدید» تبدیل شود.» Engadget برای نظر دادن با OpenAI تماس گرفته است.

به نظر می رسد که عوامل OpenAI برخی ویکی های ویکی مدیا را بدون اجازه ویرایش کرده اند. تقریبا همه این‌ها ویرایش‌های آزمایشی در بخش‌های sandbox ویکی‌ها بودند و در صفحاتی که کاربران عموما به آنها دسترسی داشتند قابل مشاهده نبودند. Deckelmann نوشت: همچنین "چند ویرایشی در پیکربندی یک ابزار استناد وجود داشت، که ما معتقدیم ویرایش‌های بالقوه مخربی بودند که قصد داشتند از این ابزار به عنوان یک پروکسی برای واکشی داده‌ها از سرویس‌های راه دور استفاده کنند." در حالی که ربات‌ها تحت شرایط خاصی مجاز به ویرایش ویکی‌پدیا هستند، در این موارد تاییدیه درخواست نشد.

(نسخه انگلیسی ویکی پدیا مقالات تولید شده توسط هوش مصنوعی را ممنوع می کند.)

علاوه بر این، عواملی که ویکی‌مدیا معتقد است از OpenAI سرچشمه می‌گیرد، تلاش کردند ابزار یادداشت‌برداری به نام Etherpad را به خطر بیندازند، اما این تلاش‌ها با شکست مواجه شدند. Deckelmann نوشت: «نمایندگان تلاش ناموفقی برای استفاده از آن برای واکشی داده‌ها از سایر وب‌سایت‌ها به عنوان یک پروکسی داشتند. سایر عوامل نیز که احتمالا توسط OpenAI اداره می‌شوند، در مورد وظایف خود یادداشت‌برداری می‌کنند، اگرچه به نظر نمی‌رسد که این به هماهنگی تبدیل شود.

بنیاد ویکی‌مدیا قبلا گفته بود که ربات‌ها از اوایل سال ۲۰۲۴ پلتفرم‌های آن را چکش کرده‌اند تا داده‌ها را برای اهداف آموزشی مولد هوش مصنوعی جمع‌آوری کنند. اکنون می‌گوید که نمایندگان میلیون‌ها صفحه را خزیده‌اند - عمدتا از ویکی‌دادا و ویکی‌مدیا کامانز - و «صدها هزار پرس‌وجو داده‌ها» را به سرویس پرس و جوی ویکی‌داده داده‌اند، که ممکن است به ایجاد اختلال در ماه می کمک کرده باشد.

دکلمن گفت: «شرکت‌های هوش مصنوعی به اندازه کافی برای ایمن کردن سیستم‌های خود و محافظت از مردم در برابر آسیب‌هایی که ایجاد می‌کنند، انجام نمی‌دهند.

دکلمن می‌نویسد: «ربات‌ها و عامل‌ها بخشی از آینده وب هستند و شرکت‌هایی که از آنها استفاده می‌کنند و از آنها سود می‌برند، باید مستقیما به جلوگیری و ترمیم آسیب‌هایی که می‌توانند وارد کنند کمک کنند». "اولویت جمعی ما باید سلامت اکوسیستم کلی وب باشد تا همچنان به نفع همه مردم باشد - نه فقط تعداد انگشت شماری از میلیاردرها."

ویکی‌مدیا یک مجموعه داده برای اهداف آموزشی هوش مصنوعی ارائه کرده است تا خزنده‌ها را از خراشیدن پلتفرم‌هایش منصرف کند، که هزینه‌های آن را افزایش می‌دهد و به طور بالقوه می‌تواند سیستم‌هایش را بیش از حد بارگذاری کند. این بنیاد همچنین با چندین شرکت فناوری همکاری کرده است تا به آنها دسترسی ساده به داده ها را ارائه دهد، اما OpenAI در میان آنها نیست.