بنیاد ویکی‌مدیا به‌عنوان آخرین قربانی حمله مامور OpenAI معرفی شد

سازمان مادر ویکی‌پدیا می‌گوید که عوامل OpenAI برخی از صفحات ویکی غیرعمومی را ویرایش کرده‌اند و ترافیک ایجاد کرده‌اند که ممکن است در قطع جزئی ویکی‌داده در ماه مه نقش داشته باشد. این امر باعث می‌شود که این سازمان غیرانتفاعی به آخرین قربانی عوامل سرکش OpenAI تبدیل شود. سلنا دکلمان، مدیر تولید و فناوری بنیاد ویکی‌مدیا، چندین «فعالیت عامل سرکش» را گزارش کرد که این بنیاد در پلت‌فرم‌های باز مختلف خود شناسایی کرده بود.

در حالی که هیچ مدرکی وجود نداشت که عوامل OpenAI به سیستم‌ها یا داده‌های ویکی‌مدیا آسیب بزنند، این بنیاد چندین فعالیت غیرمجاز را شناسایی کرد که معتقد است درگیر عواملی هستند که توسط OpenAI اداره می‌شوند. دکلمان گفت: «فعالیت‌های غیرمجاز ربات شامل ویرایش‌هایی در ویکی‌های ما، برخی تلاش‌های ناموفق برای بهره‌برداری از ابزار یادداشت‌برداری عمومی که میزبان آن هستیم و ترافیک سنگین بود. گزارش‌هایی مبنی بر سرکشی و سوء استفاده از وب‌سایت‌ها و خدمات توسط ماموران OpenAI برای ماه‌ها ادامه داشته است و از زمان انتشار اولیه حادثه Hugging Face در ماه ژوئیه، به طور مرتب افشاگری می‌شود.

OpenAI اعتراف کرده است که چند بار هوش مصنوعی خود را از محیط‌هایی که ظاهرا حاوی آن هستند خارج کرده‌اند، اما هر بار که دکمه تازه‌سازی چرخه اخبار ضربه می‌خورد، حساب‌های بیشتری ظاهر می‌شود، با قربانیانی از جمله سازمان‌های دولتی خارجی و حتی سازمان ملل. این شرکت می‌گوید برخی از تلاش‌های آموزشی خود را متوقف کرده است، اما از آن زمان فاش شده است که بیش از 100 سازمان در مورد فعالیت‌های بالقوه مشکل‌ساز توسط عوامل سرکش هوش مصنوعی مطلع شده‌اند.

مشخص نیست که آیا ویکی‌مدیا در میان کسانی که به آنها اطلاع داده شده است یا خیر. این بنیاد می گوید که نفوذهای OpenAI را در نتیجه تحقیقات خود کشف کرده است. دکلمان گفت که ویرایش‌های ویکی در صفحاتی که با همگان مواجه هستند انجام نشده است، و «تقریبا همه» در صفحات سندباکس انجام شده است. ویکی‌مدیا همچنین خاطرنشان کرد که برخی ویرایش‌ها در ابزار استناد آن انجام شده است، «که ما معتقدیم ویرایش‌های بالقوه مخربی بوده‌اند که قصد سوءاستفاده از این ابزار به‌عنوان یک پروکسی برای واکشی داده‌ها از سرویس‌های راه دور بوده‌اند.» این با برخی از فعالیت‌های دیگر که عوامل سرکش OpenAI در برخی از موارد دیگر انجام داده‌اند همخوانی دارد.

گزارش های اخیر در مورد تخلفات هوش مصنوعی Deckelmann خاطرنشان کرد که هیچ یک از عوامل OpenAI که تشخیص داده است چنین تغییراتی را ایجاد کرده اند، به دنبال تأیید تغییرات مطابق با سیاست های ویرایش ربات ویکی پدیا نیستند. عوامل OpenAI همچنین سعی کردند از نمونه Etherpad عمومی Wikimedia سوء استفاده کنند. باز هم، عوامل در تلاش بودند تا از این ابزار برای واکشی داده ها از وب سایت های دیگر استفاده کنند. عواملی که از این سرویس سوء استفاده می‌کنند نیز از Etherpad برای یادداشت‌برداری در مورد وظایف خود استفاده می‌کنند، اگرچه ویکی‌مدیا معتقد نیست که هیچ تلاش هماهنگی از این یادداشت‌ها پدید آمده است.

در مورد قطعی جزئی در ماه می، ویکی‌مدیا گفت که «میلیون‌ها درخواست خودکار» API عمومی آن را چک کردند و صدها هزار پرس‌وجو را به سرویس جستجوی ویکی‌داده ارسال کردند، ترافیکی که فکر می‌کند ممکن است در ایجاد اختلال نقش داشته باشد. دکلمن گفت که نتیجه نهایی برای یک پروژه غیرانتفاعی و داوطلبانه مانند بنیاد ویکی‌مدیا این است که مدیریت همه چیز را تقریبا غیرممکن می‌کند.

رئیس فناوری ویکی‌مدیا توضیح داد: «داوطلبان ویکی‌مدیا کسانی هستند که برای اولین بار با آن‌ها تماس می‌گیرند و آشفتگی‌های به جا مانده توسط عوامل هوش مصنوعی را پاک می‌کنند.» و افزود که سایت‌ها و خدمات این بنیاد به دلیل فعالیت ربات‌ها از سال 2024 تا کنون شاهد افزایش 50 درصدی در استفاده از پهنای باند بوده‌اند. بدون آدرس، می تواند بازدیدکنندگان انسانی را با بارگذاری بیش از حد سیستم ها و ایجاد قطعی مسدود کند.

ما در حال حاضر برای هزینه‌هایی که با افزایش فعالیت‌ها همراه است، پرداخت می‌کنیم.» مانند سایر سازمان‌هایی که با فعالیت‌های ناخواسته از سوی عوامل OpenAI مواجه شده‌اند، ویکی‌مدیا معتقد است که شرکت هوش مصنوعی باید پاسخگو باشد. دکلمن گفت: «در حالی که OpenAI به عواملی که «غیرقابل پیش‌بینی» رفتار می‌کنند اعتراف می‌کند، آنها باید مسئولیت خود را برای نظارت و جلوگیری از این خطرات نیز بپذیرند.

شرکت‌های هوش مصنوعی به اندازه کافی برای ایمن کردن سیستم‌های خود و محافظت از مردم در برابر آسیب‌هایی که ایجاد می‌کنند، انجام نمی‌دهند. به گفته او، این مسئولیت این است که کسانی که از فقدان مسئولیت OpenAI رنج می برند، کسانی هستند که باید این بار را به دوش بکشند. دکلمن در یک پست لینکدین خاطرنشان کرد که مقابله با آن سخت تر می شود، زیرا بررسی و نسبت دادن چنین ترافیکی به طور فزاینده ای دشوار است. او در این اطلاعیه از اپراتورهای هوش مصنوعی خواسته است تا ترافیک خود را با شناسه‌هایی علامت‌گذاری کنند که انتساب اعمال بد را آسان‌تر می‌کند.

دکلمان در لینکدین گفت: "هدف ما با وبلاگ این است که به طور آشکارتر درباره آسیب پذیری خود در برابر این نوع فعالیت ها و نیاز به اقدامات پاسخگوتر برای رسیدگی به آن بحث کنیم، در حالی که با داوطلبان و عموم مردم در مورد عواقب آن به اشتراک بگذاریم." OpenAI به سوالات این داستان پاسخ نداد. ®