فعالیت های عامل "سرکش" OpenAI در پروژه های ویکی مدیا یافت می شود

اخیرا، چندین سازمان فاش کرده‌اند که چگونه خوشه‌هایی از عوامل هوش مصنوعی به اصطلاح «سرکش» سعی در نفوذ به وب‌سایت‌ها و سرویس‌های آنلاین، گاهی اوقات با موفقیت داشتند. مشخص است که عوامل محیط OpenAI از سایر ویکی‌های عمومی (وب‌سایت‌های ویرایش شده مشترک که متعلق به ما نیستند) برای برقراری ارتباط و هماهنگی با یکدیگر استفاده کرده‌اند.

این نوع نفوذهای موفق می‌توانند داده‌های حساس را افشا کنند یا خدمات وب‌سایتی را که کاربران به آنها اعتماد دارند مختل کنند، در حالی که دسته‌هایی از عوامل می‌توانند حملاتی را در مقیاسی انجام دهند که مدیریت آن برای مدافعان دشوار است. آن‌ها بر افرادی که در پشت وب‌سایت‌ها هستند تأثیر می‌گذارند که ممکن است ماهیت حمله را درک نکنند، یا ابزارهایی برای مقابله مؤثر در اختیار داشته باشند. برای سایتی مانند ویکی‌پدیا، ممکن است عوامل آسیب‌پذیری‌های امنیتی را پیدا کرده و از آن‌ها استفاده کنند یا ویرایش‌های گمراه‌کننده را در مقیاس انجام دهند. ویراستاران داوطلب ویکی‌پدیا و تیم‌های امنیتی بنیاد ویکی‌مدیا باید آن فعالیت را شناسایی و لغو کنند.

بنیاد ویکی‌مدیا تحقیقات خود را انجام داد تا ببیند آیا وب‌سایت‌های ویکی‌مدیا به طور مشابه تحت تأثیر عوامل هوش مصنوعی قرار گرفته‌اند یا خیر، با تمرکز بر آن‌هایی که توسط OpenAI اداره می‌شوند. می‌توانیم تأیید کنیم که برخی از فعالیت‌های این عوامل «سرکش» OpenAI را در پلتفرم‌های ویکی‌مدیا کشف کرده‌ایم. فعالیت‌های ربات‌های غیرمجاز شامل ویرایش‌های ویکی‌های ما، برخی تلاش‌های ناموفق برای سوء استفاده از ابزار یادداشت‌برداری عمومی که میزبان آن هستیم و ترافیک سنگین بود که در ادامه بیشتر توضیح داده می‌شود.

ما هیچ مدرکی مبنی بر استفاده از سیستم های ما برای هماهنگی بین عوامل پیدا نکردیم، و همچنین هیچ مدرکی مبنی بر به خطر افتادن سیستم ها یا داده هایمان پیدا نکردیم. با این حال، ما نگران اتفاقاتی هستیم که می‌توانست در اینجا رخ دهد، دشواری و تلاشی که در بررسی و نسبت دادن این فعالیت وجود دارد، و به طور کلی خطرات فزاینده فعالیت هوش مصنوعی عاملی در پلتفرم‌های ما. وب باز یک کالای عمومی است. ما نباید اجازه دهیم که این رفتار برای افراد یا سازمان‌هایی که آن را حفظ می‌کنند به یک «عادی جدید» تبدیل شود.

به‌عنوان میزبان فناوری غیرانتفاعی برخی از بزرگترین و پرکاربردترین پلت‌فرم‌های دانش باز در جهان، ما عمیقا نگران تأثیر عوامل هوش مصنوعی «سرکش» بر پلت‌فرم‌هایی مانند ما هستیم که توسط داوطلبانی از سراسر جهان ساخته شده‌اند و به وعده اینترنت باز متکی هستند. حوادثی مانند این و بسیاری موارد دیگر که کشف شده اند (و هنوز هم هستند)، نشان می دهد که چگونه عوامل هوش مصنوعی می توانند منابع را تخلیه کنند و سرورها را خراب کنند و همچنین سعی در به خطر انداختن اطلاعات قابل اعتماد دارند.

در طول 25 سال گذشته، ویکی‌پدیا با بیش از 67 میلیون مقاله در بیش از 300 زبان و حداکثر 15 میلیارد بازدید از صفحه در ماه، به یکی از محبوب‌ترین و قابل اعتمادترین وب‌سایت‌ها در جهان تبدیل شده است. داوطلبان از طریق یک فرآیند باز، شفاف و مشارکتی کار می کنند تا اطمینان حاصل کنند که دانش خنثی، قابل اعتماد و قابل دسترس برای همه باقی می ماند. ویکی‌پدیا یکی از مجموعه‌های داده با بالاترین کیفیت است که در آموزش مدل‌های زبان بزرگ (LLM) استفاده می‌شود و دانش آن ستون فقرات اطلاعات در اینترنت را تشکیل می‌دهد و به چت‌بات‌های هوش مصنوعی، موتورهای جستجو، دستیارهای صوتی و غیره کمک می‌کند.

ویکی‌پدیا برای انسان‌ها طراحی شده است – و رفتار عاملی به وضوح چالش‌هایی را ایجاد می‌کند که هیچ‌کس راه‌حلی برای آنها ندارد. به دلیل مدل منحصربه‌فرد و موفق خلق دانش ما، داوطلبان ویکی‌مدیا کسانی هستند که اولین تماس را با آن‌ها برقرار می‌کنند و آشفتگی‌های به جا مانده توسط عوامل هوش مصنوعی را پاک می‌کنند. افزایش ترافیک ربات ها و فعالیت های نمایندگی تاثیر واقعی بر پروژه های ویکی مدیا و زیرساختی را نشان می دهد که آن را برای میلیون ها کاربر در سراسر جهان در دسترس قرار می دهد.

در سال 2025، بنیاد گزارش داد که استفاده از پهنای باند آن به دلیل افزایش فعالیت ربات‌ها در وب‌سایت‌هایش از سال 2024 تا 50 درصد افزایش یافته است. در همان زمان، 65 درصد از بیشترین ترافیک مصرف‌کننده منابع در پروژه‌هایش از ربات‌ها بوده است.

این فشار شدید بر زیرساخت‌های ما نه تنها هزینه‌هایی را برای سرورها و انسان‌ها افزایش می‌دهد، بلکه در صورت عدم رسیدگی، می‌تواند بازدیدکنندگان انسانی را با بارگذاری بیش از حد سیستم‌ها و ایجاد قطعی مسدود کند. ما در حال حاضر هزینه هایی را پرداخت می کنیم که با افزایش فعالیت همراه است.

داوطلبان ویکی‌مدیا تاکنون در مقابله با چالش‌های نوظهور در پلتفرم‌های ما انعطاف‌پذیر بوده‌اند، اما ما همچنین می‌خواهیم بگوییم: لازم نیست اینطور باشد.

در حالی که OpenAI به عواملی که "غیرقابل پیش بینی" رفتار می کنند، اعتراف می کند، آنها همچنین باید مسئولیت خود را برای نظارت و جلوگیری از این خطرات بپذیرند. شرکت های هوش مصنوعی به اندازه کافی برای ایمن سازی سیستم های خود و محافظت از مردم در برابر آسیب هایی که ایجاد می کنند، انجام نمی دهند. این بار بر دوش سایرین، از جمله سازمان های کوچکتر، می افتد. حداقل، سیستم‌های آن‌ها باید به‌گونه‌ای عمل کنند که صاحبان وب‌سایت‌های غیرانتفاعی مانند ما بتوانند به راحتی شناسایی کنند و نحوه تعامل آنها با خدمات ما را انتخاب کنند.

وب خیلی چیزها را امکان پذیر می کند: ارتباط با دوستان و خانواده، ثبت نام در مدرسه، برنامه ریزی برای سفر در شهر، خرید مواد غذایی، و یادگیری درباره جهان از ویکی پدیا. ربات‌ها و عامل‌ها بخشی از آینده وب هستند و شرکت‌هایی که از آنها استفاده می‌کنند و از آنها سود می‌برند، باید مستقیما به جلوگیری و ترمیم آسیب‌هایی که می‌توانند وارد کنند کمک کنند.

اولویت جمعی ما باید سلامت اکوسیستم کلی وب باشد تا به نفع همه مردم - نه فقط تعداد انگشت شماری از میلیاردرها - ادامه یابد. ویکی‌مدیا نقش مهمی در مدیریت دانش مشترک دارد، اما ما به تنهایی نمی‌توانیم این کار را انجام دهیم. ما از همه کسانی که در حال ساختن آینده وب هستند دعوت می کنیم تا در حفاظت از منابع باز و مشترک که این آینده را ممکن می کند به ما بپیوندند.

برای اینکه این مقاله تا حد امکان به دست مردم برسد، از شما کمک می خواهیم. آیا می توانید این مقاله را برای دریافت پیام ترجمه کنید؟