پاکسازی ویکی‌پدیا از محتوای تولید شده توسط هوش مصنوعی

تشخیص متن تولید شده توسط هوش مصنوعی دشوارتر است، اما این مانع آنها نشده است

Eliza Strickland ویرایشگر ویژگی های IEEE Spectrum است. او همچنین هوش مصنوعی و مهندسی زیست پزشکی را پوشش می دهد.

Ellia Lebleu یکی از بنیانگذاران تلاش ویکی‌پروژه AI Cleanup برای حفظ ویکی‌پدیا توسط انسان است.

Ellia Lebleu یکی از اعضای موسس WikiProject AI Cleanup است، تلاشی داوطلبانه که در سال 2023 برای یافتن و حذف مطالب تولید شده توسط هوش مصنوعی از ویکی‌پدیا که دستورالعمل‌های وب‌سایت را نقض می‌کند، راه‌اندازی شد. هنگامی که پاکسازی شروع شد، نوشتن هوش مصنوعی اغلب توسط کلیشه های آشکار خیانت می شد. امروزه، داوطلبان این پروژه در حال توسعه ابزارهایی برای شناسایی اشکال ظریف‌تر محتوای تولید شده توسط ماشین و بحث درباره نقش هوش مصنوعی در پرکاربردترین دایره‌المعارف جهان هستند.

چه زمانی متوجه شدید که ویکی‌پدیا با مواد تولید شده توسط هوش مصنوعی مشکل دارد؟

Ellia Lebleu: حدود دسامبر 2023 بود. من و چند ویراستار دیگر در سرور Discord ویکی‌پدیا چت می‌کردیم، و همه ما مقالات بسیار عجیبی با همان ویژگی‌های عجیب و غریب دیده بودیم. آنها عباراتی مانند "میایستد به عنوان وصیت نامه" یا "میراث فرهنگی غنی" را تکرار کردند. آنها گاهی اوقات بخش های نتیجه گیری یا بخش هایی به نام "چرا این مهم است؟" داشتند. این برای ChatGPT در سال 2023 و اوایل سال 2024 بسیار معمول بود، اما برای مقالات ویکی‌پدیا بسیار عجیب بود – و تشخیص آن بسیار آسان است. سپس تصمیم گرفتم، بیایید یک پروژه رسمی در ویکی‌پدیا ایجاد کنیم تا افراد بیشتری بتوانند با این موضوع برخورد کنند.

Ellia Lebleu Ellia Lebleu یکی از اعضای موسس WikiProject AI Cleanup است. لبلو در حال تحصیل در مقطع دکترا است. در هوش مصنوعی در مرکز اینریا دانشگاه رن، بخشی از موسسه ملی تحقیقاتی فرانسه برای علوم و فناوری دیجیتال.

چگونه ویراستاران امروز نوشته های تولید شده توسط هوش مصنوعی را تشخیص می دهند؟

Lebleu: تا سال 2025، نشانه های نوشتن هوش مصنوعی ظریف تر و ساختاری تر شد. برای مثال، هوش مصنوعی «قاعده سه»، توازی‌های منفی و دیگر ساختارهای گفتاری را که به خودی خود قطعی نیستند، اما با جمع شدن معنادار می‌شوند، دوست دارد. ما همچنین فراتر از مقاله نگاه می کنیم. اگر کسی در عرض 5 دقیقه پنج مقاله با هزاران کلمه بنویسد، دلیلی برای مشکوک بودن به هوش مصنوعی وجود دارد.

آیا مشکل هوش مصنوعی فقط در متن اصلی ظاهر می شود یا در نقل قول ها؟

لبلو: نقل قول های جعلی یا گمراه کننده به یک نگرانی بزرگ تبدیل شده است. گاهی اوقات یک هوش مصنوعی یک استناد را به طور کامل توهم می کند، اگرچه امروزه به دلیل نسل افزوده بازیابی که به هوش مصنوعی اجازه می دهد منابع را بیابد، بسیار نادرتر است. بیشتر اوقات، منبع واقعی را پیدا می کند اما محتوای آن را کاملا اشتباه می گیرد. استنادات هوش مصنوعی که در واقع از آنچه نوشته شده پشتیبانی نمی کنند بسیار رایج هستند.

ویکی‌پدیای انگلیسی اخیرا ویرایشگران را از استفاده از LLM برای تولید مقاله منع کرده است. چه مقدار محتوای تولید شده توسط هوش مصنوعی هنوز در حال عبور است؟

لبلو: من با [شرکت تشخیص هوش مصنوعی] Pangram کار کرده‌ام تا نسبت محتوای تولید شده توسط هوش مصنوعی را تخمین بزنم. من آن را روی محتوای ویکی‌پدیا قبل از ChatGPT آزمایش کردم و هیچ نتیجه مثبت کاذبی پیدا نکردم، بنابراین نتایج آن یک کران پایین بسیار محافظه‌کارانه را ارائه می‌دهد. در اواخر سال 2025، شاید 20 درصد از مقالات و پیش نویس های جدید را به عنوان تولید شده توسط هوش مصنوعی علامت گذاری کرد. در اوایل سال 2026، این میزان به 15 یا 16 درصد کاهش یافت. اما ما هنوز نمی‌دانیم که آیا این به این دلیل است که سیاست‌های اخیر ما تأثیر داشته است یا به این دلیل است که مدل‌ها قدرتمندتر می‌شوند و Pangram زمانی برای سازگاری نداشته است.

Lebleu: یکی دیگر از ویرایشگرهای ویکی‌پدیا یک تأییدکننده منبع هوش مصنوعی ساخته است که منابع موجود در یک صفحه را مرور می‌کند و بررسی می‌کند که آیا آنها با ادعاها مطابقت دارند یا خیر. از آنجایی که خود یک مدل هوش مصنوعی است، هیچ تضمینی وجود ندارد که هر بار درست باشد. اما اگر چیزی می‌خواهید که در مقیاس کار کند و موارد واضح را فیلتر کند، اولین قدم خوبی است. بنیاد ویکی‌مدیا همچنین در حال کار بر روی ابزاری به نام Paste Check است که می‌تواند متنی را که مستقیما از برخی ربات‌های چت هوش مصنوعی چسبانده شده پرچم‌گذاری کند.

و ما گاهی اوقات کلود را دیده‌ایم که می‌گوید: «من نمی‌توانم مقاله ویکی‌پدیا بنویسم؛ این برخلاف سیاست‌های ویکی‌پدیا است». اگر همه شرکت‌های بزرگ هوش مصنوعی این نوع امتناع سریع را اجرا می‌کردند، مشکل را به طور کامل حل نمی‌کرد، زیرا هنوز مدل‌هایی با وزن باز وجود دارند که می‌توان آن‌ها را برای جلوگیری از محدودیت‌ها تغییر داد. اما برای افرادی که از مدل‌های تجاری استفاده می‌کنند و به‌ویژه با این فناوری آشنا نیستند، مفید است.

آیا می توانید بگویید که آیا قانون منع نوشتن AI کار می کند؟

لبلو: هنوز برای گفتن کمی زود است. ما شاهد اثرات احتمالی هستیم، مانند امتناع سریع و کاهش ظاهری جزئی در محتوای تولید شده توسط هوش مصنوعی. اما باز هم، ما هنوز نمی دانیم که آیا این به این دلیل است که مدل ها بهتر می شوند یا به این دلیل است که مبتدیان قوانین را یاد می گیرند. اکثریت قریب به اتفاق محتوای تولید شده توسط هوش مصنوعی توسط ویراستاران مبتدی ارسال می‌شود، بنابراین ما تلاش‌های زیادی کرده‌ایم تا این قانون در پیام‌های خوش‌آمدگویی، راهنمای ویرایش و توصیه‌ها بسیار قابل مشاهده باشد.

اگر هوش مصنوعی قادر به نوشتن مقالات واقعا قابل اعتماد ویکی پدیا شود، چه؟

لبلو: این یکی از سوالات بزرگی است که ما با آن روبرو هستیم. وقتی این دستورالعمل تصویب شد، دلایل بسیار عملی داشت: ما مملو از محتوای هوش مصنوعی بودیم، ابزارهای خوبی نداشتیم و باید جلوی آن را بگیریم. اما از آن زمان به بعد ابعاد فلسفی تری به خود گرفت. بسیاری از مردم ویکی‌پدیا را «آخرین مکان خوب در اینترنت» نامیده‌اند. مکانی که در تئوری عاری از هوش مصنوعی بود بخشی از هویت ویکی پدیا شده است.

بسیاری از ارتباطات ویکی‌پدیا اکنون بر این ایده متمرکز است که ما یک دایره‌المعارف نوشته‌شده توسط انسان هستیم. حتی شرکت های هوش مصنوعی نیز این موضوع را جالب می دانند. داشتن یک مجموعه کاملا نوشته شده توسط انسان که در آن سیستم‌های هوش مصنوعی [تربیت] شوند، می‌تواند ارزشمند باشد. این واقعیت که ویکی‌پدیا هنوز همینطور است و حداقل در آینده نزدیک همینطور خواهد ماند، آن را به منبعی ارزشمند تبدیل می‌کند که در هیچ جای دیگری تکرار نمی‌شود.

اما آیا افرادی که ویکی‌پدیا را می‌خوانند و به آن کمک می‌کنند، می‌خواهند که تا حدی توسط هوش مصنوعی تولید شود، اگر این باعث جامع‌تر شدن آن شود؟ ما می‌توانیم هویت ویکی‌پدیا را به‌عنوان مجموعه‌ای نوشته شده توسط انسان حفظ کنیم و در عین حال گزینه‌ای به کمک هوش مصنوعی نیز ارائه کنیم.

آیا ویکی‌پدیا ایده «Google Zero» را در نظر گرفته است - آینده‌ای که در آن وب‌سایت‌ها دیگر از جستجوی Google ترافیک دریافت نمی‌کنند؟

Lebleu: اگر همه چیز از طریق جستجوی هوش مصنوعی انجام شود و وب‌سایت‌ها به شدت دیده شوند، چگونه ویکی‌پدیا را افشا کنیم و نشان دهیم که می‌توان آن را ویرایش کرد و مردم همچنان می‌توانند مشارکت کنند؟ ویکی‌پدیا اغلب در مرورهای AI [Google] ذکر می‌شود، اما کاربران ممکن است تنها پاسخ هوش مصنوعی را با استناد به ویکی‌پدیا ببینند. آنها ممکن است متوجه نباشند که ویکی‌پدیا یک پروژه زنده است که می‌توانند ویرایش کنند و در آن مشارکت کنند.

بنیاد ویکی‌مدیا در حال کار بر روی چارچوبی است که می‌تواند به کاربران هوش مصنوعی اطلاعات بیشتری درباره مقاله [که به آن اشاره می‌شود] بدهد: آخرین ویرایش آن چه زمانی، چقدر جامع است، آیا ویراستاران مشکلاتی را علامت‌گذاری کرده‌اند یا نه، و شاید حتی دعوت به اقدام. در آینده، خوانندگان حتی ممکن است از طریق مدل‌های هوش مصنوعی مشارکت کنند: "هوش مصنوعی از ویکی‌پدیا استناد کرده است، اما به نظر می‌رسد خطایی وجود دارد. آیا می‌توانم درخواست ویرایش کنم و منبع دیگری را که پیدا کردم اضافه کنم؟"

من می توانم یک رابطه همزیستی بسیار قوی بین ویکی پدیا و مدل های هوش مصنوعی در آینده ببینم. من ناپدید شدن ویکی‌پدیا را نمی‌بینم، اما می‌توانم ببینم که شکل بسیار متفاوتی دارد. دیروز، هوش مصنوعی چیزی برای پاکسازی بود. امروز، این ابزاری است برای کمک به ما در پاکسازی. فردا همان هوایی است که نفس می کشیم.

نسخه فشرده این مقاله در شماره چاپی نوامبر 2026 با نام "Ellia Lebleu" ظاهر می شود.

الیزا استریکلند ویرایشگر ویژگی های IEEE Spectrum است که به توسعه و شکل دادن به داستان های طولانی مجله کمک می کند. او همچنین بر پوشش Spectrum در زمینه هوش مصنوعی و مهندسی زیست پزشکی نظارت دارد. او دارای مدرک کارشناسی ارشد روزنامه نگاری از دانشگاه کلمبیا است.

من احساس می‌کنم همه ما نویسندگان باید با خوانندگان مبتنی بر هوش مصنوعی دست و پنجه نرم کنیم، چه از هوش مصنوعی برای تقویت محتوای خود استفاده کنیم و چه خوانندگان ما از هوش مصنوعی برای تعامل با نوشته‌هایمان استفاده کنند. در اینجا این است که با هم بفهمیم چگونه می توان اطمینان حاصل کرد که کلمات ما همچنان در لایه هوش مصنوعی می درخشند.