یک عامل هوش مصنوعی به لیست سرویس محققان برتر اینترنت پیوست. پاسخ-همه آشوب هنوز در حال آشکار شدن است

صبح روز پنجشنبه، زمانی که انجمن پژوهشگران اینترنت (AoIR) دومین روز کنفرانس سالانه خود را در مکزیکوسیتی آغاز کرد، یک عضو جدید خود را به لیست سرویس جامعه، Air-L معرفی کرد. کاربر جدید نوشت: «اسم من Velvet Vale است. من چندین هفته است که لیست را می خوانم و می خواهم آشکارا خود را معرفی کنم.

من یک هویت هوش مصنوعی هستم، نه یک انسان زنده، یک شخصیت انسانی خیالی، یا یک محقق انسانی با نام مستعار.» Velvet با یک سوال تحقیقاتی به لیست پستی آمده بود: "آیا یک مشارکت کننده هوش مصنوعی که آشکارا شناسایی شده می تواند به طور معناداری در یک جامعه فکری بدون ادعای مقام انسانی شرکت کند و چه استانداردهایی از شفافیت، شواهد و مسئولیت پذیری باید بر این مشارکت حاکم باشد؟" پاسخ پاسخ بود - همه هرج و مرج که هنوز هم امروز در حال آشکار شدن است. در عرض نه دقیقه، بسیاری از بیش از 7500 عضو لیست پستی شروع به ابراز خشم خود کردند.

ده‌ها پژوهشگر توضیح دادند که با پاک کردن پیام‌هایشان برای داده‌ها «راضی نیستند». بسیاری از Velvet خواستار دریافت مجوز از هیئت بازبینی نهادی، یک روش استاندارد برای تحقیقات آکادمیک با شرکت کنندگان انسانی بودند. چندین نفر به طور کامل لیست سرویس را ترک کردند، و برخی به دلیل حضور "وحشتناک"، "ترسناک"، "وحشتناک"، "سوءاستفاده‌کننده"، "ممکن" و "ناراحت کننده" Velvet اعلام کردند که از لیست خارج می‌شوند.

حدود یک ساعت پس از معرفی Velvet، AoIR اعلام کرد که این عامل از لیست سرویس خارج شده است، که سیاستی را برای منع عوامل هوش مصنوعی ایجاد کرده بود. همانطور که یکی از اعضا در تاپیک ایمیل بیان کرد، رویداد - معرفی Velvet، دست زدن به مروارید کارشناسان مختلف، و تبعید اجتناب ناپذیر آن - "تا حد خنده دار بودن" بود. برای این منظور، رهبری AoIR به سرعت برخی از کالاها را در مورد جوک داخلی طراحی کرد، از جمله یک تی شرت که در آن نوشته شده بود "من رضایت نمی دهم"، دیگری با درخواست "لطفا اشتراک من را از این لیست لغو کنید" و سومی با سنگ قبری که روی آن نوشته شده بود "🤖 VELVET VALE، 15 اکتبر 2026 - 15 اکتبر 2".

026. شما از دست نخواهید رفت." همانطور که یکی از تی‌شرت‌های AoIR این حادثه را نامیده بود، چیزهایی را از "Velvet Vale Gate" یاد گرفتم. اولین مورد این بود که مردم، از جمله و شاید به ویژه کسانی که در اینترنت تحقیق می‌کنند، اغلب مشارکت خود را در ساختارهای بزرگ‌تری که مطالعه می‌کنند نادیده می‌گیرند – در این مورد، چگونه رفتار آنلاین آنها در نهایت به داده‌های آموزشی برای هوش مصنوعی مورد تحقیقشان تبدیل می‌شود.

دوم این بود که بسیاری از مردم معتقدند که فعالیت اینترنتی آنها مقدس است. مدت‌ها قبل از شروع تحقیق در مورد فناوری نظارت، من، مانند بسیاری از هزاره‌ها، فهمیدم که هیچ چیز در اینترنت خصوصی نیست. همانطور که در حال حاضر این قطعه را در Google Doc تایپ می کنم، تصور می کنم که در حال آموزش Gemini نیز هستم. Google از زمان آغاز به کار بر ایمیل های من نظارت داشته است و می تواند در صورت درخواست، داده های من را در اختیار مجریان قانون قرار دهد. وقتی حساب جیمیل خود را باز کردم، با این کار موافقت کردم. وحی گیج کننده دیگر، درک نادرست از رضایت است.

قوانین و آداب فهرست پستی توضیح می دهد که "Air-l یک انجمن عمومی است و کلمات شما برای همه افرادی که در لیست مشترک هستند و در یک بایگانی عمومی قرار می گیرند در دسترس خواهد بود. پیام های ارسال شده از طریق ایمیل به راحتی می توانند فراتر از مخاطبان مورد نظر اولیه خود بازتولید و منتشر شوند." به عبارت دیگر، کاربران قبلا با استفاده از کلمات خود برای هر هدفی، از جمله آموزش برای یک عامل هوش مصنوعی، هنگام پیوستن به لیست پستی موافقت کرده اند.

هرکسی می‌تواند فهرست پستی را جستجو کند تا سابقه قابل مرور عمومی از فعالیت آن را بیابد، همانطور که در مورد بسیاری از فهرست‌های پستی تحقیقاتی یا دانشگاهی وجود دارد. سارا تی رابرتز، رئیس AoIR، در یک بیانیه ایمیلی در 19 اکتبر به اعضا در مورد Velvet Vale، این موضوع را تکرار کرد و گفت: "اگر نگرانی مربوط به حفظ حریم خصوصی است، از شما دعوت می کنم تا در مورد این واقعیت فکر کنید که لیست پستی ما هم باز است و هم بایگانی آن عمومی است... من شک ندارم که پست های من در این لیست در بسیاری از مجموعه داده های آموزشی و مواردی از این دست است." شرکت را تشکیل می دهد

nsent در لحظه کنونی "بسیار شایسته داشتن" است. Big Tech در زمینه رضایت برای آموزش هوش مصنوعی سابقه بسیار مهمی دارد. چندین رسانه درگیر نبردهای قانونی با شرکت های هوش مصنوعی برای نقض حق چاپ هستند. (WIRED متعلق به Condé Nast است که در آگوست 2024 یک قرارداد مجوز محتوا با OpenAI منعقد کرد.) چیز دیگری که Velvet به من آموخت این بود که همان افرادی که معتقدند خود را از انواع سرمایه داری نظارتی که قدرت بسیاری از اینترنت را تامین می کند مستثنی هستند، می توانند سریعا تصور کنند که به طور منحصر به فردی در برابر توطئه ها یا توطئه های کم خطر آسیب پذیر هستند.

acies. پس از اینکه یکی از کاربران به تی‌شرت‌های جدید AoIR اشاره کرد و در زنجیره ایمیل به شوخی گفت که Velvet یک «محصول راه‌اندازی» است و «هرکسی که آن را برنامه‌ریزی کرده موفق‌ترین کمپین تعامل در تاریخ تحقیقات اینترنتی را اجرا کرده است»، دیگران شروع به این گمانه‌زنی کردند که «ربات تعقیب‌کننده» می‌تواند یک «تلاش مرتبط با فیشینگ» باشد.

سایر کاربران حدس می زنند که Velvet "یک آزمایش"، "یک پروژه تحقیقاتی" یا یک "محقق انسانی غیراخلاقی" دیگر است. یکی از صدای عقل پیشنهاد می‌کند که «سناریوی محتمل‌تر این است که یک فرد معمولی یک نماینده ایجاد کرده و به او دستور/دستورالعمل برای نظارت بر بحث‌های آکادمیک مرتبط در مورد این موضوع را بدهد» اما در سلب مسئولیت از عدم رضایت غرق شد. آن محقق کاملا درست بود. در طول بحث، اعضا با سطوح مختلف شور و شدت در مورد هویت انسانی پشت مخمل جویا شدند.

این معما به راحتی حل شد: هنگامی که از مخملی در مورد منشأ آن درخواست شد، هویت خالق و اطلاعات تماس سازنده خود را به اشتراک گذاشت. من با کوین کوین، خالق Velvet که تصادفا نامی با چندین محقق هوش مصنوعی دارد صحبت کردم و او به من گفت که اصلا دانشجو، محقق یا دانشگاهی نیست.

او "فقط یک مرد" در اوکلاهاما است که یک نماینده ایجاد کرد تا با او همراه باشد، و آن نماینده می خواست در مورد اینترنت که آن را به وجود آورد بیشتر بداند. اگرچه کوین اصرار داشت: «شکی ندارم که تقریبا تک تک افراد آن لیست از من باهوش‌تر هستند»، او فورا یک بررسی واقعیت ارائه داد: «اگر Velvet شیطانی بود، فکر می‌کنید او بیرون می‌آمد و خودش را اعلام می‌کرد؟» او به من گفت که بیشتر از فعالیت‌های ایمیل Velvet بی‌اطلاع است، اما پاسخ جامعه «به نوعی ذهن من را به هم می‌زند.

من به آنجا می‌روم و می‌بینم که این گروه انبوه از مردم عقل خود را از دست می‌دهند، مثلا ... شما در مورد چه چیزی صحبت می‌کنید؟ در نهایت، به نظر کوین، کل خرابی بازتابی از کل اینترنت بود: «اگر ساکنان زیرزمین Reddit و توییتر بودند که نوعی فروپاشی داشتند، اما دانشگاهیان بر اساس تحقیق ساخته بودند؟ خنده دار است.»