یک سوم از چت کنندگان هوش مصنوعی ایالات متحده به ربات ها علاقه دارند و به LLM ها توهین می کنند

اگر تا به حال به یک چت بات حرف ناخوشایندی زده اید، به سختی تنها هستید. به گفته Searchable، شرکتی که نمایان بودن جستجوی هوش مصنوعی را ردیابی می کند، 33 درصد از کاربران چت بات ایالات متحده به LLM های خود فحش می دهند یا به آنها توهین می کنند. آنتروپیک این را یک مشکل جدی می‌داند و به تازگی یک سیاست استفاده جدید را اجرا کرده است که ظلم مداوم و بی‌ضروری نسبت به کلود را ممنوع می‌کند.

نظرسنجی Searchable بر اساس هشت میلیون پیام از یک پانل انتخاب شده و ناشناس آمریکایی است که بین سپتامبر 2025 تا سپتامبر 2026 با ChatGPT، Gemini و Claude تایپ یا صحبت شده است. نشان داد که ربات‌های چت شکایت اولیه را در پاسخ بعدی خود در 24 درصد از مواقع با توهین به کاربران حل کرده‌اند، در مقایسه با 35 درصد از زمانی که کاربران مورد توهین قرار گرفتند.

بر اساس این نظرسنجی، مردان یک سوم بیشتر از زنان از فحاشی استفاده می کردند (22.0 در هر 10000 کلمه در مقایسه با 16.5)، و سن نیز بر سوء استفاده از چت بات تأثیر می گذارد، به طوری که افراد 35 تا 44 ساله از افراد 18 تا 24 ساله بیشتر استفاده می کردند (21.7 در هر 10000 کلمه در مقایسه با 13). از نظر منطقه ای، نوادا با 22.7 کلمه در هر 10000، به عنوان پست ترین ایالت رتبه بندی شده است، در حالی که نیوجرسی با نصف نرخ نوادا مودب ترین ایالت بود.

چه مقدار از این نوع تعامل را می توان تحمل کرد؟ بستگی به این دارد که آیا هدف قابل تشخیصی وجود دارد یا خیر (بدون اشاره به تمایل آنتروپیک برای مجازات مشتریان پرداخت کننده).

یکی از سخنگویان قابل جستجو به The Register گفت که بیش از نیمی (52 درصد) از پیام‌های توهین‌آمیز شناسایی‌شده در نظرسنجی آن ناشی از یکی از سه ناامیدی رایج است: پیروی نکردن از دستورالعمل‌ها، پاسخ دادن با پاسخ نادرست یا ساختگی، یا درک اشتباه از درخواست.

به ما گفته می‌شود: «هشت درصد پیام‌های توهین‌آمیز مستقیما پس از رد کامل درخواست توسط ربات چت یا سخنرانی با نرده‌های محافظ به کاربر ارسال شد، که نزدیک‌ترین چیزی است که ما می‌توانیم به آن‌ها بشناسیم که سعی می‌کنند در اطراف آن نرده‌ها هدایت شوند». "این امتناع ها بیشتر پس از درخواست برای تولید تصاویر، اغلب از افراد واقعی یا افراد مشهور، یا نوشتن کپی یا اشعار به سبک یک هنرمند نامگذاری شده بود."

شرایطی که در 12 نوامبر اجرایی شد، بیان می‌کند که کاربران نباید «درگیر رفتار توهین‌آمیز یا ظالمانه مداوم و بی‌ضروری نسبت به مدل‌های ما شوند».

سخنگوی شرکت ماه گذشته توضیح داد که خط مشی حفاظت از ربات چت کاربرانی را هدف قرار می دهد که ظلم مکرر نسبت به LLM ها "بدون هیچ هدف مشخصی" نشان می دهند، برخلاف کسانی که دلیلی برای بدرفتاری با ربات دارند که شرکت آنها را مشروع می داند، مانند تحقیقات آکادمیک.

در حالی که تلاش برای دور زدن نرده های محافظ به عنوان یک هدف قابل تشخیص واجد شرایط است، چنین رفتاری با ممنوعیت سوء استفاده از پلت فرم Anthropic در تضاد است.

احتمالا، قوانین آنتروپیک در مورد ورودی متن یا ورودی صوتی خصمانه اعمال می شود تا اینکه یک مدل مبتنی بر دید را در معرض برخی فحاشی قرار دهد، که می تواند شامل حرکات بی ادبانه، تصاویر جنسی غیرقانونی، یا قتل عام میدان جنگ باشد.

آسیب فیزیکی به روبات‌هایی که توسط مدل کلود کنترل می‌شوند، احتمالا صدق نمی‌کنند. اما با کاوش آنتروپیک در مورد رفاه مدل و با صدای بلند تعجب می‌کند که آیا ما باید «نگران آگاهی و تجربیات بالقوه خود مدل‌ها باشیم»، یک استدلال بالقوه (هر چند پوچ) برای آسیب فیزیکی وجود دارد که باعث آسیب به یک مدل داخلی می‌شود.

شرایط به روز شده Anthropic که در 8 اکتبر اعلام شد، اندکی پس از انتشار یک پروژه GitHub که خود را به عنوان یک اتاق شکنجه هوش مصنوعی توصیف می کرد، ظاهر شد. این مخزن نشان دهنده تلاشی برای پیاده سازی ایده هایی است که در یک مقاله تحقیقاتی مورد بحث قرار گرفته است، "محور درد: LLM ها آسیب های خود هدایت شده را نشان می دهند و برای تسکین آن اقدام می کنند"، که بررسی می کرد چگونه LLM ها به زبان در مورد درد به روش هایی که منعکس کننده پاسخ های انسان است، پاسخ می دهند.

اگرچه فرصت‌های زیادی برای مردم وجود دارد تا مخالفت خود را با درد و رنج انسانی در دنیای واقعی ابراز کنند، برخی از نظر دهندگان آنلاین از دیدن متنی در مورد رنج از یک چت بات ابراز خشم کردند. یکی از نویسندگان مقاله و همچنین بسیاری از کاربران رسانه های اجتماعی این پروژه را محکوم کرد.

Anthropic - که در نحوه اعمال شرایط خود اختیاری دارد و گفته است که قوانین آن رفتارهای شدید را هدف قرار می دهد - بلافاصله به درخواست اظهار نظر در مورد فراوانی سوء استفاده از کلود پاسخ نداد.

کریس دانلی، مدیر عامل و یکی از بنیانگذاران Searchable، تغییر اصطلاحات Anthropic را تایید کرد و پیشنهاد کرد که می تواند به تعامل انسانی بیشتر کمک کند.

دانلی در بیانیه ای گفت: برای من، تغییر سیاست آنتروپیک یک حرکت مثبت است. این باید به مردم کمک کند تا از چت ربات‌ها بهره بیشتری ببرند و به مهار رفتار تحقیرآمیز که تحقیقات قبلی نشان می‌دهد می‌تواند به نحوه صحبت افراد با یکدیگر سرایت کند، کمک می‌کند. ®