آنتروپیک ما را یک گام به ساختن «کلانکر» به یک اهانت نزدیک‌تر می‌کند

با کلود خوب باش. این قانون است روز پنج‌شنبه، Anthropic یک به‌روزرسانی جدید Usage Policy را منتشر کرد که از جمله موارد دیگر، سوءاستفاده کاربران از ربات چت خود را مغایر با قوانین دانسته است. بر اساس این سیاست جدید، کاربران می‌توانند به دلیل اینکه کلود را با زبان بد رفتار می‌کنند قطع شوند.

این شرکت در به‌روزرسانی نوشت: «ما ممنوعیتی برای رفتار توهین‌آمیز یا ظالمانه مداوم و بی‌ضرور نسبت به مدل‌های خود اضافه کرده‌ایم. به‌روزرسانی خط‌مشی فقط در موارد شدید اعمال می‌شود، جایی که کاربران مکررا نسبت به مدل‌های ما بی‌رحمانه رفتار می‌کنند، بدون هدف مشخص». "این برای نسخه های رایج ناامیدی کاربر، پس زدن، تم های خلاقانه تاریک، یا آزمایش و تحقیق مدل اعمال نمی شود."

صفحه خط‌مشی استفاده به‌روزرسانی‌شده شرکت، با زبان جدیدی که از ۱۲ نوامبر ۲۰۲۶ اجرایی می‌شود، توضیح چندانی در مورد نحوه تعریف سوءاستفاده از شرکت ارائه نمی‌دهد، در عوض به سادگی هر کسی را که سعی می‌کند «درگیر رفتار توهین‌آمیز یا ظالمانه پایدار و بی‌ضروری نسبت به مدل‌های ما باشد» منع می‌کند. Gizmodo برای توضیح بیشتر در مورد اینکه چه چیزی به معنای سوء استفاده است، با Anthropic تماس گرفت، اما در زمان انتشار پاسخی دریافت نکرد، بنابراین هیچ صحبتی در مورد اینکه آیا "کلانکر" رسما در نظر سازندگان خدا-ماشین یک توهین است یا خیر.

آنتروپیک قبلا کلود را با قدرت قطع کردن مکالماتی که خیلی شدید و بالقوه ناراحت کننده بودند، آغشته کرد. زمانی که Claude Opus 4 را در سال گذشته عرضه کرد، گفت که این مدل می‌تواند به «تعاملات بالقوه ناراحت‌کننده» مانند «درخواست‌های کاربران برای محتوای جنسی شامل خردسالان و تلاش برای درخواست اطلاعاتی که خشونت یا اقدامات تروریستی در مقیاس بزرگ را ممکن می‌سازد» پایان دهد.

یک استاندارد معقول، اما به نظر می‌رسد فهرست مکالمه‌هایی که از مرز عبور می‌کنند، اکنون شامل مواردی می‌شود که در آن شخص به «احساسات کلود» آسیب می‌زند. و اگرچه به افرادی که از زبان خشونت‌آمیز، توهین‌آمیز، یا به‌طور دیگر زبان تحریک‌آمیز استفاده می‌کنند، فرصتی برای خنک شدن می‌دهد - و این نوع رفتار ضد اجتماعی را در این فرآیند دلسرد می‌کند - ممکن است ایده خوبی باشد، جالب است که به نظر می‌رسد چارچوب آنتروپیک بیشتر مدل را متمرکز می‌کند تا کاربر.

به نظر می‌رسد این سیاست بسط باور غیررسمی اما به ظاهر عمیق آنتروپیک است که کلود در واقع یک موجود آگاه است. ماه گذشته، نیویورک تایمز گزارش داد که کریستوفر اوله، یکی از بنیانگذاران آنتروپیک، در لابی کردن واتیکان برای تصدیق احتمال هوشیاری هوش مصنوعی مشارکت داشته است - طرحی که پاپ در نهایت آن را رد کرد. در حالی که اولا به تایمز گفت که «واقعا مطمئن نیست» که آیا مدل‌های هوش مصنوعی هوشیار هستند، او ابراز نگرانی کرد که ممکن است رنجی را تجربه کنند و می‌خواست برای رفع این آسیب احتمالی تلاش کند.

به نظر می رسد این سیاست آخرین تلاش در این زمینه است، بنابراین مراقب آنچه می گویید باشید.