آنتروپیک در حال سرکوب افرادی است که کلود را قلدری می کنند

TL; DR

آنتروپیک خط مشی استفاده خود را برای جلوگیری از سوء استفاده مکرر و غیرضروری یا ظلم نسبت به مدل های هوش مصنوعی خود به روز کرده است.

این سیاست سوء استفاده شدید و عمدی را هدف قرار می دهد، نه ناامیدی، انتقاد، اختلاف نظر، یا آزمایش مشروع هوش مصنوعی.

کلود می‌تواند به مکالمات توهین‌آمیز به‌عنوان اقدام اجرایی اولیه پایان دهد، اما این خط‌مشی به صراحت به ممنوعیت کاربران اشاره نمی‌کند.

همه ما لحظاتی را داشته ایم که یک ابزار هوش مصنوعی به قدری اشتباه می کند که نمی توانیم صبر خود را از دست بدهیم. ممکن است یک سوال ساده را مدام دچار سوء تفاهم کند، با اطمینان اطلاعات نادرستی به شما بدهد، یا از پیروی از دستورالعمل هایی که چندین بار تکرار کرده اید امتناع کند. ناامید شدن قابل درک است، اما اگر عمدا و بدون دلیل به ربات چت توهین کنید، چه؟ خب، آنتروپیک اکنون سیاستی دارد که دقیقا به آن می پردازد، و بسیار جالب است.

جین مانچون وانگ اخیرا یک اسکرین شات را در X به اشتراک گذاشته است که در آن افزودنی به خط مشی استفاده Anthropic فاش شده است. این شرکت قوانینی را علیه سوء استفاده مکرر یا ظلم غیرضروری نسبت به مدل‌های هوش مصنوعی خود، از جمله کلود، وضع کرده است. اساسا، آنتروپیک می‌خواهد مردم را از بدرفتاری عمدی ربات‌های چت خود در زمانی که رفتار آنها هدف واقعی ندارد، منصرف کند.