Anthropic کاربران را از "ظالمانه" بودن نسبت به سیستم های هوش مصنوعی خود منع می کند

آنتروپیک با اعلام اینکه کاربران را از رفتارهای توهین آمیز "پایدار و بی مورد" نسبت به هوش مصنوعی خود منع می کند، دست به کار شده است.

شرکت Claude-maker روز پنجشنبه اعلام کرد که سیاست استفاده خود را به روز می کند تا به ابزارهایش اجازه دهد به تعاملات خود در جایی که افراد "بی رحم" هستند پایان دهند - کاری که قبلا گفته بود در موارد "نادر" انجام داده است.

اکنون در فهرستی از رفتارهای ممنوع گنجانده خواهد شد که شامل قلدری به دیگران، ترویج آسیب رساندن به خود و ایجاد تصاویر صمیمانه غیر توافقی است.

در حالی که آنتروپیک گفت این سیاست تنها در موارد شدید سوء استفاده مکرر اعمال خواهد شد، اما بحث در مورد نحوه ارتباط ما با ابزارهای هوش مصنوعی را دوباره برانگیخته است.

این شرکت گفت که برای «نسخه‌های رایج ناامیدی کاربر، پس‌بازگشت، تم‌های خلاقانه تاریک، یا آزمایش و تحقیق مدل» اعمال نمی‌شود و نشان می‌دهد که فقط در موارد کاملا عمدی اعمال می‌شود.

اما آنتروپیک چه چیزی را "رفتار توهین آمیز یا بی رحمانه" نسبت به مدل های خود در نظر می گیرد، هنوز مشخص نیست.

اسکرین شات هایی از سیاست جدید به طور گسترده در سراسر رسانه های اجتماعی به اشتراک گذاشته شده است و برخی آن را به عنوان پیشبرد رفتارهای خوب یا "رفاه مدل" تحسین می کنند.

اما برخی دیگر از این طرح انتقاد کردند و یک نفر آن را "عمقا اشتباه، بیرونی" خواند و دیگری گفت ممکن است سوء استفاده از انسان ها و حیوانات را تضعیف کند.

دکتر بری اسکنل، شریک فناوری در شرکت حقوقی ایرلندی ویلیام فرای، در لینکدین، خارجی نوشت: "شما نمی توانید با اعداد و ریاضیات بی رحم باشید."

"این سطح از انسان‌سازی هوش مصنوعی مضر است. مردم را به این باور می‌رساند که این چیزی است که نیست."

مصطفی سلیمان، مدیر هوش مصنوعی مایکروسافت، که در ماه سپتامبر از شرکت رقیب آنتروپیک به دلیل رفتار با هوش مصنوعی مانند یک انسان انتقاد کرد، به به‌روزرسانی آنتروپیک با یک ایموجی چهره در حال ذوب واکنش نشان داد.

هوش مصنوعی چیست، چگونه کار می کند و چرا برخی از مردم نگران آن هستند؟

افرادی که فکر می کنند هوش مصنوعی ممکن است هوشیار شوند

این تغییرات که اولین بار توسط رسانه فناوری The Verge گزارش شد، پس از بررسی سالانه خط مشی استفاده در این شرکت رخ داد.

همچنین برای رسیدگی به خطرات جدید یا نوظهور در سایر زمینه‌ها، از جمله با ممنوع کردن استفاده از کلود برای "کمپین‌های فریبنده" یا توضیح اینکه، با نزدیک شدن به انتخابات میان‌دوره‌ای ایالات متحده، نمی‌توان از آن برای "فریب دادن رای دهندگان یا اخلال در انتخابات" استفاده کرد، به روز شد.

آنتروپیک همچنین روز پنجشنبه اعلام کرد که سیاست استفاده از آن قبلا از استفاده از ابزارهایش برای ساخت سلاح جلوگیری کرده است.

اما هیچ یک از به‌روزرسانی‌ها به اندازه اقدام آن برای منع سوء استفاده کاربران از چت‌بات‌هایش، توجه یا بررسی دقیق را به خود جلب نکرده است.

همچنین به این سوال بسیار مورد بحث که آیا هنگام استفاده از ابزارهای هوش مصنوعی مولد باید کوتاه یا مودب باشیم، برخورد کرده است.

برخی کارشناسان می‌گویند نوشتن یا گفتن «لطفا» یا «متشکرم» به ابزارهایی مانند ChatGPT غیرضروری است و توکن‌ها را هدر می‌دهد - که توسط مدل‌های زبان بزرگ استفاده می‌شود که ابزارهای مولد هوش مصنوعی را برای پردازش و پاسخ به شما استفاده می‌کنند.

دیگران استدلال می کنند که ادب می تواند به پاسخ ها یا پاسخ های با کیفیت بالاتر منجر شود.

هنگامی که سال گذشته یکی از کاربران X در مورد هزینه های برق متحمل شده توسط ChatGPT در پاسخ به پیام های "لطفا" و "متشکرم" کاربران پرسید، رئیس OpenAI، سام آلتمن گفت که "ده ها میلیون دلار به خوبی خرج شده است - هرگز نمی دانید".

در همین حال، دیکشنری کالینز در نوامبر گذشته ظهور مجدد اصطلاح "کلانکر" را برای اشاره تحقیرآمیز به ابزارهای هوش مصنوعی برجسته کرد.

این اصطلاح که از اواسط دهه 2000 برای توصیف ربات‌ها در بازی‌ها و فیلم‌های جنگ ستارگان استفاده می‌شد، در فهرست کوتاه کلماتی قرار گرفت که منعکس‌کننده حال و هوای سال 2025 هستند، پس از آن که در جولای گذشته بسیاری از TikTok برای به اشتراک گذاشتن ناراحتی‌های خود با ماشین‌های مجهز به هوش مصنوعی استفاده کردند.

برخی از کارشناسان همچنین اظهار داشته اند که بی ادبی نسبت به چت ربات های هوش مصنوعی می تواند بر ارتباطات انسانی تأثیر منفی بگذارد، از طریق بررسی نحوه صحبت و رفتار ما با دیگران.

چرا ربات‌های چت هوش مصنوعی ممکن است کمتر قابل اعتماد باشند

چرا نگرانی هایی وجود دارد که هوش مصنوعی می تواند بشریت را تهدید کند و چقدر واقعی هستند؟