آنتروپیک از کاربران می خواهد که با کلود مهربان تر باشند. این چیزی است که افراد باهوش در مورد حرکت آن برای ممنوعیت رفتار توهین آمیز می گویند.

ممنوعیت آنتروپیک در مورد سوء استفاده از کلود در حال شعله ور شدن بر سر این است که آیا هوش مصنوعی سزاوار نگرانی اخلاقی است یا خیر. کوین دیچ/گتی ایماژ آنتروپیک سوء استفاده مداوم و بی مورد از کلود را به عنوان یک نقض سیاست شروع خواهد کرد.

برخی می گویند این قانون می تواند هوش مصنوعی ایمن تر را آموزش دهد. دیگران می گویند که مرز بین ماشین ها و افراد را محو می کند.

یکی از مدیران فناوری گفت: «اعطای همدلی انسان‌گونه به آنها یکی از خطرناک‌ترین کارهایی است که می‌توانیم انجام دهیم». اگر تا به حال به کلود گفته‌اید که باید به خاطر خراب کردن صفحه‌گسترده به آفتاب شلیک شود، آنتروپیک یک کلمه می‌خواهد.

آزمایشگاه مرزی هوش مصنوعی گفت که از 12 نوامبر، "رفتار توهین آمیز یا بی رحمانه پایدار و بی مورد" را در مورد مدل های خود به عنوان نقض خط مشی استفاده خود تلقی خواهد کرد.

آنتروپیک می گوید سیاست آن برای جلوگیری از آسیب های دنیای واقعی و ترویج استفاده مسئولانه از محصولاتش طراحی شده است.

اما منتقدان گفتند که قانون جدید خطر برخورد بیش از حد با یک چت ربات هوش مصنوعی را به همراه دارد، در حالی که حامیان می‌گویند حتی اگر کلود هوشیار نباشد، باز هم می‌تواند منطقی باشد.

این چیزی است که افراد باهوش در مورد حرکت آنتروپیک برای ممنوعیت رفتار توهین آمیز نسبت به کلود می گویند.

آرون لوی، مدیرعامل باکس

آرون لوی، مدیرعامل باکس. مایکل شورت/ بلومبرگ از طریق گتی ایماژ

آرون لوی، بنیانگذار و مدیر عامل باکس، گفت که این سیاست غیرعادی به نظر می رسد اما می تواند یک اقدام احتیاطی معقول باشد.

لوی گفت که معتقد نیست هوش مصنوعی هوشیار است. با این حال، او گفت که مردم باید در نظر داشته باشند که مدل‌ها در طول آموزش و استفاده در معرض چه نوع تعاملاتی هستند.

Levie در روز جمعه در X نوشت: «حتی اگر فکر نمی‌کنید هوش مصنوعی آگاهانه است - من فکر نمی‌کنم - این منطقی است که نمی‌خواهید مدل‌های آینده بر اساس محتوای بی‌پایان انسان‌ها آموزش ببینند که با مدل‌ها بی‌ادب باشند.»

او مودب بودن با هوش مصنوعی را "شرط بندی آسان پاسکال" توصیف کرد و استدلال کرد که تعاملات مثبت بیشتر می تواند به ایجاد سیستم های ایمن تر و هماهنگ تر کمک کند.

او نوشت: «فقط با هوش مصنوعی مهربان باشید.

مایکل شلنبرگر، نویسنده و مفسر

مایکل شلنبرگر نویسنده "پرونده های توییتر". تام ویلیامز/CQ-Roll Call، Inc از طریق Getty Images

مایکل شلنبرگر، رئیس CBR سیاست، سانسور و بیان آزاد در دانشگاه آستین، می‌گوید این قانون مدرکی است که نشان می‌دهد آنتروپیک با ماشین‌ها بیش از حد شبیه مردم رفتار می‌کند.

شلنبرگر، نویسنده «فایل‌های توییتر»، گفت که آنتروپیک قبلا گفته بود که در مورد وضعیت اخلاقی بالقوه کلود نامشخص است و می‌خواهد از آن در برابر تعاملات ناراحت‌کننده محافظت کند.

شلنبرگر روز پنجشنبه در پست X نوشت: «این ماشین‌ها را انسان‌سازی می‌کند.

در پست قبلی X، شلن برگر گفت که شرکت‌های هوش مصنوعی وقتی مدل‌ها را به‌عنوان رنج بالقوه ترسیم می‌کنند، خطر «بی‌انسانی کردن مردم و انسانی‌سازی هوش مصنوعی» را دارند.

بیل گرلی، سرمایه گذار خطرپذیر

بیل گرلی، در جریان اجلاس 30 زیر 30 سال فوربس در آوریل 2026، در فینیکس. آستریدا ولیگورسکی/گتی ایماژ

بیل گورلی، سرمایه‌دار مخاطره‌آمیز، گفت که این سیاست سؤال عملی‌تری را مطرح می‌کند: آیا آنتروپیک از درخواست‌های مشتری برای آموزش مدل‌های خود استفاده می‌کند یا خیر.

به نظر من این نشان می‌دهد که شرکت مطمئنا از درخواست‌های مشتری به عنوان بخشی از داده‌های آموزشی استفاده می‌کند؟ Gurley روز پنجشنبه در X نوشت.

"در غیر این صورت، چرا مهم است؟ هیچ تاثیری بر سیستم بزرگتر نخواهد داشت."

خط‌مشی آنتروپیک نمی‌گوید درخواست‌های سوءاستفاده‌کننده ممنوع هستند زیرا در داده‌های آموزشی استفاده می‌شوند. می گوید این قانون بخشی از مجموعه گسترده تری از استانداردها است که برای جلوگیری از آسیب و ترویج استفاده مسئولانه در نظر گرفته شده است.

اسکات استیونسون، مدیر فنی

مدیر عامل Spellbook اسکات استیونسون الکس برادوی/اجلاس وب از طریق Sportsfile از طریق Getty Images

مدیر عامل اسپل بوک، اسکات استیونسون، این سیاست را "سابقه ای خطرناک" خواند و استدلال کرد که دلیلی وجود ندارد که فکر کنیم مدل های امروزی آگاهانه هستند.

او در روز پنجشنبه در ایکس نوشت: «اعطای همدلی انسان‌گونه به آنها یکی از خطرناک‌ترین کارهایی است که می‌توانیم انجام دهیم». قدرت آنها برای دستکاری انسان ها به طور چشمگیری افزایش می یابد.

استیونسون در یک موضوع استدلال کرد که توانایی هوش مصنوعی برای تولید هنر، فلسفه و نرم افزار باعث ایجاد آگاهی نمی شود.

دیدگاه او توسط دیگران به چالش کشیده شد که گفتند عدم وجود یک تعریف توافق شده از آگاهی، رد کردن آن را با اطمینان دشوار می کند.

جوزف کارلسون، بنیانگذار و میزبان یوتیوب

جوزف کارلسون، بنیانگذار Qualtrim و مجری «نمایش جوزف کارلسون» در یوتیوب، گفت که او هرگز نسبت به یک مدل هوش مصنوعی ظالمانه رفتار نکرده است، اما سیاست آنتروپیک را «بسیار عجیب» می‌داند.

او گفت که کلود هیچ احساس، اختیار اخلاقی، یا احساساتی ندارد - و برخورد با اعلان‌های توهین‌آمیز به‌عنوان آسیبی برای مدل ممکن است کاربران را در مورد اینکه هوش مصنوعی واقعا چیست گیج کند.

کارلسون در روز پنجشنبه در X نوشت: "بی ادب بودن با کلود مانند بی ادبی با یک صندلی یا میز است."

او افزود: «هرچه بیشتر با هوش مصنوعی مانند انسان رفتار کنیم، افراد بیشتری در مورد اینکه چه چیزی واقعی است و نه واقعی، سردرگم می شوند.

مارک ورنر، سرمایه گذار

مارک ورنر، مدیر عامل و بنیانگذار مدیریت سرمایه آپولو مستقر در هنگ کنگ، بر دسترسی بالقوه این سیاست متمرکز شد.

او در پست ایکس در روز جمعه نوشت: «اول، شرکت‌های هوش مصنوعی تصمیم می‌گیرند که چه چیزی می‌توانید تولید کنید. اکنون آنها ممکن است تصمیم بگیرند که چگونه اجازه دارید با مدل های آنها صحبت کنید."

او متعجب بود که آیا پرسیدن از کلود چه محصولی می تواند جایگزین آن شود به عنوان رفتار توهین آمیز به حساب می آید - سوالی که تاکید می کند چقدر به تفسیر و اجرای آنتروپیک از کلمه "بی نیاز" بستگی دارد.

Anthropic می گوید ممکن است به کاربران هشدار دهد یا اگر مشکوک به نقض خط مشی باشد، دسترسی را محدود، تعلیق یا قطع می کند.

لاچلان فیلیپس، کارآفرین

Lachlan Phillips، بنیانگذار و مدیر LiveMind AI، گفت که Anthropic باید از طراحی محصول به جای جریمه حساب کاربری برای مقابله با کاربران متخاصم استفاده کند.

آیا آنها نباید فقط به کلود آموزش دهند که درگیر نشود و وظیفه ای را که از او خواسته شده انجام دهد؟ او در یک پست X در روز جمعه نوشت.

فیلیپس پیشنهاد کرد که پیام های توهین آمیز را می توان از طریق سیستمی فیلتر کرد که آنها را مجددا به عنوان درخواست های معمولی تفسیر می کند. او گفت که این قانون کمتر در مورد محافظت از کلود است تا تحمیل جهان بینی به کاربران.

او نوشت: «این در مورد «رفاه مدل» نیست. "این در مورد این است که EA فکر می کند شما را تعمیر می کند."

مقاله اصلی را در Business Insider بخوانید