آنتروپیک رفتار "بی رحمانه" علیه هوش مصنوعی کلود خود را ممنوع می کند

Anthropic در 8 اکتبر حرکت کرد تا کاربران را از برخورد با سیستم هوش مصنوعی Claude با ظلم بی مورد منع کند.

سان فرانسیسکو - Anthropic در 8 اکتبر حرکت کرد تا کاربران را از رفتار با سیستم هوش مصنوعی کلود خود با ظلم بی مورد منع کند، در میان بحث های فلسفی رو به رشد در مورد اینکه آیا هوش مصنوعی می تواند هوشیار باشد یا خیر.

آزمایشگاه هوش مصنوعی مستقر در سانفرانسیسکو خط مشی استفاده خود را به‌روزرسانی کرد تا شامل «ممنوعیت رفتار توهین‌آمیز یا ظالمانه پایدار و بی‌مورد نسبت به مدل‌های ما» باشد.

در این سیاست آمده است: «توانایی کلود برای پایان دادن به این تعاملات، مکانیسم اجرایی اصلی باقی خواهد ماند.

خط مشی به روز شده به صراحت به اصطلاح به اصطلاح «رفاه مدل» اشاره نمی کند، این ایده که سیستم های هوش مصنوعی ممکن است مستحق انواع حفاظتی باشند که معمولا برای موجودات زنده محفوظ است، اما آنتروپیک و مدیران آن آشکارا این مفهوم را سرگرم کرده اند.

آنتروپیک بلافاصله به درخواست اظهار نظر پاسخ نداد.

قبلا در سال 2025، این شرکت اعلام کرد که به کلود این امکان را می‌دهد تا در موارد نادر و شدید «تعاملات مضر یا سوءاستفاده‌کننده با کاربر» به مکالمات پایان دهد.

سپس در ماه فوریه، داریو آمودی، مدیرعامل، به نیویورک تایمز گفت که مطمئن نیست مدل‌های هوش مصنوعی می‌توانند هوشیار باشند یا خیر.

آمودی گفت: "ما نمی دانیم که آیا مدل ها هوشیار هستند یا نه ... اما ما پذیرای این ایده هستیم که می تواند باشد."

به گفته جکسون استیکمن، مدیر کل Sparq، یک ارائه‌دهنده خدمات هوش مصنوعی مستقر در آتلانتا، داستان‌های علمی تخیلی و فرهنگ عامه برای دهه‌ها مجذوب مرز بین فناوری و هوش انسانی بوده‌اند، اما پرسیدن اینکه آیا هوش مصنوعی هوشیار است یا خیر، ممکن است سوال اشتباهی باشد.

استیکمن به خبرگزاری فرانسه گفت: "آگاهی یک تله است. ما نمی‌توانیم آن را در یکدیگر ثابت کنیم. برای هوش مصنوعی درباره آن بحث کنید و به دور هم بروید."

او افزود: "آینه استعاره بهتری است. این سیستم ها آنچه را که ما در مقیاس قرار داده ایم منعکس می کنند. این دلیل کافی برای تغییر سیاست است" در Anthropic، او افزود.

برخی ایده آگاهی ماشینی را کاملا رد کرده اند، از جمله پاپ لئو چهاردهم و رئیس هوش مصنوعی مایکروسافت مصطفی سلیمان.

سلیمان ماه گذشته در مقاله ای نوشت: "AI هوشیار نیستند. آنها احساس، تجربه یا رنج نمی کنند."

او می‌نویسد: «اعطای حقوق و حمایت‌های اخلاقی به یک نهاد فناوری، نهادی که به نظر می‌رسد در مسیری قرار دارد که از نظر لرزه‌ای توانمندتر و باهوش‌تر از ما باشد، دستورالعملی برای فاجعه است».

پاپ در خطبه‌ای که در ۸ اکتبر در کلیسای سنت پیتر در شهر واتیکان به زبان ایتالیایی ایراد شد، گفت که دستگاه‌ها فاقد روح هستند و گفت که آنها صرفا داده‌ها را به سرعت جمع‌آوری می‌کنند.

پاپ گفت: "ذهن نباید به سادگی داده ها را جمع آوری کند - زیرا یک الگوریتم اکنون سریعتر از ما انجام می دهد."

پاپ گفت، باید «تجارب زیسته را به یاد بیاورد که حاوی ژرفای معنایی است که فقط روح انسان می تواند آن را تشخیص دهد و عمیق تر با خوبی این تجربیات ارتباط برقرار کند». خبرگزاری فرانسه