شرکتهای هوش مصنوعی در حال بررسی آینده احتمالی حقوق، حفاظت از عوامل هوش مصنوعی هستند
این سوال که تا همین اواخر ممکن بود به نظر یک فیلم علمی-تخیلی به نظر می رسید، زمینه ای از تحقیقات را به وجود آورد که به "رفاه هوش مصنوعی" معروف است.
بر اساس تحقیقی که توسط روزنامه نگار آرون سیباریوم منتشر شده در واشنگتن فری بیکن، سیستم های هوش مصنوعی ممکن است روزی حقوق قابل توجهی و حتی محافظت از انسان هایی را که آنها را ایجاد کرده اند، تضمین کند، احتمالی که محققان و شخصیت های ارشد برخی از شرکت های با نفوذترین فناوری جهان به طور فزاینده ای در حال بررسی آن هستند. این امکان وجود دارد که سیستم های پیشرفته در نهایت بتوانند consc را توسعه دهند
داریو آمودی، مدیرعامل Anthropic، شرکتی که چت ربات کلود را توسعه میدهد، قبلا این احتمال را مطرح کرده است که چنین سیستمهایی مستحق حقوق قابل توجهی باشند. با این حال، آمودی نگفته است که هوش مصنوعی موجود آگاهانه است.
در عوض، او تاکید کرده است که عدم درک کامل از نحوه عملکرد این سیستمها، دستیابی به یک نتیجه قطعی را دشوار میکند. آنتروپیک همچنین یک برنامه تحقیقاتی اختصاصی برای بررسی رفاه مدل ایجاد کرده است، و این شرکت به برخی از نسخههای کلود توانایی پایان دادن به مکالمات را در موارد استثنایی که شامل تعاملات توهینآمیز طولانیمدت میشود، داده است.
جو کارلسمیت، فیلسوفی که در آنتروپیک روی ایمنی هوش مصنوعی کار می کند، این احتمال را مطرح کرده است که تحت شرایط خاص، یک سیستم هوشمند مورد بهره برداری می تواند از نظر اخلاقی برای شورش علیه اپراتورهایش توجیه شود. محققان مرتبط با Google و OpenAI همچنین نگرانی هایی را در مورد ایجاد بالقوه نوعی از "بردهای مصنوعی دیجیتالی در تجارت برده های انسانی" ابراز کرده اند. با این حال، ایدهها با مخالفتهای شدید روبرو شدهاند.
منتقدان هشدار میدهند که اعطای وضعیت اخلاقی به ماشینها میتواند مرزهای مسئولیت بین انسانها و سیستمهای مصنوعی را محو کند، نظارت بر چنین سیستمهایی را سختتر کند و حتی کاهش کنترل انسان بر فناوری را توجیه کند. در مقابل، آنتروپیک تاکید میکند که کارش تحقیقات محتاطانهای است که برای پرداختن به عدم قطعیت علمی و فلسفی انجام میشود، و اینکه ایمنی انسان به عنوان یک اصل محوری در بحث توسعه مدل در مورد آن باقی میماند. حقوق هوش مصنوعی به عنوان یک توسعه ایدئولوژیک که می تواند بشریت را به خطر بیندازد.
با این حال، این توصیف، تفسیر انتقادی نویسنده را به جای یک نتیجهگیری علمی پذیرفته شده منعکس میکند. سیستمهای هوش مصنوعی کنونی قابل اثبات نیستند. در حال حاضر، هیچ مدرکی نشان نمیدهد که سیستمهای هوش مصنوعی موجود آگاه هستند یا قادر به تجربه رنج هستند. خود را از هوش مصنوعی، اما آیا
ممکن است روزی آنها نیز نیاز به محافظت از هوش مصنوعی در برابر انسان داشته باشند.
متن اصلی (انگلیسی)
AI companies investigating possible future of rights, protection for artificial intelligence agents
The question, which until recently might have sounded like the premise of a science-fiction film, has given rise to a field of research known as "AI welfare."