Anthropic دسترسی «کارمند مانند» به سازمان دیده بان هوش مصنوعی خارجی را می دهد
سازمان دیده بان خارجی می تواند یافته های خود را بدون تایید آنتروپیک منتشر کند.
آنتروپیک به ارزیاب‌های خارجی «دسترسی مشابه کارمندان» را برای ارزیابی ریسک‌های مدل‌هایش اعطا کرده است و در پی تعهد به افزایش حفاظت‌ها در مورد نگرانی‌هایی که ممکن است فناوری به‌طور فاجعه‌باری از کنترل خارج شود.
METR، یک سازمان غیرانتفاعی که با آزمایشگاه‌های پیشرو از جمله OpenAI، Anthropic، Google و Meta کار کرده است، اکنون تیمی با دسترسی به سخت‌افزار و سیستم‌های داخلی آن در دفتر سازنده کلود تعبیه شده است.
نقش بیشتر ارزیاب‌های شخص ثالث از جمله گام‌های ملموسی است که آزمایشگاه‌ها در پاسخ به نگرانی‌های فزاینده در مورد خطراتی که سیستم‌های هوش مصنوعی توانمندتر می‌توانند برای اقتصاد، امنیت سایبری و بشریت در کل ایجاد کنند، پیشنهاد کرده‌اند.
مقاله کامل را بخوانید
نظرات
متن اصلی (انگلیسی)
Anthropic gives outside AI watchdog “employee-like” access
The outside watchdog can publish its findings without Anthropic's approval.