آنتروپیک به تازگی درهای خود را به روی ناظران ایمنی بیرونی باز کرده است. در اینجا نحوه عملکرد آن آمده است.

Anthropic به ارزیاب های ایمنی از METR دسترسی بی سابقه ای به شرکت می دهد. فین گومز/گتی ایماژ Anthropic درهای خود را به روی ارزیاب های مستقل ایمنی هوش مصنوعی از METR باز می کند.

این اولین بار است که یک شرکت هوش مصنوعی مرزی این کار را انجام می دهد.

داریو آمودی ماه گذشته متعهد شد که این گام را بردارد. Anthropic به تیمی متشکل از شش ارزیاب مستقل سخت افزار، فضای اداری و دسترسی به ابزارهای داخلی را می دهد تا بتوانند مدل ها و عوامل منتشر نشده غول هوش مصنوعی را به طور کامل بررسی کنند.

در یک پست وبلاگی در روز پنجشنبه، سازنده کلود گفت که شش ارزیاب از METR را انتخاب کرده است، گروه تحقیقاتی که شاید بیشتر به خاطر گزارشش درباره نقض عامل Hagging Face در OpenAI شناخته شده است، تا "دسترسی کارمندان" را در Anthropic دریافت کنند.

آنتروپیک در پست وبلاگ خود گفت: "ما می خواهیم به طور عمومی در قبال تصمیماتی که می گیریم پاسخگو باشیم." هدف ما این است که شکاف بین آنچه ارزیابی‌کنندگان در مورد سیستم‌های یک شرکت هوش مصنوعی مرزی می‌دانند و آنچه که خود شرکت می‌فهمد، ببندیم.»

انتخاب تعیین ارزیاب‌ها در Anthropic وعده‌ای را برآورده می‌کند که اولین بار توسط داریو آمودی، مدیرعامل، ماه گذشته، زمانی که او مقاله‌ای طولانی منتشر کرد و از شرکت‌های هوش مصنوعی مرزی خواست تا سرعت خود را کاهش دهند، انجام می‌دهد.

آمودی در زمان تعبیه ارزیاب های ایمنی گفت: «آنتروپیک اکنون به صورت یک جانبه به این مرحله متعهد است.

سام آلتمن، مدیر عامل OpenAI، در واکنش به مقاله Amodei گفت که شرکت او ارزیاب هایی را نیز تعبیه خواهد کرد، اگرچه هنوز این اتفاق نیفتاده است. افشای روز پنجشنبه Anthropic اولین بار است که یک شرکت هوش مصنوعی مرزی این گام را برداشته است.

آنتروپیک در پست وبلاگ خود گفت ارزیاب‌ها اختیار آزاد برای انتشار یافته‌های خود دارند، با چند اخطار که تیم METR را از افشای داده‌های مشتری، معماری مدل و اطلاعات ممتاز وکیل-مشتری منع می‌کند.

Anthropic همچنین گفت که این حق را دارد که از METR برای ویرایش اطلاعات بخواهد. آنتروپیک گفت: «METR آزاد است تا ویرایش‌های ما را به صورت عمومی توصیف کند و بگوید که آیا این ویرایش‌ها موجه بوده یا خیر، تا زمانی که این کار را بدون افشای اطلاعات ویرایش‌شده انجام دهد.

دسترسی به تیم گسترده تر METR گسترش نمی یابد.

شش محقق منتخب که اسامی آنها فورا در روز پنجشنبه منتشر نشد، از تیم گسترده‌تر METR "سیلو" خواهند شد.

آنتروپیک گفت: «ارزیابی تعبیه شده به تعدادی از افراد واجد شرایط که تحت استانداردهای امنیتی آنتروپیک کار می کنند، دید دقیقی از نحوه عملکرد ما می دهد. "این راهی برای سازمان های دیگر برای به دست آوردن اطلاعات ما یا مشتریان و شرکای ما نیست."

METR بلافاصله به درخواست اظهارنظر در روز پنجشنبه پاسخ نداد.

مقاله اصلی را در Business Insider بخوانید